文／馬克．科克爾柏格 譯／鄭楷立

我們正在為社群媒體公司與他們的客戶（廣告商）提供免費勞動：我們生產了一個商品（數據），而它被賣給公司。這是一種剝削的形式，資本主義需要我們不斷地工作與消費，包括需要我們使用電子設備來生產數據。我們大多數人都生活在一個全天候的資本主義經濟之中，我們唯一能找到的「自由」便是在睡眠之中，而現在，即便我們在床上，手機也渴求著我們的注目。

此外，我們所使用的設備往往是在「奴隸般的條件」下所生產出來的，正如它們仰賴於人們生產、汲取礦物以用來製造的辛勤勞動一樣，人工智慧服務也仰賴低薪勞工們，他們負責清理並標記數據、訓練模型等等。

然而，根據馬克思從作為自我實現的自由角度所進行的分析來看，當我使用社群媒體時，問題不只是我正在從事免費勞動，而其他人被剝削來實現我的社交媒體樂趣，問題在於它沒有帶來自我發展與自我實現，因而沒有帶來自由。相反地，我自己成為了一個對象：一個數據的集合。

一舉一動受到監控

今日，數位科技為監控與操控提供了新的手段，它可以支持或是導致極權主義。人工智慧是這些科技的其中之一，它不僅能協助威權主義的統治者及其支持者來進行選舉舞弊、散播虛假訊息、控制並鎮壓反對派，還可以協助創建一種特殊的監控與控制類型：全面監控和全面控制。

布魯姆（Peter Bloom）警告說，「極權主義4.0」的威脅將導致一種「每個人都被完全分析和計算的處境。一舉一動都受到監控，每一個偏好都被得知，他們的全部生活都被計算，並且變得可以預測」。如果藉由人工智慧的監控手段可以掌握每個人的情況，那麼就可以主張，人工智慧比我們更了解我們自己。

如同麥卡錫—瓊斯（Simon McCarthy-Jones）所言：「個人主義式的西方社會是建立在這樣的想法之上，即沒有人比我們更了解我們的想法、欲望或是快樂……而人工智慧將改變這一點，它將比我們更了解我們自己。擁有人工智慧的政府，可以聲稱它知道其人民真正想要的是什麼。」

數位版本的老大哥

麥卡錫—瓊斯把這種想法，與發生在史達林的蘇聯與毛澤東的中國的事情進行了比較。人工智慧使得一種數位版本的「老大哥」得以可能，在其中，每位公民都受到「電幕」（telescreens）的監控。在今日這聽起來很耳熟，尤其是在具有威權主義和極權主義傾向的國家中，但不限於此。

關於科技，國家以人工智慧與數據科學來進行大規模監控的嘗試，幾乎能夠暢行無阻。想想中國的社會信用評分系統，其便以個人留下的數位足跡為基礎。國家使用著由監控攝影機所捕捉到的影像、臉部辨識軟體、語音辨識以及來自像是阿里巴巴與百度等科技公司的私人數據。戴蒙（Larry Diamond）稱此為一種「後現代極權主義」的形式。（本文摘自商周出版《AI世代：從政治哲學反思人工智慧的衝擊》一書）