AI專家加里·馬庫斯爲何稱OpenAI如此極端？

在現代文學中，喬治·奧威爾（George Orwell）的《1984》也許因其向讀者警示大規模監控的危險而最爲知名。這部反烏托邦小說設定在一個想象的世界中，無所不知的“黨”不斷監視其居民。

人工智能專家加里·馬庫斯稱，塑造全球人工智能軍備競賽的公司即將將奧威爾的想象變爲現實。

“我猜 OpenAI 將會成爲有史以來最具‘奧威爾式’特點的公司。”他上週在斯坦福以人爲中心的人工智能中心與谷歌資深人士彼得·諾維格（Peter Norvig）的討論中說。“他們將要被迫去做的就是成爲一家監控公司。”

馬庫斯是一位學者，也是好幾本書的作者，包括《重啓人工智能：構建我們可以信任的人工智能》，以及最近的《馴服硅谷》。

OpenAI 已聲名鵲起，部分原因是爲企業提供了使用其人工智能模型和資源的途徑。但馬庫斯認爲，該公司無法通過這種方式賺到足夠的錢來支撐其估值，因爲這項技術還不夠先進。

“OpenAI 兜售了適用於所有目的的通用人工智能這一夢想，在 2023 年，幾乎每家大公司都基於這一前提進行了試點研究，”他在 X 上給《商業內幕》發的直接消息中說道。“但在 2024 年，來自該領域的許多報告都滿是失望：這項技術在生產方面還不夠可靠，因爲它受到諸如幻覺和愚蠢錯誤等問題的困擾。因此，許多企業開始變得謹慎。”

然而，還有另一種賺錢的方式：監控。人工智能可以快速合成大量數據，幫助任何能夠支付費用的人整理數據——無論是調查公民的政府機構，還是針對特定選民的政治活動。

馬庫斯懷疑 OpenAI 最終將挖掘這一潛在的收入渠道，併成爲一家強大的監控公司。

此前就有人擔心 OpenAI 的技術可能會被用於加強監控工作。 今年 6 月，OpenAI 宣佈已 任命前美國國家安全局局長保羅·中曾根（Paul Nakasone） 爲其董事會成員，這 引發了大量批評。美國舉報人愛德華·斯諾登稱這一任命是“對地球上每個人權利的蓄意背叛”。

斯諾登當時在 X 上發帖補充說，“人工智能與過去二十年來積累的海量監控數據的交集，將把真正可怕的權力交到少數不負責任的人手中。”

馬庫斯敦促該公司員工表達他們的擔憂，並說：“我不想參與其中。”

這並非馬庫斯首次批評 OpenAI。去年在國會山與首席執行官薩姆·奧特曼會面後，他既印象深刻又心存疑慮，指出奧特曼似乎對於該技術可能造成的危害‘並非真心擔憂’。

今年早些時候，他說他仍希望奧特曼能讓公司重回正軌，成爲一股“向善的力量”。現在，他不那麼確定了。

“在過去的幾個月裡，真面目徹底暴露了，我嚴重懷疑他是否會回到這個使命上來，”他告訴 BI，提到了該公司重組業務的計劃。“向投資者承諾轉爲盈利，這基本上意味着機會已經錯失了。”

OpenAI 沒有立即迴應《商業內幕》的置評請求。