暫停開發AI六個月?馬斯克多位企業家聯署表示憂心

OpenAI的AI聊天機器人ChatGPT一夕爆紅,促使競爭對手加速開發類似的大型語言模型,;於此同時,一群人工智慧(AI)專家以及包括特斯拉執行長馬斯克、蘋果共同創始人Steve Wozniak在內的產業高層,公開呼籲暫停OpenAI應暫停訓練6個月,因這些系統可能對社會和人類帶來許多風險。

一千多人連署 暫停AI技術開發

這封名為「公開信:暫停重大AI實驗」」的請願書,是由非營利組織「未來生命研究所」( Future of Life Institute)發起,「最近幾個月各大AI實驗室已陷入失控的競賽,競相開發並部署更加強大的數位心智,卻沒人-包括創作者在內-能理解、預測或可信地掌控」。這封信獲得1000多人簽署的公開信,包括馬斯克、蘋果共同創始人Steve Wozniak、Stability AI執行長Emad Mostaque、Alphabet旗下DeepMind研究人員,以及AI領域的重量級人物Yoshua Bengio和Stuart Russell都加入呼籲暫停先進AI技術的開發,直到完成相關安全協議的制定、實施與審核。

這封信亦詳細說明了具有和人類競爭的AI系統對社會和文明造成的潛在風險,稱經濟和政治可能陷入混亂。這些專家和產業高層並呼籲開發人員與決策官員在如何治理與規畫監管單位等方面進行合作。

信件雖不具強制力 卻能開啟思考與對話

根據高盛日前發布的研究報告,生成式AI技術的興起可能衝擊3億個工作。高盛亦預估美國約有三分之二的工作職位可能受到AI自動化的影響。但報告也指出大部分的職位將因為AI技術而得到補強,只有約7%的職位可能會AI取代。此外,AI不僅能節省人力成本、提高工作人員的生產效率,也能創造新的就業機會。隨著AI日益普及,未來10年全球創造的商品和服務總價值可望提高7%。

簽署這封信的紐約大學名譽教授Gary Marcus表示,這封信並不完美,但精神是正確的:我們需要放慢腳步,直到我們更加了解其後果。AI可能造成嚴重傷害,「大咖們」對他們正在做的事情越來越保密,這使得我們的社會很難防禦可能造成的傷害。參與聯署者還包括Stability AI執行長Emad Mostaque、人類科技中心共同創辦人Tristan Harris、以及持續批判社群媒體與AI科技的Aza Raskin。

更值得關注的是,ChatGPT開發者OpenAI執行長奧特曼最近提出警告,表達對這項技術可能被用於大規模散布不實資訊感到擔憂。

臉書母公司Meta Platforms首席AI科學家表示Yann LeCun表示,他並未參與聯署這封請願書,因為不認同其假設前提。Emad Mostaque也說,雖然他參與聯署,但不認同暫停六個月,這封請願書「沒有強制力,但將開啟一場重要的討論,有望為這個模糊領域帶來更多透明和治理的看法」。

相關新聞

川普是災難!不只美國民主黨視他為夢魘,許多共和黨財團大老(如Charles Koch、Stanley Druckenmiller、...
 大陸證監會主席吳清上任後實施鐵腕治理,違規賣空機構更是嚴懲不貸。上交所和深交所20日率先對龍年開紅盤的「砸盤元兇」、...
消費需求帶動通膨,降息預期不斷推遲,經濟學家表示,風險也同步提升  美國經濟強韌且通膨頑強之下,降息預期不斷往後推遲,根據《路透》最新調查...
中國人民銀行(央行)2月20日將2024年2月貸款市場報價利率(LPR、優惠貸款利率)中的作為房屋貸款利率基準的五年期以上利率下調至3...