諾貝爾獎得主與 AI 巨頭聯合發聲 籲為 AI 劃定紅線

超過 200 位科技圈資深老將、政界人士與諾貝爾獎得主今天呼籲全球各國，迅速為人工智慧（AI）劃定不得逾越的危險「紅線」。

法國《法新社》報導，這些重量級人士在聯合國大會（United Nations General Assembly）聯名發表公開信，其中包括 10 位諾貝爾桂冠得主，以及為 AI 巨擘 Anthropic、谷歌（Google）旗下研究公司 DeepMind、微軟（Microsoft）與 OpenAI 效力的科學家。

他們在信中寫道：「人工智慧擁有極大潛力促進人類福祉，但目前的發展軌跡恐帶來前所未見的危險。各國政府必須果斷採取行動，以免錯失有效干預的窗口。」

此外，AI 紅線應為國際一致同意的禁令，不得在任何情況下進行被視為過於危險的應用，例如將 AI 系統用於指揮核武庫，或操作任何形式的致命自主武器系統。

其他紅線可能包括允許將 AI 應用於大規模監控、社會評分、網路攻擊，或冒充他人等用途。對此，他們敦促各國政府，鑑於科技快速發展，應在明年底前為AI劃設紅線。

信中指出：「人工智慧可能很快就會遠遠超過人類能力，並加劇各種風險，例如人為設計的疫情、廣為流傳的錯誤資訊、大規模操縱個人（包括兒童）、國家及國際安全問題、大規模失業，以及有系統的侵犯人權。」

他們強調，許多專家警告，若不加以控制，未來數年內將越來越難以對AI實施有效的人類監管。

（中央社紐約 22 日綜合外電報導，編譯：劉文瑜）