川普與科技巨頭簽署AI安全協議 企業自律與社會不安的拉扯
美國總統唐納·川普（President Trump）於9月29日在華盛頓特區與多位人工智慧產業領袖會晤，並共同簽署了一份「道德約束性」的技術標準協議，目的在於透過產業自律來應對AI發展帶來的風險。該協議內容為一份單頁文件，要求參與企業實施四項措施，以確保這項技術的安全發展，並為未來可能將這些步驟編入法律或法規預留空間。
協議內容規範
這份協議旨在制定人工智慧（AI）技術標準，也就是確保AI安全與負責任發展的共通規範，要求訓練及部署前沿AI模型的業者建立四層安全機制。
第一是在模型訓練及部署期間持續監控其能力與行為，特別關注網路、生物及化學安全等風險，以及模型是否以非預期方式入侵或存取其他系統；第二是設置專責內部團隊，確認相關安全措施正常運作，並處理發現的問題。第三是引進獨立外部稽核，由第三方評估相關安全措施是否確實發揮作用；第四是在董事會設立獨立委員會，負責監督內外部稽核結果，並確保發現的問題獲得改善。此外，參與業者將定期開會，共同制定AI安全標準及最佳實務。協議也指出，隨著技術發展，這套機制未來可能進一步納入法律或監管制度。
簽署這份協議的科技巨頭
Google、OpenAI、Meta、Anthropic、xAI及Nvidia等6家AI與科技巨頭簽署《白宮超級智慧協議》（White House Accord on Super Intelligence），這項協議目前屬企業自願承諾，不具法律強制力，川普形容它具有「道德上的約束力」。與會人士總計有31名，包括政府官員，以及晶片、雲端、企業軟體及資安公司的高層，除了上述的6家業者之外，微軟執行長Satya Nadella、Palo Alto Networks執行長Nikesh Arora、Amazon創辦人Jeff Bezos、美光（Micron）執行長Sanjay Mehrotra、Palantir技術長Shyam Sankar、AMD執行長蘇姿丰與博通執行長Hock Tan也都出席了，只是他們並未於會後簽署該協議。
川普政府的立場
根據白宮的描述，這次於白宮東廂房（East Room）舉行的「超級智慧（Super Intelligence）會議與午餐會」中，政府記錄也正式將該技術名稱改為「超級智慧」。川普總統在會後重申他反對政府過度干預的立場，建議以「自律」來解決外界對AI可能失控的擔憂。他表示，這份協議透過「自我約束與團體約束」來維持企業的發展方向，並強調他相信AI將使世界變得更安全，對於資料中心推高成本的疑慮則被誇大了。他也承諾將透過美國司法部（Department of Justice）和聯邦調查局（FBI），確保AI能被善用並阻止惡意用途，並稱自己「絕不會扼殺這項比工業革命更偉大的技術的發展」。
川普總統也表示，他已「非常接近」決定一位人工智慧（AI）沙皇（負責協調人工智慧發展與政策的專責官員）的人選，預計將在未來三到四天內宣布。
外界看法與疑慮
CNN報導，人工智慧（AI）企業接連警告先進模型可能對人類構成災難性甚至生存威脅之際，美國總統川普仍決定不為AI發展踩煞車，把控制風險的重任交給科技巨頭自律。這場豪賭若押對，美國可避免監管拖慢創新，在與中國大陸的AI競爭中搶得優勢；但若押錯，川普面臨的恐怕不只是選民反彈與政治責任，甚至可能賠上全人類的命運。
更重要的是，川普這套仰賴企業自律的做法，可能忽略了一個更根本的問題：科技公司如今是否真的有能力控制AI。美國西北大學電腦科學教授哈蒙德（Kristian Hammond）指出，人類目前甚至還沒有足夠可靠的控制機制，確保AI始終照預期運作。他以汽車為例，如果一輛車平常很好操控，卻偶爾會突然撞牆，真正要解決的不是在路旁多裝護欄，而是先把轉向系統修好。
外界質疑，川普是否真正充分衡量過這項可能顛覆社會的科技所帶來的風險。他過去多次淡化AI安全疑慮，甚至把失控AI代理可能造成危害的警告，稱為民主黨用來打擊共和黨的「騙局」。然而，美國民眾顯然沒有這麼樂觀。CNN與SSRS近期民調顯示，75%美國人對AI快速發展感到恐懼與擔憂，71%希望聯邦政府加強監管。資料中心大量興建帶來的電力與水資源壓力，以及AI可能推高電費、衝擊就業，也正加深選民對生活負擔的焦慮。
另一個疑問是，企業即使有能力控制AI，是否真的有意願約束自己。目前幾乎沒有證據顯示，科技巨頭會主動把產品對社會造成的長期影響擺在自身利益之前。尤其AI企業正陷入激烈競爭，要相信這些彼此搶市場、搶人才、搶技術領先的對手，最後會為了共同利益而互相克制，無疑需要對科技業抱持極大的信任。川普第二任期大舉解除對企業與產業的限制，他本人也向來排斥各種「護欄」，但AI是否適合套用同一套邏輯仍有爭議。航空、食品、醫療與汽車等產業之所以受到嚴格規範，正是因為攸關民眾安全與福祉時，政府不能只期待企業自行把公眾利益放在商業利益之前。
AI發展之於中美競爭的壓力
對川普而言，放手讓AI加速發展也有現實考量。他把AI視為美國與中國爭奪科技主導權的關鍵戰場，認為過度監管可能扼殺創新與經濟成長。如今AI產業正支撐美國經濟，而川普本人的財富也高度受到科技產業榮枯影響。
但美國乃至全球承擔的風險遠比川普個人更大。他這次究竟押對還是押錯，牽動的已不只是期中選舉成敗或政治遺產，而是AI最終會成為推動繁榮的工具，還是演變成人類無法控制的風險。