美國企業與中國專家就AI安全進行秘密外交
美國人工智慧公司OpenAI、Anthropic和Cohere已與中國人工智慧專家進行秘密外交，此時正值人們普遍擔憂這種強大技術可能傳播假消息、威脅社會凝聚力。根據多位知情人士，去年7月和10月在日內瓦舉行了兩場會議，與會者有美國人工智慧企業的科學家和政策專家，以及清華大學(Tsinghua University)和其他中國國有機構的代表。
與會者表示，這些會談令雙方能夠討論這種新興科技的風險，並鼓勵對人工智慧安全研究的投資。他們補充說，終極目標是找到通往安全開發更複雜人工智慧技術的科學通道。
「沒有這一組行動者的共識，我們就無法就人工智慧安全和人工智慧與人類價值對齊設定國際標準。」一名出席會談的人士表示，「如果他們達成一致，推進其他事情就容易得多。”
在兩個超級大國在人工智慧、量子計算等前沿技術領域爭奪霸主地位之際，這些此前未被報道的會談是中美合作的罕見跡象。目前，華盛頓方面已禁止美國對華出口英偉達(Nvidia)等企業製造的高性能晶片，這類晶片是開發複雜人工智慧軟體所需的。
但考慮到關乎人類存亡的潛在風險，人工智慧安全的話題已成為兩國該技術開發者的共同興趣點。
一名要求匿名的與會談判者表示，兩場日內瓦會議是在白宮以及英國和中國政府官員知情的情況下安排的。
「中方支持討論人工智慧治理，推動形成具有廣泛共識的人工智慧治理框架和標準規範，」中國駐英大使館表示。
“中方願同各方就人工智慧的全球治理進行溝通交流、務實合作，確保人工智慧始終朝著人類文明進步的方向發展。”
這些會談由私人斡旋組織謝赫集團(Shaikh Group)召集，該集團幫助地區衝突的關鍵當事方開展對話，尤其是在中東。
「我們看到機會，可以將關鍵的美國和中國行動者召集起來討論人工智慧。我們的主要目的是強調伴隨人工智慧模型廣泛運用而來、全球共同面對的脆弱、風險和機會。」該集團執行長薩勒曼•謝赫(Salman Shaikh)表示。
“在我們看來，認識到這一事實，可以成為合作性科學工作的基石，最終帶來圍繞人工智慧模型安全的全球標準。”
參與會談的人士表示，字節跳動(ByteDance)、騰訊(Tencent)和百度(Baidu)等中國人工智慧公司沒有參加；谷歌(Google) DeepMind雖然聽取了討論的細節簡報，但它沒有參加。
在會談中，雙方的人工智慧專家討論了進行技術合作的領域，以及更具體的政策建議，這些建議為2023年7月聯合國安理會人工智慧會議和11月英國人工智慧高峰會的討論提供了參考。
據與會的談判代表稱，會議的成功帶來了未來討論的計劃，這些討論將側重於就如何使人工智慧系統與每個社會的法律法規、規範和價值觀對齊提供科學和技術建議。
越來越多的人呼籲主要大國之間進行合作，以應對人工智慧的崛起。
去年11月，從事人工智慧研究的中國科學家加入了西方學者的行列，呼籲加強對這項技術的控制，他們簽署了一份聲明，警告稱，先進的人工智慧將在未來幾十年對「人類的生存構成威脅」。
包括中國最著名的電腦科學家之一姚期智(Andrew Yao)在內的這群人呼籲建立一個國際監管機構，對先進的人工智慧系統進行強制性註冊和審計，納入即時「關閉」程序，並要求開發人員將30%的研究預算用於人工智慧安全。
OpenAI、Anthropic和Cohere拒絕就它們的與會者置評。清華大學沒有立即回應置評請求。
本文已作了更正，以在副標題中表明，參加日內瓦會談的是Anthropic而非Inflection
譯者/何黎