羅馬天主教教宗良十四世（Pope Leo XIV）發表其任內首份重要教導文件，文件中一些最強烈的比喻與奴隸制相關，警告傳統奴隸制的歷史悲劇，與正在浮現的「新型數碼奴役」威脅之間存在相似之處。他指出，剝削有被重新常態化的風險，而人類正站在一個相似的道德十字路口。

教宗警告: 「新型數碼奴役」是新浮現的威脅

羅馬天主教教宗良十四世（Pope Leo XIV）發表其任內首份重要教導文件，警告人工智能（AI，人工智慧）需要被「繳械」（disarmed）。教宗表示：「我知道這個詞語很強烈，但我刻意選用，因為當下需要能引起關注的字眼。」

通諭（encyclical）在技術上是致羅馬天主教主教的書信，但過去數十年來，這類文件已成為教宗向全世界傳達訊息的方式。這封信雖主要聚焦人工智能，但良十四世同時亦就教會在奴隸制度中的角色，發表了梵蒂岡數一數二強烈且全面的道歉。他寫道，「當思及如此眾多的人所承受的巨大痛苦與羞辱，令人無法不感到深切悲痛」，並補充稱，他「代表教會誠摯地請求寬恕」。

良十四世在談及人工智能時提到奴隸貿易，指世界正面臨再次將對人的剝削常態化的風險——無論是在其生產過程還是應用方面。文件中一些最強烈的比喻與奴隸制相關，警告傳統奴隸制的歷史悲劇，與正在浮現的「新型數碼奴役」威脅之間存在相似之處。他指出，剝削有被重新常態化的風險，而人類正站在一個相似的道德十字路口。

Anthropic 共同創辦人一同亮相

良十四世罕見地選擇在梵蒂岡親自發表這份題為《偉大的人類》（Magnifica Humanitas）的通諭，並與人工智能專家一同亮相，包括美國人工智能公司 Anthropic 聯合創辦人克里斯托弗·奧拉（Christopher Olah）。在通諭發布後的發言中，奧拉表示，包括他所屬實驗室在內的每家人工智能機構，都在「一套激勵與限制之中運作，而這些因素有時可能與做正確的事產生衝突」。

他補充說，若認為人工智能問題最適合由像他這樣的電腦科學家處理，將是一種錯誤。「人工智能提出的問題，無論在影響層面還是本質上，都超越了人工智能研究社群本身。」

教宗的通諭向掌權者發出一個鮮明而直接的訊息，提醒他們有責任遏止其所帶來的「威脅」，同時亦指出人工智能的多重潛在陷阱。例如，教宗譴責將人工智能用於戰爭，稱減少人類對武器的控制，將令戰爭更難被視為「正義」，並警告不要展開人工智能軍備競賽。

人工智能帶來加速衝突與政治風險

教宗寫道：「沒有任何演算法可以讓戰爭在道德上變得可接受。」他表示，人工智能不僅無法消除戰爭「內在的不人道」本質，還可能因為「降低訴諸暴力的門檻，把防禦轉變為威脅預測，從而將受害者化為數字」，加速衝突，並使其更為非人性化。

良十四世亦批評人工智能對政治的影響，例如其被用來操控圖像與影片。他指出這讓人們暴露於帶有偏見或誤導的觀點之中。

過去，教宗曾將當今在人工智能發展面前保護人類的需求，比擬為工業革命期間保障人類尊嚴所必需的措施。他指出，若未能及時應對人工智能風險，可能重演「社會與教會在譴責奴隸制這一禍害上所出現的延誤」。他甚至提及「數碼殖民主義」的風險，將殖民時代的虐待行為與現代科技實踐相聯繫。

在文件的一個段落中，教宗直接向人工智能開發者發出「特別呼籲」。他表示：「開發者肩負着特別的倫理與精神責任，因為每一項設計選擇都反映了一種對人性的理解。」

然而，這能帶來何種影響？良十四世已成立一個委員會推動相關工作，但面對科技迅速發展，這些努力能否奏效，仍存在重大疑問。2015年，已故教宗方濟各（Pope Francis）曾發表《願祢受讚頌》（Laudato Si’）通諭，聚焦應對氣候危機的迫切需要。但在2023年他再度發聲時，卻對行動不足表達失望。

儘管良十四世對約束人工智能的必要性展現出強烈熱忱，他未來數年內可能也需發出類似的警告。

教宗：AI帶來新型奴役 應加強監管

羅馬天主教教宗良十四世廿五日發布上任後首道通諭，從道德角度把人工智慧（ＡＩ）恐將帶來日漸嚴重的衝擊比喻為聖經裡的「巴別塔」。他說，人工智慧恐將讓「反人類的威脅正常化」，應該受到監督。

主題為「偉大的人類」、長達四萬二千三百字的教宗通諭，明顯受到前教宗良十三世一八九一年「新事」通諭的啟發，兩份通諭簽署日期都是五月十五日。「新事」支持職場安全條件、反對財富集中，奠定天主教社會教義基礎，為現代歐洲的政治與福利制度定調。

良十四世在通諭指出，數位創新造成的大規模失業，將成為「真正的社會災難」。他表示，技術從來不曾中立，因為帶有設計者、資助者、監督者及使用者的特質。良十四世譴責技術革命造成奴役現象，如稀土礦場勞工、數據中心低薪勞工以及遭到網路犯罪剝削的年輕人。

華爾街日報分析，這篇通諭將為良十四世教宗任期界定意義，內容如同對矽谷科技主管以及新技術發展下的未來文明做出嚴肅警告。他說，風險在於人類被貶低成為「追求高效率系統裡微不足道的齒輪」。

良十四世用聖經當中的兩個意象描述人類面臨的選擇。他指出，根本抉擇並不是對科技說出「是」或「否」，而是要建造巴別塔或重建耶路撒冷。巴別塔在聖經裡象徵由上而下、憑藉傲慢、利益及單一化追求而驅動的華麗建設；重建耶路撒冷則由不同人民共同修建毀壞城牆，在城牆裡建立共存的兄弟情誼。

良十四世說，必須解除ＡＩ的武裝，把ＡＩ從一種做為統治、排擠、死亡工具的邏輯當中解脫，ＡＩ必須為所有人服務，為所有人謀求福祉。通諭寫道，ＡＩ驅動武器系統，風險是讓使用武力的道德門檻變低，也會讓戰爭更容易發生、更不受人類控制。他說，必須有健全法律架構、獨立監督、見多識廣的使用者與負責任的政治制度規範ＡＩ。
 

延伸閱讀

良十四世通諭：《偉大的人類》

《偉大的人性》通諭全文（英文）