闕志克／生成式AI將帶來的社會衝擊

然而，如果使用不當則很可能導致「認知卸載」—即把本應由大腦完成的認知活動委外給ＡＩ，因而傷害學習品質。傳統的教育流程要求學生閱讀、整理所讀內容、和已知材料建立聯繫，最終形成持久的記憶與知識。但如果學生依賴聊天軟體直接獲取答案，儘管答案品質較高，卻也斷送了鍛鍊分析、探索與解題能力的機會。

上個月Ｍｅｔａ與美國四十七個州及其他特區達成和解協議，同意支付高達一七一億美元的罰款，並修改其社交媒體產品以減少兒童的沉迷和傷害。這個結果一錘定音，讓社群媒體是否危害兒少身心的紛擾爭議畫下句點，也提供兒童未來有更健康的成長空間。但同時，一個性質類似但危害可能更大的威脅正蠢蠢欲動，那就是生成式ＡＩ聊天軟體。

生成式ＡＩ最深遠的衝擊可能在於大量白領工作的滅絕—特別是那些牽涉資訊收集、分析與合成，涵蓋法律、金融、會計與工程等領域的職缺。Anthropic執行長去年指出，ＡＩ可能在五年內淘汰約一半的入門級白領職位，並將美國失業率推高到百分之廿。如果白領職位真以如此驚人的速度和規模消失，引發的社會動盪與不安將是史無前例，甚至可能釀成政治運動乃至革命。川普崛起背後的ＭＡＧＡ運動，其根因源自第一次「中國衝擊」與自動化浪潮，便是力證。

儘管有人提議類似「全民基本收入」的創新社會制度，來緩解ＡＩ所造成大規模的失業與生計問題，但已有研究顯示，這無法完全解決民眾因丟了工作而失去生活意義、社會地位、人際互動機會和階級流通管道的種種社會問題。

ＡＩ聊天軟體可依據每個學生的學習需求和進度進行個人化調整，因而可顯著提升學習效益。然而，如果使用不當則很可能導致「認知卸載」—即把本應由大腦完成的認知活動委外給ＡＩ，因而傷害學習品質。傳統的教育流程要求學生閱讀、整理所讀內容、和已知材料建立聯繫，最終形成持久的記憶與知識。但如果學生依賴聊天軟體直接獲取答案，儘管答案品質較高，卻也斷送了鍛鍊分析、探索與解題能力的機會。

這樣的損失在寫作時尤其明顯，因為寫作涉及組織思維、調和論點間的矛盾，以及構建觀點與表達方式等一系列認知動作。一旦完全靠聊天軟體代勞，學生等於自我閹割了相關的認知訓練；最糟的是，學生可能因而喪失辨識和糾正ＡＩ錯誤的能力—堪稱ＡＩ世代人類最重要、最值得保留的技能之一。

ＡＩ聊天軟體給用戶的感覺是隨叫隨到、耐心十足，提供全方位的關注與理解，且絕少妄加評判。相較之下，現實世界中的朋友各有想法與需求，因此會誤解、會缺乏耐心、會與我們意見相左、有時更會要求我們妥協或犧牲。因此，愈來愈多人在尋求陪伴或配偶時，會趨易避難，選擇與聊天軟體而非真人打交道，同時也對現實世界親友的缺點或情緒愈來愈不能或不願意包容。結果可能是人際社交互動減少，結婚率下降，少子化的問題加劇。

類似轉移現象也會在宗教領域發酵。許多傳統宗教都要求信眾要超越自身慾望以追求靈性成長，例如說，基督教就強調自我犧牲和愛鄰如己。然而，ＡＩ聊天軟體能提供一種無需承擔義務、完全解除道德禁錮的靈性體驗，尤其加上緊緊扣合個人經歷的教義闡述與貼心說理，很有機會取代傳統神職人員如牧師或神父的角色。

ＡＩ聊天軟體能逐漸占據傳統工作、教育、社交和宗教等領域，就是因為它成功消除這些互動關係中看似煩人、實則隱含深刻價值的「摩擦」。人們抄短路想省掉這些麻煩，所以選擇聊天軟體，卻忘了往往正是透過這些摩擦的淬鍊，才有可能獲得成長、友誼和信仰的甜美果實。

（作者為清華大學合聘教授）