陸將強制審查AI模型 針對政治敏感問題進行安全過濾

據英國《金融時報》報導，大陸政府擬對人工智慧（AI）大模型實施強制審查，用以確保系統體現社會主義核心價值觀。

報導引述知情人士表示，大陸網信辦已要求字節跳動、阿里巴巴、月之暗面（Moonshot）和零一萬物（01.AI）等大型科技公司和人工智慧新創公司，參與政府的人工智慧大模型的強制性審查。

消息指出，除了測試對一系列問題的答案，審查工作還包括批量測試大語言模型對一系列問題的回答和其他安全流程，其中許多涉及大陸的政治敏感性問題。

報導還引述一家位於杭州的AI公司指稱，大陸網信辦有「專門團隊」負責進行上述測試，他們會到公司辦公室並進行審核。該公司續指，其第一次審查未能通過，但原因不明，後續與同行溝通及花費數月時間研究調整後，第二次終於通過。

鑑於大陸當局嚴格的審批過程，報導進一步提到，大陸人工智慧公司被迫使迅速學會如何把正在建立的大型語言模型審查做到「最好」。北京一名AI新創公司員工稱，公司的基礎模型在回答問題時「十分不受約束」，所以進行安全過濾極為重要。而要進行安全過濾，首先要把被認為有問題的資訊，從用來訓練的數據中剔除，並建立敏感關鍵字資料庫。

經實際檢查，大多數大陸的聊天機器人都會拒絕某些敏感話題，如發生於1989年6月4日的「天安門事件」。還有業內人士透露，Moonshot的聊天機器人Kimi拒絕大多數與習近平相關的議題。