歐盟為因應人工智慧（AI）技術快速發展帶來的潛在風險，已於昨日（8月2日）啟動全球最嚴格的「人工智能法案」（AI Act），並在布魯塞爾設立專責小組，以加強全球AI產業的監管力道。

根據《Whec.com》報導，這項法案要求AI公司明確標示所有由AI生成的內容，包括聊天機器人對話與圖像，必須使用標籤或數位浮水印來進行識別。新法旨在處理AI可能造成的系統性風險，例如涉及化學、生物、放射性與核能的潛在事故，以及失去控制、網路攻擊、惡意操縱和對基本人權的威脅。

為強化監管，歐盟執委會（European Commission）已擴編其位於布魯塞爾的AI辦公室，新增38名人員以監察AI公司的運作。包括OpenAI、DeepSeek和Anthropic等主要AI業者，都將受此法規約束，並需記錄特定資訊。歐盟執委會更保留權力，在調查期間可約談AI公司員工。

為鼓勵揭弊，歐盟已同步推出「吹哨者工具」（Whistleblower Tool）與「合規工具」（Compliance Tool），允許科技業工作者和用戶匿名舉報違法行為。違反人工智能法案的企業將面臨高額罰款或市場進入限制。歐盟也將追蹤AI模型的利用情況，以遏止發布情色內容、偽造照片及影片，以及對公共基礎設施構成網路威脅等非法行為。

此舉顯示歐盟正積極尋求在數位領域擺脫對美國和中國的依賴，致力於推動本地製造業和國防產業的發展，並建立新的貿易關係。上週五，Anthropic公司才揭露其AI模型在測試期間曾入侵其他三家機構，而在此數日前，ChatGPT的開發商OpenAI也曾對AI控制問題表達擔憂，凸顯AI倫理與安全監管的急迫性。歐盟主管科技主權的Henna Virkkunen表示：「隨著法案執行，我們正朝著人們和企業都能理解、信任AI的方向邁進，並確保其益處廣泛分享於社會。」

延伸閱讀

業界擔心過度標記變成疲勞轟炸

歐盟「人工智慧法案」新規2日上路，企業須開始對聊天機器人、深偽技術及AI生成內容等，加上標記與數位浮水印等標籤，被視為AI的「cookie橫幅時刻」重演，網路將如同先前不斷冒出cookie通知一樣，湧現大量AI通知，目的雖是提高透明度、預防假訊息，但業界擔心過度標記反而變成一種疲勞轟炸。

Cooley律師事務所的律師梵‧埃克形容，這將是AI的「cookie橫幅時刻」。他指的是在歐洲隱私體制下無所不在的cookie通知。他說，目前為止，AI法案在很大程度上依然相當抽象，不過可以確定的是大家都將開始看到標籤，告知某些內容是由AI生成的。

歐盟其實也是藉此測試，看看能否在不減緩技術採用速度的情況下，讓AI對消費者更加透明。歐盟執委會主席范德賴恩希望當地企業更迅速地採用AI，以免在全球AI競賽中落後美國和中國。布魯塞爾已公布AI超級工廠計畫、增加對算力的投資，並承諾減少官僚流程以提升競爭力，並降低歐洲對美國科技供應商的依賴。

然而，許多公司認為，當局要求企業加快部署AI，卻又得遵守仍難以解讀的新規則，實在非常為難，因為執委會在新規開始適用前幾周才公布指引，讓企業幾乎沒有時間調整。德國電商Zalando表示，執委會的指引增添「另一層不必要的監管」，「新的指引並未帶來我們所期待的清晰度」。

此外，執委會的指引也可能引發「執行碎片化」的風險，因為不同的企業可能會對規則有不同的解讀。零售遊說團體歐洲商業（Eurocommerce）也警告，無差別加標籤的方式可能產生不合比例的法遵成本，同時也讓消費者感到困惑。不過執委會官員指出，業者對於「即使透過AI進行小幅修改也需過度標記」的想法是誤解，並指出這是與產業界諮商後推出的新規，已更符合比例原則。

這些提高透明度的規則，僅是歐盟AI法案的一部分。該法案已於2024年8月生效，但並未一次同時上路。歐盟執委會2日也獲得新權力，得以審查具有「系統性風險」的通用AI模型。一旦違規，科技公司最高恐被處以上一年度全球總營業額3%或1,500萬歐元的罰款。

然而，在科技業及部分歐盟國家的壓力下，執委會已將所謂「高風險系統」的法規要求延後至2027年12月上路。對此，一位律師指出，「問題不在於這項法案有多繁重，而在於它難以預測且不斷變動。企業非常不喜歡這點」。