歐盟《人工智慧法案》（EU AI Act）自2026年8月2日起進入新的執法階段，歐盟執委會轄下AI Office與各會員國主管機關開始執行通用型AI模型、生成式內容透明度及部分禁止性AI應用的監管工作。

聊天機器人、AI代理、虛擬人物及深偽內容，未來須以更明確的方式告知使用者其人工智慧屬性，意味生成式AI產業的競爭條件，正由模型效能與市場速度，進一步延伸至透明揭露、風險管理及法規遵循能力。

此次制度變化的核心，在於歐盟不再僅監管AI被運用於哪些場景，也開始直接規範支撐各類應用的通用型AI模型（General-Purpose AI, GPAI）。模型供應商必須建立技術文件、版權遵循政策，並公布足以說明訓練內容來源的摘要，使下游開發商能夠理解模型的能力、限制與潛在風險。對具有系統性風險的高能力模型，業者還需進一步執行模型評估、事件通報、安全測試及風險降低措施。

在消費者最容易感受到的層面，AI系統必須明確揭露使用者正在與機器而非真人互動。具真實感的AI生成或修改圖片、音訊與影片，則須清楚標示為人工生成內容，並嵌入機器可讀取的標記，以利平台、監管機關與使用者辨識其來源。未經人類審查或編輯、用於公共議題傳播的AI生成文字，也納入標示要求；但明顯屬於藝術、諷刺、虛構或個人使用的內容，則設有相應例外。

這套透明度制度的政策目的，不只是減少消費者誤認，更直接回應深偽影像、冒名詐騙、政治操弄及大規模假訊息等風險。當AI影像與聲音逐漸逼近真人品質，單靠一般使用者肉眼或聽覺已難以判斷真偽，因此歐盟試圖透過可視標籤與機器可讀標記，建立一套橫跨內容製作、平台散布及終端使用的辨識機制。違反相關透明度規範的企業，最高可能面臨1,500萬歐元，或全球年度營業額3%的罰款。

為支撐執法，歐盟AI Office已取得監督通用型AI模型供應商的權限，並可要求企業提供相關文件、接受調查或說明模型治理措施。歐盟同時成立由60名獨立AI專家組成的科學小組（Scientific Panel），協助主管機關處理模型測試、技術評估與系統性風險判斷；另設置申訴、吹哨者及下游開發者通報管道，讓企業員工、使用者及合作夥伴能夠秘密回報可能的違法行為。

歐盟將高能力模型可能引發的系統性風險，擴大至化學、生物、放射性及核事件、網路攻擊、有害操弄、基本權利侵害，以及AI脫離人類有效控制等情境。這代表AI安全已不再只是資訊產品的品質管理問題，而逐漸進入國家安全、公共基礎設施與社會韌性的治理範疇。由於模型技術快速更新，AI Office能否取得足夠的專業人才、測試工具與外部科學支援，也將決定法規能否真正落實。

對科技業者而言，AI法案的影響不限於歐洲企業。只要模型、系統或服務進入歐盟市場，美國、中國及其他地區的AI公司同樣必須符合相關規範。未來模型開發流程將需要同步納入版權管理、資料摘要、安全評估、內容標記與事件回報機制，廣告、媒體、出版、影視及企業客服等過去較少被視為AI監管重點的產業，也可能面臨更多內容辨識與揭露要求。

產業界雖普遍支持提高AI內容透明度，但也擔心標示範圍過廣，可能造成類似網站Cookie提示的「標籤疲勞」，使使用者長期忽略警示。對資源有限的中小企業而言，建立浮水印、技術文件與法遵流程，也可能增加產品開發成本。歐盟因此推出透明度指引與自願性實務準則，目前已有超過180個組織參與，希望透過共通標準降低企業自行解讀法規所產生的不確定性。

歐盟此次正式啟動AI法案執法，將使安全、透明與治理能力逐漸成為AI產品進入市場的重要條件。企業未來能否順利拓展不同國家與產業應用，不僅取決於模型效能，也取決於是否具備清楚的風險管理、內容標示與法遵機制。歐盟制度能否在創新速度與公共利益之間取得平衡，仍有待後續執法實務驗證，但其所建立的監管架構，已為全球AI模型與生成內容治理提供具體參考，也可能帶動更多國家加速相關規範的制定。

以上摘自科技政策研究與資訊中心  原文網址:https://iknow.stpi.niar.org.tw/Post/Read.aspx?PostID=23493

延伸閱讀

杜紫宸／人工智慧治理議題迫在眉睫

由美國史丹佛大學數位經濟實驗室發起，逾兩百位經濟學家及人工智慧專家，其中包括十六名諾貝爾獎得主，日前共同簽署了一封公開信，向全世界提出警告：「ＡＩ在未來十年將變得極為強大，帶來大規模失業與生活水平明顯提高，政策制定者必須以相同的速度，尋求對應之道。」

七月十七至廿日，世界人工智慧大會（ＷＡＩＣ）在上海舉行，數百場演講及論壇中，最受到矚目的是「全球ＡＩ治理論壇」。ＡＩ正快速改變世界，重塑教育、醫療、金融、製造、交通、媒體及政府治理；正如電力與網際網路曾改變社會，ＡＩ成為廿一世紀最重要的通用技術。

然ＡＩ愈強大，挑戰也愈複雜。它既可協助醫療診斷，也可能誤判；可提升生產力，也可能造成工作重組；可促進知識普及，也可能製造深偽與假訊息；可推動科學突破，也可能被用於網路攻擊或致命武器。因此，ＡＩ治理成為全球重要課題。所謂「ＡＩ治理」並非僅監督管理技術本身，而是建立相應制度，確保其研發與應用符合人類利益，在安全、法律、倫理、經濟、國際秩序間取得平衡。就像交通、金融、核能等需要規範，人工智慧也需要完整的治理架構。國際上將ＡＩ治理分為五個層次：

第一是技術治理：核心在於確保ＡＩ安全、可靠、可控。大型語言模型雖具強大能力，仍可能出現「幻覺」或錯誤推論；若應用於醫療、金融或基礎設施，風險重大。因此，各國推動模型測試、風險評估、可信任ＡＩ與算力管理，以降低風險。

第二是法律與倫理治理：ＡＩ已參與招聘、貸款、醫療、司法等決策，若產生歧視、侵犯隱私或智慧財產權，責任歸屬成為關鍵問題。各國正建立相關法律，涵蓋資料保護、透明度、可解釋性與公平性。歐盟「人工智慧法案」（AI Act）採風險分級管理，是代表性框架。

第三是經濟治理：技術革命導致財富與工作重分配。ＡＩ將改變知識工作，取代部分職務並創造新產業；治理重點在於降低社會及個人轉型成本，如推動終身學習、再培訓、產業升級等，避免數位落差與財富進一步集中。

第四是國家與地緣政治治理：ＡＩ已成為戰略資源，各國的競爭涵蓋晶片、算力、資料、人才。美國限制晶片出口、中國大陸發展自主產業鏈、歐盟強調可信任ＡＩ、亞洲國家積極吸引投資。ＡＩ涉及國安與國際影響力，治理須延伸至供應鏈、資料流動及技術標準。

第五是文明治理：關鍵不在ＡＩ「能」做什麼，而在「該」做什麼？若ＡＩ加劇分裂與不平等，技術進步便不等於文明進步；若能改善教育、醫療、公共治理，則可促進人類福祉。從風險管理走向價值治理，強調民主、人權、公平、永續。整體而言，ＡＩ治理跨越科技政策，實為綜合性課題。國家若只重技術卻忽視治理，勢將付出代價；若兼顧創新與制度，則能提升競爭力。

立法院去年通過的「人工智慧基本法」僅是框架，若各應用相關之子法延宕不出，法即形同虛設。廿世紀國家競爭，比的是工業與資本；廿一世紀上半場，比的是ＡＩ技術；廿一世紀下半場，比的將是治理能力。決定一個國家未來高度的，不只是擁有多強的ＡＩ，關鍵是能否駕馭這股力量，讓科技進步亦成為文明進步的基礎。

（作者為東海大學管理學院兼任教授）