歐洲議會通過人工智慧法 依風險高低管理AI應用

歐洲議會大會今天通過全球最早出爐的人工智慧法案,將根據風險高低來管理這項新科技,包括社會評分、透過網路或監視器抓取民眾臉部影像以建立人臉辨識系統等,都在禁止之列。

歐洲議會(European Parliament)在史特拉斯堡召開大會投票通過「人工智慧法」(AI Act),為歐盟境內的人工智慧開發和應用建立規則。

在該法之下屬於最高風險而被禁止的AI應用方式,包括使用敏感的個人特癥來建立生物辨識歸類系統,例如政治立場、宗教信仰、種族或性傾向;從網路或監視器(CCTV)蒐集不特定對象的臉部畫面,用以開發臉部辨識資料庫;在工作場所或教育機構進行情緒辨識;根據個人特性或行為進行社會評分等。

社會評分、監看上課投入程度的情緒辨識及各種人臉資訊蒐集等,都是在中國發生的人工智慧運用現象。

不過,歐盟AI法另為執法目的提供例外,包括為了尋找綁架肉票等犯罪被害人、防範特定恐怖活動、搜尋定位重罪嫌犯等情況,可運用AI進行前述禁止行為,但須事先取得法院同意並限定時間和區域。

該法也禁止將AI用來挖掘使用者的弱點,例如行動不便、年齡、社會經濟地位等,以及透過AI操弄人類行為,使其失去自由意志。

「歐盟現在是全球AI標準的制定者。」

此外,像是運用在關鍵基礎設施、教育、僱用、健康或金融服務等領域的人工智慧系統則被列為「高風險」,系統開發經營者有義務評估並降低風險、透明化並確保系統運作時有真人在監督。

針對沒有特定使用目的之「一般用途型AI」(General Purpose AI),歐盟AI法要求須有一定透明度,包括公布訓練模型所用到的內容,並遵守著作權法規。例如ChatGPT就屬一般用途型AI,可用於寫文章、編曲、作報告、當然也可能被有心人用來協助犯罪。

根據議會與歐盟部長理事會(Council of the European Union)去年12月對此法案的初步意見,將責成歐盟執行委員會(European Commission)建立對一般用途型AI在資安、透明度和風險管理上的基本要求。

歐盟AI法試圖在防弊與興利間取得平衡,因此也設有各成員國可訂定為鼓勵創新而暫免特定法律嚴管的沙盒(sandbox)等規定。

違反此法將可能被處以750萬歐元至3500萬歐元(約新台幣2.6億至12億元)或企業全球營收1.5%至7%範圍內的罰款。

主責這套法案的議員圖朵拉齊(Dragos Tudorache)今天在記者會表示,該法只是「一段更長遠旅程的開端」,因為AI技術持續發展,包括軍事領域等,人們進入一個全新的世界,而法律須跟上科技的演變。

歐盟內部市場專員布雷頓(Thierry Breton)在社群平台X發文表示,「歐盟現在是全球AI標準的制定者。」歐洲議會議長梅索拉(Roberta Metsola)則說,《AI法案》既促成創新也捍衛基本權利。

此法案已在去年12月經議會與部長理事會兩個歐盟立法機構達成暫時性共識,議會今天投票後,尚待部長理事會正式同意、刊登公報後才生效。

相關新聞

中國大陸申報「 春節 -中國人慶祝傳統新年的社會實踐」,於當地時間四日在巴拉圭通過評審,列入 聯合國...
經濟合作發展組織(OECD)4日表示,未來兩年全球經濟可望穩定成長,但先決條件是保護主義氣焰復熾不至於使全球貿易復甦脫軌。...
2024年,我國半導體產業產值預計將達到5.3兆元,年增22%,且考量過往多年累積的深厚底蘊,即使政治環境面臨波動,...
美國拜登政府於執政僅剩一個多月之際,決定對中國晶片出口管制再出重手。 美國商務部2日啟動三年來、第三次對中國半導體產業的強力打擊,...