拜登簽署首項AI行政命令 管控人工智慧風險

美國總統拜登今天簽署首項人工智慧行政命令,確保風險管控和創新發展並存。據行政命令,企業公開模型前必須告知政府安全測試結果,美國政府也將簡化簽證流程來擴充人才。

拜登(Joe Biden)簽署行政命令前表示,這是全球各個政府在人工智慧(AI)安全、保障與信任上所採取的最重大行動。他說,有一點非常明確,就是為了實現承諾和避免風險,「我們必須管理這項技術」。

英國將在11月1日至2日召開全球AI峰會,美國副總統賀錦麗(Kamala Harris)預計出席並發表美國對實現AI監管的願景。

拜登簽署的行政命令含括8項行動,對美國政府各部門做出具體指示,並根據7月時自15家企業取得的承諾來制定這套規範。

當中一項重要行動為發布政府的「AI安全新準則」(New Standards for AI Safety and Security),要求訓練模型的AI系統開發者,在「尚未對外發布模型之前」,必須事先與政府分享安全測試結果。

根據美國新聞網站Mashable,這項規範是針對「未來世代的AI模型」,而非已流通的工具如ChatGPT。此外,受到影響的會是「運算效能達最高門檻」的公司,一般學術研究訓練的AI系統不在此範圍。

例如,OpenAI、谷歌(Google)、微軟(Microsoft)等公司之後在訓練先進模型時,必須遵守此規範。

「AI安全新準則」還將針對關鍵基礎設施部門制定規範以確保公眾安全,也將設立「生物合成篩選」標準來防止AI被用來製造危險生物原料。

此外,未來運用AI生成的內容包括音訊、圖像、影片、文字將嵌入浮水印,確保民眾能分辨出哪些產品是由非人類所創建。

在行政命令當中,拜登政府也呼籲國會通過跨黨派的資料隱私立法,讓民眾、尤其是兒童受到保障。美國政府也將深入研究企業的數據政策,評估各個機構和資料仲介(Data brokers)如何蒐集和使用公眾數據。

行政命令也致力促進社會公平和公民權益,有鑑於AI演算法導致的偏見和歧視,拜登政府將為房東、聯邦福利機構和承包商制定明確規範,並解決AI在刑事司法系統中被用於判刑的問題。

在種種管控行動之外,行政命令也顧及創新發展和美國領導地位。值得注意的是,拜登指示美國政府放寬簽證標準及簡化面試和審查程序,以此來促進移民和非移民人才在美國發展,提升競爭力。

拜登表示,新簽署的行政命令是項大膽行動,但仍需要國會有所動作。

美國國會尚未通過重大科技立法。據華盛頓郵報指出,美國聯邦參院多數黨領袖舒默(Chuck Schumer)正帶領跨黨派成員小組制定AI法案,但是還需要幾個月才能公布提案,拜登預計31日與舒默和議員會面討論立法

吳政忠:台灣須有 AI 基本法,台版 ChatGPT 資料庫拚多元

國科會主委吳政忠今天表示,台灣一定需要 AI 基本法,但相關技術仍在發展,因此法案推出時程須拿捏;至於台版 ChatGPT「可信任 AI 對話引擎」訓練資料庫領域是否夠多元,他指出,文化部、體育署發行的素材正在處理授權。

立法院教育及文化委員會今天審查國科會預算案等,國民黨立委鄭麗文質詢時關切,政府開發台灣版ChatGPT「可信任人工智慧對話引擎」(TAIDE)參數量為70億、130億,Google、微軟模型也有支援繁體中文,且參數量高達1000多億。

吳政忠表示,台灣擁有繁體中文資料,微軟、亞馬遜等也會來與台合作,「我們正在努力當中」。

民進黨立委吳思瑤則詢問,TAIDE經費約新台幣3億元是否足夠;吳政忠表示,目前尚足,因為硬體面是用既有AI超級電腦、再投入一些GPU,同時,經費也有用來進行訓練資料的蒐集。

吳思瑤表示,TAIDE引用的資料與文本可能面臨量少、領域不夠多元等問題,她認為應納入國發會、體育署各部會發行的權威期刊,以及擁有百萬筆素材的國家文化記憶庫;吳政忠指出,事實上部分已經取得授權,會持續跨部會溝通協調。

至於台灣AI監管進度,吳政忠表示,台灣目前是公部門使用生成式AI指引先上路,之後一定需要AI基本法,但時間點要拿捏;生成式AI與AI差很多,前者技術持續發展,有許多法規需因應修正,美國目前僅頒布行政命令,政府也會密切關注英國、歐盟等提出的相關法案進度。

美國總統拜登(Joe Biden)10月底簽署首項人工智慧(AI)行政命令,確保風險管控和創新發展並存。據行政命令,企業公開模型前必須告知政府安全測試結果。

相關新聞

美國、歐洲日前陸續推出人工智慧(AI)的相關法案,國科會主委吳誠文日前表態盼台灣的AI基本法草案能加速送到行政院。今草案出爐,...
美國總統拜登與前總統川普在6月底的第一場電視辯論結果,拜登表現令人失望,許多美國主流媒體,甚至民主黨內部均籲請「換拜」。沒想到,...
立法院會今天三讀通過「 勞基法 」部分條文修正案及「中高齡者及高齡者就業促進法」部分條文修正案。放寬原本65歲強制退休年齡規定,...
朝野對核電廠延役修法缺乏共識,但新北市府與台電針對核二廠室外乾貯設施興建有望邁進一大步。台電董事長曾文生日前透露,...