AI教父離開谷歌 人工智能威脅近在眼前

人工智能發展熱潮,隨ChatGPT去年問世延燒,對全人類的影響尚待觀察。然而本月一開始,有「AI教父」之稱的人工智慧專家辛頓(Geoffrey Hinton)便證實,已辭去谷歌的職務,理由為他對人工智慧抱有倫理顧慮,並希望可以公開且自由地談論其風險。

圖靈獎得主 對人工智能發展提出擔憂

奠定人工智慧(AI)系統科技基礎的辛頓,是AI領域最受敬重的專家之一;1972年,在愛丁堡大學開始研究生生涯,他研究神經網絡,是一種通過分析數據來學習技能的數學系統。

二○一三年以前辛頓團隊當時透過分析數百萬張照片,打造出一款可以區分動物、物體圖片的神經網路系統,這個系統被視為當代人工智慧的基礎,而在這之後他也獲得有「電腦界諾貝爾獎」之稱的「圖靈獎」肯定。

此成就讓谷歌收購了他當時的公司,他也在谷歌從事AI開發工作10年,為谷歌開發AI系統,然而近期卻漸對AI技術與他在AI進展的角色感到擔憂。辛頓指出,科技巨擘間的競爭,促使這些公司以危險的速度發布新的AI科技,那將危及人們的就業機會,也會散布錯誤的資訊。

三大隱憂點名 科學者的懊悔?

辛頓接受《紐約時報》專訪時坦言,我用一個常見的藉口來安慰自己:「如果我沒有做,也會有別人做。」他亦向全球示警AI的潛在威脅。他表示:「過去我覺得威脅會在30年至50年,或是更久之後才會發生,但我現在不再這麼認為。」

辛頓表示,他現在對他一生的研究感到有點遺憾,。他擔心未來的AI技術會對人類構成威脅,因為這項技術經常會從分析大量資料中學習到意想不到的行為。他說,隨著個人和公司不僅允許AI系統生成自己的電腦程式,而且實際上AI甚至可以自己運行這些程式,他擔心有一天,真正的自主武器,例如殺手機器人會成為現實。

谷歌執行長皮查也曾公開警告AI的風險。他4月在《60分鐘》節目表示,社會還沒做好因應新技術的準備,但他淡化AI的進展超越人類適應能力的風險。

人工智能未來三大擔憂:
  1.  AI 帶動假訊息狂潮
  2. AI 除了帶走苦差事,也可能會帶走更多東西
  3. AI 有可能演變成殺人機器

 

相關新聞

美俄烏阿布達比談判後,美特使庫許納、威特科夫與澤倫斯基及歐洲五國(E5)高層視訊對話。...
美國商務部16日宣布進一步收緊中國取得輝達等企業先進AI晶片的管道,鎖定新加坡、泰國、馬來西亞、印尼及巴西等5個高風險轉運國,...
APEC深圳峰會前哨戰在馬尼拉打響!川普出席QUAD峰會鞏固印太陣營且未見中方,拉夫羅夫出席東亞峰會突圍,李強深耕東協自貿與電網合作。...
COP31主席國土耳其與國際電信聯盟發表《安塔利亞人工智慧承諾》,在全球掀起反彈資料中心浪潮之際,這是COP首度以AI為主題的專門承諾,...