「30 年後,不再有『AI』這個字。」—— 科技思想家 Kevin Kelly 專訪

凱文·凱利(Kevin Kelly)是幫助定義科技行業早期精神的思想家之一。作為 1980 年代《Whole Earth Catalog》的編輯和《Wired》雜誌的創始編輯,他説明將環保主義和樂觀的技術未來主義融入了一種世界觀,這種世界觀深深地影響了幾代創始人、工程師和創造者。

以下內容摘自2023/3/7 Noah Smith和Kevin Kelly的訪談

AI 會有自我意識嗎?

會。理論上電腦可以模擬任何意識體,但是運轉的基質會是關鍵。

只要 AI 還在晶片上運作,AI 產出的幽默、創意都會有點「怪怪的」。最好理解 AI 的方法,就是把他們當成外星生物。想像「星際迷航」(Startrek)的史巴克(Spock)。甚至在未來,只有劣質的 AI 才會有自我意識。昂貴的 AI 產品會標榜「無自我意識的 AI」。畢竟,我們只希望 AI 好好開車,不要開到一半開始罵髒話。

準備好迎接「多重 AI 宇宙」

AI 不會只有一種,AGI (通用人工智慧)也不是人類文明的終點。負責專門功能的 AI 會比 AGI 強大,AI 必然會演化出多種種類,專門分化負責不同的工作。甚至不同的 AI ,也會有不同的個性。在圖像生成領域已經可以看見這個現象了,AI 生成藝術家會偏好跟不同的引擎合作。AI 和人類的關係會更接近夥伴、助理甚至寵物,不是像大眾想的 AI 會統治人類。訓練你的 AI 實習生會需要大量的時間投入,有些人會比其他人強 10~100 倍,這些人就會成為 AI 寶可夢大師。

目前還沒有出現任何 AI 真的取代職業的現象,大多數 AI 失業焦慮都來自第三者。(註:這篇訪談是 2023 年 3 月)

怎樣讓 AI 比我們有道德?

目前生成式 AI 就是實習生:他們很廢,只會有最平庸的產出(就像大多數人類的作品),必須檢驗與修改後才能使用。AI 是用人類平均作品去訓練的,因此所有人類平均的錯誤、偏見、弱點與邪惡,全部都會有。這點是不能被接受的, AI 必須比我們更有道德。怎樣讓 AI 比我們有道德?程式上並不難,只是多加幾行 code 而已。

真正困難的是回答「什麼叫做比我們更有道德?」,甚至「什麼叫做『我們』?」這些問題。

我們對「道德」的認識其實是非常粗淺又雙標的。做出有道德感的 AI 會是人類巨大課題。

AI 的副產品,是揭露人類心智如何運作。

Kevin Kelly 認為未來 100 年,是人類自我認同危機的世紀。AI 與人類心智如此接近,讓我們不得不爭吵討論「什麼是人?」這個大哉問。

但同時, AI 科技突破的重大意義是,我們發現心智其實比想像中還要「機械」。例如,因為 AI,我們發現「下棋、寫作、畫畫」其實都蠻機械化的。在我們人腦可能存在的十幾個心智運作模型中,我們已經成功模擬出了兩個:「模式認知與配對」(perception and matching)。隨著我們慢慢成功模擬其他心智運作模型,我們會更加理解「心智」究竟如何運作。這個進展會遠超過數百年來心理學與神經科學提供的知識。

科技體(technium)

Kevin Kelly 認為,要真的理解「科技」是什麼,你必須把它看成「生物體」的延伸,一個有自主生命的「科技體」(technium)。科技之間不會獨立存在。要做一個錘子,你需要鋸子;要做一個鋸子,你需要一個錘子;要做一台電腦,你兩個都需要。互相依賴產生複雜網絡。這個網絡的整體,已經大於所有部分的總和,展示出它自己的「渴望、傾向、行動」。這些都是獨立於人類,只屬於「科技體」的天生特質。Kevin Kelly 說:「我不斷自問的問題是:科技體渴望什麼?」

  • 󠀠科技體第一個特徵:資訊渴望副本

生物體藉由基因的自我複製而生存、演化,基因渴望被複製。科技體作為生物體的延伸也有一樣的傾向。Kevin Kelly 這樣說:「資訊渴望副本」(Information wants to be copied)。任何能夠被複製的資訊,一定會被複製。我們藉由複製資訊來傳遞訊息、溝通、推進科技進展。某些人會對於複製感到生氣,他們試圖用智財權保護音樂、期刊、或者拿來訓練 AI 的藝術作品,但這其實是在跟整個科技體的傾向對做,贏面幾乎為零。

Kevin Kelly 預測,擁抱副本的發明、創新與法律會廣泛流通,試圖禁止副本的則會被淘汰。

  • 󠀠科技體的第二個特徵:科技發明,是同時發生的獨立事件。

Kevin Kelly:「在愛迪生之前,有 23 個發明家各自獨立發明了將電力轉換成為光照的『電力蠟燭』。愛迪生能被後世記住,因為他是第一個找到『燈泡』商業模式的人。」

「如果貝爾沒有剛好搶到發明電話的專利權,那絕對會被 Elisha Gray 搶走,因為他們剛剛好在同一天申請電話的專利(1876 年 2 月 14 日)」

󠀠不管是微積分、蒸汽引擎都是這樣。孤獨的發明家是一種浪漫想像,真實世界的科技發明絕不是獨自存在,而是由過去發明累積一個大型網絡,建立出下一個發明。

30 年後,沒有所謂「AI」。

就跟 20 年前我們稱呼「智慧型手機」,現在是「手機」一樣;30 年後不會有「人工智慧」這個詞。

若從三十年後的眼光回看今天,我們還沒有真正的「AI 專家」。這對任何即將開始的人都是好事,因為你跟其他人的起跑點是平等的,你跟任何人一樣有機會成為領域專家。同時,九成的 AI 不會被大眾發現。這是歷史上所有成功科技的共同象徵,真正重要的科技進展,往往不會出現在大眾眼界內,例如「水管」與「電線」。

Kevin Kelly 給年輕人的建議是:專注於那些還沒有語言定義的東西。

當你研究的東西尚未有語言定義時,有很高機會,你會是唯一一個知道怎樣做那件事的人。反之當你研究的東西早就有一套系統,你就沒有獨特性。你的 20~30 歲最適合拿來做一些看起來跟成功無緣、非常大膽、詭異、瘋狂的事情。表象上看起來越失敗,對你的未來就是越堅固的基石。

相關新聞

影響力將遍及全球,甚至可能左右矽谷科技大廠未來AI發展  今年3月歐洲議會通過《AI法案》後,經過兩個多月終於獲得歐盟會員國同意,...
 《華爾街日報》母公司「新聞集團」(News Corp)與人工智慧新創公司OpenAI於22日宣布達成協議,...
路透社今天發布民意調查,預估中國今年的房屋價格將下降5.0%,房地產銷售可能萎縮10.0%,中國房市將進一步惡化。不過,分析師表示,...
多家歐洲大型電力公司紛紛下修或重新評估開發 再生能源 的目標,原因是成本升高、電價降低。這預示能源轉型面臨困難。