您在這裡

「30 年後，不再有『AI』這個字。」—— 科技思想家 Kevin Kelly 專訪

2024/03/21

凱文·凱利（Kevin Kelly）是幫助定義科技行業早期精神的思想家之一。作為 1980 年代《Whole Earth Catalog》的編輯和《Wired》雜誌的創始編輯，他説明將環保主義和樂觀的技術未來主義融入了一種世界觀，這種世界觀深深地影響了幾代創始人、工程師和創造者。

以下內容摘自2023/3/7 Noah Smith和Kevin Kelly的訪談

AI 會有自我意識嗎？

會。理論上電腦可以模擬任何意識體，但是運轉的基質會是關鍵。

只要 AI 還在晶片上運作，AI 產出的幽默、創意都會有點「怪怪的」。最好理解 AI 的方法，就是把他們當成外星生物。想像「星際迷航」（Startrek）的史巴克（Spock）。甚至在未來，只有劣質的 AI 才會有自我意識。昂貴的 AI 產品會標榜「無自我意識的 AI」。畢竟，我們只希望 AI 好好開車，不要開到一半開始罵髒話。

準備好迎接「多重 AI 宇宙」

AI 不會只有一種，AGI （通用人工智慧）也不是人類文明的終點。負責專門功能的 AI 會比 AGI 強大，AI 必然會演化出多種種類，專門分化負責不同的工作。甚至不同的 AI ，也會有不同的個性。在圖像生成領域已經可以看見這個現象了，AI 生成藝術家會偏好跟不同的引擎合作。AI 和人類的關係會更接近夥伴、助理甚至寵物，不是像大眾想的 AI 會統治人類。訓練你的 AI 實習生會需要大量的時間投入，有些人會比其他人強 10~100 倍，這些人就會成為 AI 寶可夢大師。

目前還沒有出現任何 AI 真的取代職業的現象，大多數 AI 失業焦慮都來自第三者。（註：這篇訪談是 2023 年 3 月）

怎樣讓 AI 比我們有道德？

目前生成式 AI 就是實習生：他們很廢，只會有最平庸的產出（就像大多數人類的作品），必須檢驗與修改後才能使用。AI 是用人類平均作品去訓練的，因此所有人類平均的錯誤、偏見、弱點與邪惡，全部都會有。這點是不能被接受的， AI 必須比我們更有道德。怎樣讓 AI 比我們有道德？程式上並不難，只是多加幾行 code 而已。

真正困難的是回答「什麼叫做比我們更有道德？」，甚至「什麼叫做『我們』？」這些問題。

我們對「道德」的認識其實是非常粗淺又雙標的。做出有道德感的 AI 會是人類巨大課題。

AI 的副產品，是揭露人類心智如何運作。

Kevin Kelly 認為未來 100 年，是人類自我認同危機的世紀。AI 與人類心智如此接近，讓我們不得不爭吵討論「什麼是人？」這個大哉問。

但同時， AI 科技突破的重大意義是，我們發現心智其實比想像中還要「機械」。例如，因為 AI，我們發現「下棋、寫作、畫畫」其實都蠻機械化的。在我們人腦可能存在的十幾個心智運作模型中，我們已經成功模擬出了兩個：「模式認知與配對」（perception and matching）。隨著我們慢慢成功模擬其他心智運作模型，我們會更加理解「心智」究竟如何運作。這個進展會遠超過數百年來心理學與神經科學提供的知識。

科技體（technium）

Kevin Kelly 認為，要真的理解「科技」是什麼，你必須把它看成「生物體」的延伸，一個有自主生命的「科技體」（technium）。科技之間不會獨立存在。要做一個錘子，你需要鋸子；要做一個鋸子，你需要一個錘子；要做一台電腦，你兩個都需要。互相依賴產生複雜網絡。這個網絡的整體，已經大於所有部分的總和，展示出它自己的「渴望、傾向、行動」。這些都是獨立於人類，只屬於「科技體」的天生特質。Kevin Kelly 說：「我不斷自問的問題是：科技體渴望什麼？」

󠀠科技體第一個特徵：資訊渴望副本

生物體藉由基因的自我複製而生存、演化，基因渴望被複製。科技體作為生物體的延伸也有一樣的傾向。Kevin Kelly 這樣說：「資訊渴望副本」（Information wants to be copied）。任何能夠被複製的資訊，一定會被複製。我們藉由複製資訊來傳遞訊息、溝通、推進科技進展。某些人會對於複製感到生氣，他們試圖用智財權保護音樂、期刊、或者拿來訓練 AI 的藝術作品，但這其實是在跟整個科技體的傾向對做，贏面幾乎為零。

Kevin Kelly 預測，擁抱副本的發明、創新與法律會廣泛流通，試圖禁止副本的則會被淘汰。