30年後，不再有「AI」這個字

【30年後，不再有「AI」這個字。】

—— 科技思想家 Kevin Kelly 專訪 󠀠 Kevin Kelly，WIRED雜誌創辦人，當代著名的科技評論與思想家，他作品廣泛包含文化評論、哲學思辨，同時也被稱為「未來學家」。 󠀠 去年3月，電子報作家 Noah Smith 與他訪談，其中討論「AI與人類心智」的內容非常精彩。 󠀠 以下整理分享。 󠀠 ▋AI 會有自我意識嗎？ 󠀠 會。理論上電腦可以模擬任何意識體，但是運轉的基質會是關鍵。 󠀠 只要 AI 還在晶片上運作，AI 產出的幽默、創意都會有點「怪怪的」。最好理解 AI 的方法，就是把他們當成外星生物。想像「星際迷航」（Startrek）的史派克船長（Captain Spock） 󠀠 甚至在未來，只有劣質的AI才會有自我意識。昂貴的AI產品會標榜「無自我意識的 AI」。 󠀠 畢竟，我們只希望AI好好開車，不要開到一半開始罵髒話。 󠀠󠀠 ▋準備好迎接「多重AI宇宙」 󠀠 AI不會只有一種，AGI（通用人工智慧）也不是人類文明的終點。 󠀠 負責專門功能的AI會比AGI強大，AI必然會演化出多種種類，專門分化負責不同的工作。 󠀠 甚至不同的AI，也會有不同的個性。在圖像生成領域已經可以看見這個現象了，AI生成藝術家會偏好跟不同的引擎合作。 󠀠 AI和人類的關係會更接近夥伴、助理甚至寵物，不是像大眾想的AI會統治人類。 󠀠 訓練你的AI實習生會需要大量的時間投入，有些人會比其他人強10~100倍，這些人就會成為AI寶可夢大師。 󠀠 目前還沒有出現任何AI真的取代職業的現象，大多數AI失業焦慮都來自第三者。

（註：這篇訪談是2023年三月） 󠀠 ▋怎樣讓AI比我們有道德？ 󠀠 目前生成式AI就是實習生：他們很廢，只會有最平庸的產出（就像大多數人類的作品），必須檢驗與修改後才能使用。 󠀠 AI是用人類平均作品去訓練的，因此所有人類平均的錯誤、偏見、弱點與邪惡，全部都會有。 󠀠 這點是不能被接受的，AI必須比我們更有道德。 󠀠 怎樣讓AI比我們有道德？程式上並不難，只是多加幾行code而已。 󠀠󠀠 真正困難的是回答「什麼叫做比我們更有道德？」，甚至「什麼叫做『我們』？」這些問題。 󠀠󠀠󠀠 我們對「道德」的認識其實是非常粗淺又雙標的。做出有道德感的AI會是人類巨大課題。 󠀠󠀠 ▋AI的副產品，是揭露人類心智如何運作。 󠀠󠀠 Kevin Kelly認為未來100年，是人類自我認同危機的世紀。AI與人類心智如此接近，讓我們不得不爭吵討論「什麼是人？」這個大哉問。 󠀠 但同時，AI科技突破的重大意義是，我們發現心智其實比想像中還要「機械」。 󠀠󠀠󠀠󠀠 例如，因為AI，我們發現「下棋、寫作、畫畫」其實都蠻機械化的。 󠀠󠀠 在我們人腦可能存在的十幾個心智運作模型中，我們已經成功模擬出了兩個：「模式認知與配對」（perception and matching）。 󠀠󠀠 隨著我們慢慢成功模擬其他心智運作模型，我們會更加理解「心智」究竟如何運作。 󠀠 這個進展會遠超過數百年來心理學與神經科學提供的知識。 󠀠 ▋科技體（technium） 󠀠 Kevin Kelly認為，要真的理解「科技」是什麼，你必須把它看成「生物體」的延伸，一個有自主生命的「科技體」（technium）。 󠀠 科技之間不會獨立存在。要做一個錘子，你需要鋸子；要做一個鋸子，你需要一個錘子；要做一台電腦，你兩個都需要。 󠀠 互相依賴產生複雜網絡。這個網絡的整體，已經大於所有部分的總和，展示出它自己的「渴望、傾向、行動」。這些都是獨立於人類，只屬於「科技體」的天生特質。 󠀠 Kevin Kelly說：「我不斷自問的問題是：科技體渴望什麼？」 󠀠 ▋科技體第一個特徵：資訊渴望副本 󠀠 生物體藉由基因的自我複製而生存、演化，基因渴望被複製。 󠀠 科技體作為生物體的延伸也有一樣的傾向。Kevin Kelly這樣說：「資訊渴望副本」（Information wants to be copied）。 󠀠 任何能夠被複製的資訊，一定會被複製。我們藉由複製資訊來傳遞訊息、溝通、推進科技進展。 󠀠 某些人會對於複製感到生氣，他們試圖用智財權保護音樂、期刊、或者拿來訓練AI的藝術作品，但這其實是在跟整個科技體的傾向對做，贏面幾乎為零。 󠀠 Kevin Kelly預測，擁抱副本的發明、創新與法律會廣泛流通，試圖禁止副本的則會被淘汰。 󠀠 ▋科技體的第二個特徵：科技發明，是同時發生的獨立事件。 󠀠 Kevin Kelly：「在愛迪生之前，有23個發明家各自獨立發明了將電力轉換成為光照的『電力蠟燭』。愛迪生能被後世記住，因為他是第一個找到『燈泡』商業模式的人。」 󠀠 「如果貝爾沒有剛好搶到發明電話的專利權，那絕對會被Elisha Gray搶走，因為他們剛剛好在同一天申請電話的專利（1876年2月14日）」 󠀠 不管是微積分、蒸汽引擎都是這樣。 󠀠 孤獨的發明家是一種浪漫想像，真實世界的科技發明絕不是獨自存在，而是由過去發明累積一個大型網絡，建立出下一個發明。 󠀠 ▋30年後，沒有所謂「AI」。 󠀠 就20年前我們稱呼「智慧型手機」，現在是「手機」一樣；30年後不會有「人工智慧」這個詞。 󠀠 若從三十年後的眼光回看今天，我們還沒有真正的「AI專家」。這對任何即將開始的人都是好事，因為你跟其他人的起跑點是平等的，你跟任何人一樣有機會成為領域專家。 󠀠󠀠 同時，九成的AI不會被大眾發現。 󠀠 這是歷史上所有成功科技的共同象徵，真正重要的科技進展，往往不會出現在大眾眼界內，例如「水管」與「電線」。 󠀠 Kevin Kelly給年輕人的建議是：

專注於那些還沒有語言定義的東西。 󠀠 當你研究的東西尚未有語言定義時，有很高機會，你會是唯一一個知道怎樣做那件事的人。 󠀠 反之當你研究的東西早就有一套系統，你就沒有獨特性。 󠀠 你的20~30歲最適合拿來做一些看起來跟成功無緣、非常大膽、詭異、瘋狂的事情。表象上看起來越失敗，對你的未來就是越堅固的基石。