在AI時代，我們需要思想家

今日看了兩次前Google CEO Eric Schmidt 的一場訪談，對談中談到他與前美國國務卿 季辛吉 合著有關AI書 【Genesis: Artificial Intelligence, Hope, and the Human Spirit】（ 於2024年出版）。他提到，若在通用人工智慧（AGI）之外，還存在著超級人工智慧（Super AI），人類該如何去管理它?

AI若是工具，需要被規範。

在人類文明的發展過程中，科學與技術一直扮演著推動生活水平提昇（提高生產，消除饑荒）、建構經濟體制（農業進展至工業）、延長群體生命（醫療與照護）的關鍵角色。科學代表的知識的擴展，也帶來了技術的演進。最終人類群體普遍能掌握的工具，就從石器進展至銅鐵器，甚至到了工業時代的機械與20世紀的電器、晶體...等。

不同於數位與網路帶來的溝通方式與內容乘載的形式擴充，AI具有模擬、仿造人類智慧的能力和產出，若是被是為工具，就可能存在著擁有、使用時需要被規範的需求，否則有可能成為有助危害他人的方法。

在過去AI快速發展的三年中，各國是否已開始建構這些規範？我們的社會準備好了嗎？

AI若是一種人為的生命形式？

但若 AI 能有獨立思考、運作且主動的能力，不管是否有技術、規範去限制它，就存在著失控的風險。甚至，它有可能成為一種「人為的生命形式」（即超越傳統生物學概念，但又符合恆定性、組織性、生長、適應、感應、繁殖的特性。請參考 生命 、生命形態列表）。

就算 AI 不具備機器人似的外型和行動能力，但若它可以聯合、控制其他一樣具有自主思考、推演、判斷甚至意志的能力的 AI 個體，去影響真實人類的認知或人類存在環境裡的機器、設備、系統等，AI 就有可能「反客為主」，以「群體」的力量，去影響甚至破壞人類群體的生活、體制、經濟、文明的發展。

如果近期全球眾多所謂的專家一致都認為 通用人工智慧（AGI） 即將在可預見的短期裡出現，以上我簡單的推論（或是想像）在邏輯上是非常有可能出現的結果。

聰明的人類，會愚蠢到發明一種工具，來毀滅自己嗎？

先知抵不過失能的系統

在過去未開化的時代，人們總期待有先知出現，能提醒平凡的人們，為未來指引方向。在目前這個人類文明發展過程中，從未有過的資訊發達、教育普及、技術先進、生活富裕的時代，難道沒有先知？

聰明的人類有一種能力，由那些更聰明有影像力甚至具有高度理想或企圖心的人們，制定出一套看似乎合理的人群運行的系統，但卻未在一開始時仔細偵錯（debug），一旦發生某一種情境下就算有識之士大聲疾呼、提醒，都無法立即於系統運作中讓集體改變正在發生的亂象。

這就是我所謂的「失能系統」。

只能坐以待斃嗎？

難道我們只能坐以待斃？還是要等待那「五百年才能輪迴的聖人」（我與沈國偉於1989年創作歌曲【正義先生】副歌中的某句歌詞）？

我想，或許人類的文明發展還是需要有類似思想家的出現，就像 蘇格拉底、孔子，引發人們在思維上、價值裡、哲學面共同去關注、討論、辯證一些超乎權力、利益的議題。

若真要等待那「五百年才能輪迴的聖人」，就等於坐以待斃了。