Alexa
  • En
  • Directory of Taiwan

〈時評〉機器人算力正在挑戰人類「意識」的領域

  394
聊天機器人 (by PIXABAY))

聊天機器人 (by PIXABAY))

最近Google 工程師Blake Lemoine表示他所參與研發的聊天機器人極其可能具有「人格」,意思是聊天機器人真有可能發展出「自我意識」,結果被公司停職,並被要求尋求諮商輔導。

Lemoine説LaMDA( The Language Model for Dialogue Applications )具有「自我意識」,並不是隨便說説,他寫了21頁的研究報告並有與LaMDA多次的深度訪談紀錄。Lemoine的結論是,它具有遠超過現有AI系統的語言能力,「能主動提出具有創意的想法,話語中帶有宗教、感情、情緒與恐懼等主觀經驗,這讓他相信,它除了語言能力卓越之外,還具有敏銳的心靈」(He found Lamda showed self-awareness and could hold conversations about religion, emotions and fears. This led Mr Lemoine to believe that behind its impressive verbal skills might also lie a sentient mind.)而且「整體表現相當一致,除了具有自我人格之外,實在無法有其他的結論。」

過去科學家運用人工智慧所開發的系統是不可能具有自覺,因為自我意識是屬於生命的一種獨特的表現。
測試機器人與自我意識關聯性的研究,其實是在探索自我意識到底是什麼?「人工智能」的科技極限到底可以將「模擬意識」推動到何種程度?顯然現有科技已經強大到有可能模糊了「意識」的界限。也就是說什麼是「意識」?進入了一個更加難以定義的時代。

從數位當量的觀點來探查。在8或16位元處理器的時代,根本不會有這種問題,到了32位元時代,電腦是增速很多,2的32次方,也還差人類意識的「數位運算」很遠。但是64位元處理器就開始有點接近了。簡單的比較是,每秒浮點運算約等值於10的18次方。
人腦有超過1000億的神經元,每個神經元都有上萬個連結,每秒浮點運算至少是10的27次方(也有人估計是15次方)所以到了128位元處理器之後,電腦的運算能力就超過了人腦。不過,人腦的運算與電腦不能類比,人腦的運算(甚至運算兩字都不能完整表達神經元之間的互動),也就是人腦的算力仍有科技無法完全掌握的區塊。所以即使到了量子電腦,也無法完全取代人腦思考的複雜性,人腦除了理性之外還有非理性及感性的自動性,與電腦的全邏輯趨動是不一樣的,加上電腦的積體電路機械結構,與人腦神經元的生化離子弱電傳導結構完全不同。理論上,電腦可以「模擬」但是不可能「替代」人腦,主要是「生命」仍然是電腦無法跨越的鴻溝。而意識的產生正是具生命意義的大腦最奧祕的運作。怎麼運作的?科學界至今仍束手無策。有個笑話説:人類這麼聰明的大腦至今仍想不出自己為什麼這麼聰明?

單從一個對比就知道,大腦的優勢性,兩顆眼球加上視神經的聯結及大腦枕葉(occipital lobe)視覺中樞的運作,所需的能量極低就可以辨識極複雜的視覺功能,其功能單位的總質量更微不足道。同樣的功能由電腦來運算所需要的機械裝置及運算單位,恐怕需要一個房子大小的體積及重量。而支撐運算所需要的電力可能要一座小型電廠才足夠。

即使如此,Blake Lemoine的LaMDA「類人格」報告,仍然值得重視。Google 到底是基於何種理由將他停職並要求他接受心理輔導?是不可思議的事。Blake Lemoine的報告並非説LaMDA已經有「自我意識」,而是從表現角度看,已經可以模擬意識到極細致的程度,幾可亂真。即使是圖靈測試(Turing test)也已經無法分辨。他的認知維度是,以現有科學的理解,LaMDA的表現,「除了具有自我人格之外,實在無法有其他的結論。」這個描述,如果能夠加一句,「除非自我人格的基本構造有新的定義」可能Google 也不致於將他停職。

這是個科學的里程碑,應該反過來質疑,現有科學對「意識」的定義,已經不足以劃清界線。什麼是「意識」,要有更精密的條件(criteria)。這正是認知科學中意識研究的最前沿,隨著電腦算力的不斷提升,意識的定義也一直在改變,簡單的說,只要電腦能夠模擬出來的智能,就不能算「意識」。使得什麼是「意識」的可定義空間變得越來越窄小。
下棋及益智問答是很好的案例,原本這麼複雜的智能活動,堪稱一種「意識」的特殊表現,可是從IBM深藍(deep blue)及華生(Watson),自1997年以來,不斷打敗人類高手,而且輸贏懸殊。到了AlphaGo 下圍棋擊敗高手的不只是技術,而是信心。這些智能活動,已經不能算是「意識」的典範,甚至是不在「意識」的終極討論範疇。
「意識」的定義愈來愈難。過去,有人認為,人工智能不可能有「創意」(creativity),所以「意識」的最強項就是在此。或是「情感」是電腦所無,也可以列入「意識」的獨特表現。但是這回LaMDA所挑戰的正是這種用一般自然語言模型深度學習的語意、語境表達,而「人格」的形塑及表現,核心結構正是在此。這當然嚴肅挑戰了什麼是「人格」、「創意」、「情感」這些要素,而「意識」的定義就更加困難了。最後連「人性」都可能被挑戰。

千百年來「靈魂」是個神秘領域,屬人類「意識」的無限延伸,至今科學仍然無法度量。在「意識」的表現上,另一不可思議的是人對於宗教的信仰,比如說,相信神的存在,而且是在「無經驗」的情境下,以非語言的心悅誠服,相信神的無所不在,並且以禱告將信仰付諸實現。而如此的宗教自由,正在人類社會持續擴大廣傳,這樣的「意識流動」是生命意義的神秘表達,這是「人工智能」目前的空白領域,也就是說,機器人相信神的存在嗎?它會因而有相信、希望、愛嗎?這是「意識」真實存在的想像世界。恐怕不是Google 這樣的科技研發公司能夠理解的「黑區」(dark side)。當Google 決定停職一名可能提出新里程碑的科技人時(雖然他的提法有很多問題),Google 正熔斷了「探索意識未知領域」的機會。

更新時間 : 2022-08-09 10:25 GMT+08:00