〈時評〉AI帶來極致的便利後 造成的社會結構衝擊

  384

Stuart McMillen。(http://www.recombinantrecords.net/tag/aldous-huxley/)

AI全名為Artificial Intelligence,也就是人工智慧。我們希望AI越來越進步,讓人類更節省時間、資源,達到讓生活更加便利。但是AI的終點,真的全然對人類好嗎?絕大多數人都沒有想過這件事。AI的極致發展,真的會如預期讓人類走向快樂的烏托邦嗎?還是產生極致的反烏托邦主義的社會,或是走向人類被AI控制,如電影:駭客任務。以下分析可能會發生的情況。

作者將AI切成四個時期,並介紹在不同時期的成效與危害。為什麼AI會有危害?從人類歷史發展來看,新科技最先被利用到的領域,往往是在戰爭上面,故AI必然有其風險與危害。

1. 簡單AI時期:在2010年前,受環境及硬體影響,無法讀取大量數據並應用在機器學習的AI。如:熱追蹤導彈。

2. 機器學習AI時期:2010年後,因科技的進步,硬體的成長,並收集了更多的有效數據,也就是「大數據」(Big data),同時提升處理效能,再加上統計與機率的概念,讓「機器學習」(Machine Learning:ML)更加進步,如深度學習(Deep Learning)讓AI可以自主學習,更有智慧,帶來許多便利性,又或者是無人駕駛車,無人戰機,無人潛艇等。但也難保不會出現有恐怖組織製作高度自我學習的AI,使其突破各國的防火牆,再植入病毒。到了這個階段還是人類寫程式碼的時期。

3. 自行寫程式碼AI時期:作者相信總有一天會進入到AI可自行寫程式碼的階段,人類只要給出夠明確的指示與問題,AI就可以寫程式碼,並上網收集資料,解決人類問題,而這一天作者相信不會太晚,大概在5~10年內就有可能達成。畢竟,過去已經發生AI彼此之間進行對話,並演變發明自己的語言的真實案例。參考聯結:「FB讓兩個AI互相對話,結果他們不但學會了說謊還發明了人類看不懂的「密語」」。

換言之,鋼鐵人的管家賈維斯有很大機會從科幻變成真實,讓人類的生活更加便利。而缺點就是當他被恐怖組織利用後,人類將更難以阻擋。或是他自行學習判斷出人類是地球的害蟲應該予以消滅,屆時人類將難以反抗。

4. 有情緒的AI時期:最終AI產生了情緒,此階段有可能發生,也有可能不發生。換言之,多拉A夢(小叮噹)是否會出現是難以確定的,而作者認為不大可能。假設可以達到此階段,機器人可以設定不危害人類,到時後AI可以協助人類許多事,並且擁有足夠的聰明才智變的更加人性化,人類相對上一階段的使用也會變的舒適易操作。問題是如果它產生對人類厭惡的情感時,人類最終有可能滅絕或是成為它們的能源,如:駭客任務。

可以發現AI可能被恐怖份子利用來破壞世界,也有可能自行學習判斷出人類是地球的害蟲應該予以消滅。如果人類能有效利用高科技,是否就會變成快樂的伊甸園呢?在此我們可以參考三大反烏托邦(Dystopia)的小說「美麗新世界」、「一九八四」、「我們」。

參考赫胥理(Aldous Leonard Huxley)的小說-美麗新世界(Brave New World),指出物質生活的不斷演化,並沒有讓全部人類進入烏托邦,反而是因為人類的天性,自然的分化出五個階級,而高階會奴役低階,而這並不是烏托邦,而是更野蠻的社會。五個階級分別為「阿爾法(α)」、「貝塔(β)」、「伽瑪(γ)」、「德爾塔(δ)」、「愛普西隆(ε)」。阿爾法和貝塔最高級,在「繁育中心」孵化成熟為胚胎之前就被妥善保管,以便將來培養成為領導和控制各個階層的大人物;伽瑪是普通階層,相當於平民;德爾塔和愛普西隆最低賤,只能做體力勞動工作。而不少社會學者認為美國有可能往美麗新世界的局面邁進。參考連結:China Goes '1984' While America Goes 'Brave New World'--But What's Next?

參考喬治·歐威爾(George Orwell)的小說,《一九八四(Nineteen Eighty-Four)》裡面指出極權主義的領導人利用科技來監控及暴力統治人民,而這已經不是伊甸園。而且這樣的情況已經發生在中國,參考聯結「手機、電視都是監控器,中國「雪亮工程」10 秒看穿你是誰」。

結論:

AI像是潘朵拉的盒子,看似美妙,但打開之後,有著太大可能性毀滅人類、或是因人類天性造成社會結構的改變,或是幾大強國有類似強度的科技彼此對抗,產生新一世代的冷戰,而人民總是成為吃虧的一方。不管是哪一個局面,最終都沒辦法到達原本想像的烏托邦與伊甸園。更糟糕的是AI的演進如同滾雪球一般,開始滾動後就難以停止。資訊人才開發時或許不會考量到太多複雜的局面,但是有許多科幻及反烏托邦的電影,已經在過度發展的科技上打預防針,所以政府不要以為科技只有好處,要先預防可能的問題,在每個可能發生問題的局面先作好準備,以免最終造成人類走上滅絕之路,或是陷入地獄般的局面。而這個情況不會太遠,再過10到20年間就有可能發生。

參考資料:

美麗新世界

一九八四