徐怡君的部落格

序曲    歐米茄傳奇

第1章    歡迎參與這個時代最重要的對話
人工智慧發展到極致，會對人類造成什麼影響？
這是我們這個時代最重要的討論，你我都不應該置身事外。

第2章    東西變聰明了
什麼是智慧？人工智慧的定義又是什麼？
人類有可能打造出比自身更聰明的東西嗎？

第3章    近未來：科技突破、程式漏洞、法律、武器與就業
人工智慧已經愈來愈聰明了，在許多領域也有吃重的地位，
這對我們造成了什麼影響，我們要如何獲取最大利益並不受傷害？

第4章    人工智慧爆炸性發展？
當人類水準的通用人工智慧出現後，人類就會被遠遠甩在後頭，
屆時的世界會變成怎樣，端看我們現在的決定。

第5章    未知的來世：一萬年之後
一萬年之後的世界，是我們在控制人工智慧，
還是人工智慧會控制了我們？

第6章    挑戰宇宙潛藏的極限：十億年之後
人類飛向浩瀚宇宙的心願，要如何靠人工智慧來完成？
我們能否飛向宇宙盡頭、是否確定我們不是宇宙唯一？

第7章    何謂目標
我們的宇宙是有目標的，甚至DNA也內建了目標要求生物執行。
聰明的人工智慧將來會不會也有了自己的目標，開始特立獨行？

第8章    何謂意識
意識到底是什麼，至今眾說紛紜，
而無生命的人工智慧若也有意識，人類將要如何面對與因應？

結語    未來生命研究所的故事

序曲

　　歐米茄團隊是這家公司的靈魂。公司其他部門負責透過各種低階人工智慧建立起的商業模式，替公司帶來維持營運的資金，歐米茄團隊則是負責往前探索、尋求突破的工作，目的是為了實現執行長的夢想：打造通用人工智慧。大多數公司員工把口中戲稱為「小歐米茄」的團隊當成建造空中閣樓的人，畢竟這個團隊追求的目標還太久遠，緩不濟急，不過他們還是很推崇歐米茄團隊，因為這個團隊的尖端科技不但帶給公司受人尊重的地位，三不五時推出改版的演算法也讓其他部門受益匪淺。

　　不過其他部門的人卻不知道，歐米茄團隊在精心營造的形象下蘊含的真正祕密：他們即將推出人類史上最大膽的計畫。這些小歐米茄能受深具號召力的執行長特意挑選，成歐米茄團隊成員的原因，不只因為他們是充滿天賦的研發人員，還因為他們的企圖心、理想主義性格，還有想帶動人類社會往前發展的強烈使命感。執行長不忘提醒團隊成員，這是非常危險的計畫，一旦遭強權政府發現，政府單位勢必無所不用其極（包括用綁架或羈押手法）迫使計畫停擺，或竊取他們研發的程式碼。團隊成員百分之百投入的熱忱，理由就如同當年世上頂尖物理學家投入曼哈頓計畫發展核武器一樣：他們深信要是不搶先一步，被其他有心人士捷足先登的話，那就糟了。

　　歐米茄團隊稱為「普羅米修斯」的人工智慧變得愈來愈厲害。雖然普羅米修斯的情境認知能力在很多方面（比方說社交）還是遠遠不如人類，但是歐米茄團隊嘔心瀝血的結果，已經讓普羅米修斯在一個特定的工作項目中變得卓越非凡──編寫人工智慧的系統程式。這是深思熟慮後的策略性發展項目，原因可以回溯到1965年英國數學家古德（Irving Good）對人工智慧爆炸性發展說過的一段話：

　　「且讓我們假定超級聰明的機器可以在所有智識領域中，表現得遠比世界上所有人類更優秀，既然設計這樣的機器也算是智識活動，那麼這台超級聰明的機器就有辦法設計出另一台更優秀的機器。如此一來，人工智慧爆炸性發展就會是自然而然的結果，並且會遠遠拉開和凡人之間的智力差距。換句話說，史上第一台超級聰明的機器將會是人類的最後一項發明──而這台機器需要夠聽話，還願意告訴我們如何控制它。」

　　根據歐米茄團隊的想法，一旦進入上述遞迴式自我強化過程，過不了多久，普羅米修斯的聰明才智就能夠讓它自主學會所有人類技能了。

　　輕鬆賺到第一桶金

　　時間是星期五早上九點，也是歐米茄團隊正式推出普羅米修斯的時刻。安裝在專屬機殼中的普羅米修斯嗡嗡作響，而所謂機殼則是一排又一排的金屬架，置於設有空調並且嚴格管控進出的房間裡。為了安全起見，普羅米修斯完全自外於網際網路，不過卻用離線備份的方式蒐羅了許多網站的內容（諸如維基百科、美國國會圖書館、推特、 YouTube 選集、大多數的臉書頁面等等），做為普羅米修斯教育訓練與學習的資料庫。這是刻意挑選過的時間點，目的是避免外界干擾：親朋好友會以為團隊成員這個週末是去參加公司安排的內部訓練營。茶水間內隨處可見微波食品和機能飲料，而躍躍欲試的歐米茄們已經準備好要大顯身手了。

　　最初依照人工智慧系統程式運作的普羅米修斯，表現得還略遜人類一籌，但是很快就急起直追了起來 —歐米茄團隊成員大口暢飲紅牛能量飲時，普羅米修斯則是以相當於數千人年時的進度，迅速處理各種疑難雜症，到早上十點，普羅米修斯已經自行完成第一次大改版。升級後的普羅米修斯 2.0 雖然有所改良，但仍差人類一截，等到下午兩點升級成普羅米修斯 5.0 後，輪到歐米茄團隊的成員瞠目結舌了：最新版的普羅米修斯不但在各項績效評比都有超水準表現，而且改良的進度還似乎不斷加速。夜晚降臨時，歐米茄團隊決定以普羅米修斯 10.0 版進入計畫的第二階段：設法大賺一票。

　　他們第一個目標是 MTurk ，也就是亞馬遜推出的土耳其機器人（Mechanical Turk）。 MTurk 是在 2005 年上線的群眾外包網路平台，推出後大受歡迎，目前吸引了全球數以萬計的匿名人士不分晝夜競相挑戰高度專業化的困難工作，亦即所謂的人腦智慧任務（HIT）。

　　這些工作內容包括為錄音檔做逐字稿、為影像檔分門別類，或是替不同的網頁寫簡介等等。儘管內容不盡相同，但是卻有一點萬變不離其宗：如果做得夠好，就不會有人知道這是由普羅米修斯的人工智慧達成的。普羅米修斯 10.0 版在處理土耳其機器人的工作時，約有半數達到堪用水準，因此歐米茄團隊和普羅米修斯聯手針對這些完工的項目，分別寫出精簡版的專用人工智慧軟體模組，這些模組除了處理個別項目的工作內容外，不做他用。隨後，他們把這些軟體模組上傳到亞馬遜的網路服務中心 —一個可以在租用的虛擬主機上執行指令的雲端運算平台。接下來，每當他們付一塊錢給亞馬遜的雲端運算部門，就反手從亞馬遜的土耳其機器人部門賺回不只兩塊錢，亞馬遜恐怕沒有想過，在自己公司內部居然也會有這樣難以想像的套利空間吧！

　　為了掩人耳目，歐米茄團隊在前幾個月就已經用不同的假名，分別申請了好幾千個 MTurk 帳號，而普羅米修斯設計出的軟體模組就剛好可以套用這些帳號跟身分。 MTurk 平台上的客戶通常會在收到作品後八小時付款，歐米茄團隊隨即用收到的尾款添購更多雲端運算資源，讓不斷改良成最新版的普羅米修斯繼續提供更優異的軟體模組。由於歐米茄團隊大約每八小時就能讓收益倍增，所以很快就囊括所有了 MTurk 上的工作邀約，並且發現如果不想引人側目，每天最多能進帳的金額就是以一百萬美元為限，不過這已經足夠他們進入下一個階段，不用硬著頭皮向公司財務長開口要求金援了。

　　歐米茄團隊開始聚焦在高價值、純數位（避免生產過程延誤）、簡單易懂（像是文字或電影這些不用擔心計畫曝光的內容）的產品線上，最後他們決定設立傳媒公司，從動畫片開始做起。相關的網站、行銷方案和新聞稿，都早在普羅米修斯變得超級聰明以前就準備妥當 —現在就只缺數位內容而已。

　　雖然普羅米修斯在星期天早上的表現已經夠讓人吃驚，不停從 MTurk 平台上攢錢，但是它發揮智力的範圍仍相當有限：普羅米修斯能深思熟慮設計出最佳的人工智慧系統程式，也能寫出軟體解決令人頭皮發麻的 MTurk 任務，但是像拍電影這種工作就顯得很不拿手。不拿手的原因其實也沒多深奧，就跟大導演卡麥隆（James Cameron）剛出生時也不會拍電影一樣：這畢竟是需要花時間才能學會的技能。跟一般兒童一樣，普羅米修斯可以從任何能接觸到的資料中學習，相較於卡麥隆花了好幾年的時間學會閱讀跟寫作，普羅米修斯不過從星期五才開始正式推出，自然需要時間讀遍維基百科的內容和數以百萬計的作品。更難的拍電影就先不提了，寫出令人感興趣的劇本，難度跟寫書相比也不遑多讓，都需要深入理解人類社會和能讓人樂在其中的事物。把劇本轉換成最終的動畫影像，除了要對劇中人物的光影效果進行大量處理，還需要搭配劇中人物穿梭其中的複雜場景，再加上模擬的語音和引人入勝的電影配樂。

　　等到星期天早上，普羅米修斯已經有能力在一分鐘內看完兩小時的電影，所謂的「看完」還包括瀏覽與電影相關的所有書籍和線上的影評。歐米茄團隊注意到，普羅米修斯狼吞虎嚥消化掉上百支電影後，開始有能力準確預測哪些電影大概會得到何種評價、會吸引哪些不一樣的閱聽大眾。普羅米修斯接著還學會自己寫影評，看起來還展現出相當鞭辟入裡的火候，從電影情節到演員演技再到打燈和攝影角度等技術細節都能言之有物，歐米茄團隊認為這顯示，讓普羅米修斯自製影片的話，它已經能掌握可獲得成功的要素了。

　　歐米茄團隊要普羅米修斯先把注意力集中在製作動畫片，這樣就不用回答虛擬演員的本尊是何方神聖的尷尬問題。星期天晚上，他們決定在這個瘋狂的週末忙裡偷閒，人手一杯啤酒配上微波加熱的爆米花，在昏暗的燈光中欣賞普羅米修斯隆重推出的處女作。這是仿效迪士尼「冰雪奇緣」的奇幻喜劇片，劇中所有光影處理都透過普羅米修斯封存在亞馬遜雲端平台的程式進行運算，幾乎花光了它每日從 MTurk 平台賺進的百萬所得。電影開始播放時，歐米茄團隊成員既期待又怕受傷害，畢竟這是完全沒有人類參與、由機器獨立製作完成的電影。但是過不了多久，他們不但隨劇中的笑點樂不可支，摒息期待劇情的轉折，有些人甚至會為了充滿情緒張力的結尾默默掉淚，融入電影情節中的他們已經徹頭徹尾忘了，製作電影的並不是真人。