#sentient technologies

Fliper Mag 的新文章 http://flipermag.com/2014/12/26/sentient-technologies/

靠著人工智能，人類可以展開超智人時代

幾天前，史蒂夫霍金接受英國廣播公司採訪時表示，人工智慧的發展雖然一日千里，卻也可能帶來人類的末日。他的警告引起媒體廣泛的報導，一方面因為他是當今全球最知名的物理學家，想必能預知人類宇宙未來的命運，另一方面，他本身是現代科技的直接受惠者──因為肌肉萎縮，霍金早已失去語言機能，多虧電腦語音合成技術，還能跟外界溝通，包括接受電視台的訪問。

也不過是再早一兩個星期前的新聞，舊金山有一家新創公司 Sentient Technologies 剛完成一億美金的 C 輪增資。這家公司的團隊來自開發蘋果公司 Siri 語音辨識技術的原始班底，當年 Siri 成功跨過了自然語言辨識的關卡，現在原班人馬整兵經武，向更高等的人工智慧前進。

為人工智慧加上自我

為什麼公司取名為 Sentient？公司的技術主管解釋：人在邏輯與推理以外的智能，都屬於 sentient 的範疇。sentient 就是自知（aware），有感知能力（perception），具有正念（mindful）。換句話說，如果有一天電腦真能進步到擁有 sentience，就和人類一樣成為有情生物，有自我存在的意識，並且擁有某種程度的自由意志。

這大概正是史蒂夫霍金憂心的原因吧。如果真有這一天，電腦有了自我意識，他（將來可能要發明一個新字介於人類的他與非生物的它之間）會不會嫌棄人類這個養父：智力低等如猩猩，情感原始如貓狗，生命脆弱如螞蟻？

歸功於深度學習（deep learning）、大數據、分佈式計算（distributed computing）等各種技術的進步，人工智慧的領域最近取得不少進展。例如谷歌花了 6 億美金收購英國公司 DeepMind，因為它發展的技術可以像人類一樣用短期記憶來學習。另一家新創公司 Vicarious 則號稱能夠通過標準化的杜林試驗 CAPTCHA（Completely Automated Public Turing test to tell Computers and Humans Apart），結果獲得臉書創辦人祖克柏等人 4 千萬美元的投資。

人腦的無窮想像加上電腦取之不盡的計算能力，近年來創新的速度確實讓人目不暇給，各種應科技而誕生的新經濟、和新經濟對全球舊經濟造成的衝擊，不免讓許多站在科技前緣的人士不約而同的開始各種懸想：科技為人類會帶來希望還是毀滅？人類的未來是光明還是黑暗？50 年、100 年、500 年後會是一個什麼樣的地球？

 人類未來的四種可能

依據牛津大學人類未來學院院長Nick Bostrom的歸納，人類長遠的未來不出以下四種形式：

1. 滅絕 （extinction） 2. 反覆崩潰（recurrent collapse） 3. 走高持平（plateau） 4. 後人類（posthumanity）

反覆崩潰是指人類的文明在繁榮和衰退之間擺盪，每次在到達高點後便開始逐漸下跌，直到谷底後否極泰來，逐漸回升，如是反覆。這幾乎是過去幾千年來人類文明發展的歷史軌跡。

但是若觀察歷史上許多物種或古老文明，當衰退至不可回復，便有可能造成滅亡的結局。曾經生存在地球的各種生物，有 99% 以上已經不復存在，人類雖然貴為智人（homo sapiens），但如果持續自作孽，置地球氣候變遷問題於不顧，顯然人類滅種的機率並不等於零。

當然許多人相信情況不見得如此悲觀，尤其過去兩百年中，人類在物質條件和科技的進步都像野馬脫繮，不斷加速，如果照此趨勢繼續發展，可以看見兩個可能。

第一個可能是，總有一天，成長逐漸緩慢，最後達到飽和，然後人類文明在一個較窄的區間內振盪，達到長久持平穩定的狀態。

但也有人相信，呈指數型的成長將會持續一段較長的時間，有一天達到臨界點，就會像火箭脫離地心引力，人類終於超脫了現在生理、智力、心理的限制，展開現代人無法想像的後人類文明時代。

未來的五十至一百年是關鍵的年代，就好像火箭升空時最危險。有人樂觀，認為火箭仍在加速，後人類文明指日可待。有人憂心忡忡，擔心火箭終究不能抵抗地心引力，一不留神，人類文明有如火箭失去動力，前途莫測。

建立在科技上的烏托邦

樂觀的人多是相信科技萬能的未來學者，其中最有代表性的人物是被譽為愛迪生繼承人的 Ray Kurzweil，他在 2005 年出版的《奇點臨近》（The Singularity is Near）成為當年紐約時報暢銷書。他和另外一位相信人類前途無量的樂觀者 Steven Kotler 在矽谷合辦了一所短期學校，名稱便是奇點大學（Singularity University）。Steven Kotler 在 2012 年出版《富足：解決人類生存難題的重大科技創新》，主張人類雖然面臨種種挑戰，但在科技創新的貢獻下，所有瓶頸終將一一迎刃而解，這樣的樂觀態度使得這本書長期在暢銷書排行榜上居高不下。

奇點論者相信指數函數，並且以半導體中的摩爾定律為例，主張科技進步將循指數型的路徑發展。

過去 40 年來，半導體進步的速度基本上按照摩爾定律，每 18 個月密度增加一倍，到現在仍然沒有減緩，每次碰到以為過不去的關卡，總能及時開發出新技術找出突破點。例如台積電製程從五年前的 65 奈米，一路縮小到 40、28、20 奈米，明年 16 奈米即將進入量產，進步的曲線與摩爾定律幾乎亦步亦趨 。

但是半導體的物理性質總有極限吧？

許多科學家早已意識到這個危機，正多頭尋找下一代非半導體的技術。現在看來最有潛力的可能是納米管電晶體，其反應速度較現在的半導體快 1000 倍，做成記憶 IC，容量比快閃記憶（flash memory）高出 50 倍。雖然這些技術距離商品化還相當遙遠，但是當半導體技術繼續進步，研究工具越加犀利，新技術的距離也必然相對拉近。

事實上，除了納米管電晶體外，還有許多科幻小說中出現的瘋狂想法，都是當今大學實驗室中的熱門研究題材，分子、光、量子、DNA 都可以用來計算，只要其中任何一種技術成功，便可以形成典範轉移，跳入另一個截然不同的指數成長曲線。

某些生物科技也同樣呈指數成長，例如 DNA 定序的生產力（成本及時間）在過去 10 年增長 1 萬倍，比摩爾定律更為快速。由於 DNA 定序如此快速又便宜，不但可以大幅縮短新藥開發的過程，也讓個人化醫藥成為可能，人類壽命也因此大幅增加，再加上其他各種生技科技的進步， 甚至有人開始相信永生不死並不是神話。

依據 Ray Kurzweil 的推算， 2029 年時人工智慧將全面超過人類智慧，由於兩者相輔相成，最聰明的人可以將他的智力「上載」到雲端，成為電腦的智慧，另一個人在智力不足時，可以在雲端「下載」智力，因此科技更加快速發展，直到 2045 年終於抵達奇點，智力產生爆炸性成長，發展出超智能（super intelligence）。那個時候人類的演化不再是純粹生物層級的演化，而是人與機器的共同演化，到時候無論學習、感情、生死、生命，都必需賦予新的意義。

這些願景聽起來像天方夜譚，但絕不要以為 Ray Kurzweil 只是想像力豐富的瘋狂科學家，或是科幻小說作者，他擁有 12 個名譽博士學位，一生中所做過的 108 個預測，已經有 89 個實現，其中包括他預測西元 2000 年之前，電腦可以在西洋棋賽上擊敗人腦，結果事實比預測提早了三年發生。

奇點到底真的存在嗎？由於距離我們的直覺太過遙遠，多數人都感覺難以接受，特別是，指數究竟只是一個數學函數，有限時間內也許成立，時間尺度拉長，是否終究會受到邊界條件的限制？像是資源、能源或是環境都是無法超越的邊界條件。 石油、鈾、銀（Ray Kurzweil 預測 2029 年地球銀的蘊藏量將被用盡）、水等自然資源都有極限，地球攝氏 2 度增溫難保，那裡能夠支撐無限的成長呢？

奇點不受邊界條件所限

奇點論者卻不以為然。

以能源來說，人類每年所消耗的能源大約是 16 太瓦（tera watt， 10 的 12 次方），但是太陽照射到大氣層，帶來的能量高達 174 拍瓦（peta watt， 10 的 15 次方），其中雖然只有一半抵達地球表面，但也是人類消耗能量的 5000 倍之多，如果未來的科技能夠有效地截取這龐大的太陽能源中一小部份，已經可以充份應付石油枯竭帶來的危機。

人口持續成長帶來的糧食或飲水問題，奇點論者也不認為值得擔慮，解決的關鍵仍然是科技。地球表面 70% 由海洋覆蓋，海水無法為人類使用，純粹因為純化海水使用的能量太高，不敷成本，如果用奈米粒子來大幅改善過濾效果， 再加上有了便宜又潔淨的能源，水的供應自然不構成問題。

糧食問題也有許多解決的途徑。GMO 的持續改良，使得無論貧瘠、乾旱、或者是濕熱地區，都能有適合栽培的品種，大幅提高可耕種土地的面積，糧食的總產量自然也隨之增加。除此之外，人工培植肉類、雞蛋的技術再 10 年的時間便有可能達到商品化，到時候減少了從動物以植物為食物、然後轉換成肉類的效率損耗，自然增加了糧食的供給。

至於氣候變遷、地球暖化的問題，很大一部份是由於對化石燃料的依賴、和能源使用的效率太差。有一天再生能源如太陽能、風、潮汐高度發展，達到經濟效應，再加上能源使用效率改進，在奇點論者的眼中，人類的活動便不再會對地球環境造成威脅。

這種全面富足、無所匱乏的未來世界真的會發生嗎？ 什麼時候發生？2045 年離今天只有 30 年，人類真的可以在這麼短的時間裡，累積這麼多的創新能量，而且還能成功地躲過隨之而來的副作用嗎？（待續）