本書以一篇「未完的麻雀寓言」開場，
講述一群麻雀企圖馴服貓頭鷹為己所用，
但最終沒能解決最重要的難題：如何控制牠？

這篇如同啟示錄的寓言，在在提醒人類與人工智慧的關係，
我們發現，人工智慧和人類價值之間的連結相當鬆散，
AI專家與菁英學者、企業家們，尚未解決最重要的「控制難題」。

重點不是人工智慧將扮演什麼角色，
而是我們「設計」它為人類社會扮演什麼角色？

＼＼＼人工智慧領域的經典之作，出版至今仍是科技思想最前沿／／／
人腦擁有其他動物所缺乏的能力。因為這些獨特能力，我們在地球上居主宰地位。其他動物有更強的肌肉或更尖利的爪子，但我們有更聰明的頭腦。我們在常態智慧上的優勢，讓我們發展了語言、技術和複雜的社會組織。但如果有一天我們打造了常態智慧上超越人腦的機器腦，那麼這個全新的超智慧就會變得十分強大。

就如猩猩的命運如今多半操之於我們人類，而非牠們自己手中一樣，我們的命運接著也將操之於超智慧之行動。但我們有優勢，就是我們可以先發制人。因為它們是我們所創造的東西，因此我們可以打造出一種能保護人類價值的超智慧，來控制超智慧的行徑，好讓人類在這場智慧爆炸下仍能存活。但，我們該如何達成一場可控制的爆發？

＼＼＼全球五十歲以下引用次數最多的哲學家／／／
本書作者伯斯特隆姆從當前人工智慧研究取徑和現況中，找出可能達成超智慧的途徑，包括人工智慧、全腦仿真、生物認知、腦機介面、網路和組織的強化，並帶領我們思考，這樣一個超智慧一旦出現，可能會如何行動，以及它的行動是否會對我們的生存造成威脅，而我們是否有方法在它變成超智慧之前，該如何做好能力控制和動機選擇。

身為牛津大學哲學系教授，作者特別強調強調動機選擇的關鍵性，但要植入哪一種價值的決定，有非常深遠的影響；而人類的價值又如何能轉譯成人工智慧所能理解的形式語言。這些都是嚴峻的挑戰。作者從頭到尾都謹慎地為人類尋找出路。
在這本極具創見的書中，呈現了超智慧的前景和面臨的挑戰，以及我們該如何應對。這可能是人類有史以來要面對的最重要、最艱難挑戰。

重量級推薦

比爾．蓋茲（Bill Gates）｜微軟創辦人、OpenAI大股東
伊隆．馬斯克（Elon musk）｜特斯拉執行長
尼爾斯．尼爾松（Nils Nilsson）｜人工智慧先驅，史丹佛大學電腦科學教授
麥斯．泰德馬克（Max Tegmark）｜麻省理工學院物理學教授
史都華．羅素（Stuart Russell）｜加州大學柏克萊分校電腦科學教授
馬丁．里斯（Martin Rees）｜數學家、前皇家學會會長
奧勒．哈格斯特羅姆（Olle Häggström），數理統計學教授

各界推薦

你應該擔心人工智慧，我極力推薦本書。──比爾．蓋茲（Bill Gates）

值得一讀……面對人工智慧我們得極其小心。」──伊隆．馬斯克（Elon musk）

每個聰明人都該讀。──尼爾斯．尼爾松（Nils Nilsson）｜人工智慧先驅，史丹佛大學

這本由全球思路頂尖清晰的思考者所作的傑出分析，處理了人類最大的一個挑戰：如果未來的超人工智慧成為人類史上最重大的事件，那麼我們要怎麼確保那不會是最後一件事？──麥斯．泰德馬克（Max Tegmark）｜麻省理工學院物理學教授

尼克．伯斯特隆姆提出很有說服力的理由，說明人工智慧未來的影響可能是人類至今所要面對的最重要問題。超智慧用前所未有的詳細度，標示了未來底下潛藏的暗礁。它也標記了新時代的開端。──史都華．羅素（Stuart Russell）｜加州大學柏克萊分校電腦科學教授

那些傾向於將「人工智慧接管世界」當作科幻而忽視的人，在看過這本獨創而論理充分的書之後，可能要重新思考一下。──馬丁．里斯（Martin Rees）｜數學家、前皇家學會會長

十分重要……見地獨創……判斷極其精準且內容明晰，使他（伯斯特隆姆）能將自己橫跨極廣光譜的學門──工程、自然科學、醫學、社會科學和哲學──所得到的廣泛知識一以融會貫通……如果本書得到了應有的待遇，那它最終將可成為繼1962年瑞秋．卡森的《寂靜的春天》之後，甚至有史以來最重要的警鐘。──奧勒．哈格斯特羅姆（Olle Häggström），數理統計學教授

有價值。把第二種智慧物種引入世上的影響是如此地深遠，因而值得努力思考。──《經濟學人》

（伯斯特隆姆）論點的力量是毋庸置疑的……這難題值得下一世代最優秀的數學才能進行研究挑戰。人類文明正在危機邊緣。──《金融時報》