霍金每天都在大喊大叫讓我們小心人工智能，有些人認為這是危言聳聽。他們提出了四個理由。近年來，人工智能的話題一直很熱門。在一些科幻電影中，人工智能的發展無法被壓制，成為人類文明的終結者。一些大奶牛，如比爾蓋茨和霍金，已經警告過人工智能的發展;但是其他人認為人工智能在這個階段不是威脅。 2014年，SpaceX首席執行官埃隆馬斯克在推特上寫道：“博斯特羅姆的《超級智慧（Superintelligence）》非常值得一讀。我們需要小心人工智能?！蓖辏瑒虼髮W宇宙學家斯蒂芬霍金接受了BBC的邀請。采訪中說：“全人工智能的發展可能會導致人類的終結。”微軟聯合創始人比爾蓋茨也警告說：“我對人工智能持謹慎態度并持懷疑態度?！比斯ぶ悄軒淼氖澜缒┤諏⑷绾螌嵤?？計算機科學家Eliezer Yudkowsky于2008年出版《全球災難風險（Global Catastrophic Risks）》：AI未來有多大可能從單細胞生物發展到人類智能？他回答說：“有可能形成一個物理大腦。計算的速度是人類大腦的一百萬倍.如果人類大腦加速，那么一年的主觀思維將在31秒內。一旦它是完成了，一千年就過去了八個半小時?！癥udkowsky認為如果我們不這樣做就太晚了：”當你的神經元完成時，人工智能的時間維度與我們不同。當你想想'我應該這樣做'，你錯過了機會。“

牛津大學的哲學家尼克博斯特羅姆（Nick Bostrom）在他的《超級智慧（Superintelligence）》中提出了一個所謂的最大化紙夾的想法：人工智能被設計用于制作紙夾并在耗盡其原始原材料供應之后它將利用任何可用的原子它的影響范圍，包括人類。正如他在2003年的一篇論文中描述的那樣，“首先改變整個地球，為回形針制造設施增加空間?！痹诤芏痰臅r間內，整個宇宙由一個回形針和一個回形針制造商組成。

我懷疑這一點。首先，所有這些世界末日的場景都涉及一系列“if-then”事故，任何時候的失敗都會被推到所謂的世界末日。英格蘭西部布里斯托爾大學電氣工程教授艾倫·溫菲爾德在2014年的一篇文章中說：“如果我們成功地建立了與人類相同的人工智能，那么如果人工智能充分意識到它是如何工作的那樣理解它是否成功如果超級AI意外地或惡意地開始消耗資源，如果我們無法拔掉插頭和電源，那么是的，我們可能會遇到問題。這種危險并非不可能。第二，如果按照時間段進行檢查，你會發現人工智能的發展遠遠低于預期。谷歌執行主席埃里克施密特回應馬斯克和霍金：“你認為人類獲勝了嗎？”注意到這個？你不認為人類會關閉。這些電腦？“谷歌自己的DeepMind開發了AI關閉開關的概念，被稱為”大紅色按鈕“，可以用來接管AI。正如百度副總裁Andrew Ng所說（對馬斯克的回應），“就像我們甚至不在火星上一樣，我們擔心火星上會有人滿為患?！钡谌斯ぶ悄艿氖澜缒┤涨榫巴ǔＪ腔陉P于自然智能與人工智能的誤差比較。哈佛大學實驗心理學家Steven Pinker在回答2015年Edge.org年度問題“你對機器思維怎么看？”時作了澄清。 “人工智能反烏托邦項目將一種狹隘的阿爾法男性心理學投射到智力概念中。他們認為，超人智能機器人將'放棄他們的主人或接管世界'作為他們的發展目標。 “同樣，Pinker說，”人工智能將自然地沿著女性系統——發展，但不會想要消除無辜或主宰的文明。“”第四，暗示計算機將“想要”做某事（例如將世界變為一個紙夾）相當于AI有情感。正如科學作家邁克爾喬羅斯所說的那樣：“當人們生活在一個獎勵和懲罰的世界里時，我真的想做點什么，包括懲罰我們的不良行為?！辫b于歷史上世界末日的預測率幾乎為零。再加上幾十年來人工智能的緩慢發展，我們已經有足夠的時間建立自動防故障系統，以防止任何此類人工智能帶來的世界末日。“