人工智慧的最大危險不在於事情可能出錯，而在於其發生的速度。歷史上，人類在決策鏈中一直是個別的保險裝置——那個能夠延緩流程，讓判斷在必要時啟動的東西。代理人工智慧完全消除了這個保險裝置。僅僅是對於進攻性網路攻擊的後果，就應該讓任何董事會保持警覺。此前，經濟因素抑制了攻擊者全面自動化攻擊的動機：這根本不划算。機器學習打破了這個限制。當人工智慧系統在受控環境之外相互作用，並且事情以機器的速度發生偏差時——可能根本無法阻止這一切。我們甚至還未開始思考的這項技術的不可預見後果，將不會緩慢發展。