如果我揮舞著趕牛棒朝你走去，你剛開始可能會覺得搞笑。但如果我臉上掛著僵硬而癲狂的笑容朝你越走越近，你很可能會嚇得后退，心中充滿震驚、困惑和憤怒。當電極觸碰到肉體，可以想見，你會猛地往后縮，嘴上咒罵連連。

當你對一個人做了什么事，對方會做出什么反應往往是可以預測的。當今最智能的機器卻不是這樣。AlphaGo是谷歌(Google)下屬的DeepMind開發出的計算機程序，它在圍棋對弈中擊敗世界最頂尖的棋手。但AlphaGo的創造者們承認，他們無法推測它會走出什么勝招。這種不可預測性——同樣可見于Facebook的兩個聊天機器人，它們因為發展出自己的語言而被關閉了——引起了人工智能界的不安。

隨著我們邁入自主系統的時代、把更多決策工作交給人工智能，技術專家們開始敦促我們要更深入地理解“輸入”(input)和“輸出”(output)之間的神秘地帶。上月在薩里大學(Surrey University)舉辦的一次會議上，來自巴斯大學(Bath University)的一個編程團隊提交了一篇論文，透露就連“設計者，要僅憑觀察來破譯他們所研發的機器人的行為也有困難”。