谷歌旗下DeepMind團隊已經(jīng)開發(fā)出橫掃人類的圍棋軟件，現(xiàn)在正著力研究機器人之間的合作問題。

技術(shù)人員仍然在努力完善人工智能和自動化技術(shù)，讓它們可以在復雜世界完成一兩個簡單的任務(wù)，例如駕駛或測謊。但我們很容易設(shè)想在未來，許多機器人可以互相合作，解決更大的問題。在最近的試驗中，Alphabet Inc的DeepMind團隊就開始著手搞清學習機器如何合作——以及實際情況顯示的，為何經(jīng)常不合作。

這個團隊設(shè)計了兩個簡單的游戲，重復運行了它們幾千次，讓控制游戲的程序?qū)W習最有效的游戲策略。在某個游戲中，兩個人工智能要相互競爭，收集最多的資源（綠色“蘋果”），它們也可以選擇使用視頻下方的黃色光速射擊對手。

他們的發(fā)現(xiàn)，使得人們對于由人工智能驅(qū)動的不久未來，產(chǎn)生了一些擔憂。正如團隊在博文中所言，蘋果收集游戲中的人工智能會在資源豐富時和平共存。不過如果蘋果數(shù)量不夠，它們就會迅速開始射擊對方來取得優(yōu)勢。

更令人關(guān)注的是，無論周圍有多少資源，“有能力采用更復雜戰(zhàn)術(shù)的人工智能，都會更頻繁地攻擊對手，也就是表現(xiàn)得更不具合作性。”換句話說，人工智能為了達成目標，會毫不猶豫地妨害對手——以此類推，對于阻礙的人類也可能采取類似手段。

不過在另一個游戲里，這些程序有了更多的合作理由。如果人工智能“收集資源”所得的獎勵是共享的，那么它們就會設(shè)法合作——實際上也會表現(xiàn)得更加聰明。

這些試驗的推論值得密切關(guān)注。研究人員把這些的高度理性的人工智能機器人比作“經(jīng)濟人”（homo economicus）——一種完全以自身利益最大化為目的的假想人類，這也是20世紀經(jīng)濟學中存有瑕疵卻很關(guān)鍵的假設(shè)之一。然而現(xiàn)實世界里，人類不是完全理性的。因此，對于研究人員聲稱他們的游戲設(shè)定能幫助我們理解經(jīng)濟、交通等人類系統(tǒng)，也有人提出懷疑。

未來的機器人本身，注定要成為追求利益最大化的純粹存在。而在人們設(shè)計能夠?qū)W習和進化的人工智能時，甚至可以采用取代最狹隘的命令，如艾薩克·阿西莫夫的“機器人三定律”的行為準則。這其中當然存在著挑戰(zhàn)，不過DeepMind競爭算法導致的不平衡行為表明，在程序員至少還需要給機器人賦予某種形式的同情心。