不久前，人工智能領域的1000多名專家聯(lián)合發(fā)表一封公開信，呼吁在世界范圍內(nèi)禁止“殺手機器人”。著名科學家斯蒂芬·霍金、特斯拉首席執(zhí)行官埃隆·馬斯克以及蘋果聯(lián)合創(chuàng)始人史蒂夫·沃茲尼亞克都在這封信上簽了名。

公眾對“殺手機器人”并不陌生。好萊塢大片《終結者》系列中，人類研制的高級計算機控制系統(tǒng)“天網(wǎng)”有了自己的意志，將人類視為仇敵，剝奪了數(shù)以億計的生命。導演詹姆斯·卡梅隆在呈獻給觀眾無比震撼的視聽享受時，也將一個問題帶給熒屏之外的觀眾：人類是否將面對機器人帶來的威脅？

盡管科幻小說、電影從未停止刻畫對“殺手機器人”的焦慮和恐慌，但在現(xiàn)實世界中，相關機器人的研發(fā)與應用卻不斷發(fā)展。據(jù)報道，美國陸軍計劃以數(shù)萬機器人代替普通士兵服役，并會在未來繼續(xù)擴充。盡管目前應用于軍事行動中的機器人依舊高度依賴人類的指令，主要從事偵察、爆破、后勤和安保等任務，距離自動化軍事機器人尚遠。但不難預見，一旦軍事機器人突破了依賴人類的“奇點”，它們帶來的問題將遠遠超過技術層面。

軍事機器人的辯護者認為，機器人將代替人類成為戰(zhàn)爭負面因素的承受者。一方面，它們讓士兵遠離戰(zhàn)場，從而避免了人類的傷亡；另一方面，它們代替人類執(zhí)行殺戮，善良的人們不會被迫去終結他人的生命。此外，軍事機器人還將在打擊恐怖主義、抗擊自然災害、開展人道主義救援等領域大展拳腳?！澳菚r，打開電視看看哪一方取得了戰(zhàn)爭的勝利，就像觀看一場足球比賽一樣輕松?！?/p>

當然，還有更“務實”的考慮。與人類士兵相比，機器人的成本要低得多，維護一臺機器人的成本預計不到培養(yǎng)一名人類士兵成本的1/10。美軍司令部曾表示：“它們不會饑餓，不會恐懼，不會遺忘命令，不會在意身邊的伙伴剛剛被射殺。它們會比人類表現(xiàn)得更好嗎？當然?！?/p>

不過，現(xiàn)實往往會和理想的路徑錯位?！皻⑹謾C器人”代替人類執(zhí)行殺戮，決定死亡降臨到誰的頭上，勢必產(chǎn)生難以回避的倫理困境。

一直以來，戰(zhàn)爭的殘酷性都受到人類拒不傷害同類的自然本性的抑制。倘若參與戰(zhàn)爭的是機器人，情況就完全不同了。此外，人類的法律體系如何適用于人類以外的行為主體，這又將是人類社會面臨的新挑戰(zhàn)。

人們有理由問，“殺手機器人”會不會扮演現(xiàn)代社會里的斷頭臺角色？它們讓真正的戰(zhàn)場離發(fā)動戰(zhàn)爭的人更為遙遠，這也將造成人道主義的幻覺，讓戰(zhàn)爭更易于接受。正如《金融時報》評論認為的，在減少殺人方面，對殺戮的厭惡是重要因素，其作用不亞于任何技術突破。將人工智能插入這條因果鏈，將弄混“殺人決定”背后的責任。

縱有無數(shù)種技術層面的理由證明“殺手機器人”的優(yōu)越，但如何直面披上人道主義外衣的“殺手”，仍將是難解的謎題。