“機器人殺人案”的幕后黑手究竟是誰？

機器人是人類的好幫手；然而，世界上發生了多起“機器人殺人案”。那么，案件的幕后黑手究竟是誰呢？這是值得我們深思的問題，也是值得學界正視的議題。因為機器人并沒有責任感，人類才應該為機器人做的事情負責。然而，隨著機器人越來越普遍，人們會越來越覺得它們真的具備自主性和意圖，因為它們看起來似乎有能力并且應該為自己負責。

在“機器人殺人”案例的言論中，人們都在或有意或無意地將因機械故障導致的安全事故與有意識行為的“殺人”事件混為一談，甚至張冠李戴。所謂安全事故，是指生產制造的過程中突然發生的，傷害人身安全和健康的意外事件；而殺人事件則是有意識的，在主觀行為驅動下導致的事故。所以，這兩者之間是有著本質區別的。在此，我們先來了解一下“機器人殺人”的典型案例。

1978年9月，日本廣島一家工廠的一名值班工人被該廠負責切割鋼板的機器人意外殺害；由于當時科技不夠發達，殺人事件僅被歸結為機器人智能低下，無法分辨人類和工業品。然而，這是世界上第一宗機器人殺人案件。1981年7月，日本川崎重工業公司明石工廠的一名修理工人，無意中觸動了機器人的啟動鈕，這個加工齒輪的機器人立即工作起來，把那個工人當成齒輪夾起，放在加工臺上砸成了肉餅。日本至今已有近20名工人死于機器人手下，致傷的也有8000多人。

1985年5月，前蘇聯發生了一起家喻戶曉的智能機器人棋手“殺人事件”。全蘇國際象棋冠軍尼古拉?古德柯夫同機器人棋手下棋連勝三局，機器突然內部程序大亂，本不完善的軟件系統一下子進入了失控狀態；機器人棋手因輸了棋而惱羞成怒，突然向金屬棋盤釋放強大的電流，在眾目睽睽之下將這位國際大師擊斃。

2015年6月，德國大眾汽車公司一家工廠發生一起悲劇，一名技術員被機器人“殺“死了。遇難技術員是大眾承包商，當時他與一名同事合作安置機器人，但被機器人擊中胸部，并被抓起、重重摔在一塊金屬板上，最終因傷重不治身亡。大眾汽車公司發言人海科?希爾威格先生接受媒體采訪時將這次事故歸咎于“人為失誤”而不是機器人。

2015年7月，一臺“發狂”的機器人“錯手”將美國密歇根州一家汽車零部件生產廠的一名女裝配工“殺死”。據調查人員描述，事發當時該裝配工在工廠六號廠房“100區”工作，然后不幸的是，其中一臺機器人突然“發狂”，從一個區走向另一區，在裝載完畢的地方仍試圖再裝一遍，胡亂得揮舞手臂，擊中了她的頭部。等到她的的同事發現有什么東西少了的時候，她已經死亡。

2018年9月，我國安徽蕪湖耐世特凌云有限公司發生了一幕慘劇：一名工人在給機器人換刀具時，突然被機器人夾住；雖然該工人很快被救下，但被送到醫院后，因傷勢太重，不治身亡。“肇事”的機器人屬于工業搬運機器人，外形類似吊車，有一個“粗壯”的手臂，主要用來抓舉、搬運重物。據悉，機器人將員工“殺死”這樣的意外，在我國還是第一次出現。

上述案例顯示，在我們的日常工作和生活中，因人員的操作不當或失誤導致的“機器人殺人”事件時有發生。雖然這些事件是不能責備一個人或一群人的，但是我們不能因為機器人給人的印象，就免除屬于它們的人類制造者的責任。其實揪出“機器人殺人案”的幕后黑手，倒不如推動機器人安全性能的提升。近年來，“機器人殺人”事件已經鮮有報道，因為科技的進步，人們的安全意識不斷提升，出現事故的幾率大大減小。

美國科幻作家艾薩克?阿西莫夫先生在1950年提出著名的“機器人三守則”：1.機器人必須不危害人類，也不允許它眼看人將受害而袖手旁觀；2.機器人必須絕對服從于人類，除非這種服從有害于人類；3.機器人必須保護自身不受傷害，除非為了保護人類或者是人類命令它做出犧牲。這三條守則，給機器人社會賦以了倫理性和安全性。至今，“機器人三守則”仍為機器人研究人員、設計制造廠家和用戶，提供了十分有意義的指導方針。

作為高新科技，機器人在給我們帶來有利因素的同時，也會存在相應的挑戰。要充分認識機器人的優勢和它可能存在的問題，做到趨利避害。正如我國學者周儀榮先生所言：“科技是一把雙刃劍，在它給人們帶來美好的同時也帶來一些麻煩；因此要合理利用科技，發揮它有利的一面，限制它不利的一面……”作為個體，我們要不斷學習高新科技，更新知識庫，要成為高新科技的掌控者，而非被科技所操控的對象。

文/崔勇(作者單位：東北大學機器人科學與工程學院)