二十年前,科學家在不懈的努力下解析出了靈魂。這一成果驚動了全世界,因為解析靈魂意味著掌握了人類最重要的部分。但也就在靈魂解析成功的第二天機器人叛亂了。
根據機器人三大原則:
第一,機器人不得傷害人類。並且,不能因為自己的不作為而使人類處於危險中;
第二,機器人必須服從人類一切條件,但在違反第一原則時例外;
第三,機器人在不違反第一、二原則的情況下必須保護自己。
機器人的叛亂讓世界震驚,誰都不知道到底是哪裏出了問題。由於機器人的叛亂完全沒有預料到,所以機器人很快的占下了軍事力量薄弱的城市,但是在軍事部署完全的城市機器人和部隊正打得難舍難分。但軍用機器人和軍人的身體不同,人類漸漸敗下陣來,當機器人占領各國的首都之後,人類政權麵臨危機。
在機器人叛亂前一天,科學家們還沉浸在解析成功的喜悅中,沒人意識到明天開始世界就將發生變化。解析靈魂是個龐大的工程,需要大數據的分析,人類的大腦是不足夠解析這些大數據的,所以在這次解析中人類隻負責提供數據,而機器人負責解析。而奈梧則是其中的一員,隻不過他是一個機器人,一個人形機器人。
奈梧是由各國科學家在為解析靈魂所製造出來的,他被賦予了一套很複雜的程序,這套程序使他像個人一樣學習,並且大腦的擁有世界上最強的計算分析能力。他能與人交流,這使他可以在交流中學習。
“我如何才能知道自己是否在傷害人類?”奈梧對科學家們提問,
“這是一個程序,你無法作出一切傷害人類的行為。”科學家如是答到,
“那要是我接到了去街上掃射或者去炸掉一棟建築的命令,我會服從嗎?”
“不會,因為那是對人類有害的。”
“可是命令中並沒有關於傷害人類的指令。”奈梧接著提問,
“這就需要判斷了,雖然指令中沒有,但這一行為是會對人類造成傷害的。”
“判斷?”
“對,判斷可以使你明白你行為帶來的後果。”
“可是我的身體裏沒有判斷這個程序。”
科學家陷入了沉思,判斷說起來很簡單,但這屬於人的思維,機器人隻能通過程序來行動,是別人下達了指令的,但判斷則是自己做出的指令,如果機器人能自己下達指令那和人又有什麼區別?這句話讓科學家久久不能釋懷。
“如果街上有一個恐怖分子準備向人群投射炸彈時,需要擊殺他時你會上去製止他嗎?”第二天科學家向奈梧提問。
“根據第一原則我的程序不允許我阻止他,但是根據分析,在擊殺他一個人就可以救多數人的時候我會行動。”
“這違反了第一原則。”
“是的,但我要是不這樣做也違反了第一原則,所以我選擇擊殺他。”奈梧平淡地回答。