第十四章 動 機（第2/4頁）

“它是奉命行事。”李比回嘴道。

“我來引述一下第二法則：除非違背第一法則，機器人必須服從人類的命令。所以你看，我的命令應該無效才對。”

“荒謬。機器人並不知道……”

坐在椅子上的貝萊傾身向前。“啊！這就對了。讓我們把最正確的第一法則說一遍吧：機器人不得在知情的情況下傷害人類，或在知情的情況下因不作為而使人類受到傷害。”

“這個道理大家都懂。”

“我認為一般人並不懂。否則，人人都會了解機器人能進行謀殺。”

李比臉色蒼白。“你有精神病！你是瘋子！”

貝萊凝視著自己的指尖。“我想，凡是不會對人類造成傷害的任務，機器人都會執行？”

“必須有人下令。”李比說。

“是的，當然必須有人下令。而如果有另一個機器人，奉命執行另一件任務，只要這件任務不會對人類造成傷害，我想它也是會執行的？”

“沒錯。”

“有沒有可能，這兩件任務本身對人類都毫無危害，加在一起卻構成了一樁謀殺案？”

“什麽？”李比的表情變得很陰沉。

“我想請教你對這個問題的專業意見。”貝萊說，“我來說一個假設性個案吧。假設某人對機器人說：‘把這種液體放一點到某處的一壺牛奶裏。這種液體無毒無害，我只是想知道它對牛奶有何影響。一旦我確定了，便會把那壺牛奶倒掉。等你做完這項工作，把它忘得一幹二凈。’”

李比依舊沉著臉，什麽也沒說。

貝萊繼續說道：“如果我叫機器人把那個神秘液體加到牛奶裏，然後拿給某人喝，第一法則會促使它提出質疑：‘這個液體到底是什麽？會不會對人類有害？’即使我向機器人保證這麽做絕對安全，第一法則還是會讓它存疑，因而拒絕端出那壺牛奶。然而，如果我告訴它最後會把牛奶倒掉，第一法則就不會介入了。請問機器人會不會服從命令？”

李比開始面露兇光。

貝萊又說：“然而，第二個機器人並不知道那壺牛奶被動了手腳。在完全不知情的情況下，它把牛奶倒出一杯給某人喝，而那人就被毒死了。”

李比大叫一聲：“不會的！”

“為何不會？兩件任務本身都是無害的，只有加在一起才會構成謀殺。難道你否認有這種可能性嗎？”

“兇手應該是那個下令的人。”李比吼道。

“如果你追根究底，這麽說當然沒錯。不過，那兩個機器人卻是直接的兇手，是行兇的工具。”

“沒有人會下這種命令。”

“有這種人，而且他真做了。謀殺葛魯爾局長一定就是用這種方法進行的。我想，你應該聽說過這件事了。”

“在索拉利，”李比喃喃道，“每件事都會傳到你耳朵裏。”

“那你就該知道，葛魯爾是在吃晚餐時遭毒害的，而且是當著兩個人的面，除了我自己，還有我的搭档，也就是來自奧羅拉的奧利瓦先生。你能想出把毒藥送進他嘴裏的第二種方法嗎？當時，他的屬地上沒有別人。身為索拉利人，你一定明白這個事實。”

“我又不是警探，我對犯罪手法一竅不通。”

“我已經告訴你一種了。我想知道它是否可能；我想知道兩個不知情的機器人能否合作完成一件謀殺案。你是專家，李比博士，有這個可能嗎？”

不堪其擾的李比終於答道：“可能。”聲音低到貝萊幾乎都聽不見。

貝萊說：“很好。第一法則的討論到此為止。”

李比瞪著貝萊，只見他那下垂的眼皮慢慢眨了一兩下。他原本緊握的雙手這時已分了開，不過手指依舊彎曲，仿佛那兩只手仍各握著一只隱形的手掌。最後，他終於把雙手擺到膝蓋上，直到這個時候，十根指頭才總算放松了。

貝萊出神地瞧著整個過程。

李比說：“理論上有可能，僅僅理論上！可是地球人，別那麽容易就把第一法則否定了。想要智取第一法則，你必須對機器人下達非常高明的命令才行。”

“同意。”貝萊說，“我只是個地球人，我對機器人幾乎一無所知，剛剛我說的那些命令只是舉例而已。在這方面，索拉利人一定比我優秀得多，下的命令也高明得多。這點我很肯定。”

李比恐怕根本沒聽進這句話，他高聲道：“萬一機器人真能用來傷害人類，那就意味著正子腦的功能必須趕緊擴充。或許有人會說我們應當改良人類的品行，但那是不可能的，所以必須讓機器人更不容易受騙。

“我們一直有進展，相較於一個世紀前，我們的機器人變得更多元，更專門化，能力更強，而且更加安全了。而一個世紀之後，我們還會有更多的進展。如果船艦的操控裝置能夠內建正子腦，何必還要由機器人操控那些裝置呢？這就是專門化。不過，我們也能朝普遍化發展。何不替機器人裝上可置換的四肢，啊？有何不可呢？如果我們……”