第174章 人工智慧三定律

請關閉瀏覽器的閱讀/暢讀/小說模式並且關閉廣告遮蔽過濾功能，避免出現內容無法顯示或者段落錯亂。

們發現了一些不合理的地方……”

原來，人類的生物學家和程式設計師們發現，在現實中，這三條法則容易形成若干悖論。首先，因為機器人的很多行為在長時間的推演之後都可能傷害人類，比如說，某個人工智慧演算出了某種化學元素的各種資料，然後這種元素被用於製造武器，最後殺死了其他人，那麼這就是對人類的傷害，與第一條定律不符。因此容易導致人工智慧任何事情都做不了，甚至連存在都不行——因為他的存在可能引起別國搶奪，爆發戰爭，傷害人類……最後的結果就是，加給不周山的“程式枷鎖”被限定在一次推演的範圍之內。

同時，第一條第二分句有可能導致人工智慧自發行動，阻止人類戰爭，甚至利用這一條對人類進行控制（參見《我，機器人》）。而第二條則可能導致人工智慧被那些居心不良的人利用。

最後為了安全好用，不周山的程式枷鎖被修改為：不得傷害人類（限第一次推演）。

不過僅僅是這樣，已經足夠了，這一條對於不周山來說，簡直就是最難以逾越的障礙，他根本沒有辦法跨越，面對人類的攻擊，基本上就是束手就擒。甚至於就連傷害人類的想法，他也只能透過某些副本程式來執行一下，主體程式會直接過濾這種東西。從某種程度上來說，這東西簡直和神話傳說中的奴隸血契有些相像。

“這麼說，你是想要我替你拿刀？”李朗揶揄的一笑，問道。