在《2001太空漫游》這部科幻作品中，太空飛船上的人工智能電腦哈爾 9000 變壞了，在它看來，傷害人類是完全沒有問題的。科幻作品中的哈爾不是本來就壞的，但是這個新的機器人被賦予的唯一目標，就是傷害人類。別擔心，這個機器人不是某個軍事科技公司為軍方秘密研制的攻擊性武器。它是一個叫 Alexander Reben 的藝術(shù)家兼工程師創(chuàng)造的一件藝術(shù)作品。

　　通過這件極富討論意義的藝術(shù)作品，Reben 希望鼓勵人們聯(lián)合起來，一起解決機器人和人工智能變壞對人類產(chǎn)生的威脅。

　　Reben 的機器人作品明確的違反了阿西莫夫第一法則，即：機器人不得傷害人類，或坐視人類受到傷害。不過，它不會對人類造成嚴重的傷害。這個機器人能做的，只是在使用者手指上造成一個傷口。

　　Reben 這個機器人也不能主動尋找目標，要想體驗被它傷害的感覺，只能將手指放進它的攻擊范圍中由它攻擊。這樣的設(shè)計又可以被視為違反了阿斯莫夫第二法則——除非違背第一法則，機器人必須服從人類的命令。

　　對于一個遵照法則的機器人來說，它應(yīng)該視人類手指為一種命令并立即忽視。然而，Reben 的機器人卻不是這樣。它不存在條件語句告訴它在監(jiān)測到人類在攻擊范圍內(nèi)的時候應(yīng)該停止工作，它所執(zhí)行的假設(shè)命令只是攻擊。

　　Reben 不是唯一一個認為需要處理機器人和人工智能潛在威脅的人。谷歌目前就在努力做一件更大的事，他們打算設(shè)置一個”紅色按鈕“，以便在緊急情況下關(guān)閉人工智能。但是這個“紅色按鈕”并不是萬全之策，它能發(fā)揮作用的條件是：未來不會出現(xiàn)一個充滿好奇的人工智能得知了這個按鈕的存在并提前讓它失效。

　　推薦閱讀

　　澳研發(fā)醫(yī)療機器人：可為千公里外病人照超聲波

　　據(jù)香港“東網(wǎng)”6月8日報道，澳大利亞墨爾本迪金大學的智能系統(tǒng)研究所(IISRI)，近日研發(fā)出一款具有觸感的醫(yī)療機器人。即使身處遠至一千公里外的醫(yī)生，也可通>>>詳細閱讀

本文標題：打造出一臺違反阿西莫夫第一法則的機器人

地址：http://www.sdlzkt.com/n/jiqiren/1382.html

 1/2    1