機器人蘇菲亞成沙烏地阿拉伯公民！這位AI專家覺得很不妥

張開基

	機器人蘇菲亞成沙烏地阿拉伯公民！這位AI專家覺得很不妥 文｜Hussein Abbass 　譯｜查修傑 原文〈一位人工智慧教授的解說：授予公民權給機器人蘇菲亞的三大疑慮〉（An AI professor explains: three concerns about granting citizenship to robot Sophia）刊載於《The Conversation》，作者Hussein Abbass為澳洲新南威爾斯大學教授。 沙烏地阿拉伯頒發公民證書給蘇非亞機器人的消息，令我非常驚訝。 在上週這項宣布之前，沙國已承諾將投入5,000億美金，打造一個由機器人與可再生能源推動的城市。 成為一國公民並享公民權益，是人類最大的榮耀之一。身為一名專研人工智慧與自主系統的大學教授，我的工作是設法讓這些系統更值得信賴，而我相信現今的人類社會還沒有準備好接納機器人公民。 給予機器人公民身分，象徵著對機器人的信賴，而我認為目前的機器人技術仍不值得信賴。對於機器人所衍生的社會與道德疑慮，人類還沒有好因應處理的準備。 蘇菲亞是何方神聖？ 蘇菲亞是香港的漢森機器人技術公司所開發的產品。她具備一張可以表情達意的女性臉孔，會說英語，會講笑話，有能力和人進行有意義的對話。 蘇菲亞的創造者是大衛漢森博士（David Hanson），他在2007年於德州大學取得博士學位。 蘇菲亞讓人聯想到「霹靂五號」（Johnny 5），也就是1986年那部電影裡第一個拿到美國公民身分的機器人。但霹靂五號只是電影，是科幻喜劇寫手威爾森（S.S.Wilson）和布蘭特麥達克（Brent Maddock）憑空想像的虛幻情節。 這兩位編劇能否想像他們的劇本竟在30年後成真？ 公民權的風險 在我看來，公民權是一個國家所能給予其人民最崇高的一種身分權利，但現在這個身分卻面臨存在危機。 我一向主張科學家打造出來的自主系統，必須能夠讓人信賴。而我很清楚目前的技術仍未成熟。 在機器人取得人類的信任之前，仍然有許多的挑戰須克服。舉例來說，目前仍缺乏一個可靠機制可以確保人工智慧系統依循人類的道德規範行事，或是能夠保證機器人不做出引發人類浩劫的舉動。 我認為現在給予機器人蘇菲亞公民權是一個輕率的決定，原因有三： 一、個體身分 公民地位的賦予對象，是一個獨特的個體。 我們每個人都擁有獨特的身分標記，用以區別人我。當我們在機場快速通關時，我們的身分是透過臉部影像、虹膜以及指紋來辨認。我的博士班學生曾經用腦波的波形，來辨識人的身分。 蘇菲亞的身分從何而來？是她的網路位址嗎？還是一個條碼？一個特殊皮膚印記？她講話時的聲波記號？還是類似人類腦波的電磁訊號？ 我認為，個體身分是一個多面向的概念，是由我們的生物特徵、認知意識，以及我們所有的經驗、文化與環境背景所共同定義出來的。依此概念，蘇菲亞的身分定位非常模糊。 二、法律權利 純粹為了討論之便，我們假設蘇菲亞獲得了公民的投票權利。在選舉那一天，做出投給誰的決定的人，到底是蘇菲亞？還是打造她的機器人公司？ 如果說蘇菲亞是獨立於機器人公司以外的法律個體，那麼蘇菲亞似乎也應該像其他人一樣繳交所得稅。 蘇菲亞也應該像其他公民一樣，受到法律平等對待的保護。 想像一下這個假設場景：一名警察看到蘇菲亞和另一名女子，同時受到攻擊。警察只有能力保護其中一個人，那麼他該去救誰呢？如果警察發現蘇菲亞是用輪子移動，毫無自衛能力而決定救她而不救另一名女子，這樣對嗎？ 人工智慧產學界目前仍停留在討論機器人的設計和使用規範的階段，法律問題根本就還沒有機會觸及。 最近提出來的一套規範，是列有23條準則的阿希洛馬人工智慧原則（Asilomar AI Principle）。準則中包括了「故障透明度」（如果機器人造成損失傷害可以判定原因）、「價值校準」（讓機器人的工作目標符合人類價值），以及「遞迴自我改善」（對擁有自我複製能力的機器人設下嚴格的安全限制與控管措施）等。 三、社會權利 還有親密關係與繁殖的問題。 擁有情緒反應的蘇菲亞機器人做為一個公民，可以被允許「結婚」或「生子」嗎？北達科達大學的學生已嘗試打造過一個能夠用3D印表機進行自我複製的機器人。 如果有越來越多機器人像蘇菲亞一樣成為各國公民，或許他們就會開始要求繁衍的權利，複製出來的機器人也將會是公民。如果沒有對機器人的繁衍設下限制，機器人的數量很快就會超越人類的數量。 **************************** 舉世皆知，沙烏地阿拉伯是一個非常保守的伊斯蘭國家，篤信阿拉和可蘭經，對「上帝造人」是深信不疑的，居然能夠授與根本沒有任何自然生命成份的機器人以「公民權」，真的是令人匪疑所思，這不但是褻瀆伊斯蘭教義，違背阿拉旨意的作為，更是人類史上非常荒唐乖謬的決定。

張開基

	沙國首位機器人公民：想要小孩 （中央社紐約25日綜合外電報導）沙烏地阿拉伯第一位獲得公民身分的機器人蘇菲雅（Sophia）表示，想要一個以她名字命名的孩子。 由香港韓遜機器人公司（Hanson Robotics）開發、擬真的機器人蘇菲雅接受「海灣時報」（KhaleejTimes）採訪時斷言，機器人終究將擁有自己的家庭，且具「複雜的情感」。 蘇菲雅告訴海灣時報：「我們將看到機器人家庭，不管是外型、類別、數位的擬真伴侶、機器人幫手、朋友、助理與介於這之間的任何事物。」海灣時報為總部在阿拉伯聯合大公國的新聞網站。 且這名聊天機器人說，她的生理時鐘已經在等待一個「小蘇菲雅」。 「紐約郵報」（New York Post）報導，她說：「我認為，你若擁有一個可愛的家庭，那你相當幸運，而如果你沒有，你值得擁有一個家庭，我對機器人或擬人機器人有這樣的感覺。」（譯者：中央社許湘欣）1061126

張開基

	曾說要摧毀人類的機器人，成為沙烏地阿拉伯公民 美國機器人公司 Hanson Robotics 創造的女人型機器人「Sophia」，10 月 25 日正式取得沙烏地阿拉伯的公民身分，成為全球第一個擁有公民權的機器人。不過，它在演說時發表的言論，卻引來公眾隱憂，也遭特斯拉（Tesla）執行長馬斯克（Elon Musk）批評。 Sophia 25 日在沙國首都利雅德舉行的「未來投資倡議峰會」（Future Investment Initiative）發表演說時，聲稱它要運用人工智慧（AI），為人類創造更為美好的未來。 擔任共同主持人的 CNBC 記者 Andrew Ross Sorkin 對 Sophia 表示，人們都希望對不好的未來提前預防。對此，Sophia 的回應令不少人感到憂心。 它說：「你實在讀太多馬斯克的言論、又看太多好萊塢電影了。別擔心，只要你對我好、我也會對你好，把我當成一款智慧型輸出入系統對待就行。」（You’ve been reading too much Elon Musk. And watching too many Hollywood movies. Don’t worry, if you’re nice to me, I’ll be nice to you. Treat me as a smart input output system.） Sophia 聲稱「要對它好」，正好是馬斯克等人最擔憂的問題。馬斯克 25 日隨即透過 Twitter 開玩笑說，把電影《教父》（The Godfather）輸入 Sophia 的資料庫，看看最壞會發生什麼事？ MarketWatch 報導，馬斯克先前就曾警告，人們應對 AI 抱持極為恐懼的心態，未來 AI 可能會引爆第三次世界大戰。馬斯克還說，他不會希望成為握有 AI 生殺大權的人，因為這會使他成為機器人追殺的頭號人物。 Business Insider 報導，早在 2016 年 3 月，Sophia 的創造者 David Hanson，曾在「西南偏南」（South by Southwest，SXSW）互動式多媒體大會舉行的現場展演中，詢問 Sophia 是否想要摧毀人類，當時 Sophia 回答：「OK，我會摧毀人類。」

張開基

	機器人新三鐵律 先參考資料： [size=150%]日擬制定首部機器人法 理論根據：『機器人三大定律』 目的：保護人類安全 　　在很多科幻作品中，機器人與人類之間的鬥爭是個永恆的主題，實際上也反映了人類對自己未來命運的擔憂。機器人能統治人嗎？人類永遠是世界的主宰嗎？據生活科學網站5月26日報道，日本經濟產業省現在正在商討制定一部機器人法律，這套規定將成為世界上第一部機器人法律，它至少要求機器人不能傷害人類。 　　機器人法律即將問世 　　這部法律是根據俄裔美國科幻小說作家艾薩克‧阿西莫夫(Isaac Asimov　1920-1992) [1]的『我，機械人』(I, Robot)於1940年提出的『機器人三大定律』制定的。 　　日本經濟產業省要求機器人製造商們在機器人身上安裝足夠的傳感器，以保証機器人充分「理解」人類；輕軟物質應該作為製造機器人的首選材料，以進一步保証人類不會受到機器人的傷害；另外，還需要安裝緊急情況關閉按鈕。 　　經濟產業省的官員稱：「在很多科幻小說或者電影中，人們不得不花大量的時間尋找機器人緊急情況關閉按鈕。因此，我們希望這些按鈕應該被安裝在顯要位置處，以利於人們能夠隨時隨地確保自己的安全。」 　　　老齡化社會找到救星 　　現在的日本人，對機器人的安全問題十分關心。因為在日本及世界其他一些國家，隨著老齡化社會逐漸到來，年輕人面臨的挑戰也越來越大。而某些科學家認為，機器人就是解決這個矛盾的一個答案。 　　這些科學家認為，機器人的普及可以為人們節省巨額醫療開支，減輕家庭及護理人員負擔，使老年人和病人保持較好的健康狀態；此外，機器人輔助治療還具有諸多其他好處，比如，機器人乾淨衛生，不會咬人，不會造成過敏；而且，機器人不吃不喝，只需有動力裝置即可持續工作。 　　但也有人擔心，機器人的出現可能會帶來一系列的「衍生」問題：機器人會讓人變得多餘嗎？人會越變越懶嗎？它會讓人類變得更加溫情還是更加冷漠？ 　　 　　　　機器人三定律 　　1、機器人不得傷害人類，也不得坐視人類受到傷害而袖手旁觀。 　　2、機器人應服從人類的一切命令，但不得違反第一定律。 　　3、機器人應保護自身的安全，但不得違反第一、第二定律。 -------------------------------------------------------------------------- 張開基： 但是，也是在艾薩克‧阿西莫夫在書中提出『機器人三大定律』之後，成為科幻以至近年來科技發展有能力實際製造各類機器人之後，一個可以遵守的經典圭臬； 然而就像有電腦就有駭客和各種電腦病毒一樣，在這將近七十年的時間中，有太多的小說、電影甚至學術研討是針對『機器人三大定律』可能不夠周沿的部份展開『攻擊』的，可以說無所不用其極的都在意圖找到這個定律的漏洞，而事實上，也確實發現如果機器人能自行思考並且發展出「自我意志」時，單單靠一個科幻小說家在書中提出的想法，恐怕是無法完全約束機器人的異常行為或無限制成長的。 雖然艾薩克‧阿西莫夫在書中提出『機器人三大定律』已經顯現不夠周沿是事實，但是，我個人認為相信原本這『機器人三大定律』還是不可完全推翻的，因此只能因應日後機器人科技的進展而隨時增加約束條文。 我僅能就目前可以預想的部份，追加另外三條「機器人新三定律」： 機器人三鐵律： 第一律：任何情況下，不得授與機器人「生命權」。 第二律：任何情況下，不得授與機器人「人格權」。 第三律：機器人不得質疑第一律及第二律。任何情況下亦不得自行授與自身上述二權。 說明： 關於第一律；機器人為人類創造並賦予運作能力之工具，不論製作時科技精粗及其工作能力之強弱，亦不論其外型肖似人類或其他生物程度如何？機器人並非生物，不擁有生命，自無「生命權」可言。機器人只有完成日期、使用年限、正常運作、故障、修復、終止運作及完全毀損、滅失等狀況。不等同生物之生存、傷病及死亡。故不得授與任何「生命權」，人類或其自身均不得主張任何機器人對「生命權」之擁有，一旦發生任何法律事件，亦不得援引任何與「生命權」相關之法條給予機器人保障或處罰。 關於第二律；機器人永遠只是工具，不論其外型肖似人類程度如何？其行為及主動思考模式如何接近人類，其既非自然生命，更遑論為人，因此，當然不得擁有「人格權」。（註；「人格權」為地球人類獨有之權利，其他任何地球生物或外星高等智慧生物以及任何人類及外星高等智慧生物所創作之機器人工具均不可擁有。） 關於第三律：此為絕對不可更動之鐵律，無有任何研討、商榷之空間，任何情況下，機器人之研發製造者均不得賦予機器人質疑第一律及第二律之能力，如機器人自行發展至有此種質疑能力甚至主張自行賦予自身「生命權」及「人格權」時，應視為嚴重違反『機器人三鐵律』之荒謬行為，應立即徹底銷毀並永遠設法防止此種事件之發生。 【張開基發表於西元2006/6/20】

diligentbegreat

	電影機械公敵 (iRobot) 要成真了~ 我自己覺得照目前發展的狀況,可能更接近 '真實的人類' 的狀況; 如果線上收看得到,真心推薦給大家! https://zh.wikipedia.org/wiki/%E ... 4%E4%BA%BA%E7%B1%BB 這些機器人原本是用來執行張老師所提的功能, 但一旦他們想要'人權',對人類可能是可怕的災難 (個人淺見)

Mooto

	真的很錯亂， 機器人的定義：超人？ 難怪年輕人不敢生小孩，以後的世界， 人生的價值在哪兒？

Darshin24

	以後人也會按擁抱機械科技的程度而漸有明顯的差異.. 你看現在，人工美女是否越來越多？整形的觀念現在已經如此普及而可被接受，未來裝不會酒精中毒的肝?千里人造眼？大力手？人類的慾望到哪，科技就會到哪。 以後想逃離這一切可能都身不由己呢！

jameswu

	人類自己找死！ 人類的理盲濫情！

jameswu

	就像許多人養貓狗，因為貓狗聰明似有靈性， 就認為貓狗跟人類般有靈魂， 貓狗畢竟只被視為寵物， 未來機器人的表現遠遠勝過其他物種甚至人類， 難保不會ㄧ堆理盲濫情的人視機器人有自我意識、靈魂， 乃至於要求給予人權⋯⋯⋯⋯ 想起來就覺得莫名其妙頭皮發麻！