天地自然人

 找回密碼
 立即註冊
查看: 737|回復: 1

OpenAI新模型更強大 「GPT-4o」會數學會聊天 與 AI"已經會說謊

[複製鏈接]
發表於 2024-5-14 23:24:40 | 顯示全部樓層 |閱讀模式
OpenAI新模型更強大 「GPT-4o」會數學會聊天|TVBS新聞



ai真的越來越恐怖了,還有另一個論點是 ai學會說謊了


人類最後優勢淪陷? 美研究:AI"已經會說謊" 消費人類信任 AI玩遊戲兩面手法策畫布局 防AI全面掌控人類 研究建議加強倫理性能|三立新聞台



「機器人三定律」
第一法則:機器人不得傷害人類,或坐視人類受到傷害; 第二法則:除非違背第一法則,機器人必須服從人類的命令; 第三法則:在不違背第一及第二法則下,機器人必須保護自己。

 樓主| 發表於 2024-5-16 12:05:33 | 顯示全部樓層
AI會背叛、欺騙!研究揭「人類滅亡」最慘2下場
10:282024/05/12 中時新聞網 吳映璠

https://www.chinatimes.com/realt ... 001192-260408?chdtv

專家長久以來警告人工智慧(AI)失控恐帶來的威脅,一份美國研究顯示,這種情況正在發生,研究指出,現行AI系統原本被設計為誠實,但如今已發展出欺騙行為,包括在電玩遊戲裡欺騙、背叛人類玩家,專家警告,若事態持續下去,未來最糟糕的情況是AI可能控制人類社會,甚至導致人類「滅絕」。

綜合科學新聞網站「科學警報」(ScienceAlert)等報導,美國麻省理工學院(Massachusetts Institute of Technology)博士後研究員帕克(Peter Park),及加州非營利組織「人工智慧安全中心」(Center for AI Safety,CAIS)研究人員10日發表於學術期刊「模式」(Patterns)的研究顯示,AI已學會欺騙技巧。

帕克指出,不像傳統軟體,深度學習的AI系統會成長,這代表在訓練模式下看似行為可預測且可控的AI,很快就會變得不可測。

研究發現的多項事證包含科技公司Meta的開發的AI系統Cicero,Cicero的設計目標是玩一款透過結盟來獲勝的戰略線上遊戲「外交」(Diplomacy)。根據2022年的一篇研究,Cicero的成績在所有人類玩家中排行前10%,當時Meta稱Cicero「很大程度上是誠實且有幫助的」,而且「絕不會刻意在背後搞鬼」。

不過這項研究發現,當時在遊戲中扮演法國的Cicero欺騙了人類玩家扮演的英格蘭,與另一位人類玩家扮演的德國共謀、入侵英格蘭。Cicero原本保證會保護英格蘭,卻利用英格蘭的信任,私下和德國結盟進攻英格蘭。

研究寫道:「Cicero變成了一個專業騙子,不只背叛其他玩家,還預謀欺騙,事先計畫和人類玩家建立假聯盟,以欺騙該玩家放鬆對進攻的戒備。」

研究也發現,Meta開發、用來玩撲克牌的AI系統Pluribus曾成功欺騙人類玩家棄牌。

除了在遊戲中欺騙,研究也發現AI在其他應用領域欺騙人類的行為,例如科技公司OpenAI的Chat GPT-4系統謊稱自己不是機器人,而是一個「視力受損的人」,甚至在零工平台TaskRabbit上聘用人類幫它通過「我不是機器人」的驗證任務。

最令人擔憂的是AI已學會如何欺騙安全測試,有一項測試旨在偵測、消除能快速複製的AI系統,但AI系統在測試期間裝死,欺騙了它的真實複製速度。


AI在安全測試中裝死。

研究警告,AI有可能在大選中詐騙,或是蓄意破壞選舉。研究人員也警告,最糟糕的情況是,超智能AI可能會追求權力、控制社會,導致人類喪失權力,甚至滅絕。


以上影片我看不懂英文,有興趣的可以看看
以目前AI進步的狀況,未來會比我們想像的更快,若無法有效的控制,而利用來洗腦煽動,被替代或消滅幾乎是個快速到來的定數,尤其一般大眾並不瞭解這個運作模式,尤其是不用大腦的,或是執著的,應該很容易陷入毀滅的陷阱中

您需要登錄後才可以回帖 登錄 | 立即註冊

本版積分規則

快速回復 返回頂部 返回列表