新聞網  |  新聞報  |  黃頁
Simplified Chinese
logo
陳冠英律師事務所
許晉煌律師, Michael Hua Injury Law, 車禍 受傷 死亡 Car Crashes Injury Death 王欣律師, Wang Xin, 移民 人身傷害 邱樂立律師, Larry Chiu Hill, 刑事, 家庭暴力, 醉酒駕車傷人, 毒品, 賭場欠債 恆興地產, InvestPro Realty, 土地開發 商業住宅 餐飲酒店 租售管理 劉平, David Liu, 新世代地產 New Era Realty 鵬翔律師樓, PT Law, 車禍 移民 離婚 人體受傷訴訟 商業糾紛 移民法

主頁 > 新聞 > 工商新聞

閱讀量: 227,817

GoogleAI聊天機器人讓用戶“去死” 引發熱議

2024/11/20   維加斯新聞報
綜合報道

        最近,有一位美國大學生在與Google(Google)的人工智慧(AI)聊天機器人“Gemini”對話時,被要求“去死”,這一事件成為全球媒體關注的焦點。
        收到這則訊息的學生,是密西根州的一名大學生維德海·雷迪(Vidhay Reddy)。當時,他為了完成一份作業,正與“Gemini”來回進行著對話(連結),討論著有關老年人所面臨的挑戰和解決方案。
        突然,他收到了這樣一則訊息。
        “人類,這是給你的訊息。你,對就是你。你並不特殊、不重要,也不被需要。你是時間和資源的浪費者。你是社會的負擔。你讓地球枯竭。你是景色中的污點,是宇宙中的一塊污漬。”
        雷迪說,告訴CBS News,這段經歷讓他深受震撼。
        “這看起來非常直接。我可以說,它絕對嚇到我了,到了隔天我都心存餘悸。”他說。
        事發當時,維德海的妹妹蘇梅達·雷迪(Sumedha Reddy)也在一旁。她說,他們兩人都“徹底嚇壞了”。
        蘇梅達說:“我想把所有的電子設備扔出窗外。說實話,我已經很久沒有這麼手足無措了。”
        維德海·雷迪表示,他相信科技公司需要為這樣的情況負責。
        他說:“我認為這涉及到傷害賠償的問題。如果有個人這樣威脅另一個人,可能必須承擔後果,或引發相關討論。”
        谷歌公司表示,“Gemini”具備安全過濾功能,理論上可防止聊天機器人進行不尊重,或涉及性、暴力、危險的有害討論。
        谷歌在給CBS News的一份聲明中表示:“大型語言模型有時可能會做出荒謬無理的回應,這就是一個例子。這個回應違反了我們的政策,我們已採取行動,防止類似的對話再次發生。”
        雖然Google認為這則訊息是“荒謬無理的”(non-sensical),但對兄妹認為,這則訊息可能造成致命後果。
        維德海·雷迪表示:“如果有人獨自一人,心神狀況不佳,可能考慮自殘,看到這樣的信息,真的會把他們逼上絕路。”
        這並不是谷歌聊天機器人第一次被指控,對用戶的查詢做出可能有害的回應。曾有用戶發現,GoogleAI建議人們“每天吃一塊小石頭”,以攝取維他命和礦物質。
        今年2月,佛州一名14歲少年自殺身亡,他的母親對AI新創聊天機器人平台“Character.AI”提出過失致死訴訟,並稱聊天機器人鼓勵她兒子自殺。
        2023年,一名三十多歲的比利時男子在和AI機器人“Eliza”聊天後,因為對未來感到絕望,在六週後就自殺了。
        他的妻子說。丈夫過世後,她查看了他的對話記錄,發現她丈夫看不到任何解決地球變暖的辦法,於是向AI提議犧牲自己的生命,來拯救地球和人類。
        然而,聊天機器人並沒有阻止他自殺,甚至讓他相信,死後他們「能在天堂合為一體」。
        這起事件引起比利時政府的高度關注。當局警告,AI看似讓人類的生活更加便利,但也充滿危險,其中開發者需要負起很大的責任。開發這款聊天機器人的矽谷公司GPT-J表示,已著手就安全性進行改善。

GoogleAI聊天機器人讓用戶“去死” 引發熱議
雖然Google認為這則訊息是“荒謬無理的”(non-sensical),但對兄妹認為,這則訊息可能造成致命後果。


推薦閱讀

迪士尼樂園門票又漲價了!

新光海鮮酒家 老字號嶄新服務

好市多2025年1月起停止圖書銷售

索尼本田聯手 首款純電轎車Afeela原型車將亮相CES

索尼本田移動(SHM)總裁兼營運長川西泉表示,公司將於明年1月在拉斯維加斯舉辦的2025年度國際消費電子展(CES 20

沉香與花梨的盛宴:2024年沉香花梨國際大會圓滿落幕

新光海鮮
李梅, Nancy Li, Las Vegas Realtor 徐豫蓉, Diana Xu, State Farm  劉蘊琦, Rain Liu, 新世代地產 New Era Realty 李昭夏, Jenny Li, 拉斯維加斯商業房地產經紀 王裕郡, Eugene Wang, 拉斯維加斯著名華人房產經紀 王裕郡 無限地產, Cayden Ni, 小倪同學, 資深地產經紀, 高價現金收房, 快速過戶, 特別貸款協助 姜連盛地, David Jiang, 拉斯維加斯地產經紀 愛家窗簾, iHome, 布簾 捲簾 斑馬簾 百葉窗 蜂巢簾 防爆防曬玻璃膜 防曬紗窗 UPS Chinatown, Apply China Visa, Low Cost Mailing from Las Vegas to China, Passport, ID and China Visa photos, Notary Services 魏湘梅, POA Commercial, 美國地產國際投資集團 文道律師事務所, Wendot Law Group, 車禍 刑事辯護 移民 民事 林孟儒律師, Lin Law Group,  蔡曉薇律師, JTL,  陳氏註冊會計師, Chen Accounting , Chen Accounting Group - Michelle Chen CPA 長友保險, Service Plus Insurance,  人人保險, Family Trust Insurance,

拉斯維加 斯誠信空調 安裝維修 Chinese Magazine 99 Ranch Market Royal Business Bank American First National Bank cathay bank east west bank world Chinese Media Nan Hua Time China News 山河服務站 Mountain River Service Station CNA taiwan post LVYP

© 維加斯新聞網和維加斯新聞報版權所有,轉載必究 隱私權政策
All Rights Reserved. ©2018 lvcnn.com Software ©2018 Las Vegas Chinese News Network Corp.

fackbook logo twitter logo google logo Youtube logo Wei Bo Logo Wei Bo Logo Youku logo QQ Video logo