新研究發(fā)現(xiàn)部分人工智能系統(tǒng)已擅長“說謊”
新華社北京5月12日電 人工智能系統(tǒng)是否會欺騙人類,一直是各方都關(guān)心的問題。近期美國麻省理工學(xué)院一個(gè)研究團(tuán)隊(duì)稱,部分人工智能系統(tǒng)已經(jīng)學(xué)會如何欺騙人類,其中包括部分號稱已被訓(xùn)練成樂于助人和誠實(shí)的系統(tǒng)。該研究成果發(fā)表在美國細(xì)胞出版社旗下的《模式》雜志上。
文章第一作者、美國麻省理工學(xué)院人工智能安全領(lǐng)域博士后彼得·帕克和他的同事們分析了一些文獻(xiàn),重點(diǎn)關(guān)注了人工智能系統(tǒng)傳播虛假信息的方式——通過習(xí)得性欺騙,它們系統(tǒng)地學(xué)會了“操縱”他人。
研究人員發(fā)現(xiàn)的最引人注目的人工智能系統(tǒng)欺騙例子是元宇宙平臺公司的“西塞羅”人工智能系統(tǒng),它被設(shè)計(jì)在一個(gè)虛擬外交戰(zhàn)略游戲中作為人類玩家的對手。盡管元宇宙平臺公司聲稱,“西塞羅”人工智能系統(tǒng)“在很大程度上是誠實(shí)和樂于助人的”,并且在玩游戲時(shí)“從不故意背刺”它的人類盟友,但該公司發(fā)表的論文數(shù)據(jù)顯示,該系統(tǒng)并沒有公平地玩游戲。
“我們發(fā)現(xiàn)元宇宙平臺公司的人工智能系統(tǒng)已經(jīng)成為欺騙大師。”帕克說,“雖然元宇宙平臺公司成功訓(xùn)練其人工智能系統(tǒng)在游戲中獲勝——‘西塞羅’人工智能系統(tǒng)在玩家排行榜中排名前10%——但沒能訓(xùn)練它誠實(shí)地獲勝。”
其他人工智能系統(tǒng)則具有在撲克游戲中虛張聲勢的能力,或在戰(zhàn)略游戲“星際爭霸2”中為了擊敗對手而假裝攻擊的能力,以及為了在談判游戲中占上風(fēng)而歪曲偏好的能力等。
研究人員表示,雖然人工智能系統(tǒng)在游戲中作弊似乎是無害的,但它可能會導(dǎo)致“欺騙性人工智能能力的突破”,并在未來演變成更高級的人工智能欺騙形式。
帕克說:“我們需要盡可能多的時(shí)間,為未來人工智能產(chǎn)品和開源模型可能出現(xiàn)的更高級欺騙做好準(zhǔn)備。我們建議將欺騙性人工智能系統(tǒng)歸類為高風(fēng)險(xiǎn)系統(tǒng)。”
- 新研究發(fā)現(xiàn)部分人工智能系統(tǒng)已擅長“說謊”2024-05-13 06:05:43
- 蘋果公司或?qū)⒅攸c(diǎn)改進(jìn)Siri功能,展示生成式AI技術(shù)2024-05-11 05:05:14
- 雷神科技發(fā)布多款A(yù)IPC新品,aibook 15以增程式技術(shù)領(lǐng)跑未來2024-05-11 05:05:01
- 微納傳感與智能微系統(tǒng)重慶市重點(diǎn)實(shí)驗(yàn)室揭牌2024-05-09 06:05:04
- AI遇見民樂評彈,古老音樂在“編程”中煥新2024-04-29 06:04:39
- 純電動全尺寸人形機(jī)器人會“跑”了2024-04-29 06:04:41
- AI讓老電影煥發(fā)“新生”2024-04-25 06:04:49
- 預(yù)防感染H7N9禽流感:吃雞排和火鍋涮肉需謹(jǐn)慎
- 船游歐洲 一場春光與水影的邂逅(圖)
- 香港致力保持旅游中心地位 經(jīng)典景點(diǎn)成王牌(圖
- 香港“神醫(yī)”賣毒藥 自稱師承御醫(yī)不乏明星求診
- 中國區(qū)拉動 保時(shí)捷創(chuàng)三月全球銷量記錄
- 產(chǎn)品網(wǎng)絡(luò)持續(xù)細(xì)分 長安福特否認(rèn)產(chǎn)能受限
- 發(fā)改委:因漲幅低于50塊錢每噸 油價(jià)不調(diào)整
- 數(shù)據(jù):科比4月出場時(shí)間生涯新高 一數(shù)據(jù)不遜喬
- 科比報(bào)銷湖人難成最強(qiáng)第八 火箭需看馬刺臉色行
- 職場關(guān)注:蘇泊爾創(chuàng)始人談二次創(chuàng)業(yè)
- 《江蘇省道路運(yùn)輸條例》將作全面修訂
- 2023年重慶市屬重點(diǎn)國企研發(fā)經(jīng)費(fèi)投入達(dá)58.3億元
- 貴州圍繞農(nóng)業(yè)生產(chǎn)需求完善全產(chǎn)業(yè)鏈服務(wù)
- 貴安新區(qū):改革農(nóng)村“四塊地” “三項(xiàng)收入”升起來
- 廣西:研學(xué)游產(chǎn)業(yè)蓬勃發(fā)展 東盟文化產(chǎn)品強(qiáng)勢“圈粉”
- 黔南州立足資源稟賦加快構(gòu)建現(xiàn)代化工產(chǎn)業(yè)體系
- 監(jiān)督升級 “陽光”審批 “一卡通”發(fā)放惠民惠農(nóng)補(bǔ)貼逾72億元