出師不利!谷歌Bard答題犯下事實(shí)性錯(cuò)誤
2023年02月10日 09:39 來(lái)源:科技日?qǐng)?bào)

  科技日?qǐng)?bào)北京2月9日電 (記者劉霞)據(jù)英國(guó)《新科學(xué)家》網(wǎng)站8日?qǐng)?bào)道,谷歌人工智能(AI)搜索工具Bard在推廣活動(dòng)中,在回答與詹姆斯·韋布空間望遠(yuǎn)鏡有關(guān)的問題時(shí)犯下事實(shí)性錯(cuò)誤,加劇了人們對(duì)這些工具還沒有準(zhǔn)備好集成到搜索引擎中的擔(dān)憂。

  英國(guó)牛津大學(xué)的凱莉莎·維茲表示,有證據(jù)表明,使用此類AI聊天機(jī)器人為網(wǎng)絡(luò)搜索提供結(jié)果發(fā)生得太快了,“大規(guī)模制造錯(cuò)誤信息的可能性很大”。

  去年11月,得到微軟加持的美國(guó)加州初創(chuàng)企業(yè)OpenAI推出了聊天機(jī)器人ChatGPT,這一系統(tǒng)短短兩個(gè)月就有了上億用戶。

  ChatGPT攪動(dòng)了互聯(lián)網(wǎng)江湖的“一池春水”。谷歌本周宣布,將推出AI工具Bard,測(cè)試后將其整合到自己的搜索引擎內(nèi),為用戶提供定制答復(fù),而非僅僅列出相關(guān)網(wǎng)站列表。中國(guó)搜索引擎巨頭百度公司近日也宣布了類似計(jì)劃。2月7日,微軟為其搜索引擎必應(yīng)推出了自己的AI搜索服務(wù)。

  但有專家警告說(shuō),這類機(jī)器人可能會(huì)給出不準(zhǔn)確的回答,因?yàn)樗鼈兓谛畔⒌慕y(tǒng)計(jì)性而非準(zhǔn)確性輸出結(jié)果。2月8日,谷歌在推特上發(fā)布的一則廣告顯示,Bard在回答“關(guān)于詹姆斯·韋布空間望遠(yuǎn)鏡(JWST),我可以告訴我9歲孩子它有何新發(fā)現(xiàn)?”這一問題時(shí),給出了錯(cuò)誤的結(jié)果。

  Bard給出的一個(gè)答案是:第一張?zhí)?yáng)系外行星的照片由JWST拍攝。但哈佛—史密森天體物理中心的格蘭特·特朗布萊指出,這并非事實(shí),2004年歐洲南方天文臺(tái)的甚大望遠(yuǎn)鏡(VLT)拍攝了第一張系外行星照片。

  維茲表示,這個(gè)錯(cuò)誤說(shuō)明,在精確度很重要的情況下,依賴AI模型存在一定風(fēng)險(xiǎn)。她說(shuō):“這完美地顯示了統(tǒng)計(jì)系統(tǒng)最重要的弱點(diǎn),這些系統(tǒng)旨在根據(jù)統(tǒng)計(jì)分析給出(看似合理)的答案,而非給出真實(shí)的答案!

編輯:陳少婷