国产区91,免费看二级片,国产欧美一区二区,欧美日韩视频在线播放,91白丝在线观看,色婷婷97,久久午夜国产精品www忘忧草

首頁  ?  財經(jīng)  ?  經(jīng)濟觀察

“一本正經(jīng)胡說八道”:AI幻覺到底有多可怕?

2025-04-01 19:46:18

來源:中國新聞網(wǎng)

  中新網(wǎng)北京4月1日電(記者 吳濤)在享受AI帶來便捷的同時,你是否發(fā)現(xiàn)這個問題揮之不去——AI幻覺,一種“看似真實、實則虛構”的內(nèi)容生成現(xiàn)象,正滲透進我們的生活。它到底是通往更強大智能的陣痛,還是技術發(fā)展的“魔性副產(chǎn)物”?未來,AI幻覺能否為我所用?

  幻覺亂象,層出不窮

  AI大模型固然“聰明”,但在“胡說八道”方面也毫不遜色。虛構引用、杜撰人物、邏輯混亂,在與AI的互動中屢見不鮮。

  例如,它會引用一篇根本不存在的“2023年哈佛研究”;或者,為并不存在的“諾貝爾物理學獎得主約翰·史密斯”編織一段“量子物理貢獻”的敘述。有時候,它甚至會在你一再否認其內(nèi)容后“動搖立場”,反復修改說法。

  中新網(wǎng)記者在測試中還發(fā)現(xiàn),AI模型在面對較為復雜的推理問題時,可能“宕機”或自相矛盾。而當你編造出一個根本不存在的概念,比如“高數(shù)幾何睡眠法”,它也會一本正經(jīng)地回答:“這是一種將睡眠科學與高等數(shù)學相結(jié)合的個性化學習策略……”——說得頭頭是道。

某大模型截圖。

  當中新網(wǎng)記者輸入自己的名字請AI大模型進行介紹,還出現(xiàn)了一名乍看上去完全合理,但其實完全不存在的人,可以說除了“記者”是真的,其他全是假的。

AI大模型介紹的記者身份,職業(yè)生涯背景等均為虛構。

  技術問題,還是認知演進?

  “AI幻覺就是生成看起來像真的一樣的虛假信息?!被ヂ?lián)網(wǎng)行業(yè)從業(yè)者、58同城CEO姚勁波接受中新網(wǎng)采訪認為,它當然需要治理,但現(xiàn)階段還未構成決定性風險。“互聯(lián)網(wǎng)發(fā)展這么多年,虛假信息仍然很多,沒有被徹底消除,但網(wǎng)友的識別能力也越來越高。我認為AI領域也一樣,隨著用戶教育的積累,越來越多的網(wǎng)友自己可以分辨出AI幻覺?!?/p>

  不過,并非所有從業(yè)者都如此樂觀。科大訊飛董事長劉慶峰曾指出,生成式AI的幻覺問題不僅關乎內(nèi)容真假,更可能形成算法偏差的惡性循環(huán)——虛假內(nèi)容被AI再次學習、放大,反復再生產(chǎn)。

  但值得注意的是,AI幻覺在部分場景中卻意外成了創(chuàng)作“靈感來源”。游戲開發(fā)、動漫設計、小說創(chuàng)作等領域,恰恰歡迎那種“不合常理”的奇思妙想。比如AI生成的創(chuàng)意圖片不少是違反自然規(guī)律的,但這不影響創(chuàng)意圖的效果。

  一位不愿具名的開源大模型社區(qū)負責人坦言:“今年的大模型比往年更好,就是因為產(chǎn)生了一部分想象力的創(chuàng)作?!?/p>

  治理AI幻覺,路徑幾何?

  如何治理AI幻覺?技術手段正在快速跟進。一方面,企業(yè)正在為大模型接入權威知識庫或?qū)崟r搜索能力,使其答案更具事實依據(jù);另一方面,“標注AI生成內(nèi)容”也成為監(jiān)管部門推動的方向。

  上述開源大模型社區(qū)負責人就表示,AI大模型如今引入聯(lián)網(wǎng)搜索,各個平臺也在用算法和工程解決一部分幻覺問題。

  中國工程院院士張亞勤近日表示,幻覺在橫向模型里會越來越少,但是它不會消失,這是生成式AI的特點。要消失的話,一定需要具體到某個行業(yè)時,用更精準的數(shù)據(jù)和更精準的模型結(jié)合起來,才會達到效果。

  多位科技領域企業(yè)家也提出了相應對策。360集團創(chuàng)始人周鴻祎強調(diào)企業(yè)模型需對接專有知識庫進行校正,劉慶峰則建議,要定期清理模型中的“幻覺數(shù)據(jù)”。

  零一萬物CEO李開復則認為,“聯(lián)網(wǎng)搜索能力”是降低AI幻覺的關鍵路徑,但現(xiàn)實操作中并不輕松。每個企業(yè)都有自己的數(shù)據(jù)庫、CRM、ERP系統(tǒng),聯(lián)網(wǎng)不是難,而是難以實時、完整。這方面還需繼續(xù)突破。

  政策層面也已展開行動。近日,國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部、國家廣播電視總局聯(lián)合發(fā)布《人工智能生成合成內(nèi)容標識辦法》(以下簡稱《辦法》)。

  《辦法》聚焦人工智能“生成合成內(nèi)容標識”關鍵點,通過標識提醒用戶辨別虛假信息,明確相關服務主體的標識責任義務,規(guī)范內(nèi)容制作、傳播各環(huán)節(jié)標識行為,將于2025年9月1日起施行。

  國家互聯(lián)網(wǎng)信息辦公室有關負責人介紹,《辦法》重點解決“哪些是生成的”“誰生成的”“從哪里生成的”等問題,推動由生成到傳播各環(huán)節(jié)的全流程安全管理,力爭打造可信賴的人工智能技術。(完)

  • 相關閱讀
  • 金融監(jiān)管總局:截至2月末全國普惠型小微企業(yè)貸款余額33.9萬億元

    人民網(wǎng)北京4月2日電 (記者羅知之)國務院新聞辦公室今日舉行新聞發(fā)布會,介紹健全社會信用體系有關情況。金融監(jiān)管總局普惠金融司司長蔣平在會上表示,截至2025年2月末,全國普惠型小微企業(yè)貸款余額33.9萬億元,同比增速12.6%,較...

    時間:04-02
  • 央行:創(chuàng)新搭建全國中小微企業(yè)資金流信用信息共享平臺

    人民網(wǎng)北京4月2日電 (記者羅知之)國務院新聞辦公室今日舉行新聞發(fā)布會,介紹健全社會信用體系有關情況。中國人民銀行征信管理局局長任詠梅在會上表示,人民銀行征信中心不斷拓展基礎征信服務,創(chuàng)新搭建了全國中小微企業(yè)資金...

    時間:04-02
  • 國家發(fā)改委:目前已建立全國一體化融資信用服務平臺網(wǎng)絡

    人民網(wǎng)北京4月2日電 (記者羅知之)國務院新聞辦公室今日舉行新聞發(fā)布會,介紹健全社會信用體系有關情況。國家發(fā)展改革委副主任李春臨在會上表示,目前,已經(jīng)建立了全國一體化融資信用服務平臺網(wǎng)絡,在國家層面實現(xiàn)了包括企業(yè)登...

    時間:04-02
  • AI觀察 | “AI+”理想照進現(xiàn)實

    人形機器人行云流水地演繹太極,咖啡機器人精準勾勒出天鵝拉花,導覽機器人為外賓提供雙語服務……這不是科幻電影的蒙太奇,而是2025中關村論壇年會的真實景象。 作為科技創(chuàng)新“風向標”,論壇全景式呈現(xiàn)了人工智能的最新進...

    時間:04-02
  • 國家發(fā)改委:社會信用體系建設取得五大積極成效

    人民網(wǎng)北京4月2日電 (記者羅知之)國務院新聞辦公室今日舉行新聞發(fā)布會,介紹健全社會信用體系有關情況。國家發(fā)展改革委副主任李春臨在會上表示,近年來,國家發(fā)展改革委會同有關部門全面加強社會信用體系建設,主要在五個方面...

    時間:04-02
  • 水利部答人民網(wǎng)記者問:2024年大中型水庫攔蓄洪水1471億立方米

    人民網(wǎng)北京4月2日電 (歐陽易佳)如何科學實施水庫調(diào)度,保障防洪安全?日前,水利部召開新聞發(fā)布會,水利部水旱災害防御司司長姚文廣答人民網(wǎng)記者問時表示,2024年,6929座(次)大中型水庫投入調(diào)度運用、攔蓄洪水1471億立方米,減淹城鎮(zhèn)2...

    時間:04-02
  • 北京市稅務局發(fā)起“合規(guī)經(jīng)營、誠信納稅”倡議

    人民網(wǎng)北京4月2日電 (車柯蒙、實習生潘禹)4月1日,北京市稅務局舉辦“稅收·法治·公平”專題座談會暨“合規(guī)經(jīng)營·誠信納稅”倡議書簽字儀式,以此啟動北京市第34個全國稅收宣傳月。 活動現(xiàn)場,三位專家學者圍繞“法治是最好...

    時間:04-02
  • 前2個月服務進出口總額同比增長9.9%

    人民網(wǎng)北京4月2日電 (記者孫紅麗)據(jù)商務部網(wǎng)站消息,商務部服貿(mào)司負責人1日介紹2025年1至2月服務貿(mào)易發(fā)展情況時表示,1至2月,我國服務貿(mào)易較快增長,服務進出口總額13095.6億元(人民幣,下同),同比增長9.9%。 數(shù)據(jù)顯示,1至2月,中國服...

    時間:04-02
  • 全力擴大多元服務消費供給

    原標題:全力擴大多元服務消費供給  今年的《政府工作報告》提出,從放寬準入、減少限制、優(yōu)化監(jiān)管等方面入手,擴大健康、養(yǎng)老、助殘、托幼、家政等多元化服務供給。各地積極行動,聚焦健康、養(yǎng)老、托幼、家政等重點領域積...

    時間:04-02
  • 跨國公司跨境資金使用更便利

    原標題:跨國公司跨境資金使用更便利  為提升金融穩(wěn)外貿(mào)穩(wěn)外資服務質(zhì)效,中國人民銀行、國家外匯管理局近期發(fā)布公告稱,決定在天津、河北、內(nèi)蒙古、黑龍江、安徽、福建(含廈門)、山東、湖北、湖南、廣西、重慶、四川、貴州...

    時間:04-02
免責聲明:本網(wǎng)對文中陳述、觀點判斷保持中立,不對所包含內(nèi)容的準確性、可靠性或完整性提供任何明示或暗示的保證。請讀者僅作參考,并請自行承擔全部責任。 本網(wǎng)站轉(zhuǎn)載圖片、文字之類版權申明,本網(wǎng)站無法鑒別所上傳圖片或文字的知識版權,如果侵犯,請及時通知我們,本網(wǎng)站將在第一時間及時刪除。