首頁 > 資訊 > 科技 > 正文

AI“模型崩潰”風(fēng)險需警惕

2024-09-25 17:37:07來源：科技日報

從客戶服務(wù)到內(nèi)容創(chuàng)作，人工智能（AI）影響了眾多領(lǐng)域的進(jìn)展

。但是，一個日益嚴(yán)重的被稱為“模型崩潰”的問題

，可能會使AI的所有成就功虧一簣。

“模型崩潰”是今年7月發(fā)表在英國《自然》雜志上的一篇研究論文指出的問題

。它是指用AI生成的數(shù)據(jù)集訓(xùn)練未來幾代機器學(xué)習(xí)模型

，可能會嚴(yán)重“污染”它們的輸出。

多家外媒報道稱

，這不僅是數(shù)據(jù)科學(xué)家需要擔(dān)心的技術(shù)問題

，如果不加控制，“模型崩潰”可能會對企業(yè)

、技術(shù)和整個數(shù)字生態(tài)系統(tǒng)產(chǎn)生深遠(yuǎn)影響

。天津大學(xué)自然語言處理實驗室負(fù)責(zé)人熊德意教授在接受記者采訪時，從專業(yè)角度對“模型崩潰”進(jìn)行了解讀

。

圖片來源：美國《The Week》

“模型崩潰”是怎么回事

大多數(shù)AI模型

，比如GPT-4，都是通過大量數(shù)據(jù)進(jìn)行訓(xùn)練的

，其中大部分?jǐn)?shù)據(jù)來自互聯(lián)網(wǎng)

。最初，這些數(shù)據(jù)是由人類生成的

，反映了人類語言

、行為和文化的多樣性和復(fù)雜性

。AI從這些數(shù)據(jù)中學(xué)習(xí)

，并用它來生成新內(nèi)容。

然而

，當(dāng)AI在網(wǎng)絡(luò)上搜索新數(shù)據(jù)來訓(xùn)練下一代模型時

，AI很可能會吸收一些自己生成的內(nèi)容，從而形成反饋循環(huán)

，其中一個AI的輸出成為另一個AI的輸入

。當(dāng)生成式AI用自己的內(nèi)容進(jìn)行訓(xùn)練時，其輸出也會偏離現(xiàn)實

。這就像多次復(fù)制一份文件

，每個版本都會丟失一些原始細(xì)節(jié)，最終得到的是一個模糊的

、不那么準(zhǔn)確的結(jié)果

。

美國《紐約時報》報道稱，當(dāng)AI脫離人類輸入內(nèi)容時

，其輸出的質(zhì)量和多樣性會下降

。

熊德意解讀稱：“真實的人類語言數(shù)據(jù)

，其分布通常符合齊普夫定律，即詞頻與詞的排序成反比關(guān)系

。齊普夫定律揭示了人類語言數(shù)據(jù)存在長尾現(xiàn)象

，即存在大量的低頻且多樣化的內(nèi)容。”

熊德意進(jìn)一步解釋道

，由于存在近似采樣等錯誤

，在模型生成的數(shù)據(jù)中，真實分布的長尾現(xiàn)象逐漸消失

，模型生成數(shù)據(jù)的分布逐漸收斂至與真實分布不一致的分布

，多樣性降低，導(dǎo)致“模型崩潰”

。

AI自我“蠶食”是壞事嗎

對于“模型崩潰”

，美國《The Week》雜志近日刊文評論稱，這意味著AI正在自我“蠶食”

。

熊德意認(rèn)為

，伴隨著這一現(xiàn)象的出現(xiàn)，模型生成數(shù)據(jù)在后續(xù)模型迭代訓(xùn)練中占比越高

，后續(xù)模型丟失真實數(shù)據(jù)的信息就會越多

，模型訓(xùn)練就更加困難。

乍一看

，“模型崩潰”在當(dāng)前似乎還是一個僅需要AI研究人員在實驗室中擔(dān)心的小眾問題

，但其影響將是深遠(yuǎn)而長久的。

美國《大西洋月刊》刊文指出

，為了開發(fā)更先進(jìn)的AI產(chǎn)品

，科技巨頭可能不得不向程序提供合成數(shù)據(jù)，即AI系統(tǒng)生成的模擬數(shù)據(jù)

。然而

，由于一些生成式AI的輸出充斥著偏見、虛假信息和荒謬內(nèi)容

，這些會傳遞到AI模型的下一版本中

。

美國《福布斯》雜志報道稱，“模型崩潰”還可能會加劇AI中的偏見和不平等問題

。

不過

，這并不意味著所有合成數(shù)據(jù)都是不好的?div id="d48novz" class="flower left">

！都~約時報》表示

，在某些情況下，合成數(shù)據(jù)可以幫助AI學(xué)習(xí)。例如

，當(dāng)使用大型AI模型的輸出訓(xùn)練較小的模型時

，或者當(dāng)可以驗證正確答案時，比如數(shù)學(xué)問題的解決方案或國際象棋

、圍棋等游戲的最佳策略

。

AI正在占領(lǐng)互聯(lián)網(wǎng)嗎

訓(xùn)練新AI模型的問題可能凸顯出一個更大的挑戰(zhàn)?div id="4qifd00" class="flower right">

！犊茖W(xué)美國人》雜志表示

，AI內(nèi)容正在占領(lǐng)互聯(lián)網(wǎng)，大型語言模型生成的文本正充斥著數(shù)百個網(wǎng)站

。與人工創(chuàng)作的內(nèi)容相比

，AI內(nèi)容的創(chuàng)作速度更快，數(shù)量也更大

。

OpenAI首席執(zhí)行官薩姆·奧特曼今年2月曾表示

，該公司每天生成約1000億個單詞，相當(dāng)于100萬本小說的文本

，其中有一大部分會流入互聯(lián)網(wǎng)

。

互聯(lián)網(wǎng)上大量的AI內(nèi)容，包括機器人發(fā)布的推文

、荒謬的圖片和虛假評論

，引發(fā)了一種更為消極的觀念?div id="4qifd00" class="flower right">

！陡２妓埂冯s志稱

，“死亡互聯(lián)網(wǎng)理論”認(rèn)為，互聯(lián)網(wǎng)上的大部分流量

、帖子和用戶都已被機器人和AI生成的內(nèi)容所取代

，人類不再能決定互聯(lián)網(wǎng)的方向。這一觀念最初只在網(wǎng)絡(luò)論壇上流傳

，但最近卻獲得了更多關(guān)注

。

幸運的是，專家們表示

，“死亡互聯(lián)網(wǎng)理論”尚未成為現(xiàn)實?div id="d48novz" class="flower left">

！陡２妓埂冯s志指出

，絕大多數(shù)廣為流傳的帖子，包括一些深刻的觀點

、犀利的語言

、敏銳的觀察，以及在新背景下對新生事物的定義等內(nèi)容，都不是AI生成的

。

不過

，熊德意仍強調(diào)：“隨著大模型的廣泛應(yīng)用，AI合成數(shù)據(jù)在互聯(lián)網(wǎng)數(shù)據(jù)中的占比可能會越來越高

，大量低質(zhì)量的AI合成數(shù)據(jù)

，不僅會使后續(xù)采用互聯(lián)網(wǎng)數(shù)據(jù)訓(xùn)練的模型出現(xiàn)一定程度的‘模型崩潰’，而且也會對社會形成負(fù)面影響

，比如生成的錯誤信息對部分人群形成誤導(dǎo)等

。因此，AI生成內(nèi)容不僅是一個技術(shù)問題

，同時也是社會問題

，需要從安全治理與AI技術(shù)雙重角度進(jìn)行有效應(yīng)對。”

關(guān)鍵詞：

責(zé)任編輯：孫知兵

免責(zé)聲明：本文僅代表作者個人觀點

，與太平洋財富網(wǎng)無關(guān)

。其原創(chuàng)性以及文中陳述文字和內(nèi)容未經(jīng)本站證實，對本文以及其中全部或者部分內(nèi)容

、文字的真實性

、完整性、及時性本站不作任何保證或承諾

，請讀者僅作參考

，并請自行核實相關(guān)內(nèi)容。
如有問題

，請聯(lián)系我們

！

AI“模型崩潰”風(fēng)險需警惕2024-09-25
國家發(fā)展改革委鼓勵中資企業(yè)利用香港開展跨2024-09-25
綠水青山相映美金山銀山幸福長——西藏著2024-09-25
第三屆亞洲國際水周在北京開幕2024-09-25
世界計算大會開幕2024-09-25
寧夏“真金白銀”補貼支持消費品以舊換新2024-09-25
重慶“母城”渝中區(qū)施策構(gòu)建樓宇經(jīng)濟發(fā)展體2024-09-25
“十一”假期哈鐵增開省內(nèi)58趟旅客列車2024-09-25
一箭八星“太空拼車”！捷龍三號火箭海上成2024-09-25
101個洞穴
！廣東西江爛柯山發(fā)現(xiàn)中華穿山甲2024-09-25
新華全媒+｜2024世界計算大會開幕看“計2024-09-25
智造世界創(chuàng)造美好——2024世界制造業(yè)大會2024-09-25
吉林品牌搭“跨境之船”擁抱全球市場2024-09-25
“穿越”千年《唯有定州》古典園林行浸式2024-09-25
安徽優(yōu)質(zhì)醫(yī)療資源有序擴容 9個國家區(qū)域2024-09-25
我國綠色智能計算產(chǎn)業(yè)“井噴”發(fā)展2024-09-25
國酒華夏實業(yè)：靠譜服務(wù)
，為品牌鑄就輝煌！2024-09-25
中國深海載人潛水器“蛟龍”號首次訪港2024-09-25
為什么秋冬季心腦血管疾病易發(fā)
？如何預(yù)防和2024-09-25
太原至新加坡航線開航2024-09-25
西藏殘疾人登文藝舞臺展風(fēng)姿2024-09-25
首屆國際乳業(yè)創(chuàng)新大會在呼和浩特召開2024-09-25
青春華章｜聽天津·聽障兒童唱響愛的旋律2024-09-25
國慶出境游火熱啟動機酒預(yù)訂大幅超去年2024-09-25
黃河羊曲水電站三臺機組轉(zhuǎn)子全部吊裝完成2024-09-25
53天
！全網(wǎng)獨家的嫦娥六號探月全記錄！2024-09-25
一眼“穿越”千年《唯有定州》古典園林行2024-09-25
中國各地自籌資金超400億元投入建筑和市政2024-09-25
廣州人民藝術(shù)中心面向公眾開放2024-09-25
多項重磅金融政策將推出進(jìn)一步支持經(jīng)濟穩(wěn)2024-09-25

精彩推薦

世遺泉州北京行文旅推介活動在京舉行福船展講述東西交流動人故事

閱讀排行

世界計算大會開幕
上一篇2024-09-25 17:35:20

關(guān)于我們　-　聯(lián)系方式　-　版權(quán)聲明　-　招聘信息　-　友鏈交換　-　網(wǎng)站統(tǒng)計

太平洋財富主辦版權(quán)所有：太平洋財富網(wǎng)

?中國互聯(lián)網(wǎng)違法和不良信息舉報中心

未經(jīng)過本站允許請勿將本站內(nèi)容傳播或復(fù)制業(yè)務(wù)QQ：3 31 986 683

感谢您访问我们的网站，您可能还对以下资源感兴趣：

五月婷婷操大逼,我和岳坶一起看片,久久精品无码一区二区三区,好硬好大我还要好爽视频,日本99热爱精品,日韩美女乱婬试看视频网站 ,寡妇下面水多好紧视频 ,亚洲AⅤ一区二区三区,色www亚洲国产张柏芝,亚洲av无码男人的天堂无广告,精品久久久久久久免费自慰,久久精品国产大片免费观看,AV影片影音先锋一本大道香蕉,香蕉97超级碰碰碰免费公开 ,啊轻点好爽在线观看,亚洲视频欧美不卡,久久精品国产99久

456亚洲人成在线播放网站国产污污网站免费看波多野结衣性爱网站精品自拍日本日韩少妇150P 久久91精品国产91久久免费A片伦费影视在线观看亚洲国产一二 99久久et这里只有精品18 亚洲AV美女一区二区三区国产成人在线综合网一区二区免费在线视频 XXXX日本高清1 男男gv在线播放网站亚洲亚洲日韩国产新品天堂在线日本不卡一区色多多国产AV二区三区最近中文字幕大全免费日本亚州视频在线八a 妺妺窝人体色www金莲精品欧美伦欲视频精品国产亚洲第一区二区三区国产成人精品一区二三区2023 中日韩人妻一级精品毛片午夜视频在线在免费视频亚洲啊啊啊啊 2021在线看片免费人成视频激情综合亚洲九月色亚洲va中文字幕不卡无码免费无限永久在线观看污污网址看男女日皮视频在线观看青青草国产播放视频黄色一级视频免费看国内精品自产拍在线观看亚洲欧美日产综合在线网性色亚洲中文自拍另类Av片成人一级黄片免费观看最新国产精品自在线观看国产福利第一导航呦男呦女精品视频八区在线的最新免费国产国产中文字幕亚洲精品宅男福利导航紧身裙连裤袜波多野结衣欧美成综合网站少妇久久综合 A片调教在线免费播放网址欧美3d怪物H动漫播放白丝jk插进去喷水视频粗大掹烈进出高潮视频 2021精品亚洲中文字幕最刺激的乱惀小说喷水网国产美女遭强开双腿在线观看农村国产一级一级A片一性一交一口添一摸视频超级碰碰青草免费视频APP 久久精品国产大片免费观看国产精品毛片va一区二区三区国产美女视频免费曰批免费视频观看40分钟中文字幕在线永久视频国产精品所白浆视频又色又粗又长又大的三级久久久精品免费齐齐国产精品自拍自偷伊人色综合一区二区三区强行交换配乱婬bd 久久中文字幕系列 mm1313国产精品久久尤物92福利视频午夜1000合集 97国产最新免费公开视频丝袜美腿视频一区二区三区 aⅴ调教视频国产精品一区二区丝瓜国产精品成熟老女人风间由美性色一区二区三区亚洲国产精品激情一区二区 91新超碰极品盛宴分类 XX一个色综合国产色综合午夜福利合集青青青视频自偷自拍在线观看免费AV啊啊啊啊不要青青草成人视频在线视频偷拍亚州av综合色区无码一区亚洲另类自拍图五月丁香激情综合视频国产精品1000部在线观看亚洲一区二区不三区不卡国产精品情侣自拍又粗又大又爽又紧免费视频亚洲日韩AV中字在线网站亚洲有码一区二区三区视频亚洲AV成人片色欲在线观看品久久二区三区久草欧美精品国产丰满麻豆videosshd 精品不卡一区二区日本XXXX视频在线观看免费国产精品亚洲小说专区白丝jk国产一区二区三区伊在人天堂亚洲香蕉精品区国产综合日本亚洲777 张开腿无遮无挡在线观看久久久久久久99精品免费观看中文乱码一区高潮在线喷另类老妇性BBWBBW 超清中文乱码字幕在线观看国产三寸白浆喷潮直流视频少妇一区二区三区黄亚洲中文字幕乱码电影国产精品亚洲日韩久久亚洲中文字幕久久无码精品国外欧美一区二区中美日韩印度亚洲综合在线国产区精品系列在线观看不免费又爽又刺激的网站美女被狂插出水茄子在线看片免费人成视频亚洲性色成人av天堂黄、作爱免费视频亚洲狂野国产AV 手机看片久久国产永久免费好男人www 中文字幕婷婷日韩欧美亚洲白洁国产剧情Av手机在线尤物成人影院yw193在线观看欧美v亚洲v日韩v最新在线国产未满十八岁午夜欧美老妇理论片白浆高潮国产免费精品国产高清一区二区三区国产嫖妓一区二区三区无码国产精品1区2区3区在线播放 h娇喘喷水抽搐高潮视频欧美乱妇日本无乱码特黄大片国内私拍哺乳精品视频又大又粗又长外国一级黄在线看片免费人成视频在线观看亚洲精品福利片欧美孕妇变态重口另类欧美亚洲综合在线国产91麻豆免费观看 h视频网站黄国产情侣草莓视频在线色五五月五月开在线观看九九热精品免费观看 992免费视频网站十八禁网站gay 亚洲午夜福利在线视频女人把私人部位扒开视频在线看 www欧美性爱色露一区二区亚洲Aⅴ天堂在线观看忘忧草在线社区www日本亚欧性爱欧美日韩国产一区二区国产精品亚洲二区在线看疯狂做受DVD免费播放 99久久国产综合精品无码 a女激情视频在线观看日本高清=区视频在线

AI“模型崩潰”風(fēng)險需警惕

精彩推薦

世遺泉州北京行文旅推介活動在京舉行 福船展講述東西交流動人故事

閱讀排行

推薦閱讀

世遺泉州北京行文旅推介活動在京舉行福船展講述東西交流動人故事