首頁 > 資訊 > 科技 > 正文

世界模型WHALE來了！

2024-11-23 10:34:26來源：人民郵電報

人類能夠在腦海中設(shè)想一個想象中的世界

，以預(yù)測不同的動作可能導(dǎo)致不同的結(jié)果。受人類智能這方面的啟發(fā)

，世界模型被設(shè)計用于抽象化現(xiàn)實世界的動態(tài)

，并提供這種“如果……會怎樣”的預(yù)測。

因此

，具身智能體可以與世界模型進行交互

，而不是直接與現(xiàn)實世界環(huán)境交互，以生成模擬數(shù)據(jù)

，這些數(shù)據(jù)可以用于各種下游任務(wù)

，包括反事實預(yù)測、離線策略評估

、離線強化學習

。

世界模型在具身環(huán)境的決策中起著至關(guān)重要的作用，使得在現(xiàn)實世界中成本高昂的探索成為可能

。為了促進有效的決策

，世界模型必須具備強大的泛化能力，以支持分布外（OOD）區(qū)域的想象

，并提供可靠的不確定性估計來評估模擬體驗的可信度

，這兩者都對之前的可擴展方法提出了重大挑戰(zhàn)。

近日

，來自南京大學

、南棲仙策等機構(gòu)的研究者在論文中引入了WHALE（World models with beHavior-conditioning and retrAcing-rollout LEarning），這是一個用于學習可泛化世界模型的框架

，由兩種可以與任何神經(jīng)網(wǎng)絡(luò)架構(gòu)普遍結(jié)合的關(guān)鍵技術(shù)組成

。

在確定策略分布差異是泛化誤差的主要來源的基礎(chǔ)上，研究者引入了一種行為—條件（behavior-conditioning）技術(shù)來增強世界模型的泛化能力

，該技術(shù)建立在策略條件模型學習的概念之上

，旨在使模型能夠主動適應(yīng)不同的行為，以減小分布偏移引起的外推誤差

。此外

，研究者還提出了一種簡單而有效的技術(shù)，稱為retracing-rollout

，以便對模型想象進行有效的不確定性估計

，作為一種即插即用的解決方案，可以有效地應(yīng)用于各種實施任務(wù)中的末端執(zhí)行器姿態(tài)控制

，而無需對訓練過程進行任何更改

。

通過整合WHALE的這兩種技術(shù)，研究者提出了WHALE-ST

，這是一種可擴展的基于時空transformer的世界模型

，旨在實現(xiàn)更有效的決策。研究者進一步提出了WHALE-X

，這是一個在970K機器人演示上預(yù)訓練的414M參數(shù)世界模型。最后

，研究者進行了大量的實驗

，以證明WHALE-ST和WHALE-X在模擬和現(xiàn)實世界任務(wù)中的卓越可擴展性與泛化性，突出了它們在增強決策方面的效果

。

為了評估WHALE-X在實際物理環(huán)境中的泛化能力

，研究團隊在ARX5機器人上進行了全面實驗。與預(yù)訓練數(shù)據(jù)不同

，評估任務(wù)調(diào)整了攝像機角度和背景等，增加了對世界模型的挑戰(zhàn)

。他們收集了每個任務(wù)60條軌跡的數(shù)據(jù)集用于微調(diào)，任務(wù)包括開箱

、推盤

、投球和移動瓶子，還設(shè)計了多個模型從未接觸過的任務(wù)來測試模型的視覺

、運動和任務(wù)泛化能力

。

結(jié)果顯示，WHALE-X在真實世界中展現(xiàn)出明顯的優(yōu)勢：與沒有行為—條件的模型相比

，WHALEX的一致性提高了63％，表明該機制顯著提升了OOD泛化能力

；在97萬個樣本上進行預(yù)訓練的WHALE-X，比從零開始訓練的模型具有更高的一致性

，凸顯了大規(guī)?div id="4qifd00" class="flower right">

；ヂ?lián)網(wǎng)數(shù)據(jù)預(yù)訓練的優(yōu)勢

；增加模型參數(shù)能夠提升世界模型的泛化能力，WHALE-X-base（203M）動態(tài)模型在三個未見任務(wù)中的一致性比率是77M版本的3倍

。此外，視頻生成質(zhì)量與一致性的結(jié)果一致

。通過行為—條件策略

、大規(guī)模預(yù)訓練數(shù)據(jù)集和擴展模型參數(shù)

，三種策略結(jié)合，顯著提高了模型的OOD泛化能力

，尤其是在生成高質(zhì)量視頻方面

。

關(guān)鍵詞：

責任編輯：孫知兵

免責聲明：本文僅代表作者個人觀點，與太平洋財富網(wǎng)無關(guān)

。其原創(chuàng)性以及文中陳述文字和內(nèi)容未經(jīng)本站證實

，對本文以及其中全部或者部分內(nèi)容、文字的真實性

、完整性、及時性本站不作任何保證或承諾

，請讀者僅作參考

，并請自行核實相關(guān)內(nèi)容。
如有問題

，請聯(lián)系我們

！

世界模型WHALE來了！2024-11-23
安陽同德醫(yī)院看病怎么樣
？專業(yè)治療安陽看男2024-11-23
報告：生成式人工智能帶來智慧旅游發(fā)展新機2024-11-23
浙江義烏市場6.0時代：海量新技術(shù)成為商人2024-11-23
國際金融論壇香港舉行年會探討中國企業(yè)“2024-11-23
加快推進制造業(yè)數(shù)字化綠色化協(xié)同轉(zhuǎn)型發(fā)展2024-11-23
國際游客“趕早”
，中國冰雪經(jīng)濟升溫2024-11-23
企業(yè)反映經(jīng)營還有困難？多部門表態(tài)：持續(xù)推2024-11-23
滬指周五跌逾3% 互聯(lián)網(wǎng)電商板塊逆勢上漲2024-11-23
中歐班列（鄭州）開行突破10000列通達歐2024-11-23
廣州地鐵正建設(shè)19條線路總里程年底將突破2024-11-23
今年前九月廣州新設(shè)外資企業(yè)同比增長32.2%2024-11-23
（經(jīng)濟觀察）熱門中概股密集發(fā)布三季度業(yè)績2024-11-23
搜狗輸入法全面升級
，讓輸入框變身搜索框2024-11-23
我國充電基礎(chǔ)設(shè)施建設(shè)駛上“快車道” 汽車2024-11-23
國家外匯局：10月中國外匯市場總計成交24.22024-11-23
三方面9條政策助力外貿(mào)企業(yè)穩(wěn)訂單拓市場 2024-11-23
透過烏鎮(zhèn)看未來：數(shù)字警務(wù)“智慧護航”互聯(lián)2024-11-23
中外嘉賓天津共論職業(yè)技術(shù)教育合作機遇2024-11-23
中國貿(mào)促會：全球經(jīng)貿(mào)摩擦呈加劇態(tài)勢2024-11-23
文旅部：促進旅行社研學旅游業(yè)務(wù)健康發(fā)展2024-11-23
擁壯闊維港煙花海景香港啟德天瀧暢享奢華2024-11-22
冬季如何防護才能保持血壓的穩(wěn)定？醫(yī)生解答2024-11-22
上?div id="m50uktp" class="box-center"> ？蒲袌F隊研究成果再登《自然》提出限2024-11-22
中新健康｜高速擴張暗藏隱憂塔斯汀屢陷食2024-11-22
創(chuàng)新保險模式助力經(jīng)濟社會高質(zhì)量發(fā)展2024-11-22
小雪節(jié)氣后如何避免陽氣損害
？中醫(yī)專家建議2024-11-22
中新真探：吃桂圓能補血嗎?2024-11-22
中新健康｜六部門：完善基層藥品聯(lián)動管理 2024-11-22
黑龍江中俄友好醫(yī)院揭牌：多領(lǐng)域合作為兩國2024-11-22

精彩推薦

，以熱愛書寫冰雪傳奇" />

，以熱愛書寫冰雪傳奇">小黃象攜手中國國家U18冰球隊，以熱愛書寫冰雪傳奇

，以熱愛書寫冰雪傳奇">小黃象攜手中國國家U18冰球隊

，以熱愛書...

北京花卉交易中心豐富市民“花樣”生活

南漳柑橘“致富經(jīng)”：高山盆地“金果”...

市場監(jiān)管總局：推動平臺企業(yè)和平臺內(nèi)商...

遇見非遺丨把沉睡的泥土鐫刻進生活

“江南蔬菜之鄉(xiāng)”江西樂平3000余畝水芹...

襄陽牛肉面：“熱辣滾燙”顯“俠義”

【百萬莊小課堂】今天你emo了嗎

？職場青...

中國試點開放信用監(jiān)管數(shù)據(jù) 便利境外來...

深圳年度最大規(guī)模畢業(yè)生雙選會提供崗位3...

廣西桂林滿城桂花飄香

江南造船中東代表處揭牌續(xù)簽兩艘液氨...

首屆全國小戲小品展演將于十月中旬在長...

阿爾卡拉斯止步上海網(wǎng)球大師賽男單八強

健全糧食和食物節(jié)約長效機制（話說新農(nóng)村）

閱讀排行

！毙潞铰?>國際金融論壇香港舉行年會探討...

加快推進制造業(yè)數(shù)字化綠色化協(xié)同...

國際游客“趕早”

，中國冰雪經(jīng)濟...

？多部門表態(tài)：持續(xù)推動解決！">企業(yè)反映經(jīng)營還有困難

？多部門表...

滬指周五跌逾3% 互聯(lián)網(wǎng)電商板塊...

中歐班列（鄭州）開行突破10000...

廣州地鐵正建設(shè)19條線路總里程...

，中國為世界帶來信心" class="article-title">從APEC到G20
，中國為世界帶來信心
上一篇2024-11-21 19:24:21

關(guān)于我們　-　聯(lián)系方式　-　版權(quán)聲明　-　招聘信息　-　友鏈交換　-　網(wǎng)站統(tǒng)計

太平洋財富主辦版權(quán)所有：太平洋財富網(wǎng)

?中國互聯(lián)網(wǎng)違法和不良信息舉報中心

未經(jīng)過本站允許請勿將本站內(nèi)容傳播或復(fù)制業(yè)務(wù)QQ：3 31 986 683

感谢您访问我们的网站，您可能还对以下资源感兴趣：

五月婷婷操大逼,我和岳坶一起看片,久久精品无码一区二区三区,好硬好大我还要好爽视频,日本99热爱精品,日韩美女乱婬试看视频网站 ,寡妇下面水多好紧视频 ,亚洲AⅤ一区二区三区,色www亚洲国产张柏芝,亚洲av无码男人的天堂无广告,精品久久久久久久免费自慰,久久精品国产大片免费观看,AV影片影音先锋一本大道香蕉,香蕉97超级碰碰碰免费公开 ,啊轻点好爽在线观看,亚洲视频欧美不卡,久久精品国产99久

456亚洲人成在线播放网站国产污污网站免费看波多野结衣性爱网站精品自拍日本日韩少妇150P 久久91精品国产91久久免费A片伦费影视在线观看亚洲国产一二 99久久et这里只有精品18 亚洲AV美女一区二区三区国产成人在线综合网一区二区免费在线视频 XXXX日本高清1 男男gv在线播放网站亚洲亚洲日韩国产新品天堂在线日本不卡一区色多多国产AV二区三区最近中文字幕大全免费日本亚州视频在线八a 妺妺窝人体色www金莲精品欧美伦欲视频精品国产亚洲第一区二区三区国产成人精品一区二三区2023 中日韩人妻一级精品毛片午夜视频在线在免费视频亚洲啊啊啊啊 2021在线看片免费人成视频激情综合亚洲九月色亚洲va中文字幕不卡无码免费无限永久在线观看污污网址看男女日皮视频在线观看青青草国产播放视频黄色一级视频免费看国内精品自产拍在线观看亚洲欧美日产综合在线网性色亚洲中文自拍另类Av片成人一级黄片免费观看最新国产精品自在线观看国产福利第一导航呦男呦女精品视频八区在线的最新免费国产国产中文字幕亚洲精品宅男福利导航紧身裙连裤袜波多野结衣欧美成综合网站少妇久久综合 A片调教在线免费播放网址欧美3d怪物H动漫播放白丝jk插进去喷水视频粗大掹烈进出高潮视频 2021精品亚洲中文字幕最刺激的乱惀小说喷水网国产美女遭强开双腿在线观看农村国产一级一级A片一性一交一口添一摸视频超级碰碰青草免费视频APP 久久精品国产大片免费观看国产精品毛片va一区二区三区国产美女视频免费曰批免费视频观看40分钟中文字幕在线永久视频国产精品所白浆视频又色又粗又长又大的三级久久久精品免费齐齐国产精品自拍自偷伊人色综合一区二区三区强行交换配乱婬bd 久久中文字幕系列 mm1313国产精品久久尤物92福利视频午夜1000合集 97国产最新免费公开视频丝袜美腿视频一区二区三区 aⅴ调教视频国产精品一区二区丝瓜国产精品成熟老女人风间由美性色一区二区三区亚洲国产精品激情一区二区 91新超碰极品盛宴分类 XX一个色综合国产色综合午夜福利合集青青青视频自偷自拍在线观看免费AV啊啊啊啊不要青青草成人视频在线视频偷拍亚州av综合色区无码一区亚洲另类自拍图五月丁香激情综合视频国产精品1000部在线观看亚洲一区二区不三区不卡国产精品情侣自拍又粗又大又爽又紧免费视频亚洲日韩AV中字在线网站亚洲有码一区二区三区视频亚洲AV成人片色欲在线观看品久久二区三区久草欧美精品国产丰满麻豆videosshd 精品不卡一区二区日本XXXX视频在线观看免费国产精品亚洲小说专区白丝jk国产一区二区三区伊在人天堂亚洲香蕉精品区国产综合日本亚洲777 张开腿无遮无挡在线观看久久久久久久99精品免费观看中文乱码一区高潮在线喷另类老妇性BBWBBW 超清中文乱码字幕在线观看国产三寸白浆喷潮直流视频少妇一区二区三区黄亚洲中文字幕乱码电影国产精品亚洲日韩久久亚洲中文字幕久久无码精品国外欧美一区二区中美日韩印度亚洲综合在线国产区精品系列在线观看不免费又爽又刺激的网站美女被狂插出水茄子在线看片免费人成视频亚洲性色成人av天堂黄、作爱免费视频亚洲狂野国产AV 手机看片久久国产永久免费好男人www 中文字幕婷婷日韩欧美亚洲白洁国产剧情Av手机在线尤物成人影院yw193在线观看欧美v亚洲v日韩v最新在线国产未满十八岁午夜欧美老妇理论片白浆高潮国产免费精品国产高清一区二区三区国产嫖妓一区二区三区无码国产精品1区2区3区在线播放 h娇喘喷水抽搐高潮视频欧美乱妇日本无乱码特黄大片国内私拍哺乳精品视频又大又粗又长外国一级黄在线看片免费人成视频在线观看亚洲精品福利片欧美孕妇变态重口另类欧美亚洲综合在线国产91麻豆免费观看 h视频网站黄国产情侣草莓视频在线色五五月五月开在线观看九九热精品免费观看 992免费视频网站十八禁网站gay 亚洲午夜福利在线视频女人把私人部位扒开视频在线看 www欧美性爱色露一区二区亚洲Aⅴ天堂在线观看忘忧草在线社区www日本亚欧性爱欧美日韩国产一区二区国产精品亚洲二区在线看疯狂做受DVD免费播放 99久久国产综合精品无码 a女激情视频在线观看日本高清=区视频在线

世界模型WHALE來了！

精彩推薦

閱讀排行

推薦閱讀