首頁 > 資訊 > 聚焦 > 正文

AIGC日日生新，商湯發(fā)布SenseTrust治理平臺(tái)
，護(hù)航生成式AI可信發(fā)展

2023-07-17 17:06:00來源：太平洋財(cái)富網(wǎng)

（2023年7月17日

，上海）生成式AI火爆全球

，國內(nèi)外AI大模型日新月異

，人工智能加速走進(jìn)日常生活

。如何在技術(shù)“狂飆”的同時(shí)

，引導(dǎo)技術(shù)應(yīng)用的正向發(fā)展

？在本年度世界人工智能大會(huì)上

，商湯科技就此問題給出了答案：著眼現(xiàn)實(shí)問題

，用可信AI基礎(chǔ)設(shè)施“護(hù)航”大模型發(fā)展。

繼4月發(fā)布自研大模型體系后

，商湯迅速升級(jí)迭代

，重磅推出全面升級(jí)的“商湯日日新SenseNova”。與之一起亮相的

，還有商湯可信AI基礎(chǔ)設(shè)施—SenseTrust

。SenseTrust包含一套完整覆蓋數(shù)據(jù)、模型

、應(yīng)用治理環(huán)節(jié)的可信AI治理工具

，可為商湯自身及行業(yè)提供倫理、安全二維一體的檢測與加固解決方案

，推動(dòng)發(fā)展安全可信的人工智能產(chǎn)業(yè)生態(tài)

。

活動(dòng)上，商湯副總裁

、AI倫理與治理委員會(huì)主席張望表示：“技術(shù)規(guī)?div id="4qifd00" class="flower right">

；涞赜袃牲c(diǎn)關(guān)鍵條件，一是成本低

、應(yīng)用廣的普惠性

，二是要可靠、可信的安全性

。以大算力為基礎(chǔ)的大模型及通用人工智能為加速了條件一的滿足

，同時(shí)也帶來了技術(shù)濫用風(fēng)險(xiǎn)的規(guī)模化升級(jí)

。如何保障人工智能系統(tǒng)的安全可信已經(jīng)成為業(yè)界乃至全社會(huì)面臨的一項(xiàng)緊迫課題

。為此，商湯針對(duì)新時(shí)期人工智能的風(fēng)險(xiǎn)特點(diǎn)，打造覆蓋數(shù)據(jù)處理

、模型開發(fā)

、應(yīng)用部署等AI系統(tǒng)全生命周期的可信AI基礎(chǔ)設(shè)施SenseTrust，以助力打造可信的大模型

?div id="4qifd00" class="flower right">

！?/p>

活動(dòng)期間，商湯也正式發(fā)布了人工智能倫理與治理的年度報(bào)告——《商湯大模型倫理原則與實(shí)踐白皮書》

。白皮書由商湯智能產(chǎn)業(yè)研究院與上海交通大學(xué)計(jì)算法學(xué)與AI倫理研究中心共同編制

。白皮書以大模型的發(fā)展為背景，以生成式人工智能的治理為主題

，以“商湯日日新SenseNova”大模型體系治理實(shí)踐為案例

，提出了生成式人工智能治理的核心原則和“三維對(duì)齊”科技倫理模式，系統(tǒng)呈現(xiàn)了雙方在AI治理領(lǐng)域的最新觀點(diǎn)

。

范式變化引發(fā)新挑戰(zhàn) 業(yè)界亟需新時(shí)代下技術(shù)治理手段

大模型時(shí)代

，“基礎(chǔ)模型+微調(diào)”為主要特征的生產(chǎn)范式大大降低了開發(fā)成本和應(yīng)用門檻。AI應(yīng)用場景更加開放

、數(shù)據(jù)模態(tài)更加多元

、應(yīng)用領(lǐng)域更加廣泛；與之對(duì)應(yīng)的

，技術(shù)濫用

、風(fēng)險(xiǎn)來源指數(shù)級(jí)增長，風(fēng)險(xiǎn)評(píng)估標(biāo)準(zhǔn)更加難以界定

，潛在影響規(guī)?div id="d48novz" class="flower left">

；瘮U(kuò)散。在應(yīng)用層面

，諸如“幻覺”現(xiàn)象

、數(shù)據(jù)投毒、混淆攻擊

、誘導(dǎo)攻擊等具有現(xiàn)實(shí)意義的風(fēng)險(xiǎn)挑戰(zhàn)陸續(xù)顯現(xiàn)

。無論是未來生命研究所發(fā)布的公開信，還是國內(nèi)外一系列監(jiān)管政策的推出

，都反映出全球各方對(duì)人工智能風(fēng)險(xiǎn)挑戰(zhàn)的高度關(guān)注

。

大模型時(shí)代：生產(chǎn)范式變革引發(fā)AI風(fēng)險(xiǎn)范式轉(zhuǎn)變

商湯“SenseTrust”構(gòu)筑大模型時(shí)代的“壓艙石”

作為行業(yè)領(lǐng)先的人工智能企業(yè)，商湯科技一直以來高度重視人工智能倫理與治理工作

，將技術(shù)創(chuàng)新與技術(shù)治理并重

。早在2019年商湯就同步啟動(dòng)了兩項(xiàng)前瞻性工作，一項(xiàng)是大模型研發(fā)

，另一項(xiàng)就是AI倫理與治理

。此前

，商湯已形成較為完善的人工智能倫理與治理組織結(jié)構(gòu)、管理制度

、審查機(jī)制

、工具體系、倫理文化建設(shè)體系和外部生態(tài)網(wǎng)絡(luò)

，并收獲行業(yè)廣泛認(rèn)可

。

新時(shí)代下，技術(shù)加速創(chuàng)新

、應(yīng)用日新月異，傳統(tǒng)運(yùn)營式的治理手段需相應(yīng)升級(jí)

，以適應(yīng)飛速發(fā)展

、無限拓展的治理需求。商湯整合長期倫理治理思考及技術(shù)能力

，針對(duì)當(dāng)下生成式人工智能的風(fēng)險(xiǎn)特點(diǎn)

，打造可信AI基礎(chǔ)設(shè)施——SenseTrust，包含數(shù)據(jù)治理

、模型治理

、應(yīng)用治理等層面技術(shù)工具，可提供數(shù)據(jù)處理

、模型訓(xùn)練

、模型部署、推理服務(wù)等全方位

、全鏈路的可信AI檢測與加固“工具箱”

，為大模型時(shí)代構(gòu)筑“壓艙石”。

“SenseTrust”——商湯可信 AI 基礎(chǔ)設(shè)施應(yīng)用圖景

· 在數(shù)據(jù)層面

，“SenseTrust” 能夠提供從數(shù)據(jù)脫敏

、數(shù)據(jù)去毒、數(shù)據(jù)合規(guī)審查及偏見評(píng)估等治理工具

。例如

，在模型訓(xùn)練數(shù)據(jù)的預(yù)處理環(huán)節(jié)，“SenseTrust”提供的數(shù)據(jù)去毒工具能夠檢測數(shù)據(jù)來源中是否包含帶有后門

、擾亂的有毒數(shù)據(jù)

，并提供去毒方案。針對(duì)顯式

、隱式等不同形式的“毒素”檢測率大于95%

，結(jié)合數(shù)據(jù)清洗與對(duì)抗防御等方法，能夠?qū)崿F(xiàn)有效去毒

。目前

，“SenseTrust”數(shù)據(jù)脫敏工具已落地?cái)?shù)據(jù)標(biāo)注

、城市管理，以及自動(dòng)駕駛相關(guān)業(yè)務(wù)場景

。

· 在模型層面

，“SenseTrust”能夠針對(duì)傳統(tǒng)判別式模型和生成式模型的不同特點(diǎn)提供標(biāo)準(zhǔn)化和定制化的模型評(píng)測能力。針對(duì)判別式模型

，可就能夠面向活體識(shí)別

、圖像分類、目標(biāo)檢測等商業(yè)化需求提供一鍵式評(píng)測

；針對(duì)生成式模型

，商湯“SenseTrust”構(gòu)建了百萬量級(jí)的測試數(shù)據(jù)集，覆蓋三十余類倫理和安全測評(píng)維度

，可對(duì)對(duì)抗安全

、魯棒安全、后門安全

、可解釋性和公平性評(píng)測

。為進(jìn)一步提升模型的風(fēng)險(xiǎn)防御能力，商湯“SenseTrust”還能夠提供“AI防火墻”

，從源頭過濾對(duì)抗樣本

，綜合檢出率達(dá)到98%。

· 在應(yīng)用層面

，商湯在涉及數(shù)據(jù)保護(hù)

、數(shù)字取證及偽造檢測等技術(shù)領(lǐng)域有著深厚的積累，并逐步開發(fā)了基于生成

、鑒偽和溯源三位一體的綜合解決方案

。例如，針對(duì)各方頗為關(guān)注的AIGC相關(guān)確權(quán)溯源和鑒偽問題

，“SenseTrust”為此開發(fā)了數(shù)字水印解決方案

，可將特定信息嵌入到數(shù)字載體中，不影響載體的使用價(jià)值

，也不易被人察覺

，只有通過特定的解碼器和專屬密鑰才能提取，能夠支持多模態(tài)數(shù)據(jù)

。數(shù)字水印技術(shù)已服務(wù)于“商湯秒畫SenseMirage”

、“商湯如影SenseAvatar”等多個(gè)產(chǎn)品，以及內(nèi)容創(chuàng)作

、大數(shù)據(jù)等領(lǐng)域的客戶

。

今年WAIC上，“商湯日日新SenseNova”大模型體系再度升級(jí)

。針對(duì)體系內(nèi)的一系列應(yīng)用平臺(tái)

，商湯在傳統(tǒng)“判別式模型”治理經(jīng)驗(yàn)的基礎(chǔ)上

，結(jié)合生成式人工智能的風(fēng)險(xiǎn)特點(diǎn)，利用SenseTrust工具體系進(jìn)行了一系列測評(píng)

，并開展持續(xù)的跟蹤測試

，不斷提升風(fēng)險(xiǎn)防御能力。

SenseTrust可進(jìn)行全方位

、全鏈路的可信AI檢測與加固

與此同時(shí)

，商湯也積極將大模型和生成式人工智能的治理實(shí)踐成果向外輸出。例如

，將商湯“SenseTrust”綜合鑒偽解決方案投入到十余家銀行的安全系統(tǒng)中

，實(shí)現(xiàn)對(duì)各類灰黑產(chǎn)攻擊攔截成功率超行業(yè)同類產(chǎn)品20%以上，有效防范了黑灰產(chǎn)身份盜取

、支付盜刷等網(wǎng)絡(luò)詐騙

。此外，包括模型體檢

、數(shù)字水印，以及主動(dòng)投毒保護(hù)等相關(guān)技術(shù)

，也已通過“商湯AI安全治理開放平臺(tái)”對(duì)外開放

。

免責(zé)聲明：市場有風(fēng)險(xiǎn)，選擇需謹(jǐn)慎

！此文僅供參考

，不作買賣依據(jù)。

關(guān)鍵詞：

責(zé)任編輯：孫知兵

免責(zé)聲明：本文僅代表作者個(gè)人觀點(diǎn)

，與太平洋財(cái)富網(wǎng)無關(guān)

。其原創(chuàng)性以及文中陳述文字和內(nèi)容未經(jīng)本站證實(shí)，對(duì)本文以及其中全部或者部分內(nèi)容

、文字的真實(shí)性

、完整性、及時(shí)性本站不作任何保證或承諾

，請(qǐng)讀者僅作參考

，并請(qǐng)自行核實(shí)相關(guān)內(nèi)容。
如有問題

，請(qǐng)聯(lián)系我們

！

精彩推薦

，政府債置換預(yù)期升溫

，收益率或先降后升">

2023下半年債市展望：信用債分層延續(xù)，政府債置換預(yù)期升溫<div id= ，收益率或先降后升" />

，政府債置換預(yù)期升溫，收益率或先降后升">2023下半年債市展望：信用債分層延續(xù)
，政府債置換預(yù)期升溫
，收益率或先降后升

閱讀排行

，商湯發(fā)布SenseTrust治理平臺(tái)

，護(hù)航生成式AI可信發(fā)展">AIGC日日生新，商湯發(fā)布SenseTru...

，招行信用卡榮獲“2023年度金質(zhì)信用卡天璣獎(jiǎng)”">穿越周期彰顯韌性

，招行信用卡榮...

完達(dá)山乳業(yè):因勢而謀,搶抓數(shù)字化...

好萊塢專業(yè)紀(jì)錄片《NFTY 30》正式殺青

生而不凡的未來顯示技術(shù)

，三星MI...

！4年37國近10萬公里的星途凌云依然巔峰

！">硬核實(shí)力不怕拆！4年37國近10萬...

，實(shí)現(xiàn)員工價(jià)值成長">坤延智能：堅(jiān)持人盡其才

，實(shí)現(xiàn)員...

17家坤元資產(chǎn)FOF伙伴榮登“2023...

進(jìn)出口銀行重慶分行持續(xù)推動(dòng)合規(guī)...

合眾偉奇：多部門協(xié)同的項(xiàng)目管理...

，招行信用卡榮獲“2023年度金質(zhì)信用卡天璣獎(jiǎng)”" class="article-title">穿越周期彰顯韌性
，招行信用卡榮獲“2023年度金質(zhì)信用卡天璣獎(jiǎng)”
上一篇2023-07-17 16:26:40

關(guān)于我們　-　聯(lián)系方式　-　版權(quán)聲明　-　招聘信息　-　友鏈交換　-　網(wǎng)站統(tǒng)計(jì)

太平洋財(cái)富主辦版權(quán)所有：太平洋財(cái)富網(wǎng)

?中國互聯(lián)網(wǎng)違法和不良信息舉報(bào)中心

未經(jīng)過本站允許請(qǐng)勿將本站內(nèi)容傳播或復(fù)制業(yè)務(wù)QQ：3 31 986 683

感谢您访问我们的网站，您可能还对以下资源感兴趣：

五月婷婷操大逼,我和岳坶一起看片,久久精品无码一区二区三区,好硬好大我还要好爽视频,日本99热爱精品,日韩美女乱婬试看视频网站 ,寡妇下面水多好紧视频 ,亚洲AⅤ一区二区三区,色www亚洲国产张柏芝,亚洲av无码男人的天堂无广告,精品久久久久久久免费自慰,久久精品国产大片免费观看,AV影片影音先锋一本大道香蕉,香蕉97超级碰碰碰免费公开 ,啊轻点好爽在线观看,亚洲视频欧美不卡,久久精品国产99久

456亚洲人成在线播放网站国产污污网站免费看波多野结衣性爱网站精品自拍日本日韩少妇150P 久久91精品国产91久久免费A片伦费影视在线观看亚洲国产一二 99久久et这里只有精品18 亚洲AV美女一区二区三区国产成人在线综合网一区二区免费在线视频 XXXX日本高清1 男男gv在线播放网站亚洲亚洲日韩国产新品天堂在线日本不卡一区色多多国产AV二区三区最近中文字幕大全免费日本亚州视频在线八a 妺妺窝人体色www金莲精品欧美伦欲视频精品国产亚洲第一区二区三区国产成人精品一区二三区2023 中日韩人妻一级精品毛片午夜视频在线在免费视频亚洲啊啊啊啊 2021在线看片免费人成视频激情综合亚洲九月色亚洲va中文字幕不卡无码免费无限永久在线观看污污网址看男女日皮视频在线观看青青草国产播放视频黄色一级视频免费看国内精品自产拍在线观看亚洲欧美日产综合在线网性色亚洲中文自拍另类Av片成人一级黄片免费观看最新国产精品自在线观看国产福利第一导航呦男呦女精品视频八区在线的最新免费国产国产中文字幕亚洲精品宅男福利导航紧身裙连裤袜波多野结衣欧美成综合网站少妇久久综合 A片调教在线免费播放网址欧美3d怪物H动漫播放白丝jk插进去喷水视频粗大掹烈进出高潮视频 2021精品亚洲中文字幕最刺激的乱惀小说喷水网国产美女遭强开双腿在线观看农村国产一级一级A片一性一交一口添一摸视频超级碰碰青草免费视频APP 久久精品国产大片免费观看国产精品毛片va一区二区三区国产美女视频免费曰批免费视频观看40分钟中文字幕在线永久视频国产精品所白浆视频又色又粗又长又大的三级久久久精品免费齐齐国产精品自拍自偷伊人色综合一区二区三区强行交换配乱婬bd 久久中文字幕系列 mm1313国产精品久久尤物92福利视频午夜1000合集 97国产最新免费公开视频丝袜美腿视频一区二区三区 aⅴ调教视频国产精品一区二区丝瓜国产精品成熟老女人风间由美性色一区二区三区亚洲国产精品激情一区二区 91新超碰极品盛宴分类 XX一个色综合国产色综合午夜福利合集青青青视频自偷自拍在线观看免费AV啊啊啊啊不要青青草成人视频在线视频偷拍亚州av综合色区无码一区亚洲另类自拍图五月丁香激情综合视频国产精品1000部在线观看亚洲一区二区不三区不卡国产精品情侣自拍又粗又大又爽又紧免费视频亚洲日韩AV中字在线网站亚洲有码一区二区三区视频亚洲AV成人片色欲在线观看品久久二区三区久草欧美精品国产丰满麻豆videosshd 精品不卡一区二区日本XXXX视频在线观看免费国产精品亚洲小说专区白丝jk国产一区二区三区伊在人天堂亚洲香蕉精品区国产综合日本亚洲777 张开腿无遮无挡在线观看久久久久久久99精品免费观看中文乱码一区高潮在线喷另类老妇性BBWBBW 超清中文乱码字幕在线观看国产三寸白浆喷潮直流视频少妇一区二区三区黄亚洲中文字幕乱码电影国产精品亚洲日韩久久亚洲中文字幕久久无码精品国外欧美一区二区中美日韩印度亚洲综合在线国产区精品系列在线观看不免费又爽又刺激的网站美女被狂插出水茄子在线看片免费人成视频亚洲性色成人av天堂黄、作爱免费视频亚洲狂野国产AV 手机看片久久国产永久免费好男人www 中文字幕婷婷日韩欧美亚洲白洁国产剧情Av手机在线尤物成人影院yw193在线观看欧美v亚洲v日韩v最新在线国产未满十八岁午夜欧美老妇理论片白浆高潮国产免费精品国产高清一区二区三区国产嫖妓一区二区三区无码国产精品1区2区3区在线播放 h娇喘喷水抽搐高潮视频欧美乱妇日本无乱码特黄大片国内私拍哺乳精品视频又大又粗又长外国一级黄在线看片免费人成视频在线观看亚洲精品福利片欧美孕妇变态重口另类欧美亚洲综合在线国产91麻豆免费观看 h视频网站黄国产情侣草莓视频在线色五五月五月开在线观看九九热精品免费观看 992免费视频网站十八禁网站gay 亚洲午夜福利在线视频女人把私人部位扒开视频在线看 www欧美性爱色露一区二区亚洲Aⅴ天堂在线观看忘忧草在线社区www日本亚欧性爱欧美日韩国产一区二区国产精品亚洲二区在线看疯狂做受DVD免费播放 99久久国产综合精品无码 a女激情视频在线观看日本高清=区视频在线

AIGC日日生新，商湯發(fā)布SenseTrust治理平臺(tái)，護(hù)航生成式AI可信發(fā)展

精彩推薦

，政府債置換預(yù)期升溫，收益率或先降后升">2023下半年債市展望：信用債分層延續(xù) ，政府債置換預(yù)期升溫 ，收益率或先降后升

閱讀排行

推薦閱讀

AIGC日日生新，商湯發(fā)布SenseTrust治理平臺(tái)
，護(hù)航生成式AI可信發(fā)展

，政府債置換預(yù)期升溫，收益率或先降后升">2023下半年債市展望：信用債分層延續(xù)
，政府債置換預(yù)期升溫
，收益率或先降后升