文心千帆上架Llama2

，百度要做大模型“跨境電商”｜最前線

針對上架的第三方模型，百度主要在3個方面做了調(diào)控：

• 提高可靠性和安全性

  。

• 降低成本：調(diào)整后模型體積可壓縮至25%-50%

  ，推理成本可降低50%。

• 支持全套工具鏈

  、多樣化模型調(diào)優(yōu)：接入模型支持SFT（全量參數(shù)微調(diào)

  、Prompt Tuning、Lora）

  、強化學習等調(diào)優(yōu)方式

  。

  不過，在開源生態(tài)愈發(fā)體系化的當下

  ，不少開源模型第三方機構(gòu)對開源商用許可做出了嚴格的規(guī)定

  。即便開放了免費商用的Llama2，Meta對用戶也進行了約束：如果產(chǎn)品的月活躍用戶（MAU）超過7億

  ，用戶必須申請?zhí)厥獾纳虡I(yè)許可證

  。

  對此，忻舟表示

  ，百度在引入大多數(shù)開源模型時

  ，都會和開發(fā)團隊進行溝通，比如智譜的ChatGLM2-6B既有開源版

  ，同時也有商用版

  ，那么針對商用版百度會與智譜進行分成。但由于上線時間緊張

  ，因此目前百度和Meta等國外模型團隊正在保持溝通

  。

  針對已上線的第三方模型，百度將根據(jù)市場和客戶反饋采取上新和淘汰機制

  。忻舟告訴36氪

  ，為了降低用戶的選擇成本，文心千帆的模型庫不會是無限擴張的狀態(tài)

  ，最終仍會根據(jù)市場選擇更新或者下架

  。

  上線103個預制Prompt模板，幫客戶提問題

  在用戶實際使用模型的過程中

  ，提問的方式往往會影響模型輸出的內(nèi)容

  。這是因為，一個好的問題模版往往能夠幫助預訓練模型“回憶”起預訓練時學習到的內(nèi)容——這一問題模板就被稱為Prompt。

  不過

  ，文心千帆并不打算花時間教用戶如何寫Prompt

  ，而是直接幫用戶寫完問題。

  此次上線的103個預制Prompt模板

  ，覆蓋了對話

  、編程、電商

  、醫(yī)療

  、游戲、翻譯

  、演講等十多個場景

  。據(jù)百度智能云AI平臺副總經(jīng)理李景秋介紹，預制Prompt模板來源于百度智能云在產(chǎn)業(yè)實踐中積累的Prompt模板

  ，也源自文心一言的高頻用戶

  。

  文心千帆上線的103個預制Prompt模板。圖源：文心千帆截圖

  比如當用戶希望文心一言對電影《芭比》做出評價時

  ，簡單提問“電影《芭比》好看嗎

  ？”與使用預制Prompt模板后得到的影評在質(zhì)量、篇幅上均有較大差距

  。

  用“電影《芭比》好看嗎

  ？”提問后，文心一言的回答

  。圖源：作者試用

  用文心千帆預制Prompt提問后

  ，文心一言的回答。圖源：作者試用

  上線插件

  ，新增文檔摘要功能

  所謂的插件

  ，就像是大模型中的“小程序”

  ，作為模型能力的補充和拓展

  。

  此前，ChatGPT已經(jīng)開放了74個插件

  ，功能涵蓋購物

  、求職、營銷

  、票務(wù)預定等

  。但過多的第三方插件也會帶來安全風險，媒體Wired報道指出

  ，安全研究人員表示

  ，ChatGPT 插件的運行方式存在風險，可能會導致用戶的數(shù)據(jù)泄露，甚至被黑客濫用

  。

  作為國內(nèi)模型插件的“吃蟹者”

  ，文心千帆此次上線的“百度搜索”和“ChatFile”插件均由百度自行研發(fā)。

  文心一言上線的兩款插件

  。圖源：作者截圖

  值得一提的是

  ，“ChatFile”可檢索PDF/Doc格式文檔中的知識點，并且實現(xiàn)文本摘要等功能

  。

  ChatFile插件對《正午之魔：抑郁是你我共有的秘密》一書的總結(jié)

  。圖源：作者試用

  李景秋介紹，文心千帆的插件已經(jīng)應用于百度辦公軟件“如流”中

  。目前

  ，如流已經(jīng)接入了20個插件，涵蓋文檔搜索

  、會議紀要

  、會議室預定等功能。未來

  ，文心千帆的插件生態(tài)也將開放給第三方開發(fā)者

  。

  “如流”接入的20個插件。圖源：百度

  忻舟表示

  ，一站式大模型平臺最后會更被開發(fā)者所需要

  ，隨著技術(shù)的不斷成熟，底層設(shè)施和工具的開發(fā)會放緩

  ，更多的精力會被放在保證自己的業(yè)務(wù)不被技術(shù)發(fā)展所淘汰

  ，這時上層應用對平臺工具的需求會更大，平臺之間比拼的是服務(wù)的能力

  ，“在激烈競爭中

  ，一定會有一些做得好的頭部的平臺，能夠變成主要的玩家

  ?div id="jpandex" class="focus-wrap mb20 cf">！?/p>

  歡迎交流！

  關(guān)鍵詞：

  責任編輯：孫知兵

  免責聲明：本文僅代表作者個人觀點

  ，與太平洋財富網(wǎng)無關(guān)

  。其原創(chuàng)性以及文中陳述文字和內(nèi)容未經(jīng)本站證實，對本文以及其中全部或者部分內(nèi)容

  、文字的真實性

  、完整性、及時性本站不作任何保證或承諾

  ，請讀者僅作參考

  ，并請自行核實相關(guān)內(nèi)容

  。
  如有問題，請聯(lián)系我們

  ！

  • 文心千帆上架Llama2
    ，百度要做大模型“跨境2023-08-03
  • Mysteel早讀：黑色系夜盤下跌，鋼協(xié)評估期2023-08-03
  • 年內(nèi)多家藥企因銷售費用高企遭監(jiān)管問詢 集2023-08-03
  • 《封神第一部》導演烏爾善：抵制偷漏瞞報票2023-08-03
  • 貴廣網(wǎng)絡(luò)：8月2日融券賣出7.67萬股
    ，融資融2023-08-03
  • 樂是什么字(樂是什么結(jié)構(gòu)的字?樂是什么意思2023-08-03
  • 2018年是什么屬相(2018年是什么生肖年20182023-08-03
  • 均勝電子：8月2日獲融資買入4316.51萬元
    ，2023-08-03
  • 科匯股份：8月2日獲融資買入124.59萬元2023-08-03
  • 京東辟謠收購永輝超市事宜2023-08-03
  • 華為這次又跑在了前面？正式宣布核心突破
    ，2023-08-03
  • 2023年濟寧市暑期高校畢業(yè)生暨助企攀登專場2023-08-03
  • 克雷茨格：新賽季首先專注于拜仁二隊 捧起2023-08-03
  • 精鍛科技獲4家機構(gòu)調(diào)研：泰國工廠預計20252023-08-03
  • 德才股份獲5家機構(gòu)調(diào)研：公司承接的膠州市2023-08-03
  • 觀復嘟嘟主持人天香（觀復嘟嘟女主持人添香2023-08-03
  • 積極發(fā)揮業(yè)務(wù)板塊協(xié)同效應 橫店影視上半年2023-08-03
  • 行業(yè)基本面顯著改善 華銀電力何以持續(xù)虧損2023-08-03
  • 融僑集團截至7月末逾期金融機構(gòu)貸款5.12億元2023-08-03
  • 回報率怎么算的（回報率怎么算）2023-08-03
  • 8月2日基金凈值：太平豐潤一年定開債發(fā)起式2023-08-03
  • 8月2日基金凈值：寶盈品牌消費股票A最新凈2023-08-03
  • 離婚財產(chǎn)是否可以公證2023-08-03
  • 2023年8月2日煤質(zhì)柱狀炭價格最新行情預測2023-08-02
  • 臺州市氣象臺丨臺風?“杜蘇芮”對于臺州利2023-08-02
  • 肺積水是什么原因(肺積水是怎么回事)2023-08-02
  • i茅臺上半年收入93億
    ！累計注冊用戶突破4202023-08-02
  • 南鋼召開黑色產(chǎn)業(yè)鏈市場交流會2023-08-02
  • 國際航空論壇2023在港揭幕 逾千業(yè)界人士出席2023-08-02
  • 體操首金！中國隊奪得體操男子團體金牌2023-08-02

  精彩推薦

  ，百度要做大模型“跨境電商”｜最前線">

  ，百度要做大模型“跨境電商”｜最前線" />

  文心千帆上架Llama2

  ，百度要做大模型“跨境電商”｜最前線

  • ，百度要做大模型“跨境電商”｜最前線">文心千帆上架Llama2，百度要做大模型“...
  • ，鋼協(xié)評估期貨對鋼鐵行業(yè)影響">Mysteel早讀：黑色系夜盤下跌
    ，鋼協(xié)評估...
  • 《封神第一部》導演烏爾善：抵制偷漏瞞...
  • 2023年濟寧市暑期高校畢業(yè)生暨助企攀登...
  • 8月2日基金凈值：太平豐潤一年定開債發(fā)...
  • 2023年8月2日煤質(zhì)柱狀炭價格最新行情預測
  • 國際航空論壇2023在港揭幕 逾千業(yè)界人士出席
  • 心理培訓實用有趣 職工直呼“沒聽夠”
  • ！拓普集團
    ，瘋狂募資，背后是與非">近40億定增獲批

    ！拓普集團

    ，瘋狂募資，...
  • 標準晚報：切爾西希望通過衛(wèi)星隊斯特拉...
  • 上海二批次二輪土拍攬金238億收官,綠城1...
  • ？">連續(xù)6年榮登世界500強 泰康保險集團基...

  、股價跌超40%,奧園“斷臂求生”迎復牌決戰(zhàn)時刻">奧園健康停牌16個月后復盤、股價跌超40%...