GPT-4發布一天之后,壓力全部給到百度這邊。
就在剛剛,百度交卷。
文心一言,百度全新一代知識增強大語言模型,正式在百度總部會議室里發布。
在一片靜寂的氛圍里,李彥宏小步登場,語氣里帶著點緊張:
大家的期望值,是我們對標ChatGPT,對標GPT-4,這個門檻有點高(笑)。
十月懷胎,我們就帶大家來看看這個AI大模型文心一言長什么樣。
此前,有人狂轉meme圖把百度比作GPT-4旁邊的垃圾箱。
也有人鼓吹百度是全村的希望。
而在發布會進行的同時,百度港股市值大幅下跌,相關話題還沖上了微博熱搜。
但直播彈幕中也有網友點贊:
那么這個中國版ChatGPT到底實力如何?
咱們就用百度發布會演示的預錄制Demo,對比一下嶄新出爐的GPT-4,先憑實力說話。
文心一言 vs GPT-4
和GPT-4一樣,文心一言是一個多模態大模型。
李彥宏開場就展示了文心一言具備的5種能力,包括文學創作、商業文案創作、數理邏輯推算、中文理解、多模態生成。
文心一言甚至還現場秀了一口接地氣的四川話,現場網友發出一片笑聲:
其他能力如何?我們具體展開來看。
經濟學家:美國總統候選人Kennedy用比特幣支持美元的提議會限制美聯儲應對經濟危機的能力:金色財經報道,美國總統候選人Robert F. Kennedy Jr.用比特幣支持美元的提議遭到了加密貨幣專家的猛烈抨擊,一位經濟學家表示,該計劃是一項“幾乎不可能的壯舉”,這將會限制美聯儲應對經濟危機的能力。
本月早些時候,Kennedy在與支持Donald Trump的著名共和黨人有聯系的Heal the Divide Super PAC主辦的一次活動上發言時聲稱,用包括比特幣在內的硬資產支持美元將 \"抑制通貨膨脹,開創美國金融穩定、和平與繁榮的新時代\"。[2023/7/26 15:59:26]
在文學創作上,李彥宏一開場就搬出了《三體》作者劉慈欣坐鎮。
先讓文心一言介紹一下大劉,畢竟我也是劉慈欣老鄉嘛:
看起來沒什么問題。同樣的問題問問GPT-4呢?
嗯???直接把劉慈欣的老家挪到了湖北省洪湖市。湖北人狂喜。
隨后,李彥宏又展示了從哲學的角度對這段文章進行續寫的demo:
看起來中規中矩,比較理性。老樣子,我們也來與GPT-4進行一波對比:
這波你是想看GPT-4續寫的《三體》,還是文心一言的?
再來看看《三體》電視劇中扮演史強和汪淼的老搭檔,于和偉和張魯一,有什么共同點?
加密錢包Xverse、Hiro將于本周更新版本,支持從Ordinals地址直接提取比特幣:3月9日消息,據官方推特,針對TwelveFold拍賣退款BTC無法提現問題,加密錢包Xverse以及Hiro發布公告稱,將于本周更新版本,支持用戶從Ordinals地址直接提取比特幣。
此前消息,Yuga Labs將TwelveFold拍賣退款BTC發送至用戶提供的Ordinals地址,并鑄成了銘文,導致部分用戶無法及時提現。[2023/3/9 12:52:03]
也沒什么問題。
就是看起來展示的速度有點快,比李彥宏的語速還要快上那么一點點(手動狗頭)。
接下來,李彥宏又展示了一下文心一言在商業文案創作上的能力。
比如給新公司起個名字。
并且這個名字它還不是瞎起的:
再來看看GPT-4起名的效果?
看起來,GPT-4對中文的掌控能力相比之下還是少了一點精髓。
至于寫個公司成立的新聞稿?對文心一言來說似乎也不成問題:
消息人士:Amber Group正在以30億美元的估值籌集超1億美元新資金:金色財經報道,匿名消息人士稱,數字資產交易平臺Amber Group正在以30億美元的估值籌集1億多美元的新資金。該公司在2月份的估值為30億美元,融資2億美元,由財富基金淡馬錫領投,紅杉中國、Pantera Capital、Tiger Global Management、True Arrow Partners和Coinbase Ventures參投。
報道稱,Amber原本試圖以50億至80億美元的更高估值再次籌集資金,但鑒于加密市場普遍低迷,這些資金未能兌現。知情人士透露,新的融資正在分多個部分完成,1億美元中的大約一半已經到位,該公司計劃在今年年底或2023年初之前再完成一到兩次額外的融資交易。(彭博社)[2022/11/5 12:19:10]
數學能力,是考驗生成式大模型的一大難題。ChatGPT剛上線時,也翻了不少車。
不過在現場,文心一言處理的數學問題不算復雜,是小學數學競賽常見的雞兔同籠問題。
彩蛋是,李彥宏現場展示的第一題,引得文心一言說出了《狂飆》里高啟盛的經典臺詞:這題出得不對。
修改一下題目,OK,再扔給文心一言試試:
看起來,答案還算是有理有據,一步步邏輯推理出來的那種。
李彥宏表示,這些題不敢說百分之一百能做對,但至少體現了文心一言的思考歷程。
接下來,李彥宏著重展示了一下文心一言對中文的理解能力,并特意強調:
數據:Azuki 當日交易量達 879.76 ETH,創近 3 個月新高:10月18日消息,據 Dune Analytics 數據,NFT 項目 Azuki 交易量在 10月 17 日達到 879.76 ETH,創近 3 個月以來新高。
今日早些時候,Azuki 發布開源的代幣標準 Physical Backed Token (PBT),支持將現實物品綁定到以太坊區塊鏈上,Azuki 稱此模式為 Scan to Own。[2022/10/18 17:30:51]
文心一言對中國文化的了解,理應超出任何一個預訓練大模型。
一上來就是一個成語,洛陽紙貴到底有多貴?
這是文心一言的效果展示:
還解釋了一下這個成語背后的經濟學原理:
那么,將這個問題拋給GPT-4呢?首先問問它,知不知道洛陽紙貴是什么意思:
接下來,再問問他對應的經濟學理論是什么:
這波看起來,GPT-4的中文理解似乎也不輸文心一言啊。
那么,再來看看二者寫藏頭詩的能力?
首先是文心一言的效果展示:
OpenSea上線批量上架和購買功能:10月5日消息,OpenSea正式支持批量上架和購買功能,用戶現在可以在OpenSea上的單個交易流程中列出并購買多達30件商品。[2022/10/5 18:39:54]
接下來,我們再看看GPT-4怎么說:
誒,看起來反而是GPT-4沒有真正理解藏頭詩的含義。
這波文化理解上,屬實是文心一言小勝一籌了。
不過在英文上,李彥宏也承認,雖然文心一言也能處理,但能力是顯著不如中文的。
這也和百度目前能用到的訓練數據有關。
最后,李彥宏還簡單展示了一下文心一言多模態生成的能力。
首先來看看,為即將到來的2023世界智能交通大會創作海報。
而除了前文展示過的文字轉四川話能力,文心一言還能文字轉視頻。
李彥宏一句指令,將以上內容生成視頻,很快啊,不到幾秒鐘,文心一言就把字幕和視頻做好了:
有些遺憾的是,在ChatGPT被頻頻稱贊的編程方面,文心一言并沒有現場展示相關能力。
但王海峰透露,文心一言的訓練數據中同樣包括代碼。
正如ChatGPT脫胎于OpenAI的GPT系列,百度這次推出的文心一言(ERNIE Bot),背后也正是基于文心大模型技術打造。
據王海峰介紹,文心一言主要脫胎于兩大模型:
百度ERNIE系列知識增強千億大模型,以及百度大規模開放域對話模型PLATO。
在此基礎上,主要采用了六項核心技術。
其中三個是廣為人知的大模型技術,包括有監督精調、人類反饋強化學習(RLHF)和提示構建。
p.s. 人類反饋強化學習也是ChatGPT的關鍵技術。
另外三個,則是百度比較有特色的技術,包括知識增強、檢索增強和對話增強技術。
首先來看與ChatGPT類似的技術:有監督精調、RLHF和提示構建。
有監督精調,尤其指中文方面的數據精調。百度基于對中國語言文化和中國應用場景的理解,篩選了特定的數據來訓練模型。
至于人類反饋的強化學習(RLHF)和提示構建,操作上也與ChatGPT大差不差。
隨后是百度提出的、用于進一步改善模型效果的技術。
知識增強,包括知識內化和知識外用兩個部分。其中,知識內化即將知識滲透進模型參數中;知識外用指的是模型可以直接使用外部的知識。
檢索增強,則與百度搜索引擎積累的檢索技術有關。
百度將把檢索技術和生成技術結合起來,先對內容進行檢索后,將比較有用的部分用于生成,再整合輸出結果:
最后是對話增強部分,包括之前百度積累的記憶機制、上下文理解和對話規劃等技術:
概括來看,文心一言表現出的能力,被李彥宏稱為智能涌現:當參數達到千億量級,訓練語料達到足夠多的情況下,這種現象就會發生。
目前,百度擁有的AI技術可以分為四個部分,芯片(昆侖芯)、框架(飛槳)、模型(文心)和應用。
之所以軟硬件都要布局,百度稱,是為了降低成本:生成式AI需求的算力非常高,費用相當昂貴。
因此,如果在四層架構之間相互進行協同優化,就能讓它的效率比別人更高,從而顯著降低成本。
李彥宏認為,這也正是百度的優勢所在:四層都有領先產品的公司,絕無僅有。
這次文心大模型背后的硬件算力,也是通過百度智能云提供服務。
目前,文心一言已經接入百度搜索,目的在于提升搜索資源效率。
同時,包括小度和自動駕駛Apollo等產品,以及愛奇藝等公司也已經接入百度的文心一言模型。
網友:看來還不用提前退休
截至發稿,百度港股股價在一波明顯下跌之后,有所回彈。
發布會結束,網友反應最多的是提前錄制有點敗好感:
對于這一點,李彥宏的解釋是,給出的問題都比較長,為了節約現場時間,所以才用了提前錄制的形式。
還有不少網友對文心一言展示出的能力不太滿意。有人調侃,看完之后感覺提前退休的日子看起來還可以緩一緩:
離GPT-4還差了20個老胡。
還有網友感覺,文心一言的發布會像極了畢業答辯的自己(doge):
不過也有網友表示,希望能給國產產品一點時間一點耐心。
發布會末尾,王海峰宣布,文心一言將從今天開始對外進行測試,包括個人用戶和企業用戶。
是騾子是馬,相信接下來,會得到更多驗證。
對了,有網友表示,已經拿到了文心一言的內測資格:
你好,感謝您體驗文心一言,體驗地址: https://yiyan.baidu.com/welcome,希望您在體驗當中給予更多意見,文心一言邀請碼:KFCVME50RMB,2023年3月16日24:00前有效。
嗯,萬物瘋狂星期四。
量子位
個人專欄
閱讀更多
金色財經 善歐巴
金色早8點
白話區塊鏈
Arcane Labs
Odaily星球日報
MarsBit
歐科云鏈
深潮TechFlow
BTCStudy
撰文:Arthur Hayes編譯:Kate, Marsbit北亞的冬天已經過去了。溫暖的天氣、陽光和櫻花的早開預示著春天的到來。從美麗的北海道山區出發后,我在東京度過了最后一個周末.
1900/1/1 0:00:00一方面,美國政府對其大力施壓,進行了“提醒流動性風險+處罰”的雙重施壓;另一方面,曾經關系親密的客戶紛紛宣布停止合作。而這一切,都讓 Silvergate 瀕于破產的邊緣.
1900/1/1 0:00:00提款功能即將到來!Shapella網絡升級計劃于epoch 194048在以太坊網絡上激活,也就是UTC時間2023年4月12日22:27:35.
1900/1/1 0:00:00Coinlive Story是Coinlive推出的系列采訪視頻,以Web3行業中的女性從業者為主要采訪嘉賓,展現女性在Web3時代的精彩故事與持續貢獻.
1900/1/1 0:00:00作者:鄧建鵬(中央財經大學學院教授),馬文潔文章來源:陜西師范大學學報2023年第1期摘 要:數字經濟時代,以比特幣為代表的加密資產不斷涌現,成為一類重要的網絡虛擬財產.
1900/1/1 0:00:00原文:《元宇宙虛火燒盡 日產“逆勢”布局》 撰文:木沐,元宇宙日爆 編輯:文刀 風口總消散在新一輪的風口下.
1900/1/1 0:00:00