1.從周五到周末ChatGPT已經瘋傳開來,其對話能力讓人驚艷。從玩梗、寫詩、寫劇本,到給程序找bug,幫人設計網頁,甚至幫你生成AIGC的提示詞,一副無所不能的樣子。可以去Twitter上看BenTossell梳理的一些例子,或者自己去試試!一位MBA老師讓ChatGPT回答自己的管理學題目,結論是以后不能再布置可以帶回家的作業了。很多人用了以后無法自拔,就如這位所見:
Musk問ChatGPT怎么設計Twitter(不得不說還挺有創意):
2.有人讓ChatGPT參加了智商測試,得分83;SAT測試得分1020,對應人類考生52%分位。要知道ChatGPT并沒有對數學方面做過優化,已經是相當不錯的結果了。
Bitfinex將于7月11日移除BAT/USDT、ID/USDT、TREEB/USDT、EOS/EUR交易對:6月30日消息,據官方公告,Bitfinex將移除如下4個交易對:BAT/USDT、ID/USDT、TREEB/USDT、EOS/EUR。這些交易對的移除將有助于鞏固和改善Bitfinex的流動性,為客戶帶來更精簡和優化的交易體驗。
這四個交易對將于2023年7月11日上午10:00(UTC時間)停止交易。請注意,相關代幣的其他交易對并未移除,仍可在Bitfinex上交易。請客戶在這些交易對下架之前取消任何未完成訂單,這些訂單屆時將被系統取消。
從2023年7月4日上午10:00(UTC時間)開始,客戶只能減少EOS/EUR的保證金頭寸。所有剩余的保證金訂單將被取消,Bitfinex將在2023年7月11日強制結算所有未平倉保證金頭寸。[2023/6/30 22:09:59]
3.ChatGPT的提升點
相比之前的GPT-3,ChatGPT的提升點在于能記住之前的對話,連續對話的感覺讓人舒服。
ChatGPT可以承認錯誤,如果你認為他的回答不對,你可以讓他改正,并給出更好的答案。
報告:SEC與Ripple案中的Hinman文件發布是對以太坊的推動:金色財經報道,摩根大通(JPM)在周四的一份研究報告中表示,上周美國證券交易委員會(SEC)對Ripple提起的Hinman文件的發布是對以太坊(ETH)的推動,并可能引發加密貨幣市場進一步去中心化的趨勢。報告稱,Hinman文件可能會加強主要加密貨幣之間的移動,變得更加去中心化,使其看起來更像以太幣。[2023/6/19 21:47:27]
ChatGPT可以質疑不正確的前提,GPT-3剛發布后很多人測試的體驗并不好,因為AI經常創造虛假的內容,而現在再問“哥倫布2015年來到美國的情景”這樣的問題,AI已經知道哥倫布不屬于這個時代了。
ChatGPT還采用了注重道德水平的訓練方式,按照預先設計的道德準則,對不懷好意的提問和請求“說不”;當然,盡管OpenAI非常小心,這種準則還是可能被聰明的提問方式繞開。
4.ChatGPT的訓練方法
當下大模型的工作范式是“預訓練-微調”。首先在數據量龐大的公開數據集上訓練,然后將其遷移到目標場景中,通過目標場景中的小數據集進行微調,使模型達到需要的性能。微調/prompt等工作從本質上對模型改變并不大,但是有可能大幅提升模型的實際表現。人類問問題方式對于GPT-3而言不是最自然的理解方式,要么改造任務,要么微調模型,總之是讓模型和任務更加匹配,從而實現更好的效果。
EUL短線跌破3 USDT,24H跌幅為41.15%:金色財經報道,行情顯示,EUL短線跌破3 USDT,現報3.4561 USDT,24H跌幅為41.15%。
此前消息,安全團隊BlockSec表示,DeFi借貸協議Euler Finance遭到閃電貸攻擊,目前受損金額約為1.97億美元。[2023/3/13 13:00:54]
ChatGPT是22年1月推出的InstructGPT的兄弟模型。InstructGPT增加了人類對模型輸出結果的演示,并且對結果進行了排序,在此基礎上完成訓練,可以比GPT-3更好的完成人類指令。ChatGPT新加入的訓練方式被稱為“從人類反饋中強化學習”。
ChatGPT是基于GPT-3.5模型,訓練集基于文本和代碼,在微軟AzureAI服務器上完成訓練。原先GPT-3的訓練集只有文本,所以這次新增了代碼理解和生成的能力。
5.為什么ChatGPT的提升這么明顯
除了帶有記憶能力、上下文連續對話能帶給人顯著的交互體驗提升,ChatGPT的訓練方式也值得關注。上述提到的RLHF方法首見于22年3月發表的論文(Traininglanguagemodelstofollowinstructionswithhumanfeedback),但根據業界的推測,RLHF并未用到InstructGPT的訓練中。InstructGPT所用到的text-davinci-002遇到了一些問題,會呈現出模式坍塌(modecollapse)現象,不管問他什么問題,經常收斂到同樣的答案,比如正面情緒相關的回答都是跟婚禮派對相關。
風投機構1confirmation創始合伙人Nick Tomaino推特名改為“1492.eth”:金色財經消息,風投機構1confirmation創始合伙人Nick Tomaino將推特昵稱改為“1492.eth”,并表示1492年哥倫布開始第一次航海。同時他稱ENS是完美的NFT系列,有些人不認為ENS是NFT,但事實是它是最廣泛持有的NFT。
此前報道,6月份1confirmation推出1億美元NFT基金,該基金將直接投資NFT并擁有10年生命周期,主要專注于投資其所支持的公司的新項目,如游戲、藝術、攝影和音樂等類別的項目。[2022/9/5 13:08:41]
這次RLHF的方法得以在ChatGPT上應用,并取得了很好的效果。但RLHF實際上并不容易訓練,強化學習很容易遇到模式坍塌,反饋過于稀疏這類問題,訓練起來很困難。這可能也是為什么論文在3月發表,ChatGPT在12月才上線,中間需要大量的時間來調優。
此外,指令調整的貢獻也很大。InstructGPT雖然在參數上比GPT-3少了100倍,它的輸出效果比GPT-3以及用監督學習進行微調的模型都要好得多。
根據知乎用戶“避暑山莊梁朝偉”的觀點:“InstructionTuning和Prompt方法的核心一樣,就是去發掘語言模型本身具備的知識。而他們的不同點就在于,Prompt是去激發語言模型的補全能力,比如給出上半句生成下半句、或者做完形填空,都還是像在做languagemodel任務,而InstructionTuning則是激發語言模型的理解能力,通過給出更明顯的指令,讓模型去理解并做出正確的反饋。”
比特大陸E9以太坊礦機已發布ETC固件:據官方消息,比特大陸E9以太坊礦機已發布ETC固件,目前支持螞蟻礦池、魚池與幣印礦池,用戶可在比特大陸官網下載固件開挖ETC。[2022/9/2 13:05:05]
參考下圖,以前大模型的提升重心更多放在了大模型本身和PromptEngineering上,而ChatGPT的迭代重點是右側的閉環。
action-drivenLLM訓練流程圖
最后,ChatGPT在過于保守不提供有效回答和提供虛假信息之間做出了較好的權衡。之前Meta用于科研的大模型Galactica上線僅3天就被迫下線,因為提供了過多虛假的信息。這跟Meta的宣傳策略也有關,其本意是想幫助研究人員整理信息、輔助寫作,但Meta將其模型宣傳為“可以總結學術論文,解決數學問題,生成維基文章,編寫科學代碼,為分子和蛋白質做注解等”,過高期望帶來了反效果,科研人員本來就是挑剔的。ChatGPT盡管不能完全避免虛假信息的問題,但可以看出在微調/Prompt方面做了足夠細致的工作,一些自相矛盾的提問可以被甄別出來,讓用戶對其回答更有信心。
6.商業策略也是重要一環
這次ChatGPT是免費不限量向公眾開放,用戶可以盡情在平臺上嘗試各種奇異瘋狂的想法,而此前GPT-3是根據使用量(token)來收費的。在使用過程中,用戶可以提供反饋,這些反饋是對OpenAI最有價值的信息。OpenAI并不急于創收也不缺錢,坊間傳言最新一輪估值已經達到數百億美金,還有金主爸爸微軟。
對于AI發展來說,工程的重要性實際上大于科學,創建一個迭代反饋的閉環至關重要。OpenAI很注重商業應用,GPT-3已經擁有大量客戶。這些客戶跟OpenAI的反饋互動也是推動進步的關鍵一環。相比之下,谷歌的閉門造車就顯得不合時宜,或許是缺乏商業化的文化,或許是受限于投入產出比,谷歌對于大模型的應用一直很“克制”,即便起點很高,但如果一直像Waymo做自動駕駛一樣小規模迭代,早晚會被更為開放,獲得更多數據的企業超越。
7.后續提升點
RLHF是一種較新的方法,隨著OpenAI不斷摸索,結合ChatGPT搜集到的用戶反饋,模型還有進一步提升的空間。尤其是在道德/alignment層面,需要屏蔽掉這幾天大家試驗出來的繞過系統限制產生負面信息的方法。
當然也別忘了,OpenAI還有WebGPT這樣的工具,可以理解為高階版網頁爬蟲,從互聯網上摘取信息來回答問題,并提供相應出處。比如下面的問題Howdoneuralnetworkswork,WebGPT利用了GPT-3本身具備的語義理解能力和互聯網公開信息,自己結合出了一份答案,不失為一種升級的搜索能力。
在MITTechnologyReview對OpenAI科學家的采訪中,他們提到了后續有可能將ChatGPT和WebGPT的能力結合起來。有網友挖掘出了ChatGPT內設的提示詞,其中包含browsing:disabled,把瀏覽網頁能力關閉了,也就是說后續有可能加入這個能力。可以設想,ChatGPT+WebGPT可以產生更為有意思的結果,信息可以實時更新,對于事實真假的判斷將更為準確。
與WebGPT的這種結合,對應到上面?action-drivenLLM訓練流程圖?的左半部分,即連接外部的信息源和工具庫。事實上網頁搜索只是一種可能,還結合利用各種工具,實現更豐富的功能。
在產品層面,是不是有更好的界面和實現方式也值得討論。同屏對話框形式容易讓人產生過高的預期,因為要保障對話的流暢性。在這一點上,GithubCopilot產品就做得很好,Copilot主打的是programmingpair,以伙伴的身份提出建議。從用戶角度,這個建議好就接受,不好就不接受;即便提出了很多不被接受的建議,但在隨機時間間隔產生的有效建議帶來的爽感就會讓用戶上癮。如果ChatGPT后續成為寫作助手、編劇助手、工作助手等等,類似Copilot的產品形態會容易讓人接受。
寫在最后
很多人驚嘆于ChatGPT的能力,但其實真正驚艷的還在后面。OpenAI最厲害的不是他關于大模型的理解,而是其工程化、迭代反饋的能力,以及alignment(AI跟人類目標的統一)方面的工作。很欣賞OpenAICEOSamAltman的一句話:“Trusttheexponential.Flatlookingbackwards,verticallookingforwards.”?我們就處在即將起飛的這個點上。
MarsBitCryptoDaily2022年12月5日 一、?今日要聞 數據:StarkNet橋接存儲TVL突破6000枚ETH,過去7天增長超20%據DuneAnalytics最新數據顯示.
1900/1/1 0:00:00盡管從標題的結構看起來像是枯燥乏味的論文,內容似乎是捕風捉影的小報,但確實沒有更加貼切的表述來概括本文.
1900/1/1 0:00:002022年10月31日,香港正式發布《有關香港虛擬資產發展的政策宣言》,在全球加密領域邁出關鍵一步.
1900/1/1 0:00:00如今阻礙區塊鏈技術和Web3大規模應用的關鍵因素之一是其孤島性質。雖然一個獨立區塊鏈的用戶可以與構建在該特定區塊鏈上的去中心化應用程序無縫交互——但與其他區塊鏈進行通信仍然很困難.
1900/1/1 0:00:00比特幣礦工現在處境艱難,尤其是杠桿礦工。最近的FTX和Alameda暴雷導致整個加密貨幣市場下滑。比特幣價格從2萬美元下跌了約20%。杠桿礦工抵押他們的礦機以確保債務融資,這在牛市中很好.
1900/1/1 0:00:00注:本文來自DeFi研究員korpi87推文,介紹Arbitrum生態6個項目。在2019年投資優質的Builder可獲得100~1000倍的回報.
1900/1/1 0:00:00