MosaicML以約13億美元的價格被大數據巨頭Databricks收購,其估值在本次交易中翻了六倍,成為了今年上半年最大的收購案。僅成立2年時間,擁有60多名員工,是什么撐起了MosaicML的高估值?
近期,AI領域掀起了一股投資收購熱潮。全球知名企業Salesforce向Anthropic注資4.5億美元,而Runway則成功籌集到了1.41億美元的資金。此外,雪花公司也宣布完成了對Neeva的收購,而中國國內巨頭美團則以20.65億收購了AI公司光年之外。
然而,最引人矚目的交易無疑是初創公司MosaicML的收購案。據了解,MosaicML以約13億美元的價格被大數據巨頭Databricks收購,其估值在本次交易中翻了六倍,成為了今年上半年最大的收購案。僅成立2年時間,擁有60多名員工,是什么撐起了MosaicML的高估值?
Databricks近期正式宣布,以約13億美元(約93億元人民幣)收購生成式人工智能初創公司MosaicML,以提供為企業構建類ChatGPT工具的服務。
該收購之后,MosaicML 將成為 Databricks Lakehouse 平臺的一部分,MosaicML 的整個團隊和技術都將納入Databricks旗下,為企業提供統一的平臺來管理數據資產,并且能夠使用自己的專有數據來構建、擁有和保護自己的生成式 AI 模型。
加密貨幣做市商GSR成立GSR Capital并推出兩只加密基金:金色財經消息,加密貨幣做市商GSR去年開始組建的GSR Capital已正式成立,可為機構、家族辦公室和其他機構打造投資產品。GSR由前高盛高管于9年前創立,與加密貨幣項目合作,并為包括Binance、Coinbase和FTX在內的加密市場提供流動性。
GSR Capital現推出了兩只基金,一只專注于比特幣風險敞口,另一只專注于更廣泛的市場,基金現已向尋求進入加密市場的投資者開放,GSR首席執行官Jakob Palmstierna表示,他們已經看到希望接觸數字資產的家族辦公室和機構投資者“非常感興趣”。[2022/8/5 12:03:04]
MosaicML是一家非常年輕的生成式AI公司,它于2021年成立于舊金山,目前只公開披露過一輪融資,員工僅62人。在上一輪的融資中,其估值為2.2億美元,也就是說,此次收購MosaicML的估值直接躍升了6倍。此筆交易是截至目前今年生成式AI領域內所公布的最大一筆收購案。就在不久前,云計算巨頭Snowflake剛剛宣布收購了另一家生成式AI公司Neeva。在經歷了幾個月的投資熱之后,大型企業對生成式AI初創公司的大規模并購潮似乎正在開啟。
Meta與西班牙電信Telefónica合作成立元宇宙創新中心:3月7日消息,在巴塞羅那世界移動通信大會上,Meta宣布與西班牙電信巨頭Telefónica合作,成立一家元宇宙創新中心。該創新中心成立基于兩家公司的潛在合作,目的就是通過試驗、或類似AR/VR應用、設備等,幫助打造元宇宙網絡基礎設備準備工作。據悉,該創新中心將為西班牙本土初創公司提供一個元宇宙端到端網絡測試平臺,可以享受到Telefónica的生態和人才中心資源,以及Meta公司的工程師、工具等資源。(Eleconomista)[2022/3/7 13:42:20]
Databricks起源于UC伯克利,曾參與Apache Spark項目開發。作為數據存儲和分析巨頭,截至2022年估值310億美元,幫助AT&T、殼牌、Walgreens等大型公司處理數據。前段時間,剛開源了自己大模型Dolly,旨在以更少參數實現與ChatGPT類似的效果。而在云計算更加普及后,Spark提出的“湖倉一體”理念,深深影響了一批大數據初創企業。自2013年成立后,Databricks火速成長為全球最火的Data Infra公司。去年,Databricks公布的年收入超過10億美元,而在2021年8月完成最新一輪融資后,其最新估值達到380億美金。
MosaicML的MPT系列模型是從HuggingFace PretrainedModel基類中子類化的,與HuggingFace生態系統完全兼容。MPT-7B模型是MosaicML最受歡迎的模型之一,擁有數十億個參數,可以處理超過2,000種自然語言處理任務。其中,MPT-7B的優化層包括FlashAttention和低精度層范數等,可以讓該模型比傳統訓練方法快2-7倍,資源的近線性可伸縮性確保了具有數十億參數的模型可以在幾小時內訓練,而不是過去的幾天。MosaicML還發布了新的可商用的開源大語言模型MPT-30B,擁有300億參數,并且性能優于GPT-3。
動態 | 天秤座協會已成立新技術指導委員會以協調其平臺設計:天秤座協會本周四宣布,已經成立了一個技術指導委員會,以協調天秤座平臺的設計。根據天秤座開發人員頁面上的公告,這是繼去年十月創始成員叛逃之后,天秤座路線圖的最新更新。這個新宣布的小組將監督該項目的技術路線圖,指導代碼庫開發,并嘗試圍繞Libra項目建立一個開發人員社區。(Coindesk)[2020/1/17]
數據來源:MT-Bench對MosaicML主流模型進行的評估MPT系列模型的優勢在于它們的高效性和低成本。使用大量數據進行“訓練”的人工智能模型的復雜度急劇上升,訓練一個模型現在至少要花費數百萬美元,除了大公司之外,其他中小型企業普遍都無法承受。而MosaicML的MPT系列模型可以讓企業以更低的成本和更高的效率訓練自己的語言模型,從而可以更輕松地應用生成式AI技術,實現更好的業務表現。大多數開源語言模型只能處理最多具有幾千個tokens的序列(參見圖 1)。但是,借助 MosaicML 平臺和 8xA100-40GB 的單個節點,用戶可以輕松微調 MPT-7B 以處理高達 65k 的上下文長度。處理這種極端上下文長度適應的能力來自ALiBi,這是MPT-7B中的關鍵架構選擇之一。
動態 | 香港首個合規加密數字貨幣對沖基金成立:11月15日,數字貨幣投資銀行CCC(Clipper Coin Capital)聯合縱橫資產管理公司(Axis Capital Management Limited),推出香港首個合規的加密數字貨幣對沖基金。據消息稱,該基金將結合CCC在加密數字貨幣對沖基金方面的經驗,以及縱橫資產管理公司的監管和營銷能力,為全球機構投資者提供專業的服務。[2018/11/15]
例如,《了不起的蓋茨比》的全文不到68k個Token。在一個測試中,模型StoryWriter閱讀了《了不起的蓋茨比》并生成了一個尾聲。模型生成的尾聲之一如圖 2 所示。StoryWriter在大約20秒內(每分鐘約15萬字)讀完了《了不起的蓋茨比》。由于序列長度較長,其“打字”速度比其他MPT-7B型號慢,每分鐘約105個單詞。盡管 StoryWriter 的上下文長度為 65k 進行了微調,但 ALiBi 使模型能夠推斷出比訓練更長的輸入:在《了不起的蓋茨比》的情況下為 68k 個Token,在測試中高達 84k 個標記。
圖2:MPT-7B-StoryWriter-65k+ 為《了不起的蓋茨比》寫了尾聲。尾聲的結果是提供《了不起的蓋茨比》的全文(大約 68k 個Token)作為模型的輸入,后跟“尾聲”一詞,并允許模型繼續生成。生成式AI技術的普及生成式AI技術是人工智能的一種分支,它利用大量的數據和深度學習算法,能夠自動生成原始文本、圖像和計算機代碼等內容。這種技術的出現,讓人們可以更加便捷地處理數據、分析數據,更好地服務于人類的需求。隨著大數據和人工智能技術的快速發展,生成式AI技術已經被廣泛應用于自然語言處理、圖像識別和虛擬現實等領域。例如,在自然語言處理領域中,GPT-4已經成為了最受歡迎的生成式AI模型之一,可以用于生成文章、翻譯語言和回答問題等任務。在圖像識別領域,StyleGAN2能夠生成高質量的圖像,可以用于游戲開發、影視制作和虛擬現實等領域。
愷英網絡:內部正式成立區塊鏈事業部:愷英網絡董事長兼CEO王悅,近日一封內部任命郵件正式揭開了區塊鏈業務的布局與規劃。郵件中,王悅向全體員工宣布,正式成立區塊鏈事業部,由寧炳楊擔任事業部CEO(原愷英網絡副總裁、平臺事業部總裁、XY助手負責人),并投入百人技術團隊致力于區塊鏈產品的開發和應用。事業部剛成立,旗號是“要基于區塊鏈技術打造新一代內容平臺”,重新定義所有內容生產者、傳播者與消費者的價值,改變現在內容產業的生態鏈。同時針對此次區塊鏈事業部招聘的英雄“鏈”行動,公司向各路區塊鏈技術、開發、運營、營銷和商務的高手廣發招募貼。據悉,該股票(002517)今日狀態是:關于籌劃重大資產重組停牌。[2018/2/27]
MosaicML的CEO Naveen Rao此前曾表示,自 2018 年以來,使用大量數據進行“訓練”的人工智能模型的復雜度急劇上升,訓練一個模型現在至少要花費數百萬美元,除了大公司之外,其他中小型企業普遍都無法承受。而此次收購之后,Databricks的Lakehouse 平臺和 MosaicML 技術的聯合產品將能夠讓企業可以使用自己的專有數據來簡單、快速、低成本進行生成式AI模型的訓練和構建,在讓用戶擁有數據的控制權和所有權的情況下,可以進行自定義 AI 模型開發。根據Databricks的相關說法,在 Databricks 和 MosaicML的平臺和技術支持下,企業訓練和使用 LLMs 的成本將顯著降低,預計可以降至數千美元左右。這為生成式AI的普及提供了便利。
Databricks收購MosaicML的主要目的是加速生成式AI技術的發展和民主化。通過將兩家公司的技術和資源整合起來,Databricks可以更好地滿足客戶的需求,提供更高效、更便捷的解決方案。具體而言,該收購將帶來以下幾個方面的改變:
Databricks收購MosaicML后,可以將MPT系列模型集成到其Lakehouse平臺中,為客戶提供更高效、更低成本的大語言模型。這將有助于企業更好地處理自然語言處理任務,提高業務效率和準確性。
MosaicML的MPT系列模型具有快速訓練的特點,這將有助于Databricks提供更快速的模型訓練服務。這對于需要快速響應市場需求的企業來說尤為重要,可以幫助他們更好地滿足客戶的需求。
Databricks收購MosaicML也意味著生成式AI技術的民主化程度將會進一步提高。MosaicML的MPT系列模型可以讓中小型企業更輕松地訓練自己的語言模型,從而可以更好地應用生成式AI技術,實現更好的業務表現。這將有助于推動生成式AI技術的發展和應用,促進人工智能技術的普及和發展。
生成式人工智能應用程序旨在根據用戶的自然語言提示生成原始文本、圖像和計算機代碼。自去年11月人工智能初創公司OpenAI推出在線生成AI聊天機器人ChatGPT以來,人們對這項技術的興趣激增。“每個組織都應該能夠從人工智能革命中受益,并對其數據的使用方式有更多的控制。Databricks 和 MosaicML 有一個難以置信的機會來實現人工智能的民主化,并使 Lakehouse 成為構建生成式人工智能的最佳場所。”Databricks 聯合創始人兼首席執行官 Ali Ghodsi表示。
Databricks收購MosaicML的意義不僅在于加速生成式AI技術的發展和民主化,更在于將兩家公司的技術和資源整合起來,為客戶提供更高效、更便捷的解決方案。隨著人工智能技術的快速發展和應用,生成式AI技術將扮演著越來越重要的角色,Databricks收購MosaicML的舉動也體現了各企業對于這個方向的重視和投資。像Anthropic和OpenAI這樣的公司將現成的語言模型授權給企業,然后企業在其上構建生成AI應用程序。在對這些模型的強勁商業需求的推動下,為像MosaicML這樣的初創公司創造了機會。從Snowflake和Databricks接連的收購步伐中我們可以看到,大型科技公司對于生成式AI技術正在從自主研發、戰略投資逐步邁向兼并收購階段。
參考來源:
https://www.databricks.com/company/newsroom/press-releases/databricks-signs-definitive-agreement-acquire-mosaicml-leading-generative-ai-platform
https://mattturck.com/mosaic/
https://twitter.com/lmsysorg/status/1672077353533730817/photo/1
https://www.mosaicml.com/blog/mpt-7b#appendix-eval
https://www.mosaicml.com/blog/mpt-30b
-R3PO
個人專欄
閱讀更多
極客 Web3
Foresight News
金色財經 Jason.
白話區塊鏈
金色早8點
LD Capital
MarsBit
深潮TechFlow
作者:AMBER RESEARCH 編譯:善歐巴,金色財經衍生品,尤其是永續合約(“perps”),無疑是加密貨幣中最大的垂直領域,占據了整體加密貨幣交易量的大部分.
1900/1/1 0:00:00作者:比推BitpushNews Asher Zhang7 月 24 日, OpenAI 首席執行官 Sam Altman 創立的加密貨幣公司 Worldcoin&.
1900/1/1 0:00:00作者:Michael Rinko 編譯:Biteye 核心貢獻者 Crush穩定幣的流出是如何影響加密貨幣價格的?市場是否仍然是純粹的個人投資者游戲?今天這篇文章給你答案.
1900/1/1 0:00:00作者:Binance Research;翻譯:金色財經0xxz真實世界資產(RWAs)的代幣化在用戶采用率不斷增加和大型機構進入的情況下繼續獲得推廣.
1900/1/1 0:00:00作者:Jaleel、LeftOfCenter;區塊律動BlockBeats不出意外的話,這是 2023 年 Crypto 行業最重要的里程碑,2023 年 7 月 24 日.
1900/1/1 0:00:00作者: Rosie Perper,CoinDesk;編譯:松雪,金色財經阿拉伯聯合酋長國國家航空公司阿提哈德航空將很快發布其基于 Polygon 的 EY-ZERO1 不可替代代幣 (NFT).
1900/1/1 0:00:00