AIP:開卷！Anthropic Claude 模型升級到 10 萬 token，可將《了不起的蓋茨比》整本吞下_AIPP

撰文：KyleWiggers

來源：TechCrunch

圖片來源：由無界AI工具生成

從歷史上看，甚至在今天，記憶力差一直是阻礙文本生成式人工智能發揮作用的一個因素。正如《大西洋》雜志最近發表的一篇文章?所說，即使是像ChatGPT這樣復雜的生成式文本人工智能，其記憶力也像金魚一樣。每次模型生成響應時，它只考慮到非常有限的文本量，因此它也無法總結一本書或審查一個主要的編碼項目。

美聯儲5月加息25個基點的概率為98.9%:金色財經報道，據CME“美聯儲觀察”：美聯儲5月維持利率不變的概率為1.1%，加息25個基點的概率為98.9%；到6月維持利率在當前水平的概率為1%，累計加息25個基點的概率為90%，累計加息50個基點的概率為8.9%。[2023/4/25 14:24:39]

但Anthropic正試圖改變這種狀況。

今天，這家人工智能研究初創公司宣布，它已將Claude的上下文窗口從9000個token擴展到了10萬個token。上下文窗口指的是模型在生成額外文本之前考慮的文本，而token代表原始文本。

ChainLinkGod.eth反對Arbitrum AIP-1.05，目前該提案反對率近47%:4月10日消息，Snapshot投票頁面顯示，針對Arbitrum社區提議“將基金會剩余的7億枚ARB返還給DAO”的提案AIP-1.05，Chainlink社區大使ChainLinkGod.eth對該提案投了480萬枚ARB的反對票，并在推文中稱：“我將投票支持AIP-1.1和AIP-1.2而反對AIP-1.05，前兩個AIP充分解決了我最初對AIP-1的擔憂，而AIP-1.05給DAO和基金會帶來了不必要的風險。我懷疑這是否是一種可信的中立舉措，如果一些人得到報酬，而另一些人沒有，這就開創了一個先例，當密鑰輪換時，有些人可能得不到報酬。目前，AIP-1.05提案投票支持率為51.68%，反對率為46.72%，該投票將于4月15日結束。

此前消息，Arbitrum基金會已提交兩項關于擴大ARB代幣持有人監督和治理權力的新提案，以解決上周末加密貨幣治理崩潰一事。第一個提案AIP-1.1建議將基金會剩余的7億ARB置于“智能合約控制的鎖定”中，四年內解鎖。第二個提案AIP-1.2旨在修改Arbitrum生態系統的幾個治理文件，包括將在鏈上發布改進提案所需的ARB代幣數量的門檻從500萬降低到100萬。AIP-1.1和AIP-1.2尚未開啟鏈上投票。[2023/4/10 13:54:22]

那么，這意味著什么呢？正如前面所提到的，具有小上下文窗口的模型往往會“忘記”即使是最近的對話內容--導致它們偏離主題。在幾千字左右之后，小模型也會忘記最初的指示，只根據上下文窗口中的最后的信息來進行響應。

Web3社區激勵初創公司ValuesCo完成270萬美元融資:1月26日消息，Web3 社區激勵初創公司 ValuesCo 宣布完成 270 萬美元種子輪融資，Web3 基金 Flori Ventures、Metaweb Ventures、OWN Fund、以及 Celo 總裁 Rene Reinsberg 等天使投資人參投。

ValuesCo（前身為 Socialstack）為品牌商、創作者和非營利組織創造一個基于社區驅動的獎勵生態系統，使 Web3 社區能夠在沒有代碼或區塊鏈知識的情況下設計和發布社交 Token，還可以通過電話/電子郵件登錄即時創建錢包，其產品在以太坊、Polygon 和 Celo 區塊鏈上構建并將營銷和社區交互轉化為參與式體驗。[2023/1/27 11:31:22]

鑒于大上下文窗口的好處，找出擴展的方法已成為OpenAI等AI實驗室的主要關注點，要知道，OpenAI將整個團隊都投入到了這個問題上了。OpenAI的GPT-4在上下文窗口的大小方面保持著之前的領先地位，其規模最高可達32,000個token，而改進后的ClaudeAPI已然超越了這一數字。

有了更強的“記憶力”，Claude應該能夠相對連貫地交談幾個小時——甚至幾天——而不是幾分鐘。也許更重要的是，它應該也不太可能偏離軌道。

在博文中，Anthropic對Claude增加上下文窗口的其他好處進行了介紹，包括該模型消化和分析數百頁材料的能力。Anthropic稱，除了閱讀長文本，升級后的Claude可以幫助從多個文件甚至一整本書中檢索信息，回答哪些需要跨文本的“綜合知識”問題。

Anthropic列出了一些可能的用例：

對財務報表或研究報告等文件進行消化、總結和解釋

根據公司的年度報告，分析其風險和機會

評估一項立法的優點和缺點

識別風險、主題和跨法律文件的不同論證形式。

閱讀數百頁的開發者文檔，呈現技術問題的答案

通過將整個代碼庫放入上下文中并智能地構建或修改它來快速制作原型

“普通人可以在5個小時左右閱讀10萬個token的文本，然后可能需要大量的時間來消化、記憶和分析這些信息，”Anthropic繼續說道。“Claude現在可以在不到一分鐘的時間內做到這一點。例如，我們把《了不起的蓋茨比》的全部內容輸入進了Claude......并修改了其中一行，說Mr.Carraway是‘一個在Anthropic從事機器學習工具的軟件工程師’。當我們要求Claude發現有什么不同時，它在22秒內就給出了正確答案。”

此外，Anthropic的合作伙伴AssemblyAI也進行了相關測試。在視頻演示中，該團隊用Claude-100k將一個長播客轉錄成58K單詞，然后使用Claude進行總結和問答。該團隊給出的評價是：insane！太瘋狂了！

目前，更長的上下文窗口并不能解決圍繞大型語言模型的其他與記憶有關的挑戰。Claude，像其同類的大多數模型一樣，無法將信息從一個會話保留到下一個會話。而且與人腦不同的是，它把每一條信息都視為同等重要，這使得它并不能成為一個特別可靠的敘述者。一些專家認為，解決這些問題將需要全新的模型架構。

不過，就目前而言，Anthropic似乎走在了前列。

Tags：AIPAUDcLAARBAIPPSAUDISHIB價格classzzarb幣未來價值

MEXC