GHT:AIGC演進：奇異軌跡和超級智能_AIGO Protocol

原文：ASingularTrajectory

1999年，RayKurzweil曾做出以下預測：

2009年，計算機將是平板電腦或更小尺寸的設備，高質量但傳統顯示屏；

2019年，計算機將“基本上不可見”，大部分圖像直接投射到視網膜中；

2029年，計算機將通過直接神經通路進行通信。

在觀察近?20?年人工智能、機器人技術和制造的發展，尤其是近期的?AIGC?的進展，有一些指標已表明，技術正在加速向奇點發展。

技術奇點

奇點原意還有“奇異、突出、稀有”的意思，而這些意思逐漸被引申到自然科學中，先是應用于數學領域，后被引申至物理學界、天文學界等。不同版本的“技術奇點”預測便隨之而來。

技術奇點“?1.0?版”：

1958?年，“技術奇點”這個概念第一次被波蘭數學家斯塔尼斯拉夫·烏拉姆提出：“科技迭代的加速與人類生活方式的改變，似乎將把我們的歷史進程帶往一個重要的‘奇點’，在那之后，人類所熟知的事物將無法延續”，世界將會發生翻天覆地的變化。

技術奇點“?2.0?版”：

1993?年，計算機科學家、科幻小說家文奇在《即將到來的技術奇點》一文中寫道，“技術奇點”這一時間點的到來將標志著人類時代的終結，而超級智能是“技術奇點”出現的前提，因為新的超級智能將繼續自我升級，并以不可思議的速度取得技術進步。

技術奇點“?3.0?版”：

2005?年，奇點大學創始人兼校長、谷歌技術總監雷·庫茲韋爾在《奇點臨近》一書中將“技術奇點”的概念再一次調整，也更接近于我們所熟知的概念，并在當時預測技術奇點將會在?2045?年出現。他認為“技術奇點”是指技術變革迅速而深遠的發展將對未來人類生活造成的不可逆轉的變化，主要指代人工智能的快速發展。奇點將允許我們超越生物身體和大腦的限制，未來人類和機器之間將沒有區別。

英國法院批準Craig Wright在比特幣權利訴訟案中繼續上訴:金色財經報道，英國一家法院于7月20日批準了一項上訴，賦予澳本聰Craig Wright在訴訟中辯稱比特幣文件格式定義明確，足以獲得版權保護的權利。該決定推翻了二月份的一項裁決，該裁決認為Wright的論點不足以表明比特幣文件格式最初是如何記錄的，下次審判日期定于2024年1月進行。

Craig Wright自2016年以來一直聲稱自己是比特幣的發明者，對13名比特幣核心開發者和包括Blockstream、Coinbase 和Block在內的公司發起訴訟，指控侵犯了他對比特幣白皮書的版權、比特幣區塊鏈的文件格式和數據庫權利。[2023/7/22 15:51:44]

技術奇點“?4.0?版”：

2013?年，牛津大學人類未來研究所高級研究員桑德伯格將“技術奇點”的影響范圍擴大，他認為“超級智能”未必是必須的，任何新技術都有可能給人類社會帶來的根本變化，而這樣的技術發展和變化都可以稱之為“技術奇點”。

GPT用戶，夢想有一個同伴嗎？

2022年11月30日，OpenAI發布了ChatGPT，一種會話界面和大型語言模型。對許多人來說，這是一個革命性的時刻。它的輸出讓人震驚，節省時間并且答案令人信服地真實。

非常了不起的是，你今天在幾秒鐘內可以通過?LLM得到一個不完美但有效的答案，而這個答案將花費領域專家幾分鐘的考慮和在線論壇幾個小時的辯論。

聊天機器人一直是人們渴望的陪伴對象。圖靈測試背后的動機可能是想要一個不會打破沉浸感的聊天機器人。

仍有待測試的是，作為社會動物的人類是否能通過數字大腦得到增強。我們一起打獵，一起耕種，現在社會可以被描述為工業規模機器的管理人員和操作員的巨大緩沖區，比以往任何時候都更加社會化。

Digi Daigaku：Dragon Essence已可以領取:金色財經報道，Digi Daigaku在社交媒體宣布Dragon Essence已正式推出，“Dragon Essence”可以幫助嬰兒龍成長進化，3 種不同類型的“Dragon Essence”將取決于用戶在DigiDaigaku藏品，現在用戶可以連接錢包檢查自己是否已被選入白名單，Digi Genesis/Hero/Super Villains持有者可在網站選擇“Dragon Essence”后點擊“開始領取”即可申領。此外，DigiDaigaku還宣布推出了一個申領資格檢查器“Claim Checker”幫助用戶檢查是否有申領資格。[2023/3/10 12:53:57]

人類會優化阻力最小的路徑，選擇復制或“谷歌”他們可能通過批判性思維和反復失敗獲得的不同知識。ChatGPT的出現：學生可能會使用LLM為他們寫論文，取得好成績。StackOverflow可能會為了個人利益而受到女巫攻擊，而觀眾可能會以某種方式遵守deepfakes的交響曲。腳本小子可能會提示ChatGPT存在惡意軟件。LLM的主流使用是否會削弱我們的生產能力，尤其是在健全、有效和發散性思維方面？

奇點之前的最后傀儡師

人工智能可以產生的最深遠的影響在于人力資本分配的文化。最近的一個觀點很好地描述了人們對ChatGPT的反應：

最高興的是那些發現機器顯然可以勝任書面委托而目瞪口呆的人。

到目前為止，一切都在預料之中。如果回看歷史會發現，人們通常高估了新的通信技術的短期影響，而嚴重低估了它們的長期影響。印刷、電影、廣播、電視和互聯網也是如此。

在試圖理解?AI?的影響時，我們試圖分離出短期的破壞，以猜測中期和長期的后果。

澳本聰Craig S. Wright注冊新Twitter賬號，此前老帳號已注銷3年:2月11日消息，澳本聰CraigS. Wright于2月4日注冊新Twitter帳號，其Twitter簡介為比特幣的創造者。此前報道，CraigS. Wright在2019年3月主動注銷Twitter賬號，其自證中本聰的推文被刪除。[2022/2/11 9:45:34]

話雖如此，也許通過市場動態來描述這種反彈是一個好方法。AI?助手改變了內容創作的稀缺性，從而在某種程度上成為做市商。每當一個眾所周知的“精靈”離開“瓶子”時，消費者通過重新定價市場和逐步淘汰次優供應商而獲得不對稱的利益。反過來，基于?AI?生產的供應商隨著時間的推移，積累了更多的資本。

有人可能會爭辯說，存在能夠負擔得起爬取整個互聯網以生成訓練數據集的公司的寡頭壟斷。可能只有有限數量的SaaS能夠負擔得起消耗此類資源來生成新穎的ML模型。如果基于ML的商業變得足夠不穩定，那么能夠實現和保持PMF的人可能會更少。在過去，我們被像?HAL9000、Skynet?和?ButlerianJihad?這樣的心理戰術哄騙。

許多公司和智能代理在AI經濟中就稀缺性進行合作。我們現在的資本主義社會產生一個沒有負面反饋的技術官僚的可能性有多大，它可以逐步淘汰社會經濟階層，基本原則，如人權/財產權，或加速某種形式的大規模毀滅的可能性?

這聽起來可能很陳詞濫調，但需要注意的即將到來的拐點將對社會運作方式產生根本性影響。一年后，有人可能會寫下關于特定AI依賴產品的快速立法或郁金香狂熱。在5-10年內，將實現對獨資經濟、現有政府形式和個人自主/消費的清算。“Megacorp”模式可能在整個顛覆過程中仍占主導地位，我們可能會發現自己處于“網絡狀態”，或者更像奧威爾式的狀態。這一切都是因為計算機將編譯我們對自然語言的集體使用，以包含當今社會的許多操作和經濟功能。無論時間線是什么，這都將是遠在“奇點”之前的一個明顯拐點。

Craig Wright：數字貨幣無需制定新法律:澳本聰（Craig Wright）最新博客文章中提到，世界并不需要一套適用于數字貨幣的新法律，但有必要確保法官和立法者了解比特幣和其他區塊鏈系統。推動專門法律并不能增進了解和消除不確定性。（coingeek）[2020/7/6]

方法與技術

InstructGPT?的核心是一群人來策劃最好的模仿。但InstructGPT是一個LLM，有點靜態且易于重置。一個提示界面，幕后的模型經過反復訓練，以猜測對提示的最簡單的獎勵反應。

OpenAI的RLHF圖解

然而，要“完善”NLP也存在挑戰。

雖然這些技術極具前景和影響力，并引起了人工智能領域最大研究實驗室的關注，但仍然存在明顯的局限性。這些模型可以毫無不確定性地輸出有害或實際上不準確的文本。這種不完美代表了RLHF的長期挑戰和動力——在一個固有的人類問題領域中運行意味著永遠不會有一條明確的終點線可以跨越，使模型被標記為完整。

在使用RLHF部署系統時，由于強制性和深思熟慮的人為因素，收集人類偏好數據非常昂貴。RLHF性能僅與其人工注釋的質量一樣好，人工注釋有兩種：人工生成的文本，例如微調InstructGPT中的初始LM，以及模型輸出之間的人類偏好標簽。

生成寫得很好的人工文本來回答特定的提示是非常昂貴的，因為它通常需要雇用兼職人員。值得慶幸的是，用于訓練大多數RLHF應用的獎勵模型的數據規模并不那么昂貴。然而，它仍然比學術實驗室可能負擔得起的成本更高。

目前，只有一個基于通用語言模型的RLHF大規模數據集和幾個較小規模的任務特定數據集。RLHF數據挑戰是標注者的偏見。幾個人類標注者可能有不同意見，導致了訓練數據存在一些潛在差異。

聲音 | Money Button首席執行官：Craig Wright是真正的中本聰:據ambcrypto報道，Money Button首席執行官Ryan Charles近日稱，澳本聰Craig Wright有17個學位，即將獲得兩個博士學位，同時還有一份全職工作，是其一生中聽說過的最嚴肅的終身學習者和科學家。此外，基于在線證據和他與澳本聰的個人互動，他認為Wright是“真正的中本聰”，Charles稱，澳本聰解釋了許多沒有人解釋過的事情。[2019/5/4]

RLHF可以應用于自然語言處理(NLP)之外的機器學習。例如，Deepmind探索了將其用于多模態代理。同樣的挑戰適用于這種情況：

可擴展強化學習(RL)依賴于查詢成本低廉的精確獎勵函數。當RL可以應用時，它已經取得了巨大的成就，創造了可以匹配人類才能分布極值的AI。然而，對于人們經常參與的許多開放式行為，這種獎勵功能并不為人所知。例如，考慮一種日常互動，要求某人“將杯子放在你附近”。對于能夠充分評估這種交互的獎勵模型，它需要對以自然語言提出請求的多種方式以及滿足請求的多種方式具有魯棒性，同時對不相關的變化因素和語言固有的歧義不敏感。

因此，為了通過RL灌輸更廣泛的專家級能力，我們需要一種方法來生成精確的、可查詢的獎勵函數，以尊重人類行為的復雜性、可變性和模糊性。除了對獎勵函數進行編程之外，一種選擇是使用機器學習來構建它們。我們可以要求人類評估情況并提供監督信息以學習獎勵函數，而不是嘗試預測和正式定義獎勵事件。對于人類可以自然、直觀、快速地提供此類判斷的情況，使用此類學習獎勵模型的RL可以有效地改進智能體

導致奇點的許多因素有待進一步發展，我們可以比實施它們所花費的時間框架更有把握地確定它們是什么。ChrisLattner?從他的POV?中提到了“稀疏門控的專家組合”：

簡單地描述一下，也許有一個中介可以策劃和組合許多“專家”的輸入。

這為進一步研究提供了廣闊的設計空間。也許中間層應該以不同的方式進行選擇。

如，利用空間數據。

一項特別引人入勝的工作是?NethackLearningEnvironment。就像?TwitchPlaysPokemon?是可行的，因為JRPG是回合制的，輸入相對簡單，NLE也是回合制的，只需要鍵盤輸入。此外，它在游戲的不同階段的多個環境中具有程序生成，使其成為訓練AI的極其有用的熔爐。根據我自己玩這個游戲的經驗，你必須在回合制的基礎上策劃和組合許多策略。借助polypiling和bonesharvesting等元博弈策略，AI可以通過多種方式在逐場游戲的基礎上進一步學習。

如?Tesla?和?Neuralink?最近開發的企業級機器學習。工業規模的生產需要工業規模的反饋增強強化學習。Optimus可能是一個噱頭，但它可能比?Atlas?在過去9年中對機器人的改進更多。Neuralink植入物可能會殺死受試者，但它們會推動極其精確的手術機械和零件的發展。

制造業的反饋很好，但衛生部門的需求最大。現在，我們是零售生物傳感器的早期采用者。隨著時間的推移，同態密碼學將使機器學習能夠利用大量健康數據。數萬年來，我們已經將藥物消費眾包，但我們如何與人工智能共存仍有待觀察，人工智能可以在任意時間跨度內管理任意物質的劑量。與此同時，同態加密因效率問題仍然沒有被使用。

GoogleBrain剛剛發布了?RoboticsTransformer-1?。在第一個版本中它可能只是一個執行簡單任務的手臂，但顯然有可能在常見的構建環境中使用更多的標記化操作進行迭代。由于全球經濟以貨運為中心，與目前全球約?6000?艘集裝箱船相比，如果最終在這樣的設施中建造?100?多艘“零排放”集裝箱船，也屬于正常。這也將是住房危機中一個巨大的潮流變化，分區條例允許它完全生效。

另外，不得不提阿爾伯塔計劃，12個合理的AGI能力發展步驟。

“路線圖”一詞暗示繪制一條線性路徑，即應按順序采取和通過的一系列步驟。這并非完全錯誤，但它沒有認識到研究的不確定性和機遇。我們在下面概述的步驟具有多重相互依賴性，而不是從頭到尾的步驟。路線圖建議一種自然的順序，但在實踐中通常會偏離這種順序。可以通過進入或附加到任何步驟來進行有用的研究。舉個例子，我們中的許多人最近在集成架構方面取得了有趣的進展，盡管這些進展只出現在排序的最后一步。

首先，讓我們嘗試全面了解路線圖及其基本原理。共有十二個步驟，標題如下：

1.表示I：具有給定特征的持續監督學習。2.表示II：監督特征發現。3.預測一：連續廣義價值函數預測學習。4.控制I：持續的演員-評論家控制。5.預測二：平均獎勵GVF學習。6.控制II：持續控制問題。7.計劃I：平均獎勵的計劃。8.原型-AII：具有連續函數逼近的基于模型的一步強化學習。9.規劃二：搜索控制與探索。10.原型-AIII：STOMP進程。11.原型-AIIII：Oak。12.原型-IA：智能放大。

這些步驟從開發用于核心能力的新型算法，發展到將這些算法組合起來，為持續的、基于模型的AI生成完整的原型系統。

簡而言之，從ANI到AGI再到ASI的方法和技術的轉折點將是不言自明的。

ChatGPT的輸出

“指數級進步”

上述阿爾伯塔計劃是一種理想情況。人類已經很復雜，作為個體使用稀疏神經網絡工具；作為團體，具有自組織的、社會學習和環境工程特性。在密碼學和分布式計算的最新發展中，人類的自治程度僅可以維持圖靈完備的全局狀態。還有一種被稱為機械土耳其人的現象。關鍵是，AI產品在任意時間跨度內的下降，都會有一個成熟的開發人員生態系統，可以通過協調執行超越現有的水平，并通過同期的AI工具和可驗證的工作得到增強。

這促成了當前的思想實驗：我們甚至需要在TheSingularity?之前實現每個預測的拐點嗎？對于商業化模型訓練中的每一項專有改進，都可能有一種可行的方法在公共領域實現。StableDiffusion已經引發了圍繞這一概念的對話。眾包在過去十年中已經充分加速，奇點已經是一個轉移注意力的問題。正如以太坊擴展解決方案嘗試使用像?zk-SNARKs?這樣的密碼學為了減少網絡的基礎設施需求，我們將嘗試實施輕量級解決方案，以減少現有大型企業對AI進行暴力破解和貨幣化的需求。

事實上，反駁?OpenAI模型最好方法之一是，金融市場和社交網絡上類似的社會資本系統在某種程度上是可預測的行為。Twitter匯總新聞是因為它的用戶可以在全球范圍內通過合法人物進行廣播和放大。隨著COVID封鎖和央行貨幣政策等全球趨勢，成長型股票可能會大幅上漲和下跌。不需要太多想象力就能在很短的時間內想象出一家初創公司，它可以將類似人工智能的?PMF?表現為一個自我調節、自我編排的社區。可能有數千億美元的運營成本可以通過現有技術和進一步的業務發展在許多部門中釋放出來。

在電視劇《西部世界》中，名為Rehoboam的人工智能系統通過分析大型數據集來操縱和預測未來，從而對人類事務施加秩序。自工業革命以來，顛覆性創新一再出現在官僚機構之外；今天，它們正在以越來越快的速度發生。近幾十年來，公共領域的深度和范圍不斷擴大，許多技術無論其商業化程度如何都在被迫開源。

Tags：AIGGHTRAICRAAIGO ProtocolBRIGHT幣Kurai MetaVerseCrafting Finance

TUSD