TER:Twitter Space回顧 | AI老炮兒深挖AGI前世今生_StarterCoin

北京時間2023年5月7日上午11點，GPTDAO在Twitter上舉辦了主題為的TwitterSpace，本次AMA活動將邀請AI領域的資深專家，深度剖析AGI技術的前世今生，探討人工智能對我們的生活和未來的影響。

此外，我們還與GPTDAO、鏈得得、非小號、博鏈財經等媒體組成的觀察團一起，探討了人工智能技術對未來的影響和其所面臨的挑戰等相關問題。

TwitterSpace成員介紹：

嘉賓：

楊寧：天使投資人，樂搏資本創始合伙人，中國天使聯合會創始會長

陳葵：前思杰全球副總裁，前微軟亞太研發集團高管，前思科及冠群高管

白強：GPTDAO核心成員，從Web1到Web3漫游世界的創業者投資人，中國科大數學/美國普渡大學數理統計，科大訊飛前聯合負責人

Host：

Zoie：GPTDAO核心成員，新加坡SubDAO負責人，LKVenturesVenturePartner

媒體觀察團：

蔡繼軍：核心成員，FastGlobal聯創

道爾吉：鏈得得ChainDD華東區執行副主編

孫巖：非小號執行主編

王暉：博鏈財經創始人，1783DAO發起人

支持媒體：

鈦媒體，鏈得得，非小號，ForesightNews，博鏈財經

我們梳理了本場AMA精華內容，以饗讀者。

Q1：近日谷歌AI研究院院長、神經網絡領域的先驅杰弗里·辛頓與5月1日突然宣布退休。據悉他離職的原因是他對生成式AI感到擔憂，他擔憂人工智能系統正在變得越來越危險，如果沒有某種監管，這場競爭將不會停止，人工智能發展的速度會遠超我們的想象，并最終走向失控。您如何看待這個問題？

楊寧：

從哲學的角度來看，人性本善，人類的核心價值觀和內在的人性使我們得以繁衍成為地球上最發達的族群之一。機器人和人工智能的學習語料和知識都是由人類賦予的，因此我相信人工智能是從善良的角度開始發展的。只要大公司、主流作者、人工智能領域的專家都是善良的人，那么教出來的人工智能也會是善良的，就像我們的孩子一樣，他們會遵循我們教給他們的好的東西。因此，我認為人工智能不會失控，也不需要過多的監管和倫理規范。

Twitter已更改開發語言，刪除master和slave等非包容性術語:Twitter 緊隨Github的腳步，后者最近決定從代碼中刪除master和slave兩個術語。7月2日，Twitter發布了一份編程中常見的非包容性術語列表，這些術語將從常用術語中刪除。master和slave會變成leader和follower，whitelist將變成denylist，guys將變成folks。

根據其新政策，Twitter將手動和自動更改其源代碼。該公司的官方工程賬戶Twitter engineering在推特上寫道:自動化工具和短板正在開發中，以將開發人員的手工工作量降至最低。

該賬戶稱:包容性語言在營造人人有歸屬感的環境中發揮著關鍵作用。在Twitter，我們在代碼中使用的語言并不能反映我們公司的價值觀，也不能代表我們所服務的人。我們想要改變這一點。來自Twitter工程賬戶的帖子繼續寫道，術語上的轉變需要很長時間才能實現。

所有現有的內部文檔、設計文檔、谷歌文檔、常見問題和在線readmes也將在未來幾個月內重寫。移除此類非包容性條款的行動是由兩位 Twitter 員工雷金納德?奧古斯汀 (Regynald Augustin) 和凱文?奧利弗 (Kevin oliver) 牽頭的，他們表示，這些條款與美國歷史上的黑暗時期關系太密切。[2020/7/6]

主持人Zoie：

人性本善，AI技術的神經網絡沒辦法完全被清晰地邏輯化分析的前提下，關于如何通過技術手段保證AI機器人不作惡，以及監管將會如何應對AI的發展，其他嘉賓還有其他補充的嗎？

白強：

首先ElonMask散布的恐懼論是有私心的，以及拜登其實是作為一種資本，其他很多高舉AI倫理與治理的論調者也是某種意義在保護自己的利益。很多年前我們在科大訊飛做的AI語音工具，AIGovernnance的議題只是多年以來，AI技術廣泛被種草的一個延伸，并不是一個新的議題。我們人都沒辦法完全理解自己的大腦如何運作的，那么AI的神經網絡就更加沒辦法搞懂，導致AI會否作惡這個議題會無法被證偽。從監管的層面來說，往往監管方往往是落后于科學創新領域的奇才的，所以監管基本上就是“一管則死，不管則亂”的局面。

動態 | Twitter推出比特幣標簽Emoji:Twitter推出比特幣標簽Emoji，用戶只要輸入#Bitcoin就可以自動出現。關于這次Emoji的新增，加密貨幣大V Nathaniel Whittemore表示Twitter推出了比特幣表情，這讓比特幣持有者對 ZeroHedge產生興趣。[2020/2/2]

楊寧：

如果要我作為監管方去監管的話，我也會覺得這是一個非常大的挑戰而且不從下手。是從技術代碼層面去管嗎，還是從應用的層面去管？我感覺這個Anti-AI有點像的情緒有點像之前美國的Anti-Vaccination的情緒一樣。既然我們人都沒辦法完全理解人的大腦是如何運作的，我們也沒辦法判斷人腦在什么場景下會變成瘋子、神經病，所以AI也沒必要被無端恐懼。我想逐漸人們習慣人工智能為人類帶來的便利之后，大家就會更加接受AI，并且能接受人類與AI共存。

陳葵：

目前這個趨勢已經不可避免地發生了。我認為重要的是要有危機意識，因為隨著越來越多的AI能力涌現，什么時候它們會失去可控性，甚至在沒有警告的情況下對人類產生危險。在解決監管問題之前，我們需要先接受和了解AI，并看到它帶來的機會。因此，我建議我們應該集中精力去探討AI能給我們帶來哪些機會，以及在未來我們可以如何利用這些機會去改善自己的生活。

Q2：Midjourney是目前最受歡迎的這個AIGC的圖像工具，和其它的競品相比，它的技術優勢是什么？AIGC圖像工具未來的前景又是如何的？

白強：

目前的AI圖像生成技術雖然各有不同，Midjourney也好，其他的AIGC工具也罷，能否真正的成功取決于如何利用這些工具創造出引人入勝的內容。大家可以參考皮克斯動畫，皮克斯動畫始于喬治·盧卡斯創立的工作室，后被史蒂夫·喬布斯收購。喬布斯最初將公司定位為硬件公司，但失敗后轉向軟件。在這期間，約翰·拉塞特加入皮克斯，憑借其出色的內容創作能力，制作出了一部獲得奧斯卡獎的計算機動畫短片。這個成就使得喬布斯重新審視公司的方向，最終與迪士尼合作制作了《玩具總動員》等動畫電影，皮克斯由此崛起成為全球知名的動畫制作公司。

正如皮克斯最終通過約翰·拉塞特的卓越內容創作，從一家陷入困境的硬件和軟件公司轉型為全球領先的動畫制作公司一樣，任何一個現在正在做AI生成內容的團隊或工具都需要找到這樣的突破口。如果一個公司能成為AI時代的皮克斯，那么它就會取得成功，而單純的工具公司最終可能會被取代。

動態 | Bitwise撤回比特幣ETF提案:根據美國證券交易委員會（SEC）的一份文件，Bitwise要求撤回其比特幣ETF提案。據悉，該提案最初于2019年1月10日向委員會提交。（financemagnates）[2020/1/15]

主持人Zoie：Midjourney這個團隊成員只有11個人，單年營收就已經超過一個億美金后社區用戶數是達到了1500萬。那么隨著AI的發展好，然后我特別想采訪一下陳葵，您在大的科技巨頭任職過，您覺得隨著AI的發展，未來公司以及人力資源的組織形式會有什么樣的變化和趨勢？

陳葵：

我認為企業和人才的變化以及產業的變遷是當前的重要話題。在闡述它之前，我先來做個鋪墊，簡單介紹一下陸奇在演講中提到的三位一體結構演化模式，這個模式涵蓋了信息系統、模型系統和行動系統。這三個系統在人工智能發展過程中相互依賴，共同促進技術進步。

1.信息系統：信息系統是數據的基礎設施，它負責收集、存儲和處理大量的數據。隨著互聯網和物聯網的普及，信息系統已經變得越來越龐大和復雜。這些系統為機器學習和人工智能算法提供了豐富的數據來源，從而使它們能夠從數據中學習并提煉出有價值的信息。

2.模型系統：模型系統是基于數據的分析和預測工具，如機器學習算法和人工智能模型。這些系統利用信息系統提供的數據，通過訓練和優化，學習數據中的模式和規律。隨著計算能力的提高和算法的發展，模型系統越來越能夠處理復雜的問題，例如圖像識別、自然語言處理和推薦系統等。

3.行動系統：行動系統是指將模型系統的預測和分析結果轉化為實際行動的部分。這些系統通常包括執行任務的硬件設備，如機器人、無人駕駛汽車和智能家居設備等。行動系統負責將模型系統的輸出轉化為有用的操作，從而實現人工智能的實際應用。

三位一體結構演化模式強調了信息系統、模型系統和行動系統之間的相互關聯。這種模式揭示了人工智能發展的核心驅動力，以及這些系統在實現技術創新和應用中的關鍵作用。通過綜合利用這三個系統，我們可以更好地理解和應對當今世界的復雜問題。

目前我們正處在信息系統階段，隨著模型系統的推理和規劃能力，我們將與環境交互以實現人類的目標。在這個數字化時代，人類獲取信息、表達信息并采取行動以滿足需求的路徑與數字化系統相似。深度學習AI和云計算技術已經消除了大型企業與中小企業之間的成本和技術差距，剩下的競爭焦點是人才、創意和執行力。此外，大型企業和中小企業的合作也對市場有著積極影響。因此，我預測，云計算和大型AI模型將成為無處不在的服務，為創新型小公司提供巨大的市場機會。這將促使更多的年輕人創立公司，關注開源技術在市場中的落地應用。我對未來還是比較樂觀的，人類和AI會有一個很長的共存階段。在這個階段，我們需要學會與AI交流和協同工作。未來，許多專業可能都將與AI相關，雖然許多固定任務的職位可能會消失，但也會催生出新的職業。總的來說，我對未來產業變革和職業發展持積極樂觀的態度。

動態 | 美國SEC開始審核Arca和Bitwise的比特幣ETF規則變更提案:美國證券交易委員會(SEC)宣布已于2月11日開始審核紐約證券交易所Arca和Bitwise兩家公司提交的比特幣ETF規則變更提案，該提案本身于2月15日在《聯邦公報》上公布，這意味著監管機構有45天時間做出否批準，拒絕或延長提案做出初步決定。希望對規則提案提出意見的普通公眾有三周時間提交評論。[2019/2/15]

Q3：非常感謝今天各位嘉賓的分享，我們今天一開始講到了AI監管。這里引用一下索羅斯的一句話，Innovation永遠是跑在Regulation之前，無論是之前帶來金融海嘯的金融創新，還是Web3.0創新，還是AI創新。人工智能的一個快速發展，越來越多的人擔心自己的工作會被AI所取代，剛剛我們也有聊到Midjourney11個人的團隊以及新的公司組織形式。我們今天的主題是AGI的前世今生，讓我們一起暢聊一下，我們所經歷的以及所暢想的AI的前世今生。

楊寧：

自從20世紀中葉艾倫·圖靈提出了圖靈測試，奠定了計算機科學的基礎，人們開始認識到AI與傳統計算機的巨大差別。AI的發展經歷了不同的階段，其中包括神經網絡、深度學習和增強學習等方法的不斷演變。神經網絡模仿人腦的神經結構，處理和學習數據的能力得到了顯著的提升。這一方法在圖像識別、語音識別和自然語言處理等領域取得了重要突破。

隨后，深度學習作為神經網絡的一個分支，利用更深層次的神經網絡來處理更復雜數字信息，成為AI研究領域的熱門話題。增強學習則是一種基于試錯的學習方法，讓AI在環境中與其他智能體互動并學習如何做出最佳決策。這一方法在游戲領域取得了驚人的成績，如DeepMind的AlphaGo擊敗圍棋世界冠軍，顯示出了AI在決策和策略方面的巨大潛力。近年來，AGI成為了研究重點。它在創造一種具有人類智能水平的機器，能夠在各種情況下與人類展開自然互動。同時，大型預訓練語言模型如OpenAI的GPT系列取得了顯著進展，提升了機器理解自然語言的能力，為實現AI與人類更深度的交流奠定了基礎。在我看來，人類和AI可以共存，互相促進。AI的應用范圍已經覆蓋到醫療、教育、金融、交通等諸多領域，極大地提高了生產效率和人們的生活質量。

動態 | Dogecoin創建者在Twitter上發布了屏蔽XRP粉絲的腳本:據Suldgefeed報道，Dogecoin (DOGE)的創始人(Jackson Palmer近期發布了一個開源腳本，可以自動屏蔽Twitter上的XRP帳戶，使其在啟用時無法提到該用戶。雖然有些人可能已經厭倦了XRP的社區，但XRP在過去一個月的表現良好，目前是市值147.8億美元的第二大加密貨幣。[2018/12/3]

我們人類的智力的開發遠遠沒有達到我們的預期，也就是說我們現在大腦的使用比例還是太低，如果AI能夠激發我們人類的大腦潛能，我們也能夠跟AI一起進步，相輔相成。在未來，我們人類會變得更聰明、更智慧，能夠和更加強大的AI匹配。

白強：

我持有相對悲觀的觀點，互聯網和人工智能的發展并未使世界變得更好。從互聯網的角度來看，信息的暢通并未阻止強勢力量的操控，反而加劇了社會的撕裂。AGI也會出現同樣的問題，盡管技術進步讓一部分人變得更加優秀，但絕大多數人卻越來越愚蠢和懶惰。我認為這是因為在一個高度發達的社會中，人們不再需要努力，自然就變得愚蠢。這里邊其實是有很多更深層次的問題，隨著AGI的到來，我們是不是更加脆弱了？我想這是值得我們思考的一個問題。

陳葵：

我認為在選擇樂觀和悲觀之間，我更傾向于站在中間。當然，在我們身處的行業中，我認為我們不應該忽視歷史，畢竟過去的經驗可以讓我們更好地面對現在和未來的挑戰。既然要談論前世今生，那我們就回顧一下阿西莫夫提出的機器人三定律：第一，機器人不得傷害人類或使人類受到傷害；第二，除非違背第一定律，否則機器人必須服從人類的命令；第三，除非違背前兩定律，機器人必須保護自己。這是一個非常理想化的設想。它對于我們研究人工智能的發展道路有著重要的意義。

對于AGI的出現，我認為它將對人類產生巨大影響，好壞未知。但是，我很欣慰地看到OpenAI提出了三個原則。

1.廣泛的利益：目標是使AGI對人類產生積極的影響，并確保AGI的發展不損害人類或集中權力。

2.長期安全：如果在AGI研究中，其他項目比OpenAI更有希望成功實現安全的AGI，那么OpenAI將與該項目合作，而不是競爭。

3.技術領導力：為了在安全和社會影響方面產生實質性影響，OpenAI將繼續在領域內取得重要突破，以確保其在AGI研究和應用方面的影響力。

這些原則可以讓人類在宇宙上最大程度地繁榮發展，同時也可以確保AGI的好處能夠得到廣泛的分享，幫助我們成功地應對風險。雖然未來充滿了不確定性，但我相信我們應該抱有希望，積極面對變化，并不斷尋找機會。最后，我們應該盡情享受生活中的美好瞬間，直到我們最終消亡之前做最后的狂歡。

媒體觀察團互動

非小號執行主編孫巖：

我對于AI并不持有特別樂觀或悲觀的態度，而是像大多數人一樣持有比較盲目或無知的感覺。我嘗試過一些智能平臺，比如ChatGPT和Midjourney，但是并沒有感受到它們帶來的很大幫助，也不會在一些媒體平臺上使用它們，因為這樣會失去我的個人獨特性。我覺得自己并沒有很強烈的感受到人工智能或AGI帶來的明顯幫助。就像電影太空漫游2001的例子一樣，當年的描述并沒有給我現在的感知帶來很大的震撼，因為現實可能更加骨感一些，沒有想象中那么神奇或高科技。因此，我認為自己目前既不悲觀也不樂觀，更像是蕓蕓眾生的感覺。

博鏈財經和1783DAO創始人王暉：

聽了幾位嘉賓的分享，我有幾個問題想跟楊總探討，從東方文化，比如說人之初、性本善，以這個來推理AI也是這樣，AI也是好的，但目前AI的發展其實是在被西方主流的巨頭壟斷和主導，在西方文化里到底有沒有人之初、性本善這樣的文化傳承，從西方文化的角度看，AI和人類的一個未來將會是怎么樣的？

楊寧：

你這個問題問得非常好。人類具有共性和人性的一致性，人類的友愛、合作和共情心等品質不論來自何種文化、民族或方式都是相似的。因此，我反對三體提出的黑暗森林概念，人類并不是禽獸，而是有能力形成團隊和組織結構的人性存在。訓練機器學習模型時，高質量的數據是至關重要的，而數據的質量和標簽的準確性決定了模型的訓練效果。此外，AI的開發者對其影響很大，因為機器的人性來源于人類。

博鏈財經和1783DAO創始人王暉：

我還有一個問題想和白強總討論，您說很多工具類的產品可能會死掉，那是否意味著ChatGPT也會死掉？如果是這樣的話，在AI領域，到底什么樣的項目才能長期存在？

白強：

我認為OpenAI的基礎是它的大語言模型，而不僅僅是ChatGPT這樣的產品。即使ChatGPT這樣的工具類產品消失，OpenAI依然擁有龐大的數據作為它的王牌。在眾多公司中脫穎而出的關鍵是能否成功地轉型成為新時代AGI時代的內容公司。就像皮克斯這樣的成功案例，它最終發展成為了一家制作優質內容的公司，贏得了奧斯卡獎項。我們現在應該從AI的角度來重新定義新的模型和產品，而不是繼續沿用舊有的思維。我們應該思考如何在這個新時代中定義各個方面，并在這里尋找創業和投資的機會。我相信在這樣的思考下，未來會出現更多的機會。

鏈得得ChainDD華東區執行副主編道爾吉：

我有一個問題，圖靈測試是不是應該成為AGI的一個測試標準，或者說AGI應該以什么樣的測試標準去把控？

楊寧：

我認為可以從測試機器的智慧程度和測試機器的心理程度這兩個方向去把控。對于測試機器的智慧程度，傳統的圖靈測試已經過時，需要尋找新的測試方式，比如智商測試，來計算機器智能水平的高低。但是這種測試集需要避免開發人員為了應試而進行過度訓練的情況。對于測試機器的心理程度，我認為應該開發類似人類精神測試的機器測試集，以更好地掌握機器的心理狀態。這兩個方向都非常重要且嚴肅，是一些大學和科研機構應該朝這個方向去研究的方向。

鏈得得ChainDD華東區執行副主編道爾吉：

感謝楊總的解答，我還有一個問題，就是AI倫理方面問題，對于機器來說，我們把將一部分社會分工和社會責任交給了AI去處理的時候，如何把倫理的問題處理好？例如，在自動駕駛領域，AI的進步可以為自動駕駛時代提供新方向，并提供一些新的困難指令和多模態數據指令。問題在于如何在利用AI技術的同時，確保倫理問題的處理，這一塊我們應該怎么去訓練他們？

楊寧：

我認為你提到的問題不僅是倫理問題，更是一個法律問題。這主要涉及到確定算法和概率算法之間的區別。確定算法意味著在給定情況下，機器總是做出相同的選擇。而基于AI的算法則是概率分布，意味著在相同的情況下，它可能會做出不同的選擇。

正因如此，全球目前沒有讓AI做基于概率模型的決策系統。因為這涉及到法律責任問題。例如，在自動駕駛汽車發生事故時，究竟誰應承擔責任？如果有駕駛員在車內，他將是法律責任人；如果車是空的，那么提供自動駕駛服務的公司應承擔法律責任。

目前我們對AI的信任還不足以讓它做出可能影響生死、造成巨大傷害的決策。在航空航天領域，民航局不會允許AI做出這類決策。他們只允許人做決策或使用自動化決策流程，即確定算法，這樣在相同的輸入下，總是得到相同的輸出。因此，在我們目前所做的無人駕駛飛行器項目中，我們采用了確定算法，這是可以獲得民航局批準的。

以上就是本次TwitterSpace的精彩內容，希望大家能夠從中獲得一些有用的信息和啟示。GPTDAO是最硬核的AGI信息分享社區，專注于深度和硬核信息分享，千萬不能錯過。

歡迎關注GPTDAO的推特，獲取最新活動消息。

中文推特：@GPTDAOCN

英文推特：@GPTDAOGLOBAL?

Tags：TWITER人工智能ITTTWINU幣StarterCoin《人工智能》電影解析KITTY幣

狗狗幣價格