買比特幣 買比特幣
Ctrl+D 買比特幣
ads
首頁 > SAND > Info

區塊鏈:人類精英呼吁暫停AI實驗 ChatGPT:合理但謹慎考慮_Catge Coin

Author:

Time:1900/1/1 0:00:00

3月29日,非營利組織“未來生命研究所”發表了一封題為“暫停巨型AI實驗”的公開信,呼吁全球的AI實驗室暫停訓練比GPT-4更強大的系統至少6個月,并在此期間開發出一份針對AI的共享安全協議,必要時需要政府介入。?

1000多名科技人士在這份公開信上簽名,包括特斯拉CEO馬斯克、StabilityAI?的CEOEmadMostaque等企業掌門人,也包括Alphabet旗下DeepMin的研究人員,還有諸如圖靈獎得主YoshuaBengio這樣的重量級學者。當然,也有人表達了不同意見,認為這是在阻礙技術進步。

開發出GPT-4模型的OpenAI公司內還沒有人簽名,該公司目前也沒有對這封公開信予以回應。但我們向卷入紛爭中的ChatGPT要了個回應。

這個AI自然語言大模型產品倒是表現出了善解人意的一面:暫停實驗存在合理性,但需要謹慎考慮這么做帶來的技術發展滯后問題。它還給出了關于AI的六大風險和十個管理制度建議。

人類精英:暫停實驗確立規則

截至今日,掛在“未來生命研究所“官網上的《暫停巨型AI實驗》公開信,已經收集了1130人的簽字,名單里精英云集,不乏特斯拉、蘋果等科技公司的高管,也有政客和作家,當年,更多的是全球多所高校的教授以及人工智能領域的專家。??????

作家水木然:人類世界就是一個元宇宙:金色財經報道,作家水木然表示,科技越發達,人類對世界的認知越清晰,越接近世界的真相。“元宇宙”是當前人類最大的科技趨勢,勢不可擋,人人都在關注。其實,我們生活的這個世界,就是一個“元宇宙”。只要“元宇宙”的技術成熟,人類就會虛構出一個“新世界”,然后就可以把很多人塞進去,讓他們在里面繁衍。或者當地球面臨日益惡化的環境危機,核危機,疫情等等,就會有一批人構建一個新世界,然后移民進去,開啟新生活。[2022/1/3 8:20:39]

那么精英云集簽字的這封公開信到底說了什么?以下是這封信的全文

廣泛的研究表明,具有能與人類競爭的智能的AI系統會對社會和人類構成深刻的風險,頂尖的AI實驗室也承認這一點。正如廣受認可的阿西洛馬人工智能原則原則所述,高級AI可能代表著地球生命歷史的深刻變化,應該以合適的態度和資源去進行規劃和管理。不幸的是,這種水平的規劃和管理并沒有發生。盡管最近幾個月AI實驗室陷入了一場失控的競賽,以開發和應用越來越強大的數字思維,然而沒有人能夠理解、預測或可靠地控制這些思維,甚至他們的創造者也不能。

現場 | 工信部陳新:區塊鏈可能改變人類價值的傳遞方式:金色財經現場報道,12月20日,以“鏈通未來 融合發展”為主題的第二屆區塊鏈產業與企業家國際峰會于福州召開。工業和信息化部人才交流中心黨委副書記陳新發表致辭,他表示,區塊鏈技術作為可能改變人類價值傳遞方式的顛覆性的核心技術,已經引起了社會各界的廣泛關注。我國區塊鏈技術和產業發展要始終保持競爭優勢,必須在產業人才隊伍建設方面下大功夫,從目前的情況來看,區塊鏈產業人才培養還存在著一些突出問題,主要可以歸納為兩個方面:一是區塊鏈人才培養與企業行業發展的需求嚴重脫節,我們認為這是產業人才培養里頭的最大的一個問題和痛點。第二個,隨著區塊鏈技術和產業迅速發展,區塊鏈人才培養的質量不能夠滿足產業發展的需要。[2019/12/20]

當代AI系統在一般任務上正在擁有與人類競爭的能力,我們必須問問自己:

我們應該讓機器在我們的信息渠道中充斥宣傳和謊言嗎?

我們是否應該自動化所有的工作,包括那些有成就感的工作?

我們是否應該培養出可能比我們數量更多、比我們更聰明、最終超越并取代我們的非人類思維?

聲音 | Civic創始人:加密是人類最大技術實驗 成為主流只是時間問題:據Crypto Globe消息,Civic創始人Vinny Lingham表示,加密是人類最大技術實驗,成為主流只是時間問題。他認為該行業仍處于早期階段,需要做很多工作來幫助改善基于區塊鏈的基礎設施。他說“根據比特幣基金會董事會成員的說法,在加密行業開始成熟之前,需要多年的編碼,經驗和大量的失敗”。[2018/10/8]

我們是否應該冒著失去對我們文明控制的風險?

此類決策決不應該委托給未經選舉產生的技術領導人。只有當我們確信AI的效果是積極的,風險是可控的時候,AI系統才應該被開發。這種對AI的判斷必須是合理的,并隨著系統潛在影響的變化而變化。

OpenAI最近關于人工通用智能的聲明指出,“在開始訓練未來的系統之前,進行獨立審查可能很重要。同時對于最前沿的工作而言,人們應該在合適的時間點限制用于創建新系統的計算增長率。我們同意這一說法,并認為現在就是合適的時間點。

因此,我們呼吁所有的AI實驗室立即暫停訓練比GPT-4更強大的AI系統至少6個月。這種暫停應該是公開的和可核實的,所有關鍵的參與者也能暫停相關工作。如果這種暫停不能迅速開始,政府應該介入并實施暫停。

解放軍報:區塊鏈技術或將帶領人類進入機器信任時代:《解放軍報》今日刊文表示,區塊鏈技術具有不可篡改的特性,從根本上也改變了去中心化的信用創建方式,通過數學原理而不是中心化的信用機構來建立廣域公正性信任體系。因此,未來區塊鏈技術或將帶領人們從個人信任、制度信任進入到機器信任的時代。在科技興軍大潮洶涌澎湃的今天,區塊鏈這項新技術有待我們深入發掘的地方還有很多。特別是在別人制訂“規則”的高科技領域,我們更應放眼長遠、繼續創新,消化吸收區塊鏈技術的精髓,努力形成具有自主知識產權的核心競爭能力。同時,面對各種誘惑驅使,我們需要時刻小心謹慎,要看到風險、避免損失,切莫讓經濟利益的浮光,遮擋了對區塊鏈本質和深層價值的認識。[2018/3/30]

AI實驗室和獨立專家應利用這一暫停的時段,共同開發一套AI設計和開發的共享安全協議,這些協議需要由獨立的外部專家嚴格審計和監督。這些協議應確保所有遵守它們系統的AI是安全的。這種暫停并不意味著總體上暫停AI開發,只是讓人們從具有新興功能的、不可預測的危險競賽中后退一步。

AI的研究和開發應該重新聚焦于使當今強大、最先進的系統更加準確、安全、可解釋、透明、穩健、一致、可信和可靠。

清華大學教授朱巖:區塊鏈在改變著人類社會的組織模式:清華大學教授朱巖認為,Token的價值在于我們借助一種手段,讓講信用的人獲得回報。所以,每個人都可以發行“股票”,讓你的誠信、你一輩子積攢的高貴品格,能夠被社會認知,并兌現其價值。如果能做到這一點,它對整個人類的組織結構的改變將會非常巨大。當人群彼此之間的信任關系、人群的規模在發生改變的時候,或將是千載難逢的人類文明的大變革。也就是說,區塊鏈在改變著人類社會的組織模式。[2018/3/14]

與此同時,AI開發人員必須與政策制定者合作,大幅加快強大的AI管理制度的開發。管理制度至少應包括以下內容:

?針對AI的新的、有能力的監管機構;

?監督和跟蹤能力強大的AI系統和計算能力池;

?幫助區分真實和合成數據的溯源、水印系統,并跟蹤模型泄露;

?提供健全的審計和認證生態系統;

?對AI造成的損害進行責任認定;

?為AI技術的安全研究提供充足的公共資金;

?資源充足的機構以應對AI將造成的巨大經濟和破壞。

人類可以通過AI享受一個繁榮的未來。在成功創建了強大的AI系統后,我們現在可以享受一個“AI之夏”。

在這個AI的夏天,我們可以收獲回報,為所有人的利益設計這些系統,并給社會一個適應的機會。人類社會曾經暫停使用一些可能會對社會造成災難性影響的技術,我們現在也可以在AI領域這樣做。讓我們享受一個漫長的AI之夏,不要在沒有準備的情況下匆忙進入秋天。

事實上,這封公開信是近期人類精英們對人工智能風險擔憂的總爆發。自ChatGPT高速迭代后,擔憂從未停止,特別是當微軟、谷歌、百度、華為等科技巨頭們在自然語言模型上展開“軍備競賽”之后。

日前,“深度學習之父”杰弗里·辛頓在媒體采訪中表示,人工智能正處于“關鍵時刻”,毀滅人類“并非不可能”。AI領域內的“大牛”蓋瑞·馬庫斯發推特支持辛頓,甚至發出靈魂一問:“用百分之一的人類毀滅風險換取和機器對話帶來的樂趣,這值得嗎?”

而馬庫斯在轉發FLI這封公開信時表示,“這封信并不完美,但精神是正確的。我們需要放慢腳步,直到我們更好地理解AI帶來后果……他們可能會造成嚴重傷害……主要參與者對他們正在做的事情越來越保密,這使得社會很難抵御可能發生的任何傷害。”

也有科技圈人士對這封信的觀點持不同意見。

Writer的創始人Waseem以諷刺的語氣表達了他對權威們的不滿,“讓我們停止建設和發展我們的公司,因為來自硅谷的億萬富翁說我們有風險。一定要喜歡那些比我們人類更聰明的人,因為他們告訴我們如何生活。當我們有他們神圣的指引時,誰還需要進步?”?

OSSCapital的創始人JosephJacks態度更是簡潔明了:強烈反對,絕對不簽這個。

?ChatGPT:暫停合理但小心阻滯技術

目前,OpenAI還沒有就FLI的這封公開信做出回應。而我們把人類精英們的擔憂與建議甩給了ChatGPT,引發這場紛爭的這個對話機器人不但認可了FLI要求暫停實驗的合理性,還補充了六大AI風險。

ChatGPT的答案中也包含了暫停實驗帶來弊端:導致技術發展的滯后。這也和輿論場上很多普通大眾的想法趨同。????????????????????

那么,問題擺在眼前,如果要讓研究人員和政府制定規則,該包含哪些內容呢?ChatGPT給出了十大建議,相當于給包括自己在內AI發展畫了一個規范圈。

連ChatGPT自己都這么說了,可見,“AI失控”、”替代人類“無論是在意見領袖圈層還是輿論場上都有探討的意義。

最近,微軟的創始人比爾·蓋茨在大力肯定人工智能帶來生產力提升的同時,也強調過風險,“AI失控的可能性是存在的,一臺機器會認為人類是自己的威脅嗎?它們會得出結論認為自身利益與人類的利益不同進而不在意我們嗎?”他預測,隨著算法、算力的提升,超級智能AI會在未來出現。

連OpenAI的CEOSamAltman都表示,超級智能AI的風險可能會遠遠超出我們的預料。此前,他在技術研究員LexFridman的播客中表達他的擔憂,包括AI造成的虛假信息問題,帶來的經濟沖擊等等,“危害可能遠遠超過了人類能應對的程度”,他舉了個例子,“我們怎么會知道,大語言模型沒有在推特上指揮大家的思想流動呢?”

這正應了那封公開信中所說的:沒有人能夠理解、預測或可靠地控制這些數字思維,“甚至他們的創造者也不能”。

雖然通用人工智能還遠遠沒有到來,但就像比爾·蓋茨說得那樣,在這之前,世界需要建立規則以使AI帶來的正面影響遠遠超過其負面影響。

換句話說就是,別讓人類造出的東西把人類自己滅了。畢竟,戰爭、核事故帶來的災難還歷歷在目。

Tags:區塊鏈GPTCHAATG藝術幣區塊鏈MGPTblockchain怎么注冊Catge Coin

SAND
比特幣:比特幣罕見“脫鉤”美股 銀行業危機成牛市導火索?或許沒那么簡單_中國宣布比特幣違法

作者:木沐 近段時間全球金融市場都不怎么太平,而近年長期與美股強相關的比特幣卻罕見“脫鉤”。有家分析顯示比特幣與美股的相關性觸及20個月低點,走出了“一枝獨秀”的獨立行情.

1900/1/1 0:00:00
區塊鏈:央行副行長宣昌能:加密貨幣領域缺乏有效監管_加密貨幣行情網站

金色財經報道,博鰲亞洲論壇2023年年會于3月31日下午落下帷幕。中國人民銀行副行長宣昌能表示,有效的金融監管是重要的金融基礎設施,需要加快完善與數字經濟相適應的監管體制.

1900/1/1 0:00:00
元宇宙:web3三雄合體:AIGC、元宇宙、NFT數字藏品_IGC

昨天,英偉達黃仁勛演講中三次強調這是“AI的iPhone時刻”,是切勿錯過的決定性時刻。是的,從OpenAI發布GPT-4,到百度發布文心一言,再到微軟發布Office的AI助手Microsof.

1900/1/1 0:00:00
以太坊:ZK專家“華山論劍”:安全與去信任 ZK協議在機制上該如何平衡取舍?_Proof Of Memes

ZK領域頭部專家在本文中分享了零知識證明協議在機制設計和工程建構上的安全原則與新穎方案,以及在設計過程中的種種權衡.

1900/1/1 0:00:00
區塊鏈:金色Web3.0日報 | Magic Eden將推出測試版交易市場ETH Genesis_區塊鏈域名價格排行

DeFi數據 1、DeFi代幣總市值:501.39億美元 DeFi總市值及前十代幣數據來源:coingecko2、過去24小時去中心化交易所的交易量27.

1900/1/1 0:00:00
BIT:ARB空投在即 如何提前批準合約、更快Claim并交易_ARBI

ARB空投馬上就可以領取了。如何更快地Claim?如何進行LP?如何更快地買入和賣出?本文是一份快速指南.

1900/1/1 0:00:00
ads