ATG:人類生成 or 機器生成？ChatGPT 引發了一場真假辯論_Karatgold Coin

原文：英國《金融時報》

像 ChatGPT 這樣的大型語言模型是合理性的提供者。 許多聊天機器人基于所謂的生成式人工智能，經過訓練可以通過在互聯網上搜索相關信息并收集連貫的答案來回答用戶的問題，從而生成令人信服的學生論文、權威的法律文件和可信的新聞報道。

但是，由于公開可用的數據包含錯誤信息和虛假信息，一些機器生成的文本可能不準確或不真實。 這引發了人們爭相開發工具來識別文本是由人還是機器起草的。 科學也在努力適應這個新時代，現場討論是否應該允許聊天機器人撰寫科學論文，甚至產生新的假說。

區分人工智能和人類智能的重要性與日俱增。 本月，瑞銀分析師透露，ChatGPT 是歷史上增長最快的網絡應用程序，1 月份每月活躍用戶達到 1 億。 一些部門已經決定沒有必要鎖住穩定的大門：周一，國際文憑組織表示，學生將被允許使用 ChatGPT 撰寫論文，前提是他們注明引用了它。

萬物共算科技創始人谷瑞翔：智慧空間場景與區塊鏈技術結合能有效促進人類社會經濟發展:2020年11月15日，由58COIN主辦，華夏產業經濟研究院、金色財經和幣小白協辦的2020區塊鏈產業生態論壇暨58COIN三周年在成都隆重開啟，CoT Network萬物共算科技創始人谷瑞翔在會上進行了關于《區塊鏈技術面向智慧空間場景應用的思考和實踐》演講。谷瑞翔表示：智慧空間場景是區塊鏈技術的落地應用場景之一，智慧空間是一個載體，跟區塊鏈技術結合在一起能有效地服務人類，促進人類社會經濟的發展。目前智慧空間科技仍處于智慧萌芽期，還處于早期發展階段，而區塊鏈技術中的數據可信機制和激勵模式可以促進智慧空間成熟完善，加快智慧空間場景的落地應用。[2020/11/15 20:51:20]

平心而論，這項技術的創造者坦率地指出了它的局限性。 OpenAI 首席執行官薩姆奧特曼 (Sam Altman) 去年 12 月警告說，ChatGPT“在某些方面足夠出色，足以給人一種偉大的誤導印象”。 我們在穩健性和真實性方面還有很多工作要做。” 該公司正在為其內容輸出開發加密水印，這是一種機器可讀的秘密標點符號、拼寫和詞序序列； 并且正在磨練一個“分類器”來區分合成文本和人工生成的文本，使用兩者的例子來訓練它。

Tezos考慮支持域名和人類可讀的地址:得益于以太坊的啟發，由于區塊鏈社區的一項新提議，Tezos可能很快就會支持域名和人類可讀地址。這些地址可以附加到標準錢包地址。

Tezos域名項目負責人Miroslav Bode?ek本周發表一篇介紹性文章，解釋該項目的目標。這個提議仍然是一個“早期的草案”，因此，不能保證這個特性會在Tezos出現，如果真的出現了，它可能會在此期間發生重大變化。

不過，也有人提出了一些計劃：該項目計劃通過“公開拍賣”出售域名，每次競價必須大于最后一次。過期的域名將在“先到先得”的基礎上出售。

該團隊還計劃防止網絡釣魚攻擊：Tezos域名最初將支持一組有限的字符，這些字符將排除外觀相似的字符。擴展的Unicode支持可能稍后提供。在不久的將來，團隊將開始研究一個智能合約來協調服務、一個輕量級索引器和一個允許查找域名的瀏覽器內應用程序。[2020/6/6]

斯坦福大學的研究生 Eric Mitchell 認為分類器需要大量的訓練數據。 他與同事一起提出了 DetectGPT，這是一種發現差異的“零樣本”方法，這意味著該方法不需要事先學習。 相反，該方法會自行啟動聊天機器人，以嗅探出自己的輸出。

現場 | 工信部陳新：區塊鏈可能改變人類價值的傳遞方式:金色財經現場報道，12月20日，以“鏈通未來 融合發展”為主題的第二屆區塊鏈產業與企業家國際峰會于福州召開。工業和信息化部人才交流中心黨委副書記陳新發表致辭，他表示，區塊鏈技術作為可能改變人類價值傳遞方式的顛覆性的核心技術，已經引起了社會各界的廣泛關注。我國區塊鏈技術和產業發展要始終保持競爭優勢，必須在產業人才隊伍建設方面下大功夫，從目前的情況來看，區塊鏈產業人才培養還存在著一些突出問題，主要可以歸納為兩個方面：一是區塊鏈人才培養與企業行業發展的需求嚴重脫節，我們認為這是產業人才培養里頭的最大的一個問題和痛點。第二個，隨著區塊鏈技術和產業迅速發展，區塊鏈人才培養的質量不能夠滿足產業發展的需要。[2019/12/20]

它是這樣工作的：DetectGPT 詢問聊天機器人它對示例文本的“喜歡”程度，“喜歡”是示例與其自己的創作有多相似的簡寫。 DetectGPT 然后更進一步——它“擾亂”了文本，稍微改變了措辭。 假設是聊天機器人在“喜歡”更改后的人工生成文本方面比更改后的機器文本更具可變性。 研究人員聲稱，在早期測試中，該方法在 95% 的時間內正確地區分了人類和機器作者。

聲音 | 網易傳媒副總編輯：區塊鏈技術必將為人類社會帶來更大的影響:1月4日消息，今日在杭州舉辦的“鑒識2019區塊鏈價值榜”大會第三次圓桌會議上， 網易傳媒副總編輯章豐表示：對于區塊鏈而言，我站在中立的角度。人類的科學素養積累到今天出現了區塊鏈技術，未來它必將為人類社會帶來更大的影響。問題僅僅在于，區塊鏈未來會以什么樣的過程發展。如今2019年的區塊鏈壞境，或許與2005年草莽時代的互聯網有一定的相似性，雖然很混亂，但意氣風發、充滿朝氣。[2019/1/4]

需要注意的是：這些結果尚未經過同行評審； 該方法雖然優于隨機猜測，但在所有生成式 AI 模型中的工作可靠性并不相同。 對合成文本進行人為調整可能會愚弄 DetectGPT。

這一切對科學意味著什么？ 科學出版是研究的命脈，將想法、假設、論據和證據注入全球科學經典。 一些人很快就將 ChatGPT 作為研究助理，一些有爭議的論文將 AI 列為合著者。

Meta 甚至推出了一款名為 Galactica 的科學專用文本生成器。 三天后它被撤回了。 在它被使用的這段時間，構建了一段熊在太空旅行的虛構歷史。

Tübingen 的馬克斯普朗克智能系統研究所的邁克爾·布萊克教授當時在推特上表示，他對 Galactica 對有關他自己研究領域的多項詢問的回答感到“困擾”，包括將虛假論文歸咎于真正的研究人員。 “在所有情況下，[Galactica] 都是錯誤的或有偏見的，但聽起來是正確和權威的。 我認為這很危險。”

危險來自于看似合理的文本滑入真正的科學提交，用虛假引用充斥文獻并永遠歪曲經典。 《科學》雜志現在完全禁止生成文本； 《自然》雜志則允許使用它，前提是必須對使用進行了聲明，但禁止將其列為共同作者。

話又說回來，大多數人不會查閱高端期刊來指導他們的科學思維。 如果狡猾的人如此傾向，這些聊天機器人可以按需噴出大量引用偽科學，解釋為什么疫苗不起作用，或者為什么全球變暖是個騙局。 在線發布的誤導性材料可能會被未來的生成人工智能吞噬，產生新的謊言迭代，進一步污染公共話語。

販賣懷疑的商人肯定已經摩拳擦掌，迫不及待了。

DeFi之道

個人專欄

閱讀更多

金色財經 善歐巴

金色早8點

Odaily星球日報

歐科云鏈

Arcane Labs

深潮TechFlow

MarsBit

BTCStudy

澎湃新聞

Tags：區塊鏈GPTATGZOS區塊鏈最新騙局曝光SoIGPTKaratgold CoinBezos Coin

Uniswap