買比特幣 買比特幣
Ctrl+D 買比特幣
ads
首頁 > Pol幣 > Info

ATG:假如 ChatGPT 變得邪惡_HAT

Author:

Time:1900/1/1 0:00:00

提前預判一切可能性,是為了讓它變得更好

自去年底首次推出以來,爆火的ChatGPT已成為互聯網的新寵,迅速積累了驚人數量的用戶,用戶們通過這個基于網絡的聊天機器人,無論是讓它寫一個演講稿、編寫歌詞,還是撰寫學術論文和編寫計算機代碼,ChatGPT看起來似乎是萬能的。ChatGPT擁有和人類一樣的強大能力,在互聯網上掀起了一場風暴,但是,它也讓很多行業開始警惕。

2014年上映的電影《機械姬》,講了這樣一個故事,億萬富翁內森用人類所有智慧和網上的所有數據,造出了機器人Ava,并且派程序員迦勒去對Ava進行圖靈測試,而這個機器人有著極強的模仿能力和學習能力,她甚至可以模仿人類的情感,而結果是——Ava殺死了制造他的人。

難道人工智能的最高成果,真的是自由和謊言?

去年年底,社區負責人發現,Stack Overflow發現了由這個人工智能模型生成的的大量回復,該工具使用復雜的人工智能模型,對人類的詢問給出令人信服但往往不正確的答案。

人社部:探索推進社會保障卡加載數字人民幣支付功能:金色財經報道,人力資源社會保障部印發《數字人社建設行動實施方案》的通知,提出將建設部省聯動的人社區塊鏈基礎支撐服務平臺、電子印章系統、電子證照庫,實現全國共建共用、互通互認。利用5G、視頻、區塊鏈等技術,輔助遠程實現工傷事故調查、勞動能力鑒定。依托社會保障卡構建統一身份認證體系和支付結算模式,建立“區塊鏈+電子社保卡”個人信息授權使用機制,探索推進社會保障卡加載數字人民幣支付功能。[2023/6/28 22:05:34]

首先,StackOverflow的官方公告是這么說的:

“StackOverflow是建立在信任之上的社區,這里的信任是指,整個技術社區堅信,用戶提交的答案,是他們內心所清晰了解的、準確的認知。并且,用戶和同伴們,擁有足夠的知識和技能,來確認自己發布的信息,并且對這些信息負責。

StackOverflow整個系統,通過依靠平臺提供的工具,來對其他用戶的貢獻來進行驗證和確認,包括負責任地對答案點贊(點踩一腳)。但是,目前StackOverflow認為,由GPT產生的貢獻,很多時候不符合社區的標準。

Ark Invest昨天再次增持750萬美元Coinbase股票:金色財經報道,Ark Invest連續第二天購買Coinbase股票,購買了大約750萬美元的股票。

就在前一天,Ark Invest購買了大約840萬美元的Coinbase股票。今年以來,Coinbase的股價上漲了50%以上,目前已超過51美元。[2023/5/3 14:40:09]

因此,無法給整個社區一個值得信賴的環境。當所有用戶都只是復制和粘貼信息到答案中,而不去驗證GPT提供的答案是否正確,也不去確保答案中引用原文的來源,也沒有驗證GPT提供的答案是否清楚和簡潔地回答了所問的問題,社區的信任就會被打破。

那么,如果從內容的客觀性來看,如果答案存在錯誤,那么整個答案客觀上是錯誤的。為了使StackOverflow作為正確和經過驗證的信息的可靠來源,那么,有錯誤的答案,就必須被編輯或替換。

但是,由于目前的GPT強大到,足以讓網站的用戶相信答案是沒問題的,就可能造成嚴重的問題,因此,錯誤信息一旦出現在社區,GPT有可能破壞所有人對社區的信任。

我們再看一下Stackoverflow用戶的評論:

數據:Wintermute在2022 DeFi漏洞利用損失排行榜上位列第五:金色財經報道,據PeckShieldAlert分享數據顯示,遭黑客攻擊損失1.6億美元的Wintermute在2022 DeFi漏洞利用損失排行榜上位列第五,排在其前面損失金額最高的四個加密項目分別是Ronin Network(6.24億美元)、Wormhole Bridge(3.2億美元)、Nomad Bridge(1.9億美元)、以及BeanstalkFarms(1.82億美元)。[2022/9/21 7:10:58]

高贊用戶1:干得好! 很高興社區做出了正確的決定,希望可以永久禁止任何AI生成的答案。人工智能將永遠無法發布好的編程答案,100年都不行

高贊用戶2:無論人工智能生成的答案是否正確,StackOverflow是面向專業和發燒友程序員的問題和答案網站"。在我看來,那些只是將問答復制并粘貼到/從人工智能工具中的人,不能算是專業發燒友,也不能算熱愛技術的人。如果真的能夠驗證是好的正確答案,發布這些答案的人,應該能夠自己寫出來。人工智能不應該屬于這里。-

對于社交性質的網站來說,如果本質是UGC業務,運營的是社交,那么,如果從商業的角度來看,如果大家都去應用ChatGPT,那就變成了一個全部是機器人的社區,用戶就會越來越沒有耐心去等待。

Protego Trust Bank任命Ron Totaro為公司CEO:金色財經報道,Protego Trust Bank任命金融服務資深人士Ron Totaro為首席執行官,該銀行繼續努力為加密和數字資產的機構客戶提供服務。Totaro最近的職位是Tassat Group的首席執行官,這是一家專注于數字支付的基于區塊鏈的科技公司。

2021年,Protego在A輪融資中籌集了7000萬美元,投資者包括加密貨幣交易所Coinbase(COIN)和FTX以及CoinDesk的母公司Digital Currency Group。據報道,5月,Protego正在尋求在B輪融資中籌集更多資金,這將使該公司的估值達到20億美元。[2022/9/12 13:24:45]

那么,如果StackOverFlow是這樣的,其他領域呢?

如果人類無法控制生成式AI

與其說生成式AI能夠打造更有創造力的新世界,

不如說生成式AI能夠打造的是內容更多元的互聯網。

印度加密倡導機構BACC呼吁NPCI恢復加密交易所UPI服務:6月18日消息,印度加密倡導機構區塊鏈和加密資產委員會(BACC)已經致信印度國家支付公司(NPCI),呼吁其恢復對印度加密交易所的統一支付接口(UPI)服務。

BACC提議其與銀行間零售支付和結算機構舉行會議,討論并理解其對加密貨幣交易的擔憂之處。BACC在信中告訴NPCI,一些加密交易所嚴格遵守用戶KYC和其他NPCI協議,并要求其恢復此類企業的UPI服務。

據悉,BACC是印度互聯網和移動協會(IAMAI)旗下非營利性倡導組織,其成員包括當地加密貨幣交易所CoinSwitch Kuber、CoinDCX、WazirX等。(Cryptopotato)[2022/6/18 4:36:39]

教育業也是如此,紐約有學校因為擔心ChatGPT可能被學生用于作弊,而禁了ChatGPT。

在擔心ChatGPT可能被資源有限、技術知識為零的黑客濫用時,網絡安全行業開始注意到了它。

就在ChatGPT首次亮相的幾周后,以色列網絡安全公司Check Point ChatGPT與OpenAI的代碼編寫系統Codex協同使用時,可以創建攜帶惡意有效載荷的釣魚郵件,也就是說,ChatGPT "有可能大大改變網絡威脅格局,在日益復雜和有效的網絡能力的危險演變中又向前邁出了一步。

Check Point Research(CPR)的網絡安全研究人員觀察到,網絡犯罪分子正在使用ChatGPT來迭代或者從頭開始構建惡意軟件和勒索軟件。Check Point Research提到,他們在地下黑客論壇上發現了許多網絡犯罪分子在 ChatGPT 的幫助下,研究如何創建信息竊取程序、加密工具和其他惡意軟件。

一些Cracker(駭客)本來只是編程世界的新手,但是,加持強大的工具,他們的力量會瞬間被增強。

例如:

專家對腳本進行了分析,也確實證實了網絡犯罪分子的說法。里面確實存在惡意竊取軟件,它可以在整個系統中搜索常見的文件類型(如MS Office文檔、PDF和圖像)。如果發現任何感興趣的文件,該惡意軟件會將文件復制到一個臨時目錄,將其壓縮,并通過網絡發送出去。

許多安全專家認為,ChatGPT有能力編寫釣魚郵件,這樣一來,它就會受到網絡犯罪分子的廣泛歡迎,特別是那些英語非母語的犯罪分子。Sophos公司首席研究科學家Chester Wisniewski認為,ChatGPT很輕易就能被用于 "各類社工活動”...已經能夠用ChatGPT寫出一些很好的釣魚軟件,我預計它還可以被用來進行更真實的互動對話,用于商業電子郵件詐騙,甚至通過Facebook Messenger、WhatsApp或其他聊天應用程序進行釣魚活動。

ChatGPT的假裝實力很難被揭穿,可以增強網絡犯罪分子的力量。

比如說,犯罪分子正在迅速研究新方法,使用生成式人工智能,對目前的欺詐手段進行改進,特別是通過生成式人工智能能夠在大量數據中迅速學習的能力。特別是,在這樣的騙局中,生成式人工智能可以用來直接提高詐騙文本或電子郵件的質量,使這些內容看起來更加具備迷惑性。

英偉達Nvidia的CSO(首席安全官)David Reber提出,生成式AI會給網絡安全帶來更大的麻煩,比如說,惡意黑客能夠通過生成式人工智能來生成大量惡意代碼,而隨著人工智能技術的進步,進行網絡安全攻擊的速度和復雜,會超過了人類的能力,并且,這種容易上手的技術,會讓網絡安全攻擊的能力進一步普及,曾經的攻擊行為,受限于技術知識和限定的時間、地點,而ChatGPT有可能消除這一限制因素。

根據新聞報道,OpenAI在11月推出的機器人ChatGPT,引起了美國國防官員的注意,而生成式人工智能,最近被列入了美國國防信息系統局的觀察名單(Defense Information Systems Agency watch list)CTO Stephen Wallace表示,他們正在開始研究,生成式人工智能,究竟會如何改變DISA在該部門的任務,以及未來的方向,而美國安全中心的技術和國家安全副研究員Bill Drexel也跟公眾提出了他對這項新技術的擔憂。

GAN(生成對抗網絡)的設計,主要包括一個生成器、判別器,這兩個人工智能算法相互對抗、博弈,從而創造全新的內容,在經過N次博弈之后,這兩個都會變得更強,而這種技術,也可能會被廣泛用于自動化網絡釣魚和社會工程攻擊策略中。

不過,我們是否可以思考?能不能讓維護網絡安全的生成式AI和破壞網絡安全的生成式AI對抗?

比如說科技日報這篇2019年的新聞:

比如說,我們用人工智能助手,和營銷垃圾機器人對話。

以及,從內容的角度來說:

既然,生成式AI是通過從大量的數據庫中學習,然后綜合給出答案,那么,它具備總結、綜合、列舉的能力,但不一定有“判斷數據真偽”的能力。

如果是這樣,那么"如何識別內容真偽,防止AI在內容里下”

也會是新的課題和機會。

金色早8點

金色財經

Arcane Labs

Odaily星球日報

歐科云鏈

澎湃新聞

深潮TechFlow

MarsBit

BTCStudy

鏈得得

Tags:GPTHATCHATATGMGPTchatcoin幣未來價值Stripchat10元等于多少代幣BeatGen NFT

Pol幣
DEFI:金色Web3.0日報 | 1inch Network與元宇宙項目Bloktopia達成合作關系_HyperDeflate

DeFi數據 1、DeFi代幣總市值:506.59億美元 DeFi總市值及前十代幣 數據來源:coingecko2、過去24小時去中心化交易所的交易量50.

1900/1/1 0:00:00
LEA:芒格批加密貨幣“毫無價值”_泰達幣和比特幣區別

【新華社微特稿】美國知名投資人沃倫·巴菲特的搭檔、伯克希爾-哈撒韋公司董事會副主席查理·芒格15日呼吁美國禁止加密貨幣,稱加密貨幣“毫無價值”.

1900/1/1 0:00:00
BSP:深入解讀閃電網絡:探尋比特幣支付通道的前世今生_GHT

原文作者:Twitter@EvieEvieXia原文編輯:Twitter@binary_dao中本聰在 2009 年創造比特幣的時候,就有了關于支付通道的想法.

1900/1/1 0:00:00
FTC:進擊的元宇宙:2022火熱 2023冷靜_MET

作者:沈浪 元宇宙這把火,從2022繼續燒到了2023。目前來看,資本市場對扎克伯格的元宇宙故事依舊抱以希望.

1900/1/1 0:00:00
CRY:a16z合伙人:給Web3初次創業者的11條建議_CRYPT

原文作者:Guy Wuollet,a16z Crypto原文編譯:angelilu,Foresight Newsa16z 的 Web3 初創者加速器計劃「Crypto Startup Schoo.

1900/1/1 0:00:00
NOS:Nostr 的野心 不止替代 Twitter_Dinosaur Eggs

圖片來源:由Maze AI工具生成1.1首先,討論Nostr協議最近大火的Damus,是建立在Nostr協議的一個應用,主要是以去中心化的社交場景(你把它理解為去中心化的Twitter)即可.

1900/1/1 0:00:00
ads