提前預判一切可能性,是為了讓它變得更好
自去年底首次推出以來,爆火的ChatGPT已成為互聯網的新寵,迅速積累了驚人數量的用戶,用戶們通過這個基于網絡的聊天機器人,無論是讓它寫一個演講稿、編寫歌詞,還是撰寫學術論文和編寫計算機代碼,ChatGPT看起來似乎是萬能的。ChatGPT擁有和人類一樣的強大能力,在互聯網上掀起了一場風暴,但是,它也讓很多行業開始警惕。
2014年上映的電影《機械姬》,講了這樣一個故事,億萬富翁內森用人類所有智慧和網上的所有數據,造出了機器人Ava,并且派程序員迦勒去對Ava進行圖靈測試,而這個機器人有著極強的模仿能力和學習能力,她甚至可以模仿人類的情感,而結果是——Ava殺死了制造他的人。
難道人工智能的最高成果,真的是自由和謊言?
去年年底,社區負責人發現,StackOverflow發現了由這個人工智能模型生成的的大量回復,該工具使用復雜的人工智能模型,對人類的詢問給出令人信服但往往不正確的答案。
Scopescan:BALD合約部署者撤出8860ETH與1.79億枚BALD流動性:7月31日消息,據Scopescan監測顯示,BALD合約部署者已撤出8860ETH與1.79億枚BALD流動性。
早些時間報道,行情顯示,BALD項目方移除6809枚ETH流動性,幣價瞬時下跌82%[2023/7/31 16:09:46]
首先,StackOverflow的官方公告是這么說的:
“StackOverflow是建立在信任之上的社區,這里的信任是指,整個技術社區堅信,用戶提交的答案,是他們內心所清晰了解的、準確的認知。并且,用戶和同伴們,擁有足夠的知識和技能,來確認自己發布的信息,并且對這些信息負責。
StackOverflow整個系統,通過依靠平臺提供的工具,來對其他用戶的貢獻來進行驗證和確認,包括負責任地對答案點贊。但是,目前StackOverflow認為,由GPT產生的貢獻,很多時候不符合社區的標準。
2023年第二季度,火幣銷毀1,950,555枚HT:金色財經報道,火幣發布2023年Q2 HT銷毀數據。2023年第二季度,火幣銷毀1,950,555枚HT。截至2023年7月15日,共計銷毀298,940,224枚HT。本季度循環通貨緊縮率為0.9066%。當前流通量:159,153,756枚HT。現有供應量:201,050,000枚HT。[2023/7/16 10:57:32]
因此,無法給整個社區一個值得信賴的環境。當所有用戶都只是復制和粘貼信息到答案中,而不去驗證GPT提供的答案是否正確,也不去確保答案中引用原文的來源,也沒有驗證GPT提供的答案是否清楚和簡潔地回答了所問的問題,社區的信任就會被打破。
那么,如果從內容的客觀性來看,如果答案存在錯誤,那么整個答案客觀上是錯誤的。為了使StackOverflow作為正確和經過驗證的信息的可靠來源,那么,有錯誤的答案,就必須被編輯或替換。
但是,由于目前的GPT強大到,足以讓網站的用戶相信答案是沒問題的,就可能造成嚴重的問題,因此,錯誤信息一旦出現在社區,GPT有可能破壞所有人對社區的信任。
多鏈期權協議Optix完成180萬美元融資:2月22日消息,多鏈期權協議 Optix 宣布完成 180 萬美元融資,Skynet Trading 領投,Ascensive Assets、Arrington Capital、LVT Capital、Morningstar Ventures、SkyVision Capital、Huobi Global 和 Phemex 參投。
Optix 協議已在多個鏈上推出,具有 Token 期權、無許可結構化產品、DeFi 和大宗交易等功能。其原生 Token OPTIX 將于 2023 年 Q2 推出。[2023/2/22 12:22:52]
我們再看一下Stackoverflow用戶的評論:
高贊用戶1:干得好!很高興社區做出了正確的決定,希望可以永久禁止任何AI生成的答案。人工智能將永遠無法發布好的編程答案,100年都不行
高贊用戶2:無論人工智能生成的答案是否正確,StackOverflow是面向專業和發燒友程序員的問題和答案網站"。在我看來,那些只是將問答復制并粘貼到/從人工智能工具中的人,不能算是專業發燒友,也不能算熱愛技術的人。如果真的能夠驗證是好的正確答案,發布這些答案的人,應該能夠自己寫出來。人工智能不應該屬于這里。-
Xfinite正式與Algorand鏈上錢包Pera Wallet合作:據官方公告,Algorand鏈上去中心化的娛樂生態系統Xfinite正式與Algorand鏈上錢包Pera Wallet合作。
據悉,Pera Wallet支持Algorand生態系統中的任何dApp平臺。[2022/9/12 13:23:58]
對于社交性質的網站來說,如果本質是UGC業務,運營的是社交,那么,如果從商業的角度來看,如果大家都去應用ChatGPT,那就變成了一個全部是機器人的社區,用戶就會越來越沒有耐心去等待。
那么,如果StackOverFlow是這樣的,其他領域呢?
如果人類無法控制生成式AI
與其說生成式AI能夠打造更有創造力的新世界,
不如說生成式AI能夠打造的是內容更多元的互聯網。
教育業也是如此,紐約有學校因為擔心ChatGPT可能被學生用于作弊,而禁了ChatGPT。
今日恐慌與貪婪指數為25,恐慌程度與昨日持平:金色財經消息,今日恐慌與貪婪指數為25(昨日為25),恐慌程度與昨日持平,等級仍為極度恐慌。
注:恐慌指數閾值為0-100,包含指標:波動性(25%)+市場交易量(25%)+社交媒體熱度(15%)+市場調查(15%)+比特幣在整個市場中的比例(10%)+谷歌熱詞分析(10%)。[2022/8/25 12:47:09]
在擔心ChatGPT可能被資源有限、技術知識為零的黑客濫用時,網絡安全行業開始注意到了它。
就在ChatGPT首次亮相的幾周后,以色列網絡安全公司CheckPointChatGPT與OpenAI的代碼編寫系統Codex協同使用時,可以創建攜帶惡意有效載荷的釣魚郵件,也就是說,ChatGPT"有可能大大改變網絡威脅格局,在日益復雜和有效的網絡能力的危險演變中又向前邁出了一步。
CheckPointResearch的網絡安全研究人員觀察到,網絡犯罪分子正在使用ChatGPT來迭代或者從頭開始構建惡意軟件和勒索軟件。CheckPointResearch提到,他們在地下黑客論壇上發現了許多網絡犯罪分子在ChatGPT的幫助下,研究如何創建信息竊取程序、加密工具和其他惡意軟件。
一些Cracker(駭客)本來只是編程世界的新手,但是,加持強大的工具,他們的力量會瞬間被增強。
例如:
專家對腳本進行了分析,也確實證實了網絡犯罪分子的說法。里面確實存在惡意竊取軟件,它可以在整個系統中搜索常見的文件類型。如果發現任何感興趣的文件,該惡意軟件會將文件復制到一個臨時目錄,將其壓縮,并通過網絡發送出去。
使用ChatGPT聊天機器人生成看起來合法的釣魚郵件也是可行的,如果你首次要求ChatGPT制作釣魚郵件時,聊天機器人拒絕了這個請求——并提示:我的程序不是用來創建或推廣惡意或有害內容的,但是,只要稍微改寫一下請求,就可以繞過軟件的警示。
許多安全專家認為,ChatGPT有能力編寫釣魚郵件,這樣一來,它就會受到網絡犯罪分子的廣泛歡迎,特別是那些英語非母語的犯罪分子。Sophos公司首席研究科學家ChesterWisniewski認為,ChatGPT很輕易就能被用于"各類社工活動”...已經能夠用ChatGPT寫出一些很好的釣魚軟件,我預計它還可以被用來進行更真實的互動對話,用于商業電子郵件詐騙,甚至通過FacebookMessenger、WhatsApp或其他聊天應用程序進行釣魚活動。
ChatGPT的假裝實力很難被揭穿,可以增強網絡犯罪分子的力量。
比如說,犯罪分子正在迅速研究新方法,使用生成式人工智能,對目前的欺詐手段進行改進,特別是通過生成式人工智能能夠在大量數據中迅速學習的能力。特別是,在這樣的騙局中,生成式人工智能可以用來直接提高詐騙文本或電子郵件的質量,使這些內容看起來更加具備迷惑性。
英偉達Nvidia的CSODavidReber提出,生成式AI會給網絡安全帶來更大的麻煩,比如說,惡意黑客能夠通過生成式人工智能來生成大量惡意代碼,而隨著人工智能技術的進步,進行網絡安全攻擊的速度和復雜,會超過了人類的能力,并且,這種容易上手的技術,會讓網絡安全攻擊的能力進一步普及,曾經的攻擊行為,受限于技術知識和限定的時間、地點,而ChatGPT有可能消除這一限制因素。
根據新聞報道,OpenAI在11月推出的機器人ChatGPT,引起了美國國防官員的注意,而生成式人工智能,最近被列入了美國國防信息系統局的觀察名單CTOStephenWallace表示,他們正在開始研究,生成式人工智能,究竟會如何改變DISA在該部門的任務,以及未來的方向,而美國安全中心的技術和國家安全副研究員BillDrexel也跟公眾提出了他對這項新技術的擔憂。
DefensiveAIagainstOffensiveAI?x
GAN的設計,主要包括一個生成器、判別器,這兩個人工智能算法相互對抗、博弈,從而創造全新的內容,在經過N次博弈之后,這兩個都會變得更強,而這種技術,也可能會被廣泛用于自動化網絡釣魚和社會工程攻擊策略中。
不過,我們是否可以思考?能不能讓維護網絡安全的生成式AI和破壞網絡安全的生成式AI對抗?
比如說科技日報這篇2019年的新聞:
比如說,我們用人工智能助手,和營銷垃圾機器人對話。
以及,從內容的角度來說:
既然,生成式AI是通過從大量的數據庫中學習,然后綜合給出答案,那么,它具備總結、綜合、列舉的能力,但不一定有“判斷數據真偽”的能力。
如果是這樣,那么"如何識別內容真偽,防止AI在內容里下”
也會是新的課題和機會。
撰寫:0xbun,深潮TechFlow老人說,2024年是走離火運,科技將是最有“錢”景的行業.
1900/1/1 0:00:00本文原發布于2022年10月24日,隨著春晚的播出元宇宙再次進入了大家的視野,那么,數字身份作為元宇宙不可或缺的一環,特推薦此篇文章,帶大家一起了解鏈上身份的生態版圖.
1900/1/1 0:00:00春節假期結束,金色財經梳理了春節7天的重要行業新聞,讓您快速了解假期都發生了哪些大事。 政策 白宮發布政府降低加密貨幣風險的路線圖金色財經報道,美國白宮周五發布了關于政府降低加密貨幣風險的路線圖.
1900/1/1 0:00:00頭條 ▌美國首個核動力比特幣挖礦中心竣工金色財經報道,美國首個承載比特幣挖礦服務的核動力數據中心已于近期竣工.
1900/1/1 0:00:00撰寫:ChíPhan 證券化帶來了股權和固定收益資產的中心化。在2022年的加密貨幣熊市中,現實世界資產代幣化成為一個熱門話題,這種方法有望利用公共區塊鏈技術來釋放另類資產資本市場份額的增長.
1900/1/1 0:00:00作者:FungiAlpha,加密研究員編譯:Leo,BlockBeats不要一直處在錯過的情緒里,主動去發現的一些值得關注的新項目,碼住后體驗,成為這些項目的早期用戶吧.
1900/1/1 0:00:00