買比特幣 買比特幣
Ctrl+D 買比特幣
ads

OPEN:ChatGPT類應用服務 數據合規有特殊性嗎?_Opennity

Author:

Time:1900/1/1 0:00:00

王融?騰訊研究院首席數據法律專家

本期觀點摘要:

1.ChatGPT等AI應用服務商直接面向個人提供服務,收集并處理個人信息,可被視為個人信息保護合規主體——數據控制者。

2.與移動互聯網APP的典型場景相比,生成式AI服務商的個人信息處理活動有其自身特征,數據合規重點也有所不同。

3.根據GDPR,歐盟數據保護機構是監管機構,而非市場準入機構,其職責主要在指導督促企業滿足數據合規要求。

4.未來真正的挑戰來自于AI賦能的各類應用服務,解決新的數據安全問題需要新思維。

C端AI應用服務商是

數據控制者

并非所有的市場主體都是數據合規框架下的義務主體,需要根據技術原理、業務場景和法律規范來進一步確定。當主體身份重合時,也需基于不同業務流程匹配合規義務。基于此分析框架,我們在上一篇文章里詳細論證了大模型研發者,在模型研發階段有可能并不認定為隱私數據合規上的法律主體。

基于同樣的分析框架,我們認為面向C端個人用戶提供生成式AI服務的運營者可被認定為隱私數據合規上的數據控制者。例如,當OpenAI在2022年11年面向公眾發布ChatGPT應用服務,并在2個月內突破1億用戶,成為歷史上增長最快的消費者應用時,作為數據控制者的身份已確定無疑。

Chainlink已在Code4rena啟動30萬美元獎金池的CCIP眾包審計:5月27日消息,Chainlink的跨鏈互操作性協議(CCIP)已在Code4rena平臺啟動30萬美元獎金池的眾包審計,將持續到6月12日,除了多次獨立審計外,還計劃進一步加強CCIP代碼庫,為初始主網啟動做準備。[2023/5/27 9:45:45]

事實也如此。從國外實踐看,目前已面向個人的AI應用服務商,在數據合規部分已完整配置隱私政策和用戶協議,以充分告知用戶收集了哪些類型的數據,以及如何處理數據。OpenAI在隱私政策中列舉了收集類型;包括賬戶信息、通信內容、使用記錄等;數據處理的目的包括但不限于:提供、改進服務,預防欺詐,網絡信息安全、履行法定義務所需等。類似的,面向公眾的圖片生成AI服務商Midjourney也提供了清晰明了的隱私政策。國內目前雖然沒有正式上線的產品,但已有部分廠商在測試版本中嵌入隱私政策。

這也就不難解釋為什么數據保護機構DPA是第一批入場的監管機構。3月31日,意大利數據監管機構Garante宣布暫時禁止ChatGPT,并要求OpenAI在20天內相關問題作出回應。這是數據監管機構DPA對一項新興應用的正常反映,但被誤讀為DPA可以對特定業務采取永久性措施。相反,根據歐盟GDPR,DPA雖然有天價處罰權,但其職權被嚴格限制在矯正性權力范圍內,包括建議,警告以及暫時性的或者具有明確期限的禁令。換言之,只要服務提供者滿足數據合規要求,則DPA不得對其采取市場禁入措施。在其臨時禁止令受到廣泛批評后,4月12日,Garante釋放信號:“如果OpenAI采取有效措施,我們準備在4月30日重新開放ChatGPT”。

ForChain Labs完成200萬美元種子輪融資,將開發支持DIY鑄造的NFT項目FUC:1月27日消息,Web3初創公司ForChain Labs已完成200萬美元的種子輪融資,該公司將利用這筆資金開發和運營一款支持DIY鑄造的NFT項目Fortune Unicorn Club(FUC)。

據悉,FUC允許用戶在鑄造期間自主選擇特征,該項目為用戶提供了500多種特征來組合其NFT頭像。ForChain Labs希望用戶可以使用DIY-Mint方法將自己的個性和故事融入到每個FUC虛擬形象中。(Bitcoin.com)[2023/1/27 11:32:12]

生成式AI服務商

數據合規的獨特性

與移動互聯網相比,面向個人的生成式AI應用在數據合規上有很多相似之處,包括制定隱私政策、業務協議,明確處理用戶數據的合法性基礎,通過隱私保護設計在信息系統中支持用戶圍繞其賬戶信息和使用服務過程中產生的個人信息的相關權利,包括查詢、訪問、更正、刪除等。但一方面,我們更加關注其在個人信息處理活動中的獨特性:

第一、收集的個人信息種類相對較少。導航軟件、打車、購物等典型的移動APP為實現對用戶個性化服務的閉環,需要實時收集用戶較多類型的個人信息;而目前的生成式AI應用,以OpenAI和Midjourney為例,從其底層邏輯出發,其更加關注生成內容的質量,在應用服務階段收集個人信息主要是建立用戶賬戶體系,接受用戶指令并與之交互,因此收集的個人信息相對較少,包括賬戶信息、使用記錄,如果涉及購買服務等交易,則還包括支付信息。因此,Midjourney更是以表格的形式,明確列出了不收集的用戶信息種類:包括用戶敏感信息,生物識別信息、地理位置信息等等。這些信息對于生成式AI應用確實也無關緊要。

ChainsMap:火幣連續兩周凈流入2.2萬枚BTC:12月30日,據北京鏈安ChainsMap鏈上數據監測系統顯示,隨著比特幣價格突然啟動一波漲勢,多項鏈上數據在周日大幅上漲,并利好頭部交易平臺。其中12月14日至12月20日這一周,火幣全球站凈流入12545.45枚BTC;12月21日12月27日這一周,火幣凈流入9449.56枚BTC,火幣連續兩周凈流入2.2萬枚BTC。[2020/12/30 16:05:15]

第二、在更早階段以及更廣泛地采取個人信息去標識化以及匿名化措施。在提供服務過程中,生成式AI主要圍繞用戶賬號體系及通信內容構建數據安全防護體系。以ChatGPT為例,盡管在模型訓練階段,其采集的數據源中的用戶個人信息較少,但在應用服務階段,問答式的會話功能會產生較為敏感的通信內容,模型根據與用戶通信內容進一步分析并生成回復。為降低用戶通信內容泄露后產生的風險,生成式AI會在更早階段采取用戶身份信息去標識化及匿名技術,或者將用戶身份信息與通信內容相互分離,或者在模型生成回復內容后及時刪除通信內容等安全類措施。這也是由生成式AI更關注反饋內容,而非用戶行為的邏輯所決定,這與建立在用戶行為特征基礎上,以個性化推薦見長的移動APP有顯著差異。

第三、由以上兩方面影響,生成式AI與移動APP在數據安全的風險領域有所不同。移動互聯網APP需要直接收集大量個人信息,用戶數據庫易成為黑客攻擊和數據泄露的目標。然而,在生成式AI應用中,雖然其直接收集的用戶信息種類少,但其風險集中在模型被攻擊從而反向溯源數據庫,以及用戶通信內容泄露的隱患。意大利數據監管機構對OpenAI發出暫時禁令,即是由于用戶通信內容因出現服務bug而泄露的事故。為減輕風險,在技術上已經明顯具備先發優勢的OpenAI,開始探索支持用戶可以選擇將個人刪除通信記錄。4月23日,OpenAI推出新控件,允許ChatGPT用戶可以選擇關閉其聊天歷史記錄,且可以不用于模型訓練目的。

加密貨幣投資者Michael Terpin指控紐約青少年騙取其數百萬美元數字貨幣:金色財經報道,美國加密貨幣投資者Michael Terpin周四起訴紐約郊區高中畢業班學生Ellis Pinsky。原告指控這名18歲的學生是一項網絡犯罪計劃的策劃者和牽頭人,騙取了他數百萬美元的數字貨幣。Pinsky和他的同伙被指控在2018年1月竊取了2380萬美元的加密貨幣(當時被告15歲),并要求獲得三倍賠償,即7140萬美元。據此前消息,Michael Terpin曾于2018年因此事向電信巨頭AT&T提起了2.24億美元的訴訟,指控其在個人賬戶數字貨幣被盜事件中存在欺詐和重大過失。[2020/5/8]

第四、在輸出階段,如果用戶引導的問題涉及個人信息時,基于大模型的語言預測生成的算法邏輯,輸出結果中的個人信息有可能是編造的,虛假的,這可能違反了個人信息保護法上的信息質量原則,即保持個人信息準確性要求。但這類問題的背后實質是生成式AI在內容治理中面臨的一般性問題,即AI進入“幻想”,編造不準確甚至是虛假的信息。

OpenAI在研發階段,即致力于改善和解決此類問題,包括引入人類專家意見反饋機制和強化學習,引導AI輸出準確內容。目前,部分生成類AI還加入了輸入+輸出雙重過濾機制,來進一步避免出現有害內容或侵權問題。盡管大語言模型的進步速度令人瞠目結舌,僅用了4個月,ChatGPT4相比于GPT3.5,其輸出信息的準確率就大幅提升了40%,違反內容政策的輸出可能性降低82%,但目前仍不能保證其生成內容具有可靠的準確性。因此作為用戶也應當對ChatGPT的回答保持一定警惕和判斷力,避免被誤導。

聲音 | Coingeek:BCHABC正在崩潰,團隊正在乞討:5月31日,Bitcoin.com發推文稱,需要800 BCHABC(約合317,000美元)的捐款,以支持在BCHABC工作的開發人員。Bitcoin.com網站顯示,經過5天的籌款,BCHABC團隊已籌集到103.11 BCH。對此,Coingeek發文稱,若投資者和企業對BCHABC感興趣,BCH團隊應該資金充足,且具有明確的發展路線圖,那么若籌集800 BCH的目標不能達成,協議的發展會降低速度嗎?Coingeek稱,顯而易見,BCHABC正在崩潰,其實際采用已經下降,開發團隊正在乞討。據悉,BSV和澳本聰的支持者Calvin Ayre是Coingeek的創始人。[2019/6/5]

綜上,看待生成式AI的數據合規問題,需要從移動互聯網服務中的數據合規慣性中跳脫出來,圍繞其在隱私和數據安全方面的不同特點,有的放矢采取相應的合規和安全保護措施。

面向未來的挑戰:

前所未有的數據匯聚

基于大語言模型的生成式AI為世人所矚目,不在內容生成,而在其所具有的通用人工智能潛力,業界驚呼:AGI的奇點時刻正在到來。未來,除了面向普通大眾的內容生成式AI應用外,業界普遍認為AI也將改寫互聯網范式。現有商業模式將廣泛引入AI智能模型,大幅提升用戶交互效率。這不是將來時,而是進行時。2023年3月17日,微軟發布Microsoft365Copilot,將大語言模型功能與微軟辦公應用相結合,幫助用戶解鎖生產力。

Copilot將會被內置到辦公全家桶內,在Word、Excel、PowerPoint中,AI將與個人通過便捷的語言交互,一起撰寫文檔,演示文稿,實現數據可視化;在Outlook,Teams,BusinessChat中,AI能夠幫助用戶回復郵件,管理郵箱,實時完成會議摘要和待辦事項,提高會議效率。

辦公效率的飛越提升,不僅建立在強大的AI模型能力基礎之上,更建立在廣泛的數據打通鏈接基礎之上,使用Copilot意味著用戶將授權微軟打通跨越各業務平臺的個人數據。正如微軟隱私政策所陳述,為實現業務提供,改進和開發產品等目的,微軟會從不同的業務環境中收集的數據進行合并。

這只是未來超級數字助理的雛形,在智能基礎設施的支持之下,每個人甚至可以擁有多個數字分身,協同完成任務。可以想見,數字助理的背后是大語言模型訪問、鏈接個人以及商業企業的私有數據,數據的融合利用一定是無縫絲滑的。此類數據的訪問處理如何以安全、合規、保護隱私的方式進行,對安全技術保障措施提出了更高要求。

圖:MicrosoftGraph是Microsoft365中數據和智能的網關。它提供了統一的可編程性模型,以安全便捷地跨業務平臺訪問數據。

同時,我們也迫切需要審視現有的隱私保護與合規機制。在當前移動互聯網個人信息保護實踐中,對于必要性原則解釋是非常嚴苛的,以最大程度的避免數據收集與匯聚。例如:《常見類型移動互聯網應用程序必要個人信息范圍規定》不僅針對每類應用區分了基本功能和附加功能,還針對基本功能收集的必要信息進行了明確。在大部分基本功能中僅能收集兩三類個人信息,例如定位和導航功能僅能收集位置信息、出發地、到達地三種信息;《App違法違規收集使用個人信息行為認定方法》中更是明確:不得僅以改善服務質量、研發新產品等理由收集個人信息。這種基于“嚴防死守”的數據合規思路在未來的AI應用場景中是否還能繼續走下去,是一個值得探討的問題。

從移動互聯網到我們正在步入的AI時代,雖然數據利用一直在向更廣更深的方向發展,但各類新技術應用仍將隱私保護作為價值對齊的重要方面。隱私和數據安全的真諦從來也不是對數據的使用進行各種限制,或者人為增加數據利用門檻,而在于通過激烈的市場競爭、健全的法律機制和更加強大的技術安全措施來切實保障用戶隱私與數據安全。

參考資料來源:

https://openai.com/policies/privacy-policy

https://docs.midjourney.com/docs?/privacy-policy

https://www.gpdp.it/web/guest/home/docweb/-/docweb-display/docweb/9870832

GDPR?Article58&Article83

https://www.reuters.com/technology/italys-data-watchdog-chatgpt-can-resume-april-30-if-openai-takes-useful-steps-2023-04-18/

https://openai.com/blog/new-ways-to-manage-your-data-in-chatgpt

https://openai.com/product/gpt-4

https://news.microsoft.com/zh-cn/microsoft-365-copilot/

https://privacy.microsoft.com/zh-cn/privacystatement

Tags:CHAOPENNAIPEN3X Short TomoChain TokenOpennityINAI價格SPENT

火幣交易所
Chain:AI成為了米哈游們的“必選項”_npc幣行情

作者:胡描編輯:羅麗娟 今年以來,游戲公司紛紛投資AI公司、成立AIlab、自建AI模型。無論是AIGC對游戲制作的降本增效,還是其沖破當前游戲工業化極限的可能性,都讓游戲企業成為了新一輪AI浪.

1900/1/1 0:00:00
BAN:Bankless Ventures已獲得75%承諾投資,LP包括a16z創始人等_bankquickchain

博鏈財經BroadChain獲悉,4月29日,Bankless創始人DavidHoffman宣布規模為3500萬美元的BanklessVentures已獲得75%的承諾投資.

1900/1/1 0:00:00
區塊鏈:金色午報 | 5月8日午間重要動態一覽_以太坊

7:00-12:00關鍵詞:比特幣、Layer2、幣安、Nomba1.比特幣區塊78700和78702的手續費收入超過出塊獎勵;2.以太坊Layer2總鎖倉量回落至90億美元.

1900/1/1 0:00:00
GLO:誰是00后手機里的「BAT」?_YFiGlobal Finance

采訪|賈紫璇于瑋琳 撰文|賈紫璇 「已經很難記起上一次打開百度是什么時候了;微信聊天記錄在以周為單位緩慢更新;我的抖音月付金額已經超過了支付寶花唄分期.

1900/1/1 0:00:00
NFT:深度解析Blur新借貸協議Blend_Blend

Blur近日聯合Paradigm推出Blend這一P2PNFT借貸協議,以及基于此實現的貸款買NFT的功能.

1900/1/1 0:00:00
比特幣:數據分析:日交易筆數創新高 比特幣鏈上交易創紀錄_POL

作者:RafaelSchultze-Kraft,Glassnode創始人兼CTO編譯:Felix,PANews比特幣鏈上交易的數量最近出現了驚人的增長,單日交易超過50萬筆.

1900/1/1 0:00:00
ads