背?景
計算機學院的學生小A意圖使用大數據及人工智能的相關技術完成自己的一個課題《大學生男生生活費消費行為的偏好分析》,然而苦于數據量不夠,便寄希望于身邊的朋友以及學校的廣大男性同學,原本以為是一件輕而易舉的事,然而…
由于個人隱私易泄露,數據交易難定價,合作者激勵制度不健全,以及惡意提供無用或者虛假數據等問題,收集真實且有價值的的數據遠比想象中難。
而近兩年來,“聯邦學習”被學術界和工業界經常提及,聯邦學習究竟是什么,為何能解決以上問題,我們從它的前世今生開始慢慢揭開面紗。
▲?人工智能是什么
人工智能是人為制造出來的智能,可以讓機器“智能”地完成一些通常認為只能由人來完成的簡單工作。其研究目的是促使智能機器會“聽”、會“看”、會“說”、會“思考”、會“學習”、會“行動”。
國務院:推進科普與區塊鏈技術深度融合:為貫徹落實黨中央、國務院關于科普和科學素質建設的重要部署,依據《中華人民共和國科學技術進步法》、《中華人民共和國科學技術普及法》制定《全民科學素質行動規劃綱要(2021-2035年)》,其中要求實施智慧科普建設工程。推進科普與區塊鏈等技術深度融合,強化需求感知、用戶分層、情景應用理念,推動傳播方式、組織動員、運營服務等創新升級,加強“科普中國”建設,強化科普信息落地應用,與智慧教育、智慧城市、智慧社區等深度融合。(新華社)[2021/7/10 0:40:52]
自1956年人工智能的概念被提出至今,有了飛速的發展。從早期的電子游戲AI等,到現階段的智能家居、圍棋新星阿爾法狗等,到未來的無人駕駛工具以及毀天滅地的終結者都是人工智能應用的產物。
人工智能已經改變了我們的生活,從遙不可及的實驗室科技轉變成為我們身邊隨處可見的工具,甚至改變世界的重要伙伴。人工智能中的“學習”能力是人工智能發展的核心,方法也層出不窮,機器學習、深度學習、強化學習……可以統稱為機器學習。發展至今,我們也逐漸發現了制約機器學習和人工智能進一步發展的瓶頸。
聲音 | 浪潮集團云南分公司總經理:云南區塊鏈產業發展需從“科普”到“專精”不斷深化:據昆明日報消息,浪潮集團云南分公司總經理鄭昕表示,云南區塊鏈產業發展需從“科普”到“專精”不斷深化。下一步,浪潮將繼續加大云南農業產業高質量發展體系建設力度,重點以普洱茶等云南優勢產業為切入點,打造云南“綠色、有機農產品高地”的品牌形象,并在此基礎上,開展基于區塊鏈的供應鏈金融服務,解決中小企業貸款難、貸款貴問題。[2019/11/11]
▲?機器學習的瓶頸
1.算法瓶頸
目前的機器學習存在著魯棒性較差以及算法的不可解釋性兩大問題。
雖然人工智能領域依靠深度學習在圖像識別上取得了巨大的突破,然而在加入“噪聲”后將圖片內容完全識別錯誤的“人工智障”行為依舊屢見不鮮;其次,在引入神經網絡的機器學習中,“黑盒子”狀態的算法雖然提升了算法的效果,但因缺乏嚴格的數學理論證明以及算法的解釋性,從而一直為學業界的人士所詬病。
動態 | 浙江衛視節目科普支付寶區塊鏈防偽溯源產品:昨日,在浙江衛視播出的科普綜藝欄目《智造將來》現場,支付寶首次展示了支付寶區塊鏈防偽溯源產品,以接地氣的方式公開向大眾展示區塊鏈在生活中的應用。[2019/3/4]
2.數據瓶頸
2.1?數據需求量大
計算能力和計算成本是首當其沖需解決的問題,而一個好的機器學習算法背后,是大量數據多輪次的重復性計算的結果,需要大量算力成本。
2.2?數據供給稀缺
云計算、AI技術發展至今,我們發現制約AI應用落地的是沒有足夠的數據支撐算法的訓練和驗證。巧婦難為無米之炊,缺少數據的機器學習算法猶如空油的F1賽車,無法施展它最強的性能。
聯邦學習的前世今生
▲?數據隱私問題
數據是機器學習的原油,伴隨機器學習的興起和大數據的浪潮,數據的收集成為業內的產業之一。因為產業的暴利和法制的不健全,用戶的信息被大肆的爬取、收集、販賣,導致很長一段時間我們的生活不堪其擾。
中科院自動化研究所將面向大中小學生開展區塊鏈等主題的科普講座:5月21日,新華網訊,今年,中國科學院自動化研究所將舉辦第十四屆“自動化之光”公眾科學開放日活動。屆時,自動化所將面向大中小學生分別開展《腦與智能》、《區塊鏈技術與平行智能》、《大數據時代的視覺智能》、《動畫真奇妙》等4個主題報告,用實例和生動的演示深入淺出地為大家揭示智能技術的原理和奧妙。[2018/5/21]
APP上的信息爬取,電話與身份信息泄露讓我們總是能接收到各種廣告推銷電話。更有甚者,“裸貸”風波和Facebook用戶信息泄露,讓大眾在信息化時代對于個人信息安全更加謹慎小心。2018年的歐洲隱私和數據保護法案GDPR的出臺雖然一定程度上保障信息隱私安全并規范了數據收集方式,但無形中加劇了優質數據整合的難度,對機器學習與人工智能領域都是一次重大的挑戰。
▲?聯邦學習的前世
伴隨著以上涉及到的問題,Google公司早在2016年提出聯邦學習的概念,這一概念原本用于解決安卓手機終端用戶在本地更新模型的問題,具體如下:
科普時報:區塊鏈與云計算長期發展目標不謀而合:據《科普時報》今日報道,區塊鏈與云計算兩項技術的結合,從宏觀上來說,一方面,利用云計算已有的基礎服務設施或根據實際需求做相應改變,實現開發應用流程加速,滿足未來區塊鏈生態系統中初創企業、學術機構、開源機構、聯盟和金融等機構對區塊鏈應用的需求。另一方面,對于云計算來說,“可信、可靠、可控制”被認為是云計算發展必須要翻越的“三座山”,而區塊鏈技術以去中心化、匿名性,以及數據不可篡改為主要特征,與云計算長期發展目標不謀而合。[2018/5/4]
Step1.?手機下載現有模型;
Step2.?用手機的本地數據來訓練模型;
Step3.?訓練好后,迭代更新,并將更新的額內容加密上傳到云端;?
Step4.?與其它用戶的更新進行整合,作為對共享模型的改進;
Step5.?該過程不斷重復,改進后的共享模型也會不斷地被下載到本地。
值得注意的是,在執行的過程中有兩個特別的點:?
每個設備端在更新己方模型時都是依賴于自己數據的個性化更新;該場景中的共享模型可能不是完整的機器學習模型/神經網絡模型,可能是經過壓縮的模型。▲?聯邦學習的今生
聯邦學習的正式誕生是在2017年,Google的AI?blog中提出的一種分布式機器學習框架,目標是在保證數據隱私安全及合法合規的基礎上,實現多方共同建模,并提升AI模型的效果。當完成訓練后,根據聯邦學習特有的激勵機制,會給予所有的參與方一定的激勵作為共同參與訓練的獎勵。隨后以楊強教授為首的團隊進一步推進聯邦學習框架,直至我們現在所看的樣子。
聯邦學習的分類
▲?聯邦學習的精髓
國際人工智能聯合會主席楊強教授曾經舉過一個聯邦學習的例子:
我們每個人的大腦里都有數據,當兩個人在一起做作業或者一起寫書的時候,我們并沒有把兩個腦袋物理性合在一起,而是兩個人用語言交流。所以我們寫書的時候,一個人寫一部分,通過語言的交流最后把合作的文章或者書寫出來。
我們交流的是參數,在交流參數的過程中有沒有辦法保護我們大腦里的隱私呢?是有辦法的,這個辦法是讓不同的機構互相之間傳遞加密后的參數,以建立共享的模型,數據可以不出本地。
故而,在本地數據不出庫的情況下,通過對中間加密數據的流通與處理來完成多方對共享模型的機器學習訓練,便是聯邦學習的精髓所在。
▲?橫向聯邦學習
橫向聯邦學習是指,在不同數據集之間數據特征重疊較多而用戶重疊較少的情況下,按照用戶維度對數據集進行切分,并取出雙方數據特征相同而用戶不完全相同的那部分數據進行訓練。
橫向聯邦學習的本質是樣本的聯合,適用于參與者間業態相同但觸達客戶不同,即特征重疊多、用戶重疊少時的場景,比如不同地區的銀行間,他們的業務相似,但用戶不同。
▲?縱向聯邦學習
縱向聯邦學習是指,在不同數據集之間用戶重疊較多而數據特征重疊較少的情況下,?按照數據特征維度對數據集進行切分,并取出雙方針對相同用戶而數據特征不完全相同的那部分數據進行訓練。
縱向聯邦學習的本質是特征的聯合,適用于用戶重疊多,特征重疊少的場景,比如同一地區的商超和銀行,他們觸達的用戶都為該地區的居民,但業務不同。
▲?遷移聯邦學習
聯邦遷移學習是指,在多個數據集的用戶與數據特征重疊都較少的情況下,不對數據進行切分,而是利用遷移學習來克服數據或標簽不足的情況。
當參與者間特征和樣本重疊都很少時可以考慮使用聯邦遷移學習,如不同地區的銀行和商場間的聯合。主要適用于以深度神經網絡為基模型的場景
小結
本次帶大家走進“聯邦學習的大門”,簡要介紹了聯邦學習的「前世今生」及「不同分類」,下一篇將會詳細講解「不同分類下的聯邦學習」,敬請期待!
作者簡介
嚴楊
來自數據網格實驗室BitXMesh團隊?PirvAIの修道者
Tags:區塊鏈人工智能STEPTEP區塊鏈存證證件具有更高的信任等級人工智能對口的工作DinoSteptep幣最新價格
日前,由NBA達拉斯獨行俠隊老板、億萬富翁馬克·庫班投資的NFT交易平臺Mintable宣布與以太坊Layer2解決方案ImmutableX達成合作,將推出完全不需要Gas費的NFT鑄造方式.
1900/1/1 0:00:00中國網財經4月7日訊近幾個月,區塊鏈領域最吸睛(金)的非NFT莫屬。“萬物皆可NFT”,2017年提出的以太坊ERC-721標準(Non-FungibleTokens,非同質化通證)在近期火爆“.
1900/1/1 0:00:00市場概述: 繼上期報告所述,關注資金是否回流大盤以及比特幣短期多頭結構的變化。自上期報告至今,多數主流滯漲,資金回流大盤,比特幣多頭結構雖被短暫打破但4H級別收線仍維持在結構內部,多頭趨勢延續,
1900/1/1 0:00:00除了十年期美國國債收益率外,美國企業發債規模和收益率也值得投資者關注。近期,高收益企業債券平均收益率首次跌破4%,創歷史新低,表明市場風險偏好增強.
1900/1/1 0:00:00原題《灰度基金創始人熱衷虛擬土地,竟然是個悄悄發財的大地主!》你不知道的灰度創始人另一面,他竟然還是一個虛擬土地大地主!3月14日,灰度創始人BarrySilbert轉發了一條推文.
1900/1/1 0:00:00比特幣在過去的幾個月里價格一直很高,盡管市場波動性不斷加劇,但這一全球最大的加密資產一直在震蕩上漲中。在過去的一周中,比特幣達到了其最高點約為6.1萬美元.
1900/1/1 0:00:00