人工智能:肖颯：AIGC創業 有哪些法律禁忌？_IGC

自chatGPT火遍全球之后，各國又掀起了一波AI領域的創業潮。馬斯克在采訪中也強調人工智能的發展可能會給人類帶來空前災難。結合歐盟人工智能法律提案和我國諸多法規，颯姐團隊給諸位創業者一些法律提示。希望大家的創新應用能夠開花結果。

一、歐盟在哪些領域明令“禁止的人工智能實踐”

2021年4月歐洲議會和理事會制定關于人工智能的統一規則的提案，對于全球AI領域的監管規制給出了“樣板間”。總結下來就是，AI研發不能涉及對人身心摧殘的領域，不能歧視弱勢群體，要尊重每個人的權利，對于3年以上有期徒刑的嫌疑人可以實時遠程生物識別。具體如下：

不得在市場上投放、使用個人無法認識的方式來進行“潛意識教化”的技術，以這種方式嚴重扭曲人的行為并致使其身心受到傷害。

不得利用特定人群的年齡、身體、精神殘疾等，以導致其身心傷害的方式，實質性扭曲與該人群有關的行為。

公共機構或其代理人在市場，不得投放在一定時期內對自然人的信譽進行評估或分類的AI系統，且其社交評分可能會導致如下一項或兩項:在與原始數據生成或收集場景無關的社會場景，對自然人或群體有害或不公平待遇；對某些人或群體的社會行為有嚴重傷害或不公平待遇。

聲音 | 肖颯：區塊鏈技術在民營企業融資增新支持體系建設上將發揮作用:中國銀行法學研究會理事肖颯今日發表題為《“民企意見”將如何影響法律市場？》的分析文章。文章中表示，昨天《關于營造更好發展環境支持民營企業改革發展的意見》（以下簡稱：“民企意見”）正式公布。“民企意見”中提到“完善民營企業直接融資支持制度”，除了創業板、新三板之外，還提到依法合規前提下，支持“資管產品”“保險資金”通過投資“私募股權基金”等方式積極參與民營企業紓困，意見已經提出方向，具體如何操作，確實需要投融資律師的聰明才智，打通合規渠道，讓民營企業放開手腳。同時，肖颯認為當下最火的技術“區塊鏈技術”，除了在數字法幣中發揮重大作用，在民營企業融資增新支持體系的建設上，會寫下濃墨重彩的一筆。[2019/12/23]

出于執法目的在公共場所使用“實時”遠程生物特征識別系統，排除下列行為之一，且有必要：針對性尋找特定刑事受害人，例如失蹤兒童；預防對人的生命或身體有傷害的行為，或恐怖襲擊；偵測、定位、識別、起訴特定罪名的犯罪嫌疑人，且該嫌疑人的刑期為3年以上。

聲音 | 中國銀行肖颯：PTO的合法性有待澄清:金色財經報道，近日，市場出現了一種名為PTO的新模式，正在面向大眾發行代幣融資。中國銀行法學研究會理事肖颯在接受采訪時分析，相較于ICO和IEO等融資模式，PTO是一種基于模式公鏈衍生的投融資模式。與ICO的主要區別在于，傳統模式是一次性地收受融資款，而PTO模式下，項目方分批分次融幣。盡管操作模式不一，但PTO也具有與ICO“同源”的特征，對于投資人和項目方而言，都缺乏合法的監管，且沒有明確的門檻。肖颯進一步指出，與ICO的其他變種一樣，PTO面臨合規和監管方面的各種風險，且中介平臺通常也不具有合法的資質，專業性和合法性皆應受到質疑。在ICO被嚴令禁止的當下，PTO仍然是一種違法的代幣發行，其合法性有待澄清。[2019/12/18]

二、中國法律法規對人工智能的規制

聲音 | 肖颯：“區塊鏈”不等于“取款鏈”，區塊鏈的推廣不等于ICO的死灰復燃:中國銀行法學研究會理事肖颯發表題為“正規區塊鏈項目，法律邊界在哪？”的文章，其中提到，《關于防范代幣發行融資風險的公告》文件中指出了ICO的風險，“代幣發行融資與交易存在多重風險，包括虛假資產風險、經營失敗風險、投資炒作風險等，投資者須自行承擔投資風險。”可以看到，ICO在國內的定義是一種非法公開融資行為，不僅經營者違法，同時投資者也有巨大的風險。此外，結合銀保監的發函以及近期上海市的《關于開展虛擬貨幣交易所排摸整治通知》，“區塊鏈”不等于“取款鏈”，ICO等非法公開融資活動依然是被禁止的，區塊鏈的推廣不等于ICO的死灰復燃。[2019/11/20]

經過梳理，我們對于內地AI法律規制的大致地圖是：《網絡安全法》《數據安全法》《個人信息保護法》《互聯網信息服務管理辦法》《互聯網信息服務深度合成管理規定》《網絡信息內容生態治理規定》《互聯網信息服務算法推薦管理規定》《網絡音視頻信息服務管理規定》等。但并沒有對于AI領域的專門法律進行規制，隨著文心一言和其他競品的出現，颯姐認為，對于AIGC領域的規制可能會增多，但法律規制宜粗不宜細，倘若給從業人員和企業太多枷鎖，就很難創造出偉大的產品。

聲音 | 肖颯：智能合約將對法律行業產生非常大的影響:據人民網消息，2018人民網區塊鏈技術秋季論壇昨日在北京舉辦。中國銀行法學研究會理事肖颯表示，她一直在關注區塊鏈對于法律產業的影響。雖然律師暫時不會失業，但在未來，當智能合約出臺以后，如果法律層面的執行工作都讓區塊鏈完成，這將對法律行業產生非常大的影響。[2018/10/24]

從目前情況看，AI領域創業行為的監管部門主要有：國家網信部門；國務院電信部門；部門；數據局。

具體的監管手段有：安全評估，對于具有輿情屬性或者社會動員能力的，參照《具有輿情屬性或社會動員能力的互聯網信息服務安全評估規定》評估。履行備案，按照《互聯網信息服務算法推薦管理規定》進行備案；開展監督檢查，監管部門均有權力進行監管，具體事前、事中、事后根據各自分工進行。

秉承原則“向上向善”，颯姐凝練為：

具體邊界

1.不得從事涉政涉黃；

大成律所合伙人肖颯：“空氣幣”、海外發幣國內銷售或觸犯刑法:據Bianews，北京大成律師事務所合伙人肖颯發文稱，當前如果出現“空氣幣”等詐騙行為，行為人可能面臨刑法第266條詐騙罪的追究，因此，項目真實性是核心。此外，肖颯還指出，在海外進行發幣，又到國內宣傳銷售的，可能會涉嫌刑法第255條非法經營罪。[2018/2/27]

2.不得合成虛假新聞，非持牌不得傳播非國家規定范圍內的單位發布的新聞；

3.不得違背公序良俗

4.不得生成違法和不良信息，這方面可以健全相應“特征庫”，篩選健康信息；

5.不得惡意貶損他人名譽和企業商譽；

6.對于不可控的創作內容，采取及時刪除降低社會危害。

颯姐認為不宜在禁止性條件中增加“其他行為”，因為這個“其他”會給創業者嚴重的不安全感，成文法就是要白紙黑字，清清爽爽，加上“其他行為也可處罰”一下子就把苦心經營的營商環境給戳破了，還有誰敢豁出命來搞創新、搞創業？！法律要給創業者一個軟性保障，2023年3月23日國家互聯網信息辦公室發布《網信部門行政執法程序規定》對于行政機關的行政處罰等行為進行法律規制，明確“一事不再理”，明確程序和回避制度，減少網信部門濫用權力的可能性，直接而明確的回應了科技行業的呼聲和需求，這種制度供給是各方都歡迎的。我們期待更多規制行政行為的法律法規，盡快出現，確保市場主體的明確預期。

三、AIGC創業公司的20個合規義務

根據2023年1月10日生效的《互聯網信息服務深度合成管理規定》，截止目前，在中國內地進行類chatGPT業務需要遵守的合規義務有：

具體合規義務

健全用戶注冊制度；

算法機制機理審核；

科學倫理審查；

信息發布審核；

數據安全管理制度；

個人信息保護制度；

反電信詐騙制度；

應急處置管理制度；

在App或網站，公開管理規則、平臺公約，完善服務協議，以顯著方式提示各方承擔信息安全義務;

健全勇于識別違法和不良信息的特征庫，留存日志；

發現違法和不良信息，有向主管機關報告的義務；

發現違法和不良信息，對使用者依法依約，采取處置措施；

全辟謠機制；

設置便捷申訴和舉報入口，及時反饋結果；

加強訓練數據管理；

定期審核、評估、驗證生成合成類算法機制機理；

依法自行或委托專業機構開展安全評估；

對生成內容，采取技術措施添加不影響用戶使用的標識；

不得刪除、篡改、隱匿深度合成標識；

按照《互聯網信息服務算法推薦管理規定》履行備案、變更、注銷備案手續。

同時，遵守新聞出版、文化和旅游、廣播電視主管部門的規定。

三、政策風向和科技倫理

應該說AI領域的科技創新，是各方樂見其成的，因此，從政策層面講，對AI行業是利好的，尤其是對標ChatGPT和歐美推出的各類技術應用。颯姐比較擔心的是個別地方辦案機關，還是有罰沒和罰款沖動，對于創業者的一些利用數據的行為進行“嚴格解釋”，從而導致數據犯罪案件的攀升。

對于大廠而言，也許不會親自下場去打撈數據，但不可否認大廠具有集團優勢，其產業集團內不同板塊的數據集中到某個特殊目的公司進行深入加工，喂養AI，然而，數據在集團內部跨法人主體的轉移，也有較大的法律爭議，甚至在某些案件中，直接給予了負面評價。如果集團內部每個公司的數據只能用于自己的客戶維護，那么，其優勢就喪失殆盡。而如果購買外部公司數據，則有可能“放任”外部公司數據的“灰色”，上個月有幾家南方的數據公司找颯姐謀求上市前的合規，我們也想幫忙，但現行法的規定不能置若罔聞，有些企業雖然很賺錢，但確實在犯罪邊緣游走，對于爬蟲技術的應用已經超越了法律邊界。大廠用了這些灰色的數據，自身可能會背上教唆犯的十字架。如果不用這些數據，也許自身的成長就會慢些。

在選擇GDPR模式還是人身權與財產權分離模式時，我國法律也在移植哪種法律技術更符合國情上有過考量。現實是法律規定很完備，但市場和技術沒有如預期一樣迅猛增長。各國企央企的數據還是牢牢攥在自己手中，寧可爛了，也不流動和分享。數據局的出現，也許就是為了打破“信息孤島”，讓數據真正流動起來，發揮生產要素的作用，提振實體經濟。

在科技倫理方面，颯姐堅信：科技不應作惡，AI創業要尊重自然法的基本原則，不能戕害弱者，不能加深歧視，不可有意幫助犯罪，不宜提供自殺自殘的方法，鼓勵健康的生活方式，引導人們遠離和暴力。法律，其實應該是從人們心里長出來的，每個人心里都有一桿公平秤。

寫在最后

閑暇時，颯姐和團隊伙伴也會在茶館和咖啡館聽一聽旁邊的陌生人在談論什么，讓人覺得欣喜的是：人們不再悲觀，而是現實地開始尋找新創業契機。我們中國人是韌性十足的，在AIGC方面也會有自己的展業思路。堅持長期主義，未來是美好的，無論如何。

Tags：區塊鏈人工智能IGCCHAT區塊鏈工程專業學什么及就業方向人工智能需要學哪些課程TIGCBCHAT

DOT