11-21 13:27
黃文藝
以上是我對本次論壇的簡要總結。本次論壇到此圓滿結束，感謝各位專家的參與和支持。謝謝大家！
11-21 13:27
黃文藝
四是這是一場高層次的國際學術對話和交流。網絡法治、數字法治是全球共同性的議題，也是構建人類命運共同體的重大任務，也是各國產業界、學術界和實務界凝聚共識、緊密協作的領域。我們今天要特別感謝來自全球的8位著名外國專家所做的精彩演講，他們的精彩演講不僅介紹了美國、歐盟、英國、德國等區域和國家在網絡法治、數字法治建設方面的新進展，而且提出了很多富有建設性，很值得我們中國網絡法治建設有啟發和借鑒意義的前瞻性的觀點。
11-21 13:27
黃文藝
三是理論研究、人才培養和宣傳教育三位一體。對于我們學術界和教育界來說，在網絡法治建設方面的使命任務不僅是要深入推進理論研究，還要推進網絡法治人才的培養和網絡法治的宣傳教育，比如網絡法治的宣傳教育就非常重要，通過加強網絡的法治宣傳教育，推動全社會理解和認知網絡法治的新理念、新制度，要擁抱網絡法治、數字法治，塑造數字時代的數字公民。
11-21 13:27
黃文藝
二是產學研融合。網絡的產業界是網絡法治的主要消費者和受益者，同時也是網絡法治建設的重要力量，在網絡法治建設上，有重要的話語權和影響力。這次會議邀請了京東集團、攜程集團、美國信息產業機構的總裁、副總裁，做了重點的演講，他們提出了很重要的觀點和建議。
11-21 13:27
黃文藝
一是理論與實踐相結合。各國專家學者積極深入地研討了網絡法治建設中的很多前沿的、熱點的問題，比如人工智能時代風險的法律治理，特別是人工智能立法的模式和路徑，人工智能監管的問題、數據濫用與個人信息保護這樣一些重要的理論問題，還有數據的跨國界流動等重要問題。同時也介紹和交流了中外在數字法治、網絡法治建設方面的新進展、新成就，網絡法治、數字法治領域不僅是全球競爭，包括中國國內也是競爭很激烈的一個領域。
11-21 13:26
黃文藝
在各位專家的積極參與和緊密合作下，人工智能時代的網絡法治論壇即將圓滿結束。本次論壇一共有9位領導和中外嘉賓做了精彩的致辭和演講，發表了一系列有創新性、引領性的新思想、新見解、新觀點，我個人認為本次論壇有以下四個鮮明特色：
11-21 13:26
11-21 13:26
主持人
下面進入閉幕式環節。有請中國人民大學中華法治文明高等研究院院長、《中國法學》總編輯黃文藝。
11-21 13:23
威廉·魯西
不好意思，我確實不太清楚我講了多久，以及我還有多久時間，但我還是在這里停止，謝謝大家！
11-21 13:23
威廉·魯西
當我們考慮到任何和法律相關的一些概念來說，至少它有八點是一定要具備的。我的學生經常和我說，法律的各項要求也是非常具有競爭性的，但其實法律的任一方面來參與都涉及八個要求，這是AI的一個最核心的特征。在這個觀點之外，我覺得AI的監管和法治的八項要求是不具有適應性的，因為關于法律的制定可能是基于一些法條和法約合規的，就AI監管下的自主性是沒有辦法去和這些監管目標所匹配的，我覺得這是我的核心觀點。
11-21 13:22
威廉·魯西
這里就是我想說的一點，（我應該還有時間去發言，我不確定我還有多久的發言時間），我覺得我們可以這樣稱它，就是人工智能的監管，我覺得它基本上可以說具有不匹配性，和法治要求而言。起碼從兩點來說，從長期來說，作為一種監管方式，它不夠透明，不夠具有闡釋性，同時它容易受到操縱，它不是直接讓監管者可以正常參與進來的一項進程，所以它沒有辦法去和任何常規性、概念性的問題進行匹配。
11-21 13:22
威廉·魯西
（圖示）這是我列出的最后一點，就像我前面強調的，基于數據的代理以及算法計算，這些都會涉及到我們關于人工智能治理方面的內容，所以我們可能可以做出各種各樣的假設，它可能會使我們合法以及不合法的監管變為可能，這里就會涉及到不合規的問題，這也就是為什么我們會提到第二個問題，就是到底我們怎么樣去進行人工智能監管，這是一個非常重要的問題。這里我列了三點，人工智能監管的目的甚至都還沒有被作出選擇，它可能會受限于AI的發展，似乎它看起來就是一種不重視倫理規則的發展，它可能會影響到人們的生活各個方面，在不經意間就影響到比如說建立不同的制裁，以及影響我們正常的生活保障供應。
11-21 13:22
威廉·魯西
圍繞我前面提到的三點，我認為這一點可能會造成一些巨大的改變，就技術管理而言，如果我們參考這位學者的發言。
11-21 13:22
威廉·魯西
我認為以上幾點生成什么觀念呢？那就是我這點展示的這一點，很久以前，可能一些技術管理會涉及的內容，這些內容當然不是新的，它是之前就存在的，但確實它可以在我們當下的事實再次被驗證或應用。我這段引用應該是正確的，那就是它會造成建立一些所謂的壁壘以及一些人為的干預。
11-21 13:21
威廉·魯西
在此之上，算法的技術遠遠超出了我們的一些認知，它不僅僅是基于數據，可能它會遠遠超出我們的認知。我們認為它是基于目標的，它會和社會產生一些聯系，同時它會實時地為大家進行更新。
11-21 13:21
威廉·魯西
第二點，在我們的互聯網體系下，我們可能是有一些追蹤數據的機構，它們可以進行處理，下面寫著我這句話是引自哪里，它會讓我們看到一些無形適應，也就是所謂的一些網絡物理基礎設施，包括一些線上線下的設備應用。網絡物理基礎設施基本上需要的一些必要設備、家庭、公共和私人交通工具，以及我們做的各種適應。
11-21 13:21
威廉·魯西
接下來，首先談第一個問題，就是由AI進行監管是什么意思呢？其實它是以下三點的結合，就是到處隨時隨地數據追蹤的一些機構、單位以及算法管理，最后一點技術管理，和前面三點是密不可分的。當我給出一些基礎的信息，就是基于英文的語境下，我會把隨時隨地、數據追蹤以及算法管理放到這里。大家看到這一句話可能會產生一些共鳴，如果大家知道這些資料，你們也可以給我提供更多更細節的一些內容，我們發現到處都是用一些很明顯的互聯網設備而進行處理的，以及互相關聯的。當然，到處就意味著無處不在，同時我們看到所有這些設備都可以本身進行自己的一些自我管理，所以這一點就是我為什么提到了人工智能產生的監管，它是無處不在的。
11-21 13:21
威廉·魯西
我覺得可能首先我需要和大家分享三點：第一點，當我談到這個話題的時候，我是怎么理解人工智能監管的；第二點，我是如何來看待法治的；第三點，我的一個核心觀點。當然，我的回答是“是的”，人工智能監管確實會成為法治的自由區。就是如果我們要堅持人工智能監管，那它肯定最終就會走向法治自由。
11-21 13:20
威廉·魯西
大家知道，這里用的是由AI來管控的監管，我相信在座的各位專家和行業學者，可能大家都是學習人工智能方面領域的專家，我覺得你們可以立馬就阻止我這個問題進一步去進行探討，因為隨著歐盟已經頒發了《人工智能法》，也可能提供給我們一些可能探討的方面，所以我們說的并不是對人工智能進行監管，而是人工智能引發的監管。
11-21 13:20
威廉·魯西
因為我作為一名學習哲學的人，考慮到了這場論壇的主題，就是關于以人為本的智能向善，我覺得我確實還是能談一些話題的，來和大家分享一些我個人的想法和觀點，所以我就想出了這樣的話題，也是一個問題，是否人工智能監管是一個法治的自由區。這個問題就是基于我的經驗，我既是學習律師，同時又是學習哲學的人，這是我能給出的問題，希望可以引起大家的關注。
11-21 13:20
威廉·魯西
非常榮幸參加這場論壇，這也是我第一次來中國，我對烏鎮以及整個會場、整個論壇和參會人員，都感到印象深刻，同時我也感覺到非常開心，來參加這個會議。
11-21 13:19
11-21 13:19
主持人
有請英國杜倫大學法學院教授威廉·魯西發言。
11-21 13:18
比約納爾·鮑維克
其實歐盟人工智能法案可以被視為歐洲委員會框架公約一種實施的方法，很多時候它只是歐洲的視角，也不太適合全球采納。謝謝大家！
11-21 13:18
比約納爾·鮑維克
這個框架公約更重要的價值是它建立了某一種方法論，在考慮AI造成的影響方面，在法律環境下，它可能會產生哪些影響，而搭建了這樣一種方法。但它并沒有為締約方或各方權力建立新的法律實質性義務，所以它是比較寬泛的，并沒有特別細節的內容。這樣的歐盟法案，只是給我們提供了一些通用的原則和方法，可能它更多的是促進全球在AI監管方面對話提供了一些前提，或者是奠定了一些基礎。
11-21 13:18
比約納爾·鮑維克
在我看來，這樣一個框架，比如在明確責任方面，幫助比較小。因為很多原則和規定是由法院來規定的，位于斯特拉斯堡的歐洲人權法院和最高法院，他們已經有確立的標準和原則，所以框架公約并沒有帶來很多新的內容，所以在這個部分也沒有什么特別積極的貢獻。
11-21 13:17
比約納爾·鮑維克
再說一些框架公約的基本內容，第一條第二款談到了關于人工智能的評估，在歐洲人們也比較熟悉，對有一些風險的評估，也提出了一些關于人工智能需要去平衡的內容，這是比較寬泛的規定。除此之外，在這個框架公約下，可以看到有很多相當籠統和寬泛的原則，有一些救濟和程序的保障，但是都還規定得比較寬泛。在第五章里面，我們能夠看到一些風險和影響的管理框架。
11-21 13:17
比約納爾·鮑維克
在歐洲有兩項法律法規，一個是框架公約，我們把它稱為人工智能法案。這是第一個人工智能全球條約，我也非常同意之前發言人的觀點，在歐洲做這件事情，可能只是一個嘗試，它會造成不同國家的兩極分化，特別是西方國家，我們能夠看到有很多的競爭，在AI方面的立法，也會有很多反對的觀點。要解決AI的風險，確實需要全球的解決方案。關于氣候變化方面，西方國家覺得沒有中國的參與是不可接受的。在歐洲，當人們說要監管AI的時候，他們也只能說是盡自己的最大能力去做一些嘗試。
11-21 13:17
比約納爾·鮑維克
立法的過程是非常緩慢而且耗時的，我們生活在一個非常復雜的社會當中，事實很復雜，法律也很復雜，人工智能的飛速發展，使得立法者不可能跟上這種發展的步伐，至少從細節的角度來講是跟不上的。
11-21 13:16
比約納爾·鮑維克
在第22條里面就列舉了一些例外的情況和條件，歐盟的《通用數據保護條例》也并不是平衡所涉及到的相關利益的合適的工具，在《數據保護指令》的第15條里面，它和GDPR的22條在很大程度上是一樣的，這個條款可以追溯到1995年。但在2024年的規范數據使用方面，很可能就不是一個很有力的工具。
11-21 13:16
比約納爾·鮑維克
GDPR在2019年頒布，這里面也使用了一些立法，對很多細節的問題做了規定，是關于處理個人數據方面的人工智能的作用，GDPR所做的只是禁止自動化的個人決策，并列出了一些例外情況。
11-21 13:16
比約納爾·鮑維克
尊敬的各位來賓，各位同事，非常感謝邀請我來參加這個論壇。歐洲的概念是要建立一個框架性公約，在這樣的框架性公約下，人工智能既帶來了機遇，也帶來了非常嚴重的威脅和風險。其實這是很難去平衡的，我們怎么平衡法治和人工智能技術的發展，在美國、歐洲人們都面臨著這樣兩難的境地，監管太少會帶來風險，太多又會阻礙創新，有的時候很難平衡。
11-21 13:15
11-21 13:15
主持人
有請來自挪威卑爾根大學的比約納爾·鮑維克教授發言。
11-21 13:13
歐愷安
非常感謝大家的傾聽！我可能稍微時間長了一點，謝謝大家！
11-21 13:13
歐愷安
我看到很多的公司，比如說京東集團，以及很多研究人工智能的公司，還有很多中國研究法律法規的優秀學者們，也都在關注這個問題，所以我們最好去觀察一下這個趨勢，像歐洲也有很多這方面的人在做研究，可能我們在AI這個部分能夠有一些指導原則出來，和人工智能相關的一些辦公室或者一些相關的管理機構，可以先針對一些高風險的部分出一些指導的原則，中國的企業也好，行業也好，也可以和立法部門有很多的溝通，大家共同去貢獻一下自己的想法和智慧。在歐洲，可能很快就會有這樣的一些立法之后的顯現，我相信這里還有很多的問題也需要通過一些指導原則、通過一些更加現實的手段，或者說一些框架，加以解決。
11-21 13:13
歐愷安
（圖示）最后，再回到這一頁，也是我的結束頁。我們可能沒辦法在短時間內把所有的細節都講清楚，但我們可以看到，歐盟的《人工智能法》是受到比如說疫情以及各個社會現實的影響，國會就提出我們需要提出這樣一個法案。伴隨著人工智能的發展，我們很多根本性的生活方式可能都會受到影響和挑戰，可能在中國面臨這樣的問題會比我們要少一些，說這句話的時候，我在看人大的教授，因為我們這邊不像你們這邊有各個細分的行業領域，我們這里就可能只有單獨的一個學院去涉及到這方面的研究。我覺得這可能不僅是涉及到公眾層面，更多是涉及到學術層面，它需要是完全中立的，因為總有人會進行爭議，我們是否應該這樣做，是否應該遵循我的建議，我們是否應該聽從我說的重新進行立法和監管呢。大家都是非常的恐慌，所以我們可能就會覺得有必要立法，我們就是想說，其實這種情緒上的影響是非常重要的，我也想說，它并不是說現在這個爭議就結束了，現在還在繼續著。這個法案在6月份生效，但明年才正式開始執行，接下來的三年肯定所有的法律條款都要適用，所以這也是一個過程。
11-21 13:12
歐愷安
（圖示）我們可能在這里不會特別詳細地討論這里的細節，但我想給大家一個核心的觀點，速度是非常重要的，這是我們最先考慮的事項，同時它也反映了，除了我前面提到的那些反對的聲音，包括如何識別某些高風險的部門和行業。當然，還有關于如何去實施以及去成立相應的一些法律條款，但是這里的義務對各行各業來說都是一樣的，它對各行各業都是差不多的。我們之前已經談論過，我們在GDPR（通用數據保護條例）所面臨的問題就是當我們實施GDPR、遵守GDPR的時候，我們可能會考慮實施它的另一面會帶來什么后果。我們可能更多地會受限于大模型，我們覺得它可能會激發保護主義，或者說在歐美以及中國和更多的國家造成一些爭議。但在歐盟來說，我們還是面臨就像我前面所談到的這些問題，各種各樣的問題，就是在歐盟層面它會涉及到各種各樣可能性情況的探討，需要去積極參與討論，回到我們法律來說，可能對歐盟來說，它將會面臨各種碎片化的趨勢。
11-21 13:12
歐愷安
接下來，我們來看一下歐盟AI法的主要特征。它是在2024年6月份生效，如果你關注到這一進程，它耗時很久才得以通過，因為達成這個決定非常不容易。其中一個說法就是可能它需要談到一些關于數字市場化的問題，一些公司經營法、競爭法的問題，即使很多內容它都是需要澄清的，但是達成這個共識還是非常困難的，所以這里是有一個政治動機在推動著這項法案的達成，無論是對于全球，還是說參與這項法案規定的制定者來說。
11-21 13:12
歐愷安
在全球層面，大家都會有這樣的一些聲音，比如說如何去解決我們面臨的這些問題，我這里列舉的不是全部問題，但是我們確實可以更好地去利用全球達成的共識來看待未來的AI治理。
11-21 13:11
歐愷安
從我而言，我覺得今天大家已經聽到過很多次的一句話，對歐洲來說，可能它在人工智能方面做的還遠遠不夠，聽起來可能有些超現實主義，但其實我們還是在盡力監管。我在入職我現在的單位之前，我是在歐盟工作，我是那邊的主要專家，我會參與到很多關于立法的活動中。這可能就涉及到一些單獨的規則，它需要是基于事實的，同時它也需要考慮到涉及的一些實體和利益方。因為我們知道，已經有一些規定是可重復的、可復制的，它不只是關于立法方面的，不只是立法方面的重復性和可復制性。
11-21 13:11
歐愷安
關于歐盟的AI法以及一些其他的倡議，同時也想重復提醒大家，對于歐盟來說，我們的AI法案確實是非常具有沖擊性的，也是很大膽的一次嘗試，它不只是出于政治目的，更多是背后站著有很多律師的一些判斷，以及如何去有效地將這項法案運用在歐盟中生效。我們希望可以生成一個可預測的全球框架，所以我們希望盡可能地去縮減風險。
11-21 13:11
歐愷安
我們接下來進入到PPT環節。我會盡可能地去發表一些我的核心觀點。
11-21 13:10
歐愷安
各位同仁、女士們、先生們，我非常榮幸參加關于人工智能討論的論壇。我需要談論一些關于人工智能的看法，我可能不是人工智能方面的專家，我是一名律師，所以關于人工智能可能大家比我知道的更多。可能我對大家來說，我的優勢是在法律專業。
11-21 13:10
11-21 13:10
主持人
有請中歐數字協會首席專家歐愷安發言。
11-21 13:09
張新寶
以上是我一些不夠成熟的看法。謝謝大家！
11-21 13:08
張新寶
人工智能立法應當妥善應對國際競爭與國際合作的張力，在推動人工智能治理和國際合作上面，要倡導建立全球范圍內的人工智能治理機制，支持在充分尊重各個國家政策和實踐的基礎上，形成具有廣泛共識的全球人工智能治理框架和標準規范，推動人工智能能力建設方面的國際合作。同時加強面向發展中國家的合作與援助，彌合智能鴻溝與治理差距。要促進國家間基于技術和價值觀的相互理解，同時在人工智能治理領域的主權國家博弈的過程中，面對不友好國家對我國內政，針對我國實體和個人的單邊制裁和其他歧視性的、禁止性、限制性的措施，我們也應當根據實際情況采取相應的反制和對等措施。
11-21 13:08
張新寶
人工智能產業生態的良性發展，需要主體多元、利益分化，市場開放的競爭秩序。在宏觀層面，應當制定并完善競爭政策，推動智能要素的基礎設施建設的形成，數字資源調度利用的制度，有效降低市場進入門檻。人工智能立法應當充分考慮人工智能產業分層業態，形成鼓勵公平交易，自由選擇的基本競爭原則，對利用人工智能等實施壟斷、不正當競爭等行為做出專門的規定，并授權細化相關的規則，在鼓勵實施包容審慎監管的同時，善用“軟法”規則，加強對企業合規整改的引導。要提高反壟斷和反不正當競爭的執法水平，綜合應用事前、事中和事后規則工具，提升市場監管措施的區分度和顆粒度，探索新的動態監管機制，比如監管沙盒，通過適當監管、一定豁免，引導企業自律管理，降低中小企業創新合規的成本風險，鼓勵研發應用與監管機制上面的雙向創新。
11-21 13:08
張新寶
人工智能立法應當堅持以人為本的基本立場，在以人為本的理念下，人工智能立法至少還應具備三個方面的規則設計：一是構建應對算法歧視等長遠隱蔽的倫理風險規制；二是應在切實保障相關主體合法權益的同時，確保人工智能的可問責、可救濟；三是應當活應用數字鴻溝下數字教育和數字信息獲取的問題。一方面明確國家機關在提升國民數字素養，分享人工智能風險和應對方法等方面具有提供服務和做出一定行動的職能，另一方面通過設置合理的信息披露義務，要求具有人工智能技術能力的主體在開發應用等階段對受影響者提供必要的信息和說明。人工智能立法應當協調好多元主體之間復雜的利益關系，在保證個人權利免受不當侵蝕的前提下，支持人工智能算法和基礎模型等的創新開發，針對當前數據獲取方面的難題，應當建立例外規則或者是責任豁免的規則。建立適應基礎模型數據訓練或模型發展的個人信息處理制度，將個人信息保護的重點從收集端的事前限制適當地轉移到強化人工智能責任主體的合規處理信息，利用數據的環節，建立與人工智能相適應的知識產權規則或配套制度，探索構建促進人工智能產業發展的利益分配和利益分享機制。
11-21 13:08
張新寶
三、主要利益關系的設計問題
11-21 13:07
張新寶
具體而言，人工智能法應當是我國人工智能領域的基本法律，旨在定基調、明方向，僅對立法目的、調整對象、基本原則、重要制度以及一些主要的基本規則做出規定，具體的細節制度應當在時機成熟、時間檢驗的基礎上，通過行政法規、部門規章等規范性文件以及國家標準來加以確定。人工智能立法應適應以搭建框架性持續為準的立法技術，凝練實質性的法律問題，著力于實現有效的規范指引，增強立法的體系性和協調性。
11-21 13:07
張新寶
剛才有的學者提出了“小切口”“小碎片”的立法路徑，也提出了要做減法，都是很好的路徑。我們的想法是人工智能的立法應當以實現體系化的立法為基本方向，以優化立法層次為當前的主要目標，統籌和協調涉及人工智能的已有規范，為人工智能領域的立法體系化提供有力的方向性的基本規則，同時厘清人工智能治理的基本邏輯。
11-21 13:07
張新寶
二、立法的路徑
11-21 13:07
張新寶
在包容審慎規則風險上，應當以多元主體協同治理為基礎，構建以政府監管為主導，行業企業自律，社會協同參與的多元治理體系。科學設置風險的分級分類管理規則，動態科學研判風險，明確對于重點風險的監管要求，強化對風險的動態敏感監管，遵循人工智能全生命周期治理的邏輯，引導全流程中相關主體的風險管理應對機制的建立。加強相關主體對投入市場后的人工智能應用的監測管理義務，建立有層次的問責制度。設立專門機關，增強監督效能，并綜合使用“軟法”和“硬法”手段，使責任承擔與目的控制能力、涉及領域等相匹配。
11-21 13:06
張新寶
就動態科學的研判風險上，應當對危害國家安全、公共安全的風險，以及違反公序良俗的倫理風險等進行研討和借鑒，制定專門制度進行防控，提升防范風險與化解風險的能力。應當設置預防人工智能風險的通常基準，明確關于人工智能的穩健性和網絡安全水平的一般規則基本要求，增強系統與應用的安全性和科學性。可以設置不同領域與場景下的一般規則和基礎風險防范要求，并對系統性風險等潛在的風險預留一定的授權立法口徑。
11-21 13:06
張新寶
在防范主要風險的立法目的下，人工智能立法應該構建重點突出的風險防范制度，既要有的放矢，明確對當前重點需要防范的風險，同時也要動態地研判防范新的潛在風險。風險規制應從單一的具體風險管控，轉向促進多元主體協同治理，風險有效分類分級制度，全周期治理和有效的可問責機制。
11-21 13:06
張新寶
人工智能法應當以“發展與安全并重”為指導思想，以促進研發應用和防范風險為二元的立法目的。促進研發應用的立法目的下，人工智能立法應當構建具有體系性的發展促進制度，具體體現為賦能與減負兩個方向，應考慮人工智能產業的分層業態，能夠涵蓋數據算力模型和硬件應用場景等關鍵要素和環節，并在吸收國內外科技引領法治有益規則的基礎上，探索實用開放性的新制度。
11-21 13:05
張新寶
一、確立一個二元的立法目的
11-21 13:05
張新寶
尊敬的各位領導，學界和產業界的朋友們，上午好！剛才聽了很多老師的精彩演講和領導們的發言，我覺得有很多值得學習和借鑒的地方，特別是來自領域外的教授們所談到的真知灼見。就人工智能的立法，現在已經展示了很多不同的觀點，我也想提一些自己的粗淺看法。談三個方面的意見：
11-21 13:04
11-21 13:04
主持人
有請來自中國人民大學法學院的張新寶教授發言。
11-21 13:03
周漢華
我們在預訓練階段和投入應用階段所面臨的法律障礙，它是橫跨不同的部門法，絕大多數都需要并且也只能通過對現行法律的修改、廢止、解釋來解決。我的結論，在中國推動人工智能產業的發展，需要匯聚各方面的智慧，而不只是發揮立法機關的作用。謝謝大家！
11-21 13:03
周漢華
投入應用階段，我們現在傾向性的司法判例是認為人工智能生成物是受到權利保護、版權保護或者說專利權的保護。但是我們看到不光是美國，其實歐盟的動向，也是說人工智能生成物是非權利化的一個制度安排。
11-21 13:03
周漢華
當然，中國比歐盟可能GDPR要領先一點的地方，在于《中華人民共和國個人信息保護法》規定，已公開的個人信息在合理范圍內可以使用。所以說如果你要去處理圖像信息，在中國，圖像信息屬于敏感個人信息，如果你要去處理互聯網上公開的圖像信息，需要取得單獨同意，無法進行訓練，如果去訓練是違法的，可能會面臨罰款。
11-21 13:02
周漢華
如果再來看中國的人工智能發展面臨的法律障礙，我們說人工智能的發展、大模型的發展就是兩個階段。一個是預訓練的階段，一個是投入運用的階段。我們現在面臨的主要問題是現行法律不適應大模型的發展，包括《中華人民共和國著作權法》缺乏對大規模訓練數據原則可用的明確授權，也缺乏政府數據開放和有關互操作的概念，這是匪夷所思的。如果我們說在西方的語境下來討論人工智能的發展，討論平臺經濟，這是它回避不了的一個問題，包括歐盟在推動數字社會發展當中，把互操作作為一個最重要的障礙之一，去作為數字社會發展必須解決的問題。
11-21 13:02
周漢華
如果我們再來看中國改革開放激蕩的40年所取得的重大成就，尤其是中國互聯網產業高速發展的歷程，表明簡政放權、調動釋放市場主體與全社會的活力與創造力，是中國實現高速發展的一個必由之路，也是一條基本經驗。
11-21 13:01
周漢華
美國在大模型研發領域領先，如果我們來分析它的話，你會看到這是美國的經濟、科技與制度等因素綜合作用的結果，并不是美國通過立法才實現了美國在大模型領域里的領先。我們再來看歐盟的《人工智能法》，制定之后爭議非常大，但是歐盟《人工智能法》并沒有產生布魯塞爾效應，這和歐盟做GDPR或者說1995年的個人數據保護的指令是完全不一樣的場景。我們現在的研究發現還沒有歐盟的國家跟進要制定類似于歐盟層面的人工智能法，所以歐盟的立法不光有爭議，它有它的特殊性。
11-21 13:01
周漢華
那么，如果我們來看平臺經濟與大模型的發展，如果我們仔細來追溯它的歷史，可以看到上世紀70年代末、80年代初，在英國、美國，撒切爾夫人和里根總統率先發起的這場大規模的放松規制運動改革，是直接相關的。放松規制本質上是簡政放權，所以國際上的經驗是做減法的結果。錢德教授那篇文章對我們非常有啟發，說法律改變了硅谷，但我們看法律改變硅谷，它也只是《通訊品位法》里230條，就那么一條，還不是我們意義上的，說來制定統一的人工智能法這個意義上的大規模的立法。
11-21 13:01
周漢華
對于這個問題的討論，在中國的學術界包括立法機關，如果我們看中國全國人大常委會對人工智能立法的表述，在立法規劃里，它說的是“制定人工智能法律或者法律問題的決定”，我想這是有很深的政策考量和背景因素的。包括我們今天前面幾位主題發言人，如果大家仔細去辨析，其實也是有觀點的差別。所以我們來探討人工智能立法的路徑選擇，可以說對中國的法治建設具有一般性意義，因為我們今天對人工智能的立法路徑討論，在其他眾多領域里都面臨這個問題。
11-21 13:00
周漢華
今天我們討論人工智能的立法問題，就要放在這個大的背景下，我們就需要明確主線，是從立新的人工智能法切入，還是說更多的是要從修改、廢止、解釋現行的法律來切入？所以我把它歸為了究竟是做加法為主，還是做減法為主。當然，加減永遠都是會同時適用的，但是主線必須明確。
11-21 13:00
周漢華
在法治體系建設當中涉及到立法、執法、司法、法律監督以及整個法治體系建設相關的各方面的工作，我想在中國的法治體系建設進入到新的階段之后，我們如果觀察最近幾年中國的立法，不管是全國人大常委會的立法，還是國務院的立法，你會發現立新法的數量已經遠遠少于對法律進行修改的數量，所以這時候如果我們把立法當作做加法，那么現在立法部門經常用的是五個動作，叫立、改、廢、釋、纂，立法只是其中之一，修改法律、廢止法律、解釋法律以及進行法典的編纂，這四個階段越來越重要。我想，這是法治體系建設必然面臨的一個轉型或者說一個重點的變化，從立法轉向了更加重視法律的實施。
11-21 13:00
周漢華
中國法律體系的建設有兩個標志性的階段：一個是2011年，中國特色社會主義法律體系已經形成，這是中國社會主義民主法制建設上的一個里程碑。另外一個標志性的階段，就是2014年10月，十八屆四中全會決定，把全面推進依法治國的總目標確立為建設中國特色社會主義法治體系、建設社會主義法治國家，這樣中國就實現了從法律體系建設向法治體系建設的歷史性跨越。
11-21 13:00
周漢華
各位嘉賓，大家上午好！感謝人民大學的邀請，來參加此次盛會，并就人工智能的立法談一點自己的想法。
11-21 12:59
11-21 12:59
主持人
有請中國社會科學院法學研究所副所長周漢華發言。
11-21 12:58
主持人
下面進入嘉賓發言環節，議題三： 全球人工智能監管規則。
11-21 12:43
王欣
我們非常期待能在主管部門的指導和幫助下，圍繞行業共性問題和企業個性堵點探索兼顧發展和安全的可行方法和最佳實踐案例，營造更好的全球貿易環境，把握全球發展機遇。謝謝大家！
11-21 12:43
王欣
關于加強個人信息，攜程雖然在數據安全和隱私保護領域進行了較為深入和細致的探索和實踐，但也面臨著人工智能時代的數據大爆炸的新問題和新挑戰。例如由AI換臉、變聲等技術引發的消費者深度偽造欺詐，AI驅動的黑客攻擊，大模型標注數據防篡改與倫理安全，AI生成虛假信息等，這些新型問題在跨境服務復雜的環境以及互聯網新型空間如元宇宙等方面都存在著較大的風險和放大的可能。同時我們還面臨著人工智能、大數據全球治理不同國家價值取向，優先事項和方法分歧，以及標準認證互通互認等各個壁壘。
11-21 12:42
王欣
三、關于加強個人信息和數據制度的意見建議
11-21 12:42
王欣
八是在數據共享方面，與必要的合作方簽署保密協議和數據處理協議，做好合作方人員、資質等背景的調查和信息安全風險評估審計。當前攜程集團平臺個人信息和數據出境業務涉及機票、酒店、度假等各方面，作為數據安全及隱私保護的場景和子集，攜程對個人信息和數據出境采用與國內相一致甚至更高的安全防護標準，并遵從國家的法律法規、技術標準和監管要求。
11-21 12:42
王欣
七是在權益保護方面，充分保障用戶的知情權和選擇權，隱私政策明確告知用戶權利、行使途徑，任何更新都會通過彈窗的方式經過用戶同意后才可以獲取。涉及個人信息和數據保護的投訴第一時間響應，并在規定時間解決。
11-21 12:41
王欣
六是在應急響應方面，建立了安全事件分類分級應急響應體系，明確了信息安全、IT、法務、政府事務等各方面的職責，制定應急響應預案并定期進行演練。
11-21 12:41
王欣
五是在認證培訓方面，公司先后通過了ISO27001、ISO27701、PCI-DSS等安全認證，定期開展全員線上信息安全培訓和考試。同時對產品、研發、數據分析等數據處理的重要崗位的人員進行專業的數據安全培訓。
11-21 12:41
王欣
四是在審計監察方面，個人信息和數據處理員進行背景審查并簽署保密協議，對網絡安全設備、應用系統等開展安全審計，實時保存備份審計記錄，開展內外部相結合的審計檢查，并做好監督整改。
11-21 12:41
王欣
三是在技術管控方面，綜合運用訪問控制、動態賦權、行為模式基線分析、安全水印、存儲與傳輸加密、超期銷毀或匿名化等業內領先的安全技術，實現對個人信息的最小采集、最小訪問和最小使用。
11-21 12:40
王欣
二是在建章立制方面，基本基于法律標準和監管要求，建立涵蓋數據安全、個人信息保護、移動APP合規等在內的管理制度。同時構建業務部門和合規部門責任共擔的工作機制，任何新增的APP發版都必須通過內部安全檢測方可上線。
11-21 12:40
王欣
我們有八方面的舉措：一是在組織管理方面，成立了首席執行官任組長，各部門主要負責人組成的領導小組，指導落實各項具體工作。同時根據任務需要組建工作專班，如成立個人信息保護專項工作協調小組。
11-21 12:40
王欣
二、加強平臺內部個人信息與數據制度建設
11-21 12:40
王欣
一些辦法、條例精準化、個人信息和數據保護的要求。如《網絡數據安全管理條例》明確處理個人信息應當遵循的具體規則，明確網絡數據處理者識別、申報重要數據的義務，有利于維護市場公平競爭秩序，保護個人、企業在網絡空間的合法權益，進一步推動我國數字經濟高質量可持續發展。
11-21 12:39
王欣
當前數字經濟正加速與實體經濟的融合，各類數據迅猛增長，海量聚集，數據作為生產要素的基礎性和戰略性地位日益突出，也對數據治理能力提出了更高的要求。我國制定出臺網絡領域立法150余部，特別是《中華人民共和國網絡安全法》《中華人民共和國數據安全法》等法律法規，為互聯網平臺處理個人信息，做好數據保護，提供了根本遵循。
11-21 12:39
王欣
一、個人信息與數據制度不斷健全具有重要意義
11-21 12:38
王欣
攜程于1999年成立于上海，得益于中國互聯網的蓬勃發展和網絡法治的加速推進，攜程集團在在線旅行行業乘勢而上，并不斷規范發展。特別是近年來隨著人工智能的革命創新以及網絡法治的高質量發展，攜程等一眾互聯網企業得以全神貫注地突破新技術、謀劃新場景、提供新服務、實現新發展。在個人信息與數據制度方面，我們有自己的一些思考。
11-21 12:38
王欣
尊敬的各位領導、專家、行業同仁，非常榮幸能參加本次網絡法治論壇，并代表攜程集團向大家匯報關于數據安全和隱私保護方面的業務實踐。今天我和大家分享的題目是《抓良善法治機遇，享數字發展成果》。
11-21 12:38
11-21 12:37
主持人
有請攜程集團副總裁王欣發言。
11-21 12:37
亞歷山大·斯維特里奇尼
今年早期的時候，我們看到歐盟委員會在通過自己的執法權，然后開始調查一些比如說像Meta這樣的公司如何在數據收集和數據整合中進行了侵權，所以我們可能需要再等一些時間，看他們會得出怎樣的結論，等待歐盟去給我們一些回答。這個案例告訴我們什么呢？那就是說，信息保護和隱私保護在違反競爭法的過程中被認為越來越重要，不僅是在DMA，而且是在國家層面，各國需要發揮自己的力量去作出自己的決策。以上是我的發言，謝謝大家！
11-21 12:37
亞歷山大·斯維特里奇尼
在歐洲還有另外一種做法，就是我們直接去傾向于監管，那就是我們利用數字技術這樣的方式，比如說在歐盟，我們會建立相應的一些權利和法案，去作為一個“守門人”。這是從中抽出的第五條法案，作為“守門人”來說，你是不能做以下事情的，你不能做這些違反法律法規所禁令的事情，所以大家可以看到，在歐盟層面一些大規模的公司，大家都是按照這樣的方式去進行一些規避性的操作。
11-21 12:36
亞歷山大·斯維特里奇尼
這種做法也上升到歐洲法庭如何判斷我們是否違法，如何去理解違法行為，以及對于競爭主體，我們應該如何去考慮這些涉案公司他們是如何進行違法的，以及如何去進行鑒定的。比如說，法律會認為一些侵犯了隱私的權利或做法，這些如果得到承認，這些做法就是侵權了。
11-21 12:36
亞歷山大·斯維特里奇尼
德國的公司已經將這幾種不同的情況進行了整合，比如說我們如何管理Meta，根據德國的競爭法，德國的機構就規定在GDPR中，如果你違反了收集個人隱私數據的做法，那么你就違反了德國的法律，這和德國違反競爭法的做法是一樣的。
11-21 12:36
亞歷山大·斯維特里奇尼
第二個問題，是否數據收集可以被認為一種濫用市場權利以及剝削消費者權利的一種行為？這也是我今天主要想談的話題。我們提到了數據收集，把它認為是市場違反法律的一種做法，那么這里就有幾種可能性，第一種就是關于市場權利和數據收集的區分，因為如果這里真的沒有關聯性的話，那么就可能只有那些有權利的公司才可以有這樣的權利去收集數據，沒有權利的公司，這些公司就無法參與到收集數據的過程中。
11-21 12:36
亞歷山大·斯維特里奇尼
其實市場上有不同的關于數據保護的各種情況，比如說數據相關的價格歧視，他們可能會受到個人化或者算法的標價來進行影響。比如說，在中國以及歐盟有一些機構，大家都持有不同的看法。
11-21 12:35
亞歷山大·斯維特里奇尼
還有一個新的問題，也是今天想要去探討的，我們能不能將違反隱私規則視為違反了競爭法。
11-21 12:35
亞歷山大·斯維特里奇尼
第二個，是不是把它作為消費者福利的隱私，比如說保護他的隱私可以作為對消費者的一種福利，我們是不是需要考慮它，在競爭法方面是不是需要適用。
11-21 12:35
亞歷山大·斯維特里奇尼
在競爭法的評估當中，我們需要去涉及到數據保護、隱私保護這樣的話題，比如我們能否去考慮一個公司彼此之間競爭能夠提出關于數據保護和隱私保護，就是在消費者這些相關保護方面可能會影響到它的競爭優勢。
11-21 12:35
亞歷山大·斯維特里奇尼
從歐盟的一些競爭法等法律法規里，我們可以看到，任何可能涉及到個人敏感數據的問題，本身都不是競爭法的問題，他們可以根據關于數據保護的相關規定得以解決，所以它并不是我們所需要考慮的在競爭法適用的一種目標。
11-21 12:34
亞歷山大·斯維特里奇尼
我想提出幾個和競爭法以及數據保護相關的一些問題：第一個問題，在競爭法的執法當中，我們如何來考慮數據保護和隱私保護，這是可選擇的，因為競爭法也是基于客觀對象的。第二個問題，競爭法是否足以應對與數據相關的經濟權利或者新的監管解決方案。競爭法是不是足夠，我們是不是還需要其他另外一種的規范。第三個問題，競爭法能否幫助實現數據保護的目標，能不能更好地去保護人們的隱私。
11-21 12:34
亞歷山大·斯維特里奇尼
可能大家都比較熟悉，數據在很多方面，在市場競爭上都是非常重要的，我們把數據作為一種產品，在公司之間進行交易。也可以把數據作為一種貨幣，由消費者付費。事實上，它并不是說完全免費的，因為你需要去付一定的費用來使用這些數據。數據也是公司擁有的某種資源，使得公司擁有某些競爭優勢。當然，比如說數據量很大，質量很高，可以更好地幫助公司找到他們的客戶，提供相應的產品和服務。同時，數據還可以給予一些公司市場力量，有的時候可以用，有的時候又會濫用，所以這也需要法律法規去進行一定的規范和監管。
11-21 12:34
亞歷山大·斯維特里奇尼
大家早上好！剛才很多發言人之前都談到了關于數據的保護，我想要談的話題是關于競爭性的數據保護，也就是在公司競爭方面涉及到的保護。
11-21 12:33
11-21 12:33
主持人
有請澳門大學法學院副教授亞歷山大·斯維特里奇尼發言。
11-21 12:32
馬里厄斯·克里奇托斯弗克
還有一些情況可能也會導致一些問題，比如面部識別，有一些是禁止AI使用的法案，像一些監管機構，他們會具體說互聯網收集這些涉及敏感的信息用于面部識別是不允許的，禁止人工智能用于創建或者擴展面部識別的數據庫，或者通過互聯網或電視系統無目的地抓取面部圖像。謝謝大家！
11-21 12:31
馬里厄斯·克里奇托斯弗克
當然有一些也取決于生物信息的數據，有些會涉及到私人的、個人的數據，還有一些比較敏感的數據，只有一部分。比如說這些數據很敏感，或者在某些特定的情況下會影響到個人的隱私等等。AI系統只能去處理或者識別和矯正這些生物系統，還有一些其他的問題，有些數據比如說進行政治方面的參考或者評估，那它們可能會被視為敏感數據。還有一些生物特征的數據，并不是敏感的數據，這些也應該進一步去考量它到底是不是應該被涵蓋在一個被規范的范圍之內。
11-21 12:31
馬里厄斯·克里奇托斯弗克
這里有一些例子，現在是不是人工智能被過度干預了、過度規范，這其實是需要滿足一些條件的。歐盟委員會正在做一些咨詢，需不需要有一些指導原則出臺，他們經常會問你熟不熟悉或者說你有沒有實際用過AI系統，能夠滿足所有的條件。在社會治理方面，人們經常會說債務登記這些問題，這會影響到我們的貸款，或者是其他信用方面相關的事情，所以這個也是在社會治理方面的功能。AI并沒有在這方面給大家造成了困惑，而且它們也并不滿足人們認為是一種傷害性的情況，所以這些并不是AI本身的問題。我覺得人們認為AI可能產生的負面影響，在情感識別系統方面，AI需要很多的數據去識別人的情感，它是比較復雜的過程。
11-21 12:31
馬里厄斯·克里奇托斯弗克
這些方面為什么我們需要去做一些事情？因為我們看到有一些概念，需要清晰化一些，比如說我們現在是在金字塔的下面，最頂端是不可接受的風險，AI系統的分配，或者在使用方面，我們都會評估一下它的風險級別。在一些具體的情況下，可能這樣的條件需要我們特別關注它的風險。但是在經濟和個人方面，我們在AI方面有更多的受益，AI可能也會對我們的一些基本權利造成傷害的風險。比如說社會方面，我們為了更深入地考慮到AI會對我們的身心、社會體系所造成的風險。
11-21 12:30
馬里厄斯·克里奇托斯弗克
有一些例子也可以向我們展示出它是否適宜，或者說有一些謎團，也有一些原則。AI有時候被過度干預了，人們經常有這樣的言論：應對AI挑戰的正確反應，還是怎樣？人們會有一些探討，在立法方面，我們希望有一些修訂，它就像拼圖一樣，很多東西是互相關聯的。我覺得在執行這些法律法規的時候，也需要細心評估。
11-21 12:30
馬里厄斯·克里奇托斯弗克
非常感謝能夠邀請我來到這里，今天我們來探討一下關于人工智能時代的法律。我們都知道我們需要在這個方面有所作為，大家也談到了一些具體的例子。在AI領域，我知道中國有很多非常先進的關于AI的實踐和法律法規，我覺得中國在這方面做得很進步的，在很多領域都很領先。
11-21 12:30
11-21 12:29
主持人
有請波蘭華沙經濟學院研究員馬里厄斯·克里奇托斯弗克發言。
11-21 12:28
林維
人工智能作為當前最受矚目的新興科技，我們必須要高度重視其引發的法律挑戰，通過完善立法，為人工智能發展保駕護航。中國的法學實務界和研究界也高度重視人工智能的立法與司法的發展，尤其在新興領域，這些問題所引發的法律難題。西南政法大學也專門成立了科技法研究院，我們也積極展開和科技專家、科技企業的對話，也希望大家能夠給予我們更多的關注、關心和支持。謝謝大家！
11-21 12:28
林維
第四，應當加強人工智能國際治理交流與合作。在全球化背景下，人工智能的問題已經成為國際社會共同面臨的難題，加強國際交流合作，不僅是應對技術發展帶來的挑戰所需，更是實現全球共同繁榮，構建人類命運共同體的重要途徑。
11-21 12:28
林維
第三，應當堅持發展與安全并重。剛剛喬治城大學的錢德教授比較了歐美人工智能立法和人工智能產業的關系，我想，中國現在也面臨這樣的一種選擇。人工智能法應當明確促進人工智能健康發展的立法目的，強調在發展的同時要保障安全。當然，人工智能法仍然要以發展為最核心的目標，沒有發展談不上安全問題。最后，人工智能法應當確立人工智能的治理框架，明確人工智能的研發者、使用者、提供者這些主體的義務與責任，明確監管機構的監督職責與監管規則，加強用戶權利的保護，切實回應人工智能產業發展當中的難題。
11-21 12:28
林維
第二，應當堅持科技向善的理念，高舉科技人文大旗。發展人工智能應當堅持以人為本的理念，以增進人類共同福祉為目標，以保障社會安全，尊重人類權益為前提，確保人工智能始終朝著有利于人類文明進步的方向發展。
11-21 12:27
林維
因此，隨著人工智能應用的爆發以及各國人工智能競爭的加劇，中國從場景式立法已經無法滿足人工智能產業的發展以及產品治理的需求，因此應該從以下幾個方面來完善我們的立法：第一，應當積極思考推動國內人工智能統一立法的實現，避免“頭痛醫頭，腳痛醫腳”。當然，各種人工智能應用引發的法律挑戰并不完全一樣，人工智能法仍然需要為智能要素、智能應用等具體場景的立法來預留接口。
11-21 12:27
林維
第五，人工智能軍事應用的法律治理難題。在當前的國際沖突當中，無人機在無人干預下跟蹤并且攻擊正在撤退的軍事人員，以及有的國家利用人工智能系統幫助識別特定的武裝人員等等，這些案例都引發了人們對于人工智能能否擁有決定生死權力的熱議。隨著無人系統自主性和智能化程度的提高，未來的作戰可能將會更多依賴于人工智能，這也可能導致人類在決策程序過程當中被逐漸邊緣化，進而引發對戰爭倫理和責任歸屬的質疑。人工智能武器的廣泛應用還可能加劇國際軍備競賽，降低戰爭門檻，這些潛在的全球戰略不穩定因素也需要國際社會共同應對。
11-21 12:26
林維
第四，人工智能生產物的知識產權保護難題。現在對于這個問題，盡管法院有了一定的判決，但是這個問題的討論仍然是非常的激烈。從生成端來看，人工智能生成物通常由算法自動生成，認定其是否具備人類的獨創性存在著困難。從使用端來看，終端用戶和模型提供者生成的內容是否構成侵權，也產生了極大的爭議。因此，能否以及如何利用知識產權保護制度來保護人工智能的生成物，仍然是我們需要進一步加以解決的問題。
11-21 12:26
林維
第三，生物識別的數據安全保護難題。和傳統的密碼不同，人臉識別、指紋識別等所需要的指紋、面部特征、虹膜掃描和語音，是我們身份驗證和訪問控制的強大工具，因此生物數據帶來的數據安全這種挑戰是我們前所未有的。對個人而言，個人的隱私風險增加，敏感信息的泄露必然會侵害主體的隱私權利，甚至帶來更為嚴重的數據安全風險。對國家而言，大量生物識別數據的儲存、分析、計算也特別容易產生極大的安全隱患，因此生物識別技術的大規模應用必須慎之又慎。
11-21 12:26
林維
第二，自動駕駛的侵權責任的認定難題。在今年6月份，中國首批智能網聯汽車準入和上路通行試點企業公布，自動駕駛汽車的大規模上路取得了進展。但是在自動駕駛模式下，車輛可以在沒有人類駕駛員介入的情況下自主行駛，一旦發生交通事故，責任可能涉及車輛制造商、軟件開發者、車主等多個主體，這也給責任的追究和分配提出了難題。
11-21 12:25
林維
第一，深度偽造的刑事治理的難度。深度偽造是指利用先進的AI技術生成或者篡改音視頻的內容，使其它難以與真實內容區分，極易為不法人員實施網絡違法犯罪活動提供可乘之機，進而導致刑事治理風險的擴張。同時，由于算法的復雜性和不透明性，使得判斷偽造內容的來源和生成的過程變得極為困難，進而影響到對違法行為的精準定罪以及量刑。
11-21 12:25
林維
過去我們的法律制度通常以人類是唯一的理性主體作為基本的假設，但是現在人工智能能夠在沒有人類干預的情況下，獨立地做出一定的決策和執行任務，這樣極具智能屬性的科技是人類歷史上前所未有的。因此，當下由此引發的一些典型的法律挑戰，包括如下幾個，當然，人工智能所給我們提出的法律挑戰絕不止于這些領域，我們所列舉的僅僅是我們當下所面臨的一些比較典型的場景。
11-21 12:25
林維
中國國務院印發的《新一代人工智能發展規劃》指出，人工智能的迅速發展將深刻改變人類社會生活、改變世界。人工智能是影響面廣的顛覆性技術，可能帶來改變就業結構、沖擊法律和社會倫理、侵犯個人隱私、挑戰國際關系準則等等，所以這些將對政府管理、經濟安全和社會穩定乃至全球的治理產生深遠的影響。
11-21 12:24
林維
尊敬的各位專家，各位嘉賓，大家上午好！今天我和大家分享的題目是“法律如何應對人工智能的挑戰”。
11-21 12:24
11-21 12:23
主持人
有請西南政法大學校長、教授林維發言。
11-21 12:23
主持人
下面進入嘉賓發言環節，議題二： 人工智能時代的法治挑戰與數據保護。有請主持人中國人民大學法學院教授、未來法治研究院副院長丁曉東。
11-21 12:10
胡煥剛
未來，伴隨著網絡技術的不斷突破，網絡業態不斷創新，網絡法治必將日新月異，前景無限。京東也將秉持“技術為本，讓生活更美好”的企業使命，在不斷優化成本、效率、體驗的同時，全力履行社會責任，為用戶、行業和社會創造更大的價值。最后，預祝本次論壇獲得圓滿成功。謝謝大家！
11-21 12:10
胡煥剛
三、網絡法治環境將助力行業快速健康發展。法治具有固根本、穩預期、利長遠的重要作用，伴隨網絡法治體系不斷健全完善，中國的網絡發展環境將更加優越，網絡空間秩序更加規范，網絡公平正義更加彰顯，充分保障各方權益，給予廣闊的試錯空間，鼓勵支持創造創新，全力助力網絡行業健康發展，為數字經濟再上新臺階奠定堅實的基礎。
11-21 12:10
胡煥剛
二、國際網絡法治的新秩序將不斷成熟。隨著我國經濟開放和走出去，國際間公司、商務規則深化交流，務實合作，將共同推動構建網絡空間命運共同體邁向新階段。中國將積極引領全球網絡領域法治建設，維護我國網絡空間主權、安全發展利益，為全球網絡法治建設提供中國方案，貢獻中國智慧，讓互聯網更好地造福世界各國人民。
11-21 12:10
胡煥剛
回顧過去的30年，應該不管是當時大家的想象還是今天我們的回顧，我們都覺得網絡法治的30年超出了我們的想象。那我們完全有信心相信未來一定會更加美好，暢想未來，我們相信：一、中國特色網絡法治體系將更加完善。建設中國特色網絡法治體系是我國網絡法治建設的總目標，可以預見，我國將加快推進數字經濟、人工智能、網絡平臺、大數據、云計算等領域的立法，形成更加完備的網絡法律規范體系，為互聯網行業持續繁榮提供制度保障。網絡法治實施體系將更加完善，適應互聯網發展治理新特點的網絡監督執法措施將更有針對性、實效性，助力行業良性競爭和健康發展。
11-21 12:10
胡煥剛
京東也結合自身的行業實踐，積極參與網絡領域的立法和法律研究，今年京東法務團隊撰寫的《數據合規實務與前沿研究》已經問世。我們攜手人民大學未來法治研究院打造的未來法治國際論壇也在行業里逐漸形成了影響力。
11-21 12:10
胡煥剛
得益于政策支持、技術革新和產業繁榮，京東的發展步伐也持續加快，這十年間京東、京東健康、京東物流相繼上市。2022年京東集團收入突破萬億人民幣，從一體化開放逐漸走向數字化社會供應鏈，打造數實融合新模式。這個時期網絡法律體系基本形成，出臺包括網絡安全法、數據安全法、個人信息保護法等網絡法律領域的立法150余部，網絡法律體系基本形成，網絡法治研究日益繁榮。
11-21 12:10
胡煥剛
2012年到2024年，互聯網法治進入高質量發展，核心技術創新突破，中國成為全球首個基于5G獨立組織的國家，千億級參數規模以上的大模型超過10個。2012年到2022年間，人工智能專利累計申請數量占全球達70%。互聯網產業蓬勃發展，截至2022年底，大數據產業規模達1.57萬億，市值超10億美元的平臺企業達到167家。截至2023年底，規模以上互聯網企業完成互聯網業務的收入1.75萬億，網上零售規模達到15.42萬億，連續11年成為全球第一大網絡零售市場。
11-21 12:10
胡煥剛
這一時期，網絡法治建設和研究如火如荼，2000年，國務院先后公布了《中華人民共和國電信條例》《互聯網信息服務管理辦法》，對電信網絡安全、用戶信息安全管理等做出規定，全國人大常委會通過《關于維護互聯網安全的決定》，將互聯網安全劃分為互聯網運行安全和互聯網網絡信息安全。網絡法治研究蓬勃開展，為網絡行業發展和制度建設做出了重要貢獻。
11-21 12:10
胡煥剛
2000年到2011年，我國互聯網法治進入了突飛猛進的階段，在這個時期網絡基礎設施和技術創新高速發展，中國成為最大的IPV6示范網，3G用戶達1.28億，云計算市場規模達315億元，中國成為國際標準化組織傳感器、網絡標準工作組的主導國之一。互聯網產業快速壯大，社交網站用戶達2.44億，即時通信用戶4.15億，電商平臺發展壯大，網絡購物用戶1.94億，網上支付、網上銀行用戶均在1.6億以上。京東也在這個時候正式跨入電商行業，直擊電商行業的痛點，投入巨資啟動自建物流，并且實現了超越零售行業巨頭布局的歷史跨越，銷售額從1000萬增長到300億。
11-21 12:10
胡煥剛
同一時期，互聯網法治建設與行業發展共同推進，先后出臺了《計算機軟件保護條例》《計算機信息系統安全保護條例》《計算機信息網絡國際聯網安全保護管理辦法》并修訂了刑法，為互聯網行業發展提供制度保障。同時網絡法治研究也開始萌芽。
11-21 12:10
胡煥剛
如大家所知，1994年中國國家計算與網絡建設設施聯入國際互聯網的64K專線開通，實現了與國際互聯網的全功能連接，中國開啟了互聯網時代。在1994年到1999年，是以硬件建設保障和推動互聯網行業快速發展的時期，如“九五”期間“八縱八橫”通信干線光纜正式建成，上網計算機臺數達到350萬臺，上網用戶數達到800萬，網絡規模和技術水平趕超部分發達國家。同時網絡商業應用與門戶網站拉開了互聯網的創業帷幕，中國互聯網向社會公眾開始提供接入服務。
11-21 12:10
胡煥剛
在今天的這個盛會，我謹以一個企業的視角來回顧中國互聯網法治發展的輝煌歷程，共同展望互聯網法治的美好未來。
11-21 12:10
胡煥剛
尊敬的各位領導、各位來賓，非常榮幸與人民大學法學院協辦本次論壇，在此我謹代表京東集團對大家的蒞臨表示熱烈的歡迎和衷心的感謝！
11-21 12:10
11-21 12:10
主持人
有請京東集團副總裁胡煥剛先生進行發言。
11-21 12:09
繆萬德
其實技術的商人覺得立法者或者監管者可能會給我們帶來一些約束，所以說他們有的時候可能會從負面方向去解讀。但其實，我們覺得如果從安全性方面來講，我們還是能夠找出一些雙贏的辦法的。謝謝大家！
11-21 12:09
繆萬德
在當前世界上，我們看到這些技術的發展，也是和法律法規的進步相呼應。作為行業來說，我們也需要有一些行業標準等，監管者也可以去填補一些空白。我們希望能夠在法規基礎設施上彌補一些空白，這也是很必要的。可能很多人覺得這個好像是一種自我證明的想法，其實是這樣的，我們每一個人都需要去服務于社會，行業也想要去服務行業的利益，我們也需要持續地創造安全的、有效的產品給我們的客戶。當然，我們不希望去損害客戶的安全和健康，我們也不希望去侵犯整個法治的體系。我們需要的是和所有的法律界人士、立法界的人士，共同去開發一些模式，怎么能夠不強制地去監管，而是有更多靈活的選擇，以及在設計方面，可能更加靈活一些。
11-21 12:08
繆萬德
我們在行業也有很多的討論，有的時候想要找到一些法律去約束AI，就是在它發展的階段也要去約束它。基本上來說，我們可以決定規范工程師怎么去開發AI，按它的優先順序進行規范，來減少一些傷害。但是在人類歷史上，我們往往會關注這些結果，所以作為行業來講，怎么能夠和監管者、法律制定機構更好地配合、合作，也就是說，我們用現在能夠使用的這些工具也好，技術也好，我們的法律基礎設施也不會影響到它健康的發展，特別是我們想要促進創新的話，就需要有一個合適的限度。
11-21 12:08
繆萬德
我想問一下大家，大家是否了解人類歷史上我們有一些顛覆性的技術出現的時候，決定在全球范圍內要制定一些法律去約束它，就是專門針對這個技術制定法律。大家有沒有想到？比如說電力、鐵路還是電視機？鐵路，我們沒有鐵路法。我們有一些法律去規范軌道交通的一些法律。也就是說，我們并不想在開發一些技術的時候，在核心領域去約束這個技術的發展。
11-21 12:08
繆萬德
我不是律師，是一個商人，所以我想在今天早上簡單和大家探討的，我們在商業、在行業以及法律界應該怎么樣更好地去合作，來促進AI的發展。很多時候，像法律界的人士和商界的人士，好像不是配合得特別好，因為行業總覺得這些法律界的人士很難去打交道，但事實并不是如此。因為我們看現在世界，以及中國也是很深入地和世界融合，我們需要找到一個方式，怎么樣能夠將法律法規更好地作為一種促進創新的工具。我想和大家談一下我的一些經驗，很多時候互聯網的發展，一些先進的技術的出現，往往就是在還沒有法律法規監管的領域去發展起來的。當然，在世界各地也引起了人們的警覺，我覺得這也是很正常的，但是也有可能存在一定的風險，有的時候人們可能對AI也過度反應了。
11-21 12:08
繆萬德
大家早上好！非常感謝主辦方對我的邀請，今天早上和大家做這樣的分享。
11-21 12:07
11-21 12:07
主持人
有請美國信息產業機構(USITO)總裁繆萬德發言。
11-21 11:54
達米安·坦比尼
我覺得現在是時候加強國際合作，因為很多資金可能會流入到這些法外之地，聯合國高層集團也呼吁建立一個國際機構，比如有一些信息環境的國際會議和機制，也是很重要的。謝謝！
11-21 11:54
達米安·坦比尼
最后我想呼吁，我們要避免最基礎的風險，當我們在談到這些風險的時候，大家肯定都能夠了解有很多研究和文獻講到一些問題，以及優化的問題，也有很多AI可能會導致的風險，這些也會給我們世界帶來一些潛在的威脅。
11-21 11:54
達米安·坦比尼
歐盟、中國、英國都想要在立法方面進行一些規范和標準的制定，而且我們也需要通過這樣的法治和標準吸引更多在這方面的投入，在AI方面的監管和立法，需要更加緊迫并且基于現實，因為人類還沒有特別學會在AI上面進行合作。所以如果不加以合理的規范，就會有很糟糕的結果。因此我們需要更多地在AI監管方面有更多的合作，在制定新的標準和法律法規方面也需要合作。英國也有很多提議，能夠讓我們去借鑒。很多原則性的問題，比如在新的標準和規則方面缺乏清晰的指導，有一些只是說這個事情是多么重要，但并沒有提出具體的法規需求建議。
11-21 11:53
達米安·坦比尼
當然更多的是關于在生產力方面的提升所產生的競爭，這也就給我們拋來一個問題，當整個世界變得更大程度的智能化，當我們缺乏對AI的管控的時候，它會影響我們的發展。對投資者來說，我們也知道法律的確定性是非常重要的。當然AI監管是反映了一個國家的價值觀，中國是聚焦經濟發展的，AI發展當然也很可能會影響整個社會進程的發展。
11-21 11:53
達米安·坦比尼
我想鼓勵參會各方去想的是，我們到底在全球AI倡議上缺少了什么內容呢？是缺少了文明的想法嗎？還是關于人類隱私，還有自由，以及國家主權的角色，或者僅僅是如何去管理技術，以及更多地去追溯投資。
11-21 11:53
達米安·坦比尼
在美國，新的立法機構也在嘗試進行新的定義，就是如何定義人類的自由化。這些想法可能會影響到其他國家或者說影響到公共服務領域。在歐洲，其實有更大的顧慮，就是關于那些信息的質量，以及作為各方專家大家所給予的想法輸入。這里我們就會看到馬斯克為代表所提出的創新的領先性的想法。對于企業來說，可能要在AI的發展中，與其他企業進行有效的競爭。這可能也會產生一些分歧，會進一步阻礙國際合作。
11-21 11:52
達米安·坦比尼
《全球AI倡議》是去年發布的，這一倡議也是遵循這一方法，希望我們可以達成一些全球的政策。中國也參與了這個發布過程。我們希望AI不會操縱輿論，以及也不會影響我們的社會法律和社會秩序，更不會危害國家主權。
11-21 11:52
達米安·坦比尼
AI安全法，也就是歐盟的AI法案，推出了一個非常嚴格的法治標準和法治進程，那就是要適當程度地全面禁止。美國在嘗試推出一項新的法案，就是希望對一些影響信息透明度的事情進行禁止。中國的方式也是完全不一樣的，它也反映了中國的經濟和社會現實，甚至包括中國所面臨的一些優先事項的處理問題。大家在2021年生成式算法中都關注到一些算法的修正和改變，以及潛在的風險管理，這個框架也就提出了一些共享的模型，去和其他國家分享，包括如何提升政府治理，以及形成一些標準性的文件。
11-21 11:51
達米安·坦比尼
第二點，這也和我們今天的論壇非常相關，那就是似乎有一些碎片化的想法，在人們面臨AI帶來的風險問題時，需要呼吁全球合作。尤其是在今年春天，在聯合國的統一大會上，這里會面臨不同的經濟及地緣政治的阻礙，因為來自各國的領導人，都會對此持有自己的看法。我們肯定會面臨一些想法的沖突，我們可能還欠缺國際合作，而它也會影響我們如何去解決我們在發展AI進程中所面臨的問題，似乎我們還可以從另一個角度來看待AI的發展，比如在AI方面的投資可以做到多少。
11-21 11:51
達米安·坦比尼
歐盟法案今年正式生效，這是全球最具爭議的一個話題，但確實這也是基于人類如何去預測AI可以為我們產生的一些危害。同時還有如何應用AI工具實現我們的目的。英國已經宣布明年也會推出相應的法案，美國也在準備，他們可能會到最高法院去通過這樣的法案。這些跡象都表明，短期內我們會面臨的情況。
11-21 11:51
達米安·坦比尼
在我們和AI斗智斗勇的過程中，這里可能有一個危險是我們必須承認的，那就是作為人類，我們其實還是失敗的一方。這里有兩個原因，為什么說我們已經失去了對AI的糾結呢？那就考慮到全球尤其是在第一代AI生成式法律誕生的初期，因為對人類來說，大家似乎沒有辦法同時專注于兩件事情，一件事情是長期普遍存在的危險，還有一些是短期可能涉及到生產和發展的問題。所以我們希望更大化地擴大利益效益，來減少危害。我們不時在爭論關于AI產生的那些邊緣性的風險。但是短期而言，AI會造成巨大的風險。
11-21 11:50
達米安·坦比尼
我在多個場合從全球視角回答關于AI的想法。我更多會關注工具和流程本身，關于AI的產品，還有AI監管。
11-21 11:50
達米安·坦比尼
非常感謝大家！女士們、先生們，非常感謝人民大學以及主辦方的邀請。
11-21 11:49
11-21 11:49
主持人
有請英國倫敦政治經濟學院媒體與傳播學系資深政策研究員達米安·坦比尼發言。
11-21 11:23
阿努帕姆·錢德
大家都知道，加州在2024年9月否決了AI法案的通過，因為我們知道加州這里有15家全球領先的AI公司。同時在2024年9月，他也簽署了18項法案，都是關于一些AI方面的內容，這里會涉及到有AI相關的法律監管。感謝大家！
11-21 11:22
阿努帕姆·錢德
（圖示）這是一些生成式AI的公司，目前它也面臨一些官司，它們甚至會造成數十億美金的損失。現在我們還不清楚事實到底是什么樣的，但是這里的訴訟損害已經高達15萬美金，對每一篇作品來說。那么，我們可能就會問這樣的問題，也是作為我的一個結束語，當我們走向未來，AI法律應該以什么樣的方式出現？它和我們網上的一些發表的演講或者說自駕車、無人駕駛以及智能的醫療服務有什么區別嗎？但其實在不同領域都是不一樣的，對于自動駕駛汽車，我真的不建議這輛車到底它的價值有多少，我只需要確保它是安全的，所以我覺得對于不同行業來說，這個標準都是不一樣的。
11-21 11:22
阿努帕姆·錢德
大家都用運用生成式AI，大家運用的場景是非常多的，會在不同場景下都運用生成式AI，所以這對各國來說都是一個巨大的挑戰。事實上，有一家歐洲公司，也發表了自己關于生成式AI的一些觀點和看法，尤其是關于生成式AI，我們認為生成式AI是非常重要的。同時，在美國，你會看到有很多關于著作權的一些訴訟，它都是涉及到關于生成式AI。
11-21 11:22
阿努帕姆·錢德
歐盟數據保護監管方給出的一些信息，就是生成式AI系統需要是透明的，可以解釋的、持續的，可以追溯的以及可獲得的，這都是關于我們如何去應用這些生成式AI。
11-21 11:21
阿努帕姆·錢德
在2023年3月，這家公司的CEO表示，全球多個國家都需要以政策制定者的身份去參加會議。在第二天，人們就開始擔心了，因為我們擔心OpenAI可能會開始運作了，它在意大利可能會影響信息的傳遞。OpenAI在意大利的傳播也受到了阻礙和發展，尤其是對于不同年齡層段的用戶來說，但其實這樣做也沒有辦法完全解決這個問題，沒有辦法解決現在大家面臨的問題。
11-21 11:20
阿努帕姆·錢德
在未來很多年，這些都會影響到我們對人工智能的邊界管理，這不只是產自于硅谷，更多的是會對各國的其他地方產生一些問題，所以這時候我想讓大家回憶到2022年，當時有AI法規的誕生。
11-21 11:20
阿努帕姆·錢德
我們和互聯網生活在一起差不多30年，在1995年的時候，這個是TIME時代雜志的一個封面，它描繪了一個網絡空間的圖景。在這樣的一個時代，美國很多新的互聯網發展力量可以崛起，同時在互聯網時代的成功，關于版權侵犯法的一些實質性的改革和法律框架，比如說一些通信的規范，還有關于一些版權方面的規范，都是非常重要的影響。
11-21 11:19
阿努帕姆·錢德
ChatGPT3.5的發布激起了人們廣泛的熱情，同時也激發了很多的預警。我們能夠看出來，AI技術大大地助力了互聯網的發展，現在我們非常多探討關于人工智能時代的一些立法，怎么能夠去更好地規范它的發展。
11-21 11:15
阿努帕姆·錢德
非常感謝主辦方能夠邀請我來參加今天這個論壇。首先，我想和大家探討一下，我們在人類歷史上的一些關鍵時刻。現在是中國接入國際互聯網30周年，也是ChatGPT發布的第二周年，這個技術也是一個變革性、革命性的技術，它能夠讓我們快速地獲取信息，輔助我們進行決策。
11-21 11:09
11-21 11:08
主持人
有請美國喬治城大學法學院教授阿努帕姆·錢德發言。
11-21 10:04
主持人
有請上海市高級人民法院院長賈宇發言。
11-21 09:55
主持人
有請中國法學會副會長、中國法學會網絡與信息法學研究會會長、最高人民法院咨詢委員會副主任委員姜偉發言。
11-21 09:55
主持人
下面進入嘉賓發言環節，議題一：中國網絡法治三十年與世界網絡法治前瞻。有請主持人中國人民大學法學院副教授、未來法治研究院執行院長張吉豫。
11-21 09:32
主持人
下面有請中國法學會黨組書記，全國人大常委會委員、憲法和法律委員會副主任委員王洪祥致辭。
11-21 09:30
11-21 09:29
主持人
下面有請中國人民大學校長林尚立致辭。
11-21 09:19
主持人
下面有請浙江省人民政府副省長胡偉致辭。
11-21 09:13
主持人
下面有請國家互聯網信息辦公室副主任楊建文致辭。
11-21 09:13
主持人
本次論壇旨在探討和展望快速發展的科技背景下，網絡法治的現狀與未來。
11-21 09:13
主持人
很高興與各位來賓相聚在美麗的烏鎮，共同參加2024年世界互聯網大會“人工智能時代的網絡法治”論壇。
11-21 09:13
主持人
尊敬的各位領導，各位來賓，女士們、先生們、朋友們：大家上午好！
11-21 08:54
