針對深度偽造技術 發(fā)展主動防御技術
如何在保護數(shù)據(jù)安全和推動人工智能發(fā)展中尋找新的平衡點，實現(xiàn)更廣泛的公共利益？與會嘉賓認為，需要從技術管控和相關法律法規(guī)完善落實中，進一步筑牢人工智能時代的數(shù)據(jù)安全防線。
在2025年中國網(wǎng)絡文明大會個人信息保護分論壇上，來自中國科技大學的研發(fā)團隊介紹了針對當前人工智能深度偽造的主動防御技術，如通過對待保護的人臉圖片添加特定的擾動噪聲，讓篡改偽造圖片從而生成虛假圖片或視頻的模型失效。
中國科學技術大學網(wǎng)絡空間安全學院執(zhí)行院長 俞能海：我現(xiàn)在有一種手段，我讓人看沒有問題，但加上一個不可見的因子，可以理解為“噪聲”，到這個圖像里去，人看不出來，但是機器可以看出來。如果說把這樣的一些照片作為源頭進去，別人拿去做實驗，想合成一個新的數(shù)據(jù)，新的一個為他所用的影像，那就不可能實現(xiàn)，或者你實現(xiàn)了我就知道你是假的。
數(shù)據(jù)安全和隱私保護技術迭代更新也進一步促進個人信息保護相關制度法規(guī)的落地見效，與會嘉賓表示，目前我國已出臺《個人信息保護合規(guī)審計管理辦法》《網(wǎng)絡數(shù)據(jù)安全管理條例》《生成式人工智能服務管理暫行辦法》等重要法律法規(guī)保障數(shù)據(jù)安全，并著重壓實了信息處理相關企業(yè)承擔保障數(shù)據(jù)安全的社會責任，如強調相關企業(yè)收集個人信息需遵循“最小必要”“告知同意”“合法正當”等原則。
國家信息技術安全研究中心技術研究部部長 楊韜：我舉個例子，個人信息處理者需要去仔細研判，比如說我某些字段不采集，我的這項業(yè)務是否就真的進行不下去了，同時對于已經采集或者是準備采集的一些信息，應該是需要去考慮有沒有替代的方案，既能夠完成業(yè)務要求，也能夠充分減輕降低或者規(guī)避可能存在的違法違規(guī)收集使用個人信息的安全風險。
北京師范大學法學院博士生導師 吳沈括：在面對新技術新應用的演進過程當中，特別是面對人工智能等一系列新的技術樣態(tài)和技術應用的時候，我們國家的規(guī)則的演進應當說速度其實非?？斓?。涉及到人工智能語境下的個人信息處理的透明，又比如說關于各項業(yè)務的可溯源可審計的問題，我們還需要進一步地去迭代，去更新法律法規(guī)，使得規(guī)則要求，價值的保障和實際的技術應用之間能夠保持一個同步的進展。
