輸入一段你想要的問題，生成式人工智能就可以根據(jù)你的需求從海量的數(shù)據(jù)中檢索分析生成你想要的文字、圖像甚至視頻，在方便快捷的同時(shí)，其潛在的個(gè)人信息泄露風(fēng)險(xiǎn)也引發(fā)擔(dān)憂。
如何在生成式人工智能時(shí)代筑牢個(gè)人信息安全防線？在這兩天舉行的2025年中國網(wǎng)絡(luò)文明大會各分論壇上，與會嘉賓圍繞這一焦點(diǎn)議題展開深入探討。
中國科學(xué)技術(shù)大學(xué)網(wǎng)絡(luò)空間安全學(xué)院執(zhí)行院長 俞能海：生成式人工智能技術(shù)，說到底它是基于數(shù)據(jù)的。現(xiàn)在的問題是我們的數(shù)據(jù)本身，現(xiàn)在各種大模型它都是要有數(shù)據(jù)、語料進(jìn)來，這些語料從個(gè)人信息保護(hù)角度，哪些語料給、哪些語料不給，源頭數(shù)據(jù)怎么管控，尤其在個(gè)人信息保護(hù)中間起的作用非常大。
專家提示，在人工智能收集海量數(shù)據(jù)進(jìn)行訓(xùn)練的過程中，普通用戶有時(shí)難以理解數(shù)據(jù)收集的合規(guī)邊界，以及系統(tǒng)配置策略，盲目向生成式人工智能平臺輸入敏感隱私信息，一旦敏感數(shù)據(jù)被用于所謂“改善服務(wù)”“優(yōu)化模型”，甚至用于訓(xùn)練，其上傳存儲、后續(xù)使用場景、二次傳播都可能存在隱私數(shù)據(jù)泄露的風(fēng)險(xiǎn)。
國家信息技術(shù)安全研究中心技術(shù)研究部部長 楊韜：大家在和生成式人工智能交互的時(shí)候，往往會一問一答，在這種問答的過程中盡量避免輸入個(gè)人信息，甚至敏感個(gè)人信息以及相關(guān)工作秘密信息，這個(gè)是需要大家注意的。
與此同時(shí)，基于強(qiáng)大的數(shù)據(jù)搜集和邏輯能力，人工智能可以綜合公開數(shù)據(jù)、個(gè)人數(shù)據(jù)，結(jié)合行為分析挖掘出更深層的數(shù)據(jù)。
中國科學(xué)技術(shù)大學(xué)網(wǎng)絡(luò)空間安全學(xué)院執(zhí)行院長 俞能海：信息化給我們帶來非常好的一面，但確確實(shí)實(shí)也給我們留下了新的問題。你只要用了系統(tǒng)，一定會留痕，自己很多的信息，可能是敏感信息，你自己認(rèn)為已經(jīng)把它去掉了，但是通過整合、信息關(guān)聯(lián)，可能在輸出的點(diǎn)，它會就被泄露出來。
針對深度偽造技術(shù) 發(fā)展主動防御技術(shù)
如何在保護(hù)數(shù)據(jù)安全和推動人工智能發(fā)展中尋找新的平衡點(diǎn)，實(shí)現(xiàn)更廣泛的公共利益？與會嘉賓認(rèn)為，需要從技術(shù)管控和相關(guān)法律法規(guī)完善落實(shí)中，進(jìn)一步筑牢人工智能時(shí)代的數(shù)據(jù)安全防線。
在2025年中國網(wǎng)絡(luò)文明大會個(gè)人信息保護(hù)分論壇上，來自中國科技大學(xué)的研發(fā)團(tuán)隊(duì)介紹了針對當(dāng)前人工智能深度偽造的主動防御技術(shù)，如通過對待保護(hù)的人臉圖片添加特定的擾動噪聲，讓篡改偽造圖片從而生成虛假圖片或視頻的模型失效。
中國科學(xué)技術(shù)大學(xué)網(wǎng)絡(luò)空間安全學(xué)院執(zhí)行院長 俞能海：我現(xiàn)在有一種手段，我讓人看沒有問題，但加上一個(gè)不可見的因子，可以理解為“噪聲”，到這個(gè)圖像里去，人看不出來，但是機(jī)器可以看出來。如果說把這樣的一些照片作為源頭進(jìn)去，別人拿去做實(shí)驗(yàn)，想合成一個(gè)新的數(shù)據(jù)，新的一個(gè)為他所用的影像，那就不可能實(shí)現(xiàn)，或者你實(shí)現(xiàn)了我就知道你是假的。
數(shù)據(jù)安全和隱私保護(hù)技術(shù)迭代更新也進(jìn)一步促進(jìn)個(gè)人信息保護(hù)相關(guān)制度法規(guī)的落地見效，與會嘉賓表示，目前我國已出臺《個(gè)人信息保護(hù)合規(guī)審計(jì)管理辦法》《網(wǎng)絡(luò)數(shù)據(jù)安全管理?xiàng)l例》《生成式人工智能服務(wù)管理暫行辦法》等重要法律法規(guī)保障數(shù)據(jù)安全，并著重壓實(shí)了信息處理相關(guān)企業(yè)承擔(dān)保障數(shù)據(jù)安全的社會責(zé)任，如強(qiáng)調(diào)相關(guān)企業(yè)收集個(gè)人信息需遵循“最小必要”“告知同意”“合法正當(dāng)”等原則。
國家信息技術(shù)安全研究中心技術(shù)研究部部長 楊韜：我舉個(gè)例子，個(gè)人信息處理者需要去仔細(xì)研判，比如說我某些字段不采集，我的這項(xiàng)業(yè)務(wù)是否就真的進(jìn)行不下去了，同時(shí)對于已經(jīng)采集或者是準(zhǔn)備采集的一些信息，應(yīng)該是需要去考慮有沒有替代的方案，既能夠完成業(yè)務(wù)要求，也能夠充分減輕降低或者規(guī)避可能存在的違法違規(guī)收集使用個(gè)人信息的安全風(fēng)險(xiǎn)。
北京師范大學(xué)法學(xué)院博士生導(dǎo)師 吳沈括：在面對新技術(shù)新應(yīng)用的演進(jìn)過程當(dāng)中，特別是面對人工智能等一系列新的技術(shù)樣態(tài)和技術(shù)應(yīng)用的時(shí)候，我們國家的規(guī)則的演進(jìn)應(yīng)當(dāng)說速度其實(shí)非?？斓?。涉及到人工智能語境下的個(gè)人信息處理的透明，又比如說關(guān)于各項(xiàng)業(yè)務(wù)的可溯源可審計(jì)的問題，我們還需要進(jìn)一步地去迭代，去更新法律法規(guī)，使得規(guī)則要求，價(jià)值的保障和實(shí)際的技術(shù)應(yīng)用之間能夠保持一個(gè)同步的進(jìn)展。
還原受害人生活軌跡 警惕“私人定制”騙局
個(gè)人信息一旦被不法分子獲取，可能引發(fā)一系列嚴(yán)重后果，針對個(gè)人信息泄露而進(jìn)行的精準(zhǔn)電信網(wǎng)絡(luò)詐騙是如何實(shí)現(xiàn)的，我們在日常生活中應(yīng)該如何防范此類詐騙？
針對目前高發(fā)的電信網(wǎng)絡(luò)詐騙案件，與會專家、民警表示，許多此類騙局之所以能夠得逞，往往是基于受害人個(gè)人信息的泄露。詐騙分子通過這些個(gè)人信息還原受害人生活軌跡，精準(zhǔn)完成騙局的“私人定制”。
合肥市公安局刑警支隊(duì)五大隊(duì)副大隊(duì)長 楊礎(chǔ)：比如馬上快到暑假了，有很多學(xué)生朋友會出去玩，旅行的信息一旦被騙子掌握，他很有可能就給你發(fā)送機(jī)票退款的，或者說機(jī)票有延誤或者取消了，需要你怎么操作。這種很明顯就是掌握到了你的個(gè)人信息，尤其是訂票信息旅程的信息，所以對你實(shí)施精準(zhǔn)詐騙。
反詐民警提示，在社交軟件上進(jìn)行信息和圖片視頻發(fā)布時(shí)，需要盡量避免暴露個(gè)人關(guān)聯(lián)信息。
合肥市公安局刑警支隊(duì)五大隊(duì)副大隊(duì)長 楊礎(chǔ)：現(xiàn)在圖片所包含的信息可能會比較多，有可能曬自己的孩子，孩子的校服暴露了孩子在哪里讀書，暴露了所生活的城市，比如發(fā)家窗戶外的一個(gè)美景，而這張美景圖很有可能暴露了所在城市的具體區(qū)域，哪個(gè)小區(qū)等等。因?yàn)檫@些信息都很有可能會被壞人拿去利用，他能夠因此去定制針對你的個(gè)人騙局的時(shí)候，就很容易防不勝防了。
除此以外，深度偽造技術(shù)借助人工智能，能對人臉和聲音信息進(jìn)行高度逼真的偽造，被不法分子用于詐騙時(shí)，往往具有極強(qiáng)的迷惑性。
中國科學(xué)技術(shù)大學(xué)網(wǎng)絡(luò)空間安全學(xué)院執(zhí)行院長 俞能海：我們現(xiàn)在家人看到了我的影像，這個(gè)影像是真是假不一定，可能是處理過了。尤其是像現(xiàn)在很多老百姓，我建議只要談到錢，請各位一定要重新復(fù)核，從另外的渠道復(fù)核，而不要簡單地相信他。
（總臺央視記者 李可婧 吳經(jīng)偉 劉軍 邵鑫揚(yáng) 寧可珂）
