一名青年(nian)学生在(zai)安(an)徽省(sheng)阜阳(yang)市举办的网络安(an)全宣传周(zhou)展(zhan)览会上体验VR展(zhan)品。
王 彪摄（人民视觉）
内蒙古自(zi)治区呼和浩特(te)市第二(er)十七中(zhong)学学生在(zai)绘制网络安(an)全知识手抄报。
丁根厚摄（人民视觉）
对话交流、创作诗歌、编写代码、自(zi)动绘画……以大语言模型为代表的生成(cheng)式人工智(zhi)能(neng)（AI）快(kuai)速发(fa)展(zhan)，正前所(suo)未有地改变着(zhe)人们的工作和生活。
随着(zhe)生成(cheng)式AI应(ying)用场景日益增多，个人信息保护也面临新的挑战：对数据的收集和挖掘(jue)，会不会侵(qin)犯个人隐私？怎样处(chu)理好个人信息保护与数据合理利用之间的关系？使用个人信息的边界在(zai)哪儿？本报记者就此进行了采访。
“画像”背后藏风险
“对许多上班族来说(shuo)，做PPT是一件让人头(tou)疼的事，经常要加班加点熬夜制作，有时还要额(e)外(wai)付费聘请专业设计人员修改润色(se)。”在(zai)北京某互联(lian)网公司工作的小潘告诉记者，现在(zai)通过生成(cheng)式AI软件，只需确(que)定(ding)主题(ti)、导(dao)入大纲、选(xuan)择模版，不到1分(fen)钟就能(neng)生成(cheng)一份专业又(you)精(jing)美的PPT。
尽管效率明(ming)显提高(gao)，小潘却心有疑虑：PPT里提到的工作内容(rong)、行业数据、个人情况，会不会被储存(cun)在(zai)AI“大脑”中(zhong)？如果涉(she)及企业战略规划、商(shang)业秘密、关键技术，有没有被恶意(yi)窃取或泄露给第三方的可(ke)能(neng)？“目前，还没看到软件有类似‘一键擦(ca)除数据’的功能(neng)，无法确(que)定(ding)这些信息的最终去向。”小潘说(shuo)。
现实中(zhong)，不管是生成(cheng)PPT、制作简历还是自(zi)动美颜、智(zhi)能(neng)聊天，都(dou)不可(ke)避(bi)免地要向生成(cheng)式AI提供姓名、职业、人脸、声纹等个人信息，其中(zhong)潜藏着(zhe)不容(rong)忽视的隐私泄露风险。
比如，一款基于生成(cheng)式AI技术的摄影(ying)软件一度走红(hong)网络。用户花9.9元，上传个人照(zhao)片，选(xuan)择喜欢的模版，便能(neng)获(huo)取一套由AI生成(cheng)的写真集。在(zai)AI写真“刷屏”网络的同时，该软件也因存(cun)在(zai)滥用用户信息的嫌疑受到批(pi)评。有网友(you)说(shuo)：“向一款手机APP里传这么多照(zhao)片，让我感(gan)到很不安(an)。谁知道这些照(zhao)片会不会被作为其他用途？”后来，研发(fa)团队致歉，承诺上传照(zhao)片只用于数字写真制作，制作完成(cheng)后，照(zhao)片也将自(zi)动删除。
出(chu)于对新兴技术的好奇，消费者往往在(zai)不知不觉中(zhong)将个人隐私“透露”给AI。反过来，凭借获(huo)取到的信息，通过强大的数据整合、处(chu)理能(neng)力，生成(cheng)式AI也能(neng)判(pan)断出(chu)个人的身份特(te)征和行为习惯。有研究发(fa)现，聊天机器人可(ke)以从日常对话中(zhong)精(jing)准提炼关键信息，了解其购物习惯、个人兴趣乃至个人观念，从而为用户精(jing)准“画像”。
“生成(cheng)式AI具有高(gao)度智(zhi)能(neng)化特(te)征，借助其出(chu)色(se)的内容(rong)理解和学习能(neng)力，从海量信息中(zhong)获(huo)取个人隐私，甚至可(ke)能(neng)通过对话‘诱导(dao)’用户打开‘心房’。”西(xi)南政(zheng)法大学科技法学研究院副院长郑(zheng)志峰告诉记者，这意(yi)味(wei)着(zhe)生成(cheng)式AI十分(fen)“懂”你，在(zai)侵(qin)害个人隐私方面更加高(gao)效、隐蔽，不易察觉。
用户数据成(cheng)“养料”
“我们将对您主动上传的文档材料进行脱敏处(chu)理后作为AI训练基础材料使用……”前段时间，某办公软件隐私政(zheng)策中(zhong)的条款被质疑滥用用户信息。随后，该软件发(fa)布声明(ming)，保证用户文档不再被用于AI训练目的。
啥是AI训练？“对生成(cheng)式AI来说(shuo)，离不开算法、算力、数据三要素(su)。其中(zhong)，数据是AI的‘养料’，‘投喂(wei)’得越多，AI越‘聪(cong)明(ming)’。”郑(zheng)志峰介(jie)绍，这决定(ding)了生成(cheng)式AI必须(xu)尽可(ke)能(neng)多地采集、处(chu)理和使用各种数据，为大模型成(cheng)长提供充足(zu)“营养”。
当前，各类数据采集无时不有、无处(chu)不在(zai)，几(ji)乎每(mei)个人都(dou)被置于数字化空间之中(zhong)，个人隐私极(ji)易以数据的形式被存(cun)储、复制、传播。在(zai)所(suo)有数据类型中(zhong)，个人信息能(neng)反映个人行为、偏好、行动轨迹等，是最有价值的数据类型之一。
“许多企业利用用户数据优化产(chan)品和服务、定(ding)向投放广告或开展(zhan)经营活动。”中(zhong)国社会科学院法学研究所(suo)网络与信息法研究室副主任周(zhou)辉说(shuo)，“有的企业片面关注数据价值，忽视了隐私保护和数据安(an)全，可(ke)能(neng)出(chu)现违法收集、滥用用户信息等行为。”
生成(cheng)式AI的快(kuai)速发(fa)展(zhan)和应(ying)用门槛(kan)的大幅降(jiang)低增加了隐私泄露风险。研究报告显示，截至2024年(nian)1月，前十位AI类APP需求规模同比增长近40倍。生成(cheng)式AI正加速渗透人们生活的方方面面。然而，应(ying)用场景日益丰富的同时，违规收集、使用用户信息的花样也变多了。
借助生成(cheng)式AI的换脸和拟声技术进行远程视频诈骗就是一例(li)。有媒体报道，郭先生接到“好友(you)”的视频通话，对方声称需要保证金用以项目竞标，想借郭先生公司账户“走个账”。出(chu)自(zi)对“好友(you)”的信任，郭先生陆续给对方转(zhuan)账共计430万元。等郭先生再次联(lian)系好友(you)时才发(fa)现自(zi)己被骗。
“随着(zhe)AI生成(cheng)内容(rong)愈(yu)发(fa)逼真，传统内容(rong)审核机制和安(an)全防护手段已不足(zu)以适(shi)应(ying)新形势的要求。”中(zhong)国信通院人工智(zhi)能(neng)研究所(suo)高(gao)级(ji)业务主管呼娜英(ying)说(shuo)，生成(cheng)式AI技术愈(yu)加成(cheng)熟，用户在(zai)保护好个人隐私的同时，也需要提升对新型网络犯罪的辨别(bie)和防范能(neng)力。
给AI产(chan)品贴“标记”
怎样才能(neng)满足(zu)生成(cheng)式AI的“胃口”，同时又(you)保护好个人隐私呢？处(chu)理好两者关系，既需要法律法规的约束，也离不开技术手段的支撑。
去年(nian)7月，国家网信办等七部门联(lian)合发(fa)布《生成(cheng)式人工智(zhi)能(neng)服务管理暂行办法》，多处(chu)提及个人信息保护问题(ti)。强调生成(cheng)式AI服务提供者“对使用者的输(shu)入信息和使用记录(lu)应(ying)当依法履(lu)行保护义务，不得收集非必要个人信息，不得非法留存(cun)能(neng)够识别(bie)使用者身份的输(shu)入信息和使用记录(lu)，不得非法向他人提供使用者的输(shu)入信息和使用记录(lu)”等。
“中(zhong)国目前有关个人隐私保护的法律法规比较完善。未来需要根据生成(cheng)式AI技术特(te)点进一步构建具体的权利、义务和责任规则。”郑(zheng)志峰举例(li)说(shuo)，AI的风险等级(ji)是多样的，不同AI算法对于个人隐私的侵(qin)害程度不同，需要有针对性的具体措施(shi)。
通过技术手段识别(bie)、阻断和追溯生成(cheng)式AI生成(cheng)侵(qin)犯个人隐私的有害信息，也是人工智(zhi)能(neng)治理实践(jian)中(zhong)的重要措施(shi)之一。根据《互联(lian)网信息服务深度合成(cheng)管理规定(ding)》，深度合成(cheng)服务提供者对使用其服务生成(cheng)或者编辑的信息内容(rong)，应(ying)当采取技术措施(shi)添加不影(ying)响(xiang)用户使用的标识。
“通俗地说(shuo)，就是给生成(cheng)式AI的产(chan)品和服务贴上统一的‘标记’，提示用户该内容(rong)由AI合成(cheng)，也有助于监管部门管理。”呼娜英(ying)介(jie)绍，由于显式标识容(rong)易被裁剪或删除，还需进一步探索隐式标识的解决方案。
尽管生成(cheng)式AI在(zai)一定(ding)程度上存(cun)在(zai)隐私泄露风险，但并不意(yi)味(wei)着(zhe)它与信息保护之间是完全对立的，关键是要找(zhao)到发(fa)展(zhan)与规范之间的平衡点，在(zai)生活越来越“智(zhi)能(neng)”的同时，守护好个人隐私安(an)全，推动生成(cheng)式AI健康可(ke)持续发(fa)展(zhan)。（记者 姜(jiang)忠奇）
《 人民日报海外(wai)版 》（ 2024年(nian)06月03日 第08 版）
责编：张青津、张荣耀