代表热议：准备好应对AI时代法律风险

　　“立法机关也在加强对人工智能等领域法律问题的研究，不断建立健全相关法律制度。”2023年6月25日，全国人大常委会法制工作委员会举行记者招待会介绍立法相关工作情况。当时由于“AI换脸”技术实施诈骗案件屡发，这一新型网络电信诈骗引起社会关注。当初传出的讯息是，人工智能法草案进入国务院年度立法工作计划，准备提请全国人大常委会审议。

　　今年全国两会期间，“AI与安全”仍然是全国人大代表、全国政协委员们热议的话题。

　　全国人大代表、科大讯飞董事长刘庆峰提出加快推动通用人工智能（AGI）发展的九项建议，全国政协委员、微博首席执行官曹菲及知乎创始人周源提出规范AI数据交易及大模型的数据采集相关的举措，奇安信董事长齐向东在AI及安全等方面建言。

　　连续履职17年的全国人大代表、上海富申评估咨询集团董事长樊芸在今年的全国两会期间接受了《新民周刊》记者的采访。

现有法律中也有管“AI诈骗”的

上图：今年全国两会期间，“AI 与安全”仍然是全国人大代表、 全国政协委员们热议的话题。

　　经过深入调研，樊芸对“AI与安全”的看法是——要看到相关违法行为的本质是通过各种手段去追求不正当利益。

　　且看近期一些案例，颇有典型性。

　　2月初，香港警方披露了一起多人“AI换脸”诈骗案，涉案金额高达2亿港元。这起案件被香港警方定义为“AI深伪”。案件过程是这样的：一家跨国公司香港分部的职员受邀参加总部首席财务官发起的“多人视频会议”，并按照要求先后转账多次，他将2亿港元分别转账15次，转到5个本地银行账户内。其后，他向总部查询才知道受骗。警方调查得知，这起案件中所谓的视频会议中只有受害人一个人是“真人”，其他“参会人员”都是经过“AI换脸”后的诈骗人员。尽管此事发生在香港地区，亦引起了内地法律界人士的瞩目。央视在报道这起案件时如此评论：“这事听上去似乎匪夷所思，却真实地发生了。”

　　另一起案件发生在陕西。西安财务人员张女士与老板视频通话，老板要求她转账186万元到一个指定账号。被害人张女士当时理解，这笔款老板要得非常着急。因为视频显示的那个“他”的声音、身影都跟老板一模一样，张女士信以为真。转账之后，张女士按照规定将电子凭证发到了公司财务内部群里，群里的老板看到信息后，向她询问这笔资金的来由。被害人张女士感觉不对劲打电话跟老板去核实。报警后，警方立刻对接反诈中心、联系相关银行进行紧急止付，最终保住了大部分被骗资金——156万元。

　　樊芸向记者分析道：“这两起诈骗案件，看上去像是升级版的电信诈骗。”在她看来，无论是既有的线下诈骗、电信诈骗，还是新冒出来的AI诈骗，违法者的目的都是不择手段非法占有不正当利益，从这个角度去看，现有法律也适用于对AI诈骗犯罪的制裁。“人工智能衍生出的新型手段，掩盖不了犯罪分子非法占有的目的。”樊芸告诉记者，“也正因此，我们才说互联网不是法外之地。”

　　中国网络空间安全协会人工智能安全治理专委会专家薛智慧曾介绍，“AI换脸”过程主要包括人脸识别追踪、面部特征提取、人脸变换融合、背景环境渲染、图像与音频合成等几个关键步骤，其背后最核心的技术包括三个部分：首先，利用深度学习算法精准地识别视频中的人脸图像，并提取出如眼睛、鼻子、嘴巴等关键面部特征；其次，将这些特征与目标人脸图像进行匹配、替换、融合；最后，通过背景环境渲染并添加合成后的声音，生成逼真度较高的虚假换脸视频。

　　樊芸认为，未经他人允许而使用他人肖像，相当于通过伪装和欺骗的手段去诈骗受害者。这一犯罪路径是能够找寻到的。根据《中华人民共和国民法典》，任何组织或者个人不得以丑化、污损，或者利用信息技术手段伪造等方式侵害他人的肖像权。未经肖像权人同意，不得制作、使用、公开肖像权人的肖像，但是法律另有规定的除外。同时，这种手段还涉嫌侵犯著作权、声音权等。樊芸认为，有关人工智能法律问题的研究，该关切现有法律无法涉及、无以适用的领域。

保护个人信息与保障数据安全

　　在2月28日举行的2024上海网络安全产业创新大会上记者了解到，上海市经济信息化委组织遴选了34家网络和数据安全支撑单位，希望各企业围绕风险信息报送、工业互联网安全分类分级、工业数据安全分类分级、现场核查、风险评估、应急保障、咨询服务等7个方向，加快推进工业信息化领域网络和数据安全保障体系建设，推动网络和数据安全产业创新发展。

　　上海市经济和信息化委员会总工程师葛东波称：“目前上海的网络安全产业生态正持续完善中，希望加快建设上海网络安全产业示范园，打造网络安全产业协同创新中心，开展攻防竞赛、联合实验室、在职培训等多途径人才培养模式。”

上图：全国人大代表樊芸出席十四届全国人大二次会议。  

　　樊芸认为，人工智能要赋能高质量发展，在市场环境下，比如在使用数字人进行一些商业会议，或者信息披露时，要提前告知。如果以技术进步为幌子，刻意让人无法区分数字人、虚拟人与真人，并且不是单纯的游戏的话，恐怕就涉及欺诈了。

　　今年全国两会，樊芸还提出了《关于侵犯公民个人信息犯罪涉案企业合规专项评估审查标准的建议》。她认为，对侵犯公民个人信息犯罪涉案企业进行专项合规评估审查时，应当坚持三个原则：一为合规管理体系建设与合规风险相适应；二为全面评估审查与重点环节评估审查相结合；三为评估审查标准的统一性与涉案企业特点相结合。总之，要以个人信息保护合规风险整改防控为重点，结合危害个人权益、公共利益和国家安全的不同情形，确定合规重点领域、重点环节和重点人员。主笔｜姜浩峰