AI火进元宇宙，安全问题敲警钟

　　上个月刚刚结束的人工智能大会，站在C位的不是AI，而是元宇宙。

　　进入上海世博中心，迎面而来的就是元宇宙展区。其实这一点也不让人意外。从人工智能大会召开的第一年开始，AI一直就是当之无愧的主角，AI+行业的号角吹遍会场的每一个角落，以商汤、云从、依图和旷视为代表的AI四小龙一时风头无两，在AI的赋能之下，金融、医疗、安防等领域的应用遍地开花。

　　5年之后，人们忽然发现，AI技术似乎成了一种基础配置，各行各业都在大力引入AI，于是风向悄悄变成了行业+AI。而眼下，最火爆的科技话题无疑是元宇宙。所以，AI搭上元宇宙也就显得顺理成章。

　　与会者一致指出，以元宇宙为代表的智能技术及其产业应用，正在激发虚拟世界与现实社会的共生蝶变，彻底改变人们的生活、社交和生产经营方式。与此同时，不断发展的虚拟世界也滋生出更加严峻的安全挑战，催生了包括利用元宇宙概念炒作、非法集资、侵害个人隐私、数字身份窃用和远程网络欺诈等在内的元宇宙安全风险。

　　如何构筑面向未来的数字空间规则，促进元宇宙相关产业健康持续发展，面对由元宇宙等智能化技术引发的一系列复杂和深远的安全和治理挑战，更是当前决策者和产业界共同关注的重要议题。

上图：2022世界人工智能大会以“智联世界 元生无界”为主题，搭建链接全球的“无界”平台，充分讨论展示描绘“AI+元宇宙”最新实践和未来图景。

AI赋能各行各业

　　主办方专设立了一个“WAIC元宇宙展区”，阿里、百度、华为、网易、快手、商汤等大厂都展示了“元宇宙”概念下一些VR/AR、数字人等应用。

　　作为人类未来生活、工作的第二平行时空，元宇宙正在成为众多产业数字化转型的焦点。2021年底百度发布了元宇宙产品希壤。此番，希壤协同世界人工智能大会带来首创WAIC元宇宙会场。大会基于百度希壤的元宇宙底座能力，结合Cocos、Unity等多引擎打造了Android、iOS和VR版本，同时使用Unity引擎推出了云渲染版本，用户可以通过浏览器、手机等不同的端口直接进入元宇宙世界。

　　用户自定义构建虚拟角色后，就开始元宇宙参会之旅。全新大会大厅、全景论坛看板、高清画质沉浸体验、人物穿梭、动态留言，观众可在元宇宙会场中瞬间抵达开幕式，与近万名观众共同体验各个论坛。

　　当然，在展现巨大应用前景的同时，虚实相生的元宇宙世界在具体的实践落地过程中却也面临着不小的现实挑战。百度副总裁马杰指出，现阶段困扰元宇宙体验的三座技术大山——视觉、听觉和交互，分别对应在元宇宙世界中实现更为沉浸的效果、更为拟真的体验和更为自然的交互。在马杰看来，基于AI 技术，百度要完善元宇宙的基础设施。而在终端设备实现重大创新之前，元宇宙的产业落地应首先关注于效果和体验之间的平衡，并以开放的合作模式推动元宇宙应用的快速发展。

　　正在进入科创板上市进程的AI大数据公司“合合信息”，继去年的甲骨文识别之后，今年又将智能文字识别技术应用到了一篇镌刻在西周青铜鼎面的钟鼎文（金文）识别上，可谓难度更高。

　　在没有人工干预的状态下，钟鼎文从内凹状态被拉平，并被转译成简体字，“克曰穆朕文且師華父悤譲氒心宁静于猷淑哲氒”等原本连在一起的复杂语句，经过“AI断句”功能自动处理后被区分开来，翻译成方便大众理解的字句。现场观众纷纷赞叹：这届世界人工智能大会实在太“卷”，竟然能读懂古文。

上图：2022世界人工智能大会以“智联世界 元生无界”为主题，搭建链接全球的“无界”平台，充分讨论展示描绘“AI+元宇宙”最新实践和未来图景。

　　在钟鼎文的处理过程中，合合信息重点展示了智能文字识别技术的应用，通过以“弯曲矫正”为代表的智能图像处理，基于深度学习的复杂场景文字识别，自然语言处理（NLP）三大核心技术层，向曲面、模糊、阴影、非常规文字影响下的识别难题发起挑战，精准实现复杂场景中的多语言识别。

　　钟鼎文字形小而细密，其载体青铜鼎面存在弯曲、反光、凹凸不平的状况，识别难度极大。从一只鼎出发的文字识别技术可广泛应用于识别不同卡证、票据，以及手写体文档字符等领域。

　　互联网诈骗层出不穷。犯罪团伙常用PS工具对个人证件、票据及各类商业材料进行修改伪装，受害者不计其数。合合信息推出的“PS篡改检测”技术主要采用AI技术，及时判断图片是否被篡改，并以热力图的形式锁定修改区域，检测准确率远超传统技术方法和人眼判断。

　　这项“PS篡改检测”技术还能对增值税发票、普通发票、医疗发票、小票、合同等多种文档类别进行检测，已经应用于保险、银行、证券、政务等多种场景之中。

　　特别值得一提的是，AI 还在加速生物医药行业的发展进程，在蛋白质合成新药领域彰显强大实力。预测蛋白质的结构一直是生物学的重大挑战之一，眼下AI已经预测超过2亿个蛋白质结构，这意味着新药研发的进程将大大加快。突如其来的新冠疫情更是为“AI + 生物医药”提供大量试验机会。从新冠小分子药物到抗体药和疫苗研发，AI 技术助力了多款新药的研发。

　　9月2日，致力于蛋白质生命科学研究的天壤XLab在世界人工智能大会发布了基于AI的蛋白质设计工作台 CREATOR，可为蛋白质研究者提供系统性支持，一站式解决算法、数据和算力问题，加速蛋白质设计工作的大规模开展和落地。

　　“我们在研究过程中，发现AI能够为蛋白质设计提供前所未有的生成能力，这将使新药研发从发现转变为发明。抗体、多肽、酶也可以用这一全新的方式设计出来。这无疑会开启一个充满想象力的蛋白质世界，我们希望借助这个工作台，能有更多的科研工作者一起加入进来。”天壤创始人、首席执行官薛贵荣博士表示。

　　而在WAIC生物计算论坛上，分子之心创始人兼首席科学家许锦波透露，他领衔的分子之心团队，目前已在蛋白质从头设计、蛋白质优化、抗体重设计、蛋白质以及复合物结构预测、蛋白－蛋白对接、蛋白质侧链预测、蛋白质功能预测、蛋白质语言模型等关键领域，开发出十余项世界领先的 AI 算法，计算结果远超文献报道及全世界已公开发表的最好结果。

　　业内人士指出，药物研发的流程是复杂的，相对耗时耗力，特别是人体实验环节；而通过 AI 技术模拟抗原免疫原性筛选系统以后，工作量可以减少很多。这项工作非常有意义，它实际上给生物制药、化学制药行业带来颠覆性的改变。

安全事件层出不穷

　　今年4月，一款VR游戏突然火了起来，让它爆红的原因不是游戏品质有多高，而是在游戏中，一位女性网友受到了侵犯。

　　这个被称为“VR强奸”的事件发生在一个叫《VRchat》的在线VR角色扮演游戏中。游戏的玩法很简单：你可以在游戏中打造自己的虚拟角色，随后在游戏内与其他玩家进行社交活动。

　　而正因为加入了VR元素，所以你只要佩戴上VR设备，你在现实中做的动作，游戏人物就会无缝同步，例如眨眼、口型、手势等，当然，如果你睡觉的时候戴着VR，那么游戏里的角色也会进入“VR睡眠”。

　　这位女性网友控诉当她正在“VR睡眠”时，她VR游戏中的一位好友，悄悄进入了她的房间，并跨在她的身上摆动腰肢对她进行了猥亵。对于突然遭遇的“VR强奸”，她指出虽然没什么肉体上的伤害，但心理上仍然很难受。

　　实际上，VR性侵并非孤例。一位21岁的女士在Meta的《地平线游戏》（《Horizon Venues》）里也经历了类似的遭遇。她声称在进入游戏后的1分钟多一点的时间内，受到了三四个男性玩家的挑逗和猥亵骚扰。考虑到“性侵”的风险，Meta公司在2022年2月赶紧增加了一项打击虚拟现实骚扰的功能。这项名为“个人边界”的功能，在VR“化身”周围创建了一个无形的虚拟屏障，防止其他人靠得太近。

　　这大概可以被看作是元宇宙的规范性起源。可是即便如此，虚拟世界的强奸、猥亵行为，目前也很难被定义为真正的“强奸”“猥亵”。这还只是元宇宙安全的冰山一角。如何防止人们的尊严、财产在虚拟世界中受到侵害，这条路任重道远。

　　在上个月结束的世界人工智能安全高端对话论坛上，上海艾策通讯科技公司的创始人王勇指出，全球有700多万基站，而中国就有400多万基站，作为全球宽带基础设施最好的国家，我国面临着比其他国家更严重的网络生态治理问题。

　　一是我国网民数量很高，二是暴力、恐怖、淫秽色情和虚假谣言特别多，再加上随着人工智能（AI）、区块链、虚拟货币等新技术的应用，层出不穷的诈骗正让人“防不胜防”。比如骗子完全可以用人工智能对人脸、声音等个人隐私敏感信息进行深度伪造，轻松骗取受害人信任。

　　在编写、发布诈骗引流信息时，诈骗团伙已开始使用自动化脚本执行工具，这大大提高了诈骗信息发布的效率；在与被害人批量沟通时，诈骗团伙会利用AI机器人进行智能聊天，使用云手机、虚拟机和群控设备等方式降低人工成本。于是，电诈成本越来越低，作案手法越来越隐蔽，执法成本也越来越高。

　　从个人层面讲，个人信息的泄露风险最大；对企业和国家而言，以人工智能、大数据、云计算、虚拟现实为代表的一些数字技术快速发展，在给生产生活带来便利的同时，也大大增加了安全风险。

　　2020年疫情期间，多个国家以及地区就对我国国内的一些网站发动了网络攻击。不久前，还爆发出大规模的信息泄露事件，台积电甚至发生了因为出现勒索病毒而导致整个生产停摆的安全事件。随着数据流通的不断加大，进一步加剧了数字安全保护的难度。

　　眼下，面对不断“进化”的网络犯罪，相关部门和企业都在积极应对，试图用魔法打败魔法。

　　中科院声学所团队创立的声智科技开发了AI反诈外呼数字人，每天能拨出去六七万通劝阻电话；搜索巨头百度推出基于AI技术的深伪检测平台，对于各种人脸识别、语音识别有99%以上的准确率。蚂蚁集团的“智能风险感知与响应联合反诈系统”，每天会用电话、弹窗提示、防诈骗答题等方法联系到40万被认为是电诈受害者的用户，牵扯的金额达2000万元，其中有8万用户会收到系统拨出的AI电话，这种AI电话有着20%—30%的完播率，收到电话后，七八成的人会放弃当前的转账、付款行为，如果是老年人，放弃转账的概率可以提升到90%。

上图：2022世界人工智能大会紧抓“元宇宙”机遇，集中展示全球人工智能发展成果。图为展会现场的人机互动吸引观众。

　　随着元宇宙从概念到规模化的应用，虚实结合的网络空间对于安全的依赖将越来越深。当办公、社交、娱乐等生活及生产场景转移到元宇宙中，元宇宙平台的价值势必引来攻击者的觊觎。所有现实世界可能发生的网络犯罪，同样也会在虚拟世界上演，漏洞、木马、勒索软件等攻击手段将成为元宇宙世界面临的网络安全的巨大风险。

元宇宙安全治理“上海倡议”发布

　　随着技术的发展，元宇宙带来了更具沉浸式的体验，同时也带来了新型安全风险、伦理风险、金融风险等诸多的挑战，现实中的秩序规范逐渐无法应对这些虚拟世界中的新问题，因此，在伦理道德和法律规范上，都应当尽快进行完善和升级。

　　为应对元宇宙带来的“双刃剑”效应，在上海推出《培育“元宇宙”新赛道行动方案》之际，世界人工智能安全高端对话组专家，联合元宇宙领域的专家学者和业界同仁，共同发起《元宇宙安全治理上海倡议》。

　　“倡议”以塑造秩序规范、安全可靠、具有互操作性和包容性的虚实共生世界为宗旨，指出应与时俱进、把握机遇迎接元宇宙中的新挑战，积极开展合作并主动参与建设风险可控的元宇宙，探索构建元宇宙新标准新规范，并在相关国际对话中发出有力的上海声音、中国声音。

　　“倡议”关注元宇宙安全治理，探索如何以安全、可靠、合规、可互操作和包容的方式开发元宇宙的技术和环境，提出“虚实共进、保障秩序、强韧发展、规范建制、尊重隐私、守护未来、理性务实、开放协作”八大目标原则及其基本要求。

　　《倡议》提出，元宇宙需要稳固的数字底座作为支撑，元宇宙作为下一代可交互式互联网，集合了多种创新技术，对于底层技术的稳定性、鲁棒性和安全性要求极高。因此，为了保障元宇宙的安全和稳定，在发展技术的同时，应当关注弹性网络的建设，加强元宇宙的自动恢复能力和风险防护能力。

　　与此同时，元宇宙的发展应当以实为本，着力解决人类现实世界难题，以虚强实促进现实社会的经济发展和生产力升级，防止脱实向虚、以元宇宙替代真宇宙。此外，倡议还提倡数字产权保护、尊重用户隐私、兼顾创新和监管、关心未成年人福祉、防止数字成瘾，致力于保护人们在虚拟世界中的各项权利。（记者 陈冰）