AI已成为过去一年的网络热点，伴随其广泛应用，AI诈骗现象日益引起关注，尤其是运用AI换脸技术实施的诈骗案件屡见报端。近期，香港警方通报一起案例：某跨国公司香港分公司财务人员在一场内部视频会议中被骗走近2亿港元，除受害人本人外，其余“参会同事”均为AI换脸技术伪装。类似事件在2023年央视315晚会上亦有曝光。
Deepfake，即深度伪造技术，是AI换脸的核心手段。它基于深度学习算法，通过处理大量视频和图像数据，创造出高度逼真的面部动画和语音。该技术首次进入公众视野是在2017年，一名Reddit用户将一部成人电影主角的脸替换为《神奇女侠》演员盖尔·加朵，引发广泛关注。此后，Deepfake在中国也颇受欢迎，网络上充斥着AI换脸教程、素材库及辅助工具，如2019年B站UP主“换脸哥”将朱茵饰演的黄蓉换脸为杨幂，一度引发热议。
随着Deepfake技术的开源以及生成式AI如ChatGPT和Sora的普及，AI换脸门槛显著降低，制作难以辨识的换脸视频愈发容易。然而，技术滥用导致的AI诈骗事件频发，成功率高企，严重侵犯公众财产与隐私权益，相关话题多次冲上热搜榜。
面对“AI变脸”欺诈，识别真伪成为热议焦点。有专家提出让对方按压鼻子或脸部以观察变形情况，以此判断是否为真人。尽管此法有一定参考价值，但并非万无一失。蚂蚁集团天玑实验室安全算法专家朱凯指出，部分先进算法已能在局部遮挡下生成逼真画面，单纯按压鼻子或脸部可能无法识破。他建议结合左右摇头动作，因许多AI换脸基于平面照片，动态变化下易暴露破绽。此外，也有专家建议对方在视频通话中挥手，或提问只有对方知道的问题，以增加识别准确性。
面对深度伪造技术的挑战，业内正积极探索以AI对抗AI的解决方案。百度、阿里、腾讯、字节跳动、蚂蚁集团、科大讯飞等企业纷纷研发高级AI算法与工具，提升对深度伪造内容的识别能力。以蚂蚁数科为例，其旗下ZOLOZ品牌推出Deeper产品，专用于拦截刷脸过程中的AI换脸风险，已在身份安全领域实现Deepfake风险“0漏过”。ZOLOZ还设立百万奖金池，鼓励安全极客挖掘产品漏洞，共同提升安全防护水平。
对于普通用户而言，除掌握一些识别AI换脸诈骗的技巧外，更重要的是加强个人信息保护，特别是图像、声音等生物信息。今年8月起，《生成式人工智能服务管理暂行办法》正式实施，明确禁止侵犯他人肖像权、名誉权、荣誉权、隐私权和个人信息权益。中国信通院人工智能研究中心安全与元宇宙部主任石霖建议：选择信誉良好、监管合规的大厂产品；减少在APP中上传个人照片，尤其是社交平台；必要时提供虚假联系方式以降低信息泄露风险；在涉及资金交易时，务必通过多种渠道核实对方身份，未经确认切勿转账。
近期，重庆多处地方出现了大量被称为“涨水蛾”的小虫，这一现象迅速在本地居民的朋友圈中引发热议。不少网友表示，夜晚看到灯光下密密麻麻的小虫飞舞，感到颇为不适，次日清晨更会发现地面覆盖了一层这些昆虫的遗体
2024-05-28 17:11:16一文了解如何防范涨水蛾近年来，随着人工智能技术的进步，一些不法分子开始利用AI技术融合他人面孔和声音，制造非常逼真的合成图像来实施新型网络诈骗，这类骗局常常会在短时间内给被害人造成较大损失。
2024-03-04 13:27:49AI换脸诈骗近年来，随着人工智能技术的进步，一些不法分子开始利用AI技术融合他人面孔和声音，制造非常逼真的合成图像来实施新型网络诈骗，这类骗局常常会在短时间内给被害人造成较大损失。
2024-02-26 03:29:42AI换脸电信诈骗分子或通过AI换脸、模拟变声等，假冒熟人进行诈骗，中国科技大学网络空间安全学院执行院长俞能海提醒，可以让对方摁鼻子、摁脸，观察其面部变化。
2024-03-04 09:18:50怀疑对方AI换脸可以让对方摁鼻子参加多人视频会议结果只有自己是真人这事听上去似乎匪夷所思却真实地发生了近期，香港警方披露了一起多人“AI换脸”诈骗案涉案金额高达2亿港元在这起案件中
2024-03-01 10:32:24被骗2亿港元！参加多人视频会议只有自己是真人
