只因开了一个视频会议,直接被骗1.8个亿
今年2月,一家跨国公司 的香港分公司财务人员被一场精心策划的Deepfake视频会议诈骗,导致公司损失2亿港币(约1.8亿人民币)。
事件起因是财务人员收到假冒CFO的邮件并受邀参加 视频会议 ,诈骗者在会议中断后继续通过不同通讯方式与财务人员保持联系,诱使其向指定账户转账 2亿港币 。
一周后,财务人员向总部核实情况时发现被骗,随即报警。警方调查发现,除了财务人员外,会议中的所有参与者均为使用 公开视频和音频片段 制作的 Deepfake虚假影像 。
后续在新闻发布会上,香港警方表示已逮捕6名与此类诈骗有关的人员,且类似案件还有很多:去年 7-9月 ,有8张被盗的香港身份证被用于申请了 90份贷款 、登记了 54个银行账户 ; 至少有20次,AI Deepfake被用来模仿身份证上的人像 ,以骗过面部识别程序。
人脸识别系统被攻破!“刷脸”时代何以“护脸”?
AI技术,尤其是最近的GAN和Difussion Model,能够创造出难以用肉眼辨识的虚假图片。这些图片的高仿真度使得它们在 虚假宣传 、 非法取证 、 网络诈骗 等场合被滥用的风险急剧上升,进一步加剧了社会对于图像真实性的质疑。
此外,AI技术的不当使用还可能导致个人身份信息的泄露和滥用。通过对个人照片、社交媒体动态和其他公开数据的分析,AI可以生成极为逼真的人脸图像,这些图像可能被用于身份冒充,对 个人隐私和数据 安全构成了严重威胁。
面对这些挑战,社会除了必须提高警觉,加强信息安全 教育, 开发先进的AI造假检测技术 ,通过科技手段进行对抗也是极其必要的。
TextIn人脸伪造检测技术,“师夷长技以制夷”
TextIn人脸伪造检测基于 CNN+ViT技术框架实现,核心在于通过大批量不同来源、生成技术的Deepfake样本训练,提供随伪造技术同步成长的防伪手段。
目前,人脸伪造检测提供训练域内90%+识别准确率,并且通过强大的AI泛化性能,对从未见过的Deepfake技术生成的伪造人脸样本,也具备85%+的域外识别准确率 。
灵活的部署方案,适配多重应用场景
人脸伪造检测和大部分TextIn产品一样,基于SaaS、私有化同步策略开发,用户可以直接在textin.com访问使用,立刻对手边有问题的照片、截图进行识别分析。
有一定自动化调用需求的用户,可以通过TextIn API型式接入SaaS服务,将其集成到任意工作流中,包括身份认证、视频会议、内容审核等,对人像进行实时分析,返回检测结果,并在存在风险时告警,以自动触发后续其他保护机制。
直接来试一下效果?指路: https://cc.co/16YSIj
随着人工智能技术的飞速发展,Deepfake技术所带来的挑战和风险也日益凸显。然而,正如本文所展示的,技术的进步同样为我们提供了对抗这些风险的有力工具。TextIn人脸伪造检测技术的出现,正是这一对抗的典范。
在这个充满挑战与机遇的时代,TextIn人脸伪造检测技术不仅是技术的突破,更是对社会责任的承担。它提醒我们,技术的每一次进步,都应以提升人类福祉为最终目标。
面对未来,我们有理由相信,随着技术的不断进步和完善,TextIn人脸伪造检测技术将更加精准、更加智能,成为我们守护网络安全、保护个人隐私的坚强盾牌 ,创造 更加安全、更加真实的数字世 界 。
合合信息是一家人工智能及大数据科技企业,基于自主研发的领先的智能文字识别及商业大数据核心技术,为全球C端用户和多元行业B端客户提供数字化、智能化的产品及服务。