5G新通话、深度伪造、社交机器人、AI换脸……
图:网上很多视频采用了深度伪造技术。资料图片
■本报记者 武晓莉
“5G通信新功能可能已被用于电信网络诈骗。”独立电信分析师付亮近日对《中国消费者报》记者说,“在视频电话中见到的穿警服的人,在短信中看到的对方发来的照片、通缉令等,可能都是假的!”
随着科技不断进步,深度伪造技术、合成声音、社交工程、社交机器人等新通信技术正在成为电信网络诈骗的手段,具有极强的欺骗性。公安部官网近日发布十大高发电信网络诈骗类型,其中第八类“冒充公检法及政府机关类诈骗”中,不法分子使用了视频电话,可能就是5G新通话功能。
那么,日常生活中,我们要如何防范新技术电诈手段?《中国消费者报》记者就此进行了采访。
电诈用上新技术手段
公安部此次公布的十大高发电信网络诈骗类型包括:刷单返利类诈骗,以招募兼职刷单、网络色情诱导刷单等复合型诈骗居多,是发案量最大和造成损失最多的诈骗类型;虚假网络投资理财类诈骗,个案损失金额最大;虚假购物服务类诈骗,发案量明显上升;冒充电商物流客服类诈骗;虚假贷款类诈骗;虚假征信类诈骗;冒充领导熟人类诈骗;冒充公检法及政府机关类诈骗;网络婚恋、交友类诈骗;网络游戏产品虚假交易类诈骗。
“虽然这些诈骗类型与往年类似,但不法分子将电话、即时通讯工具、APP等组合使用的现象越来越普遍,且大多有详细的诈骗脚本,诈骗过程中易骗人群识别、反侦查能力都有所提升。”付亮说,“需要注意的是,公安部官网公布的第八个典型案例中,不法分子就使用了视频电话。”
付亮分析指出,第八个典型案例中,杜某在家中接到民警的视频电话,可能就是5G新通话中的视频通话功能。5G新通话、5G消息等通信技术大大增强了双方的多媒体交互能力,也为不法分子提供了新的诈骗手段。
付亮告诉记者,除冒充公检法外,日常生活中冒充熟人的诈骗也可能采用视频电话、多媒体短信方式,以达到以假乱真的地步。此外,大模型、数字人等还可能虚构对话人的形象,以提高可信度。最近,各地高考志愿填报结束,进入大学录取阶段,考生及家长也要警惕被假学校、假中介等通过新技术手段进行诈骗。
专家解析电诈套路
宠物专家莱拉博士告诉你如何喂狗?萨曼宠物专家推荐天然粮……网友藤森给记者发来多个类似视频,他说:“网上这种采用深度伪造技术的视频太多了,其中多数涉嫌网络诈骗。”
“深度伪造技术的原理,是使用深度学习算法生成逼真的视频,将一个人的面部和声音合成到视频中,使其看起来像特定的人。”同盾科技安全专家赵颖对记者说。这是基于人工智能和机器学习的技术,主要利用深度学习算法生成或篡改图像和视频,使其看起来像真实的。
基于深度伪造技术的案例中,诈骗分子可以生成伪造的视频,冒充公安、银行工作人员等与受害人进行视频通话,增加可信度。
“新技术下的‘猜猜我是谁’肯定比过去更具欺骗性,因为犯罪分子使用了合成声音。”赵颖指出,合成声音技术的原理是使用AI算法模仿特定人物的声音,生成逼真的语音,使其听起来像真实的对话。这是一种通过计算机算法和人工智能技术生成人类类似语音的技术,通常使用文本转语音技术来将书面文本自动转换为语音输出。诈骗分子通过合成声音技术,配合视频冒充官方人员与受害人通话,进一步欺骗受害人。
藤森所举的案例中,还叠加使用了社交机器人技术。据赵颖介绍,其原理是使用自然语言处理技术创建能模拟真人对话的程序。这是一种人工智能应用程序,通过使用自然语言处理和机器学习技术,能够理解用户输入的语言并作出相应的响应或执行任务。社交机器人能够理解自然语言输入,提供即时响应和交互,不需要人工干预即可处理用户的查询和请求,主要被应用在婚恋、交友网站上。诈骗分子利用聊天机器人与受害人建立联系,长时间维持虚假的恋爱关系。
时刻防范新技术电诈
“对于音视频,要注意观察细节。”在谈到防范新技术电诈手段时,赵颖说道。识别深度伪造技术视频时,要注意观察视频中人物的面部表情是否自然、嘴唇同步是否准确、是否有异常影像失真等。验证声音真实性,合成的声音会有机械感、语调不自然等。此外,还可以通过多种渠道,比如拨打官方客服电话、当面确认等方式,确认对方身份,避免仅通过单一渠道判断。
“现在网上有很多外国人面孔的专家科普、征婚、带货视频,他们说话的口型和视频上的中文字幕基本一致,但个别东西只有中国才有,通过唇语可以被识破。”藤森对记者说。
藤森是一位听障人士,会读唇语且精通多国语言,因此网上这些基于深度伪造技术的视频他多半一眼就能识别出来。“但对于多数普通人来说,他们会觉得挺真实,尤其是老年人。”藤森说。
赵颖认为,即便无法识别新技术电诈手段,也可以通过非技术防范手段来反电诈。比如,对突然联系并要求转账的情况保持高度警惕,不轻信任何未经核实的信息;不轻易下载和运行陌生人提供的软件,尤其是远程控制类软件;不要随意泄露个人银行卡号、身份证号、验证码等敏感信息;转账前,通过其他渠道如打电话、视频通话等确认对方身份;定期了解最新的诈骗手法和防范措施,增强自我保护意识。