交通银行中山分行关于防范“AI数字人情感诈骗”的风险提示

随着AI技术快速普及,不法分子利用AI大模型技术,生成高度仿真的数字人视频、语音,塑造虚假人设开展网络交友,以婚恋交往为幌子实施电信网络诈骗。交通银行中山分行温馨提醒广大消费者,警惕AI技术伪装骗局,提升风险辨别能力,谨防财产受损。现将有关风险提示如下:

一、事件经过

H女士在短视频平台刷到一条标注“寻真诚伴侣”异性用户视频,视频中的男子样貌出众、气质儒雅。H女士关注该账号后,很快收到对方私信并添加为好友。对方自述身世坎坷、独自经营店铺,日常通过发送动态视频、语音消息与H女士频繁联系,还主动寄送手串,称手串经过祈福、可以保平安,逐步获取H女士信任,发展为线上恋爱关系。取得H女士信任后,对方先后以“家人突发重病急需手术费”“店铺进货周转资金不足”“有低门槛、高回报的内部理财项目”等理由,诱导H女士向指定账户转账。H女士深陷情感依赖,未核实对方真实身份,也未查验相关理财信息,多次大额转账。H女士多次提出线下见面,均被对方以“医院不便探视”“怕你看见我憔悴的样子”等借口推脱。最终H女士被对方拉黑,方才察觉被骗,累计损失78万元。

二、案例分析

本案例是典型的AI数字人情感类电信网络诈骗。不同于传统诈骗画面粗糙、话术生硬的特点,借助AI换脸、语音合成、数字人生成技术,骗子可批量打造虚假人设,通过四步连环套路实施诈骗。

第一步:AI人设引流,批量养号。不法分子在短视频、社交平台发布AI生成的高颜值视频,搭配“寻真诚伴侣”类文案吸引关注,再私信搭讪引导受害人脱离公开平台单独沟通。团伙统一配备设备、素材与话术模板,还会伪造证件、病历、进货单据等材料,铺垫骗局。

第二步:情感绑定,以假乱真。依托固定话术脚本与AI实时内容,贴合受害人心理开展情感诱导。通过变声通话、AI数字人视频、寄送寓意“保平安”的廉价小礼品,甚至搭建专属群聊营造恋爱氛围,逐步打消受害者防备,独居、情感需求较强的人群更容易落入圈套。

第三步:制造紧急假象,诱导转账。建立信任后,骗子编造家人重病、急需进货、内部理财窗口期等理由,用紧急话术催促受害人转账。部分还诱导受害人下载数据可篡改的仿冒投资App,以虚假收益骗取更多资金。转账账户多为私人账户或非正规平台,资金转出后追踪难度大。

第四步:拉黑失联,转移赃款跑路。当受害人资金被骗光或是产生怀疑,骗子立刻拉黑、删除好友、注销账号,切断全部联系。受害人往往在情感、财产双重损失后才醒悟,屏幕对面的交往对象自始至终只是算法生成的虚拟形象。

三、风险提示

(一)警惕陌生AI虚拟人设引流陷阱。

在社交平台如遇主动搭讪、人设完美、频繁发送仿真视频、语音的陌生异性,切勿轻信。当前AI技术能够逼真伪造人脸、动态视频与真人语音,肉眼很难辨别真伪。请勿点击对方发来的陌生链接、二维码,不轻信虚拟人设,坚决不脱离正规社交平台私下转账、交易。

(二)认清“先谈情、后要钱”诈骗套路。

网络上陌生交友,若刚建立暧昧、恋爱关系,对方就以各类理由索要资金、要求转账垫付,或是推荐所谓内部高收益投资、博彩套利项目,务必高度警惕。不要被甜言蜜语蒙蔽,坚决不向陌生私人账户、非正规平台充值转账,守住资金安全底线。

(三)核验对方身份,留存维权证据。

网络交友务必保持戒备,可优先通过合规方式核验对方真实身份。如需线下见面,务必做好安全防护。刻意回避见面、拖延身份核验、长期仅线上联络的人员,风险极高。一旦遭遇疑似AI数字人情感诈骗,请第一时间保存聊天记录、视频语音、转账凭证,及时拨打报警,守护自身财产安全。