中国新闻

AI诈骗正在爆发，据迈克菲安全技术公司最新报告，受到AI诈骗， 77%的人会遭受经济损失。诈骗者通过被害人的社交媒体、上网记录，采集其各方面的生活信息和行动轨迹，合成对方的声音、人脸，诈骗其朋友、亲人、同事，让人防不胜防。 ▲ 去年，AI在诈骗案频发，“9秒被骗245万，10分钟被骗430万”等诈骗案件多次登上热搜据安徽警方通报，去年4月，有人换脸成被害人的好友，称有一个项目招标需要周转资金，视频通话仅9秒钟，就诈骗到245万。去年10月，有博主发文称，有人通过AI换脸，制作她的裸照进行敲诈。如何识别AI诈骗，碰到后应该怎么办？我们和AI诈骗的亲历者、 AI工程师聊了聊。编辑：张雅兰责编：倪楚娇龙腾新岁，寓意美好的新年必备佳礼，点击一条艺术小程序或APP购藏自述：安安，20岁，大学生我目前正在读大二。有一天我在QQ上收到了一个好朋友发来的消息。她问我在干嘛，寒暄了几句，就说她的微信被限制了，想转钱到我的银行卡号，让我帮她买个东西。涉及到钱，我就比较谨慎了，我说我们先视频一下。她也没犹豫，打开了视频。长相、声音和我朋友一摸一样，我们视频了5秒钟就挂了。确认了脸，我就放松了警惕。 ▲ 安安和对方的聊天截图我问她想买什么，她没回复，直接让我发银行卡号过去，她转钱给我。我没有多想，把卡号发给她了。她给我发了个充值Q币的链接，让我点链接帮她买3500元的Q币。我当时也挺奇怪的，无缘无故为什么要买Q币？我问她是不是在做暑假工，但她跳过了我的问题，说已经把钱转过来了，问我收到没有。我并没有收到。她开始兜圈子，说再去问问客服，确认一下，让我先帮她买一下，钱一会儿就能到账。如果我大意一些，钱也就转过去了，但我再次起了疑心，就让她再接一次视频电话。这时候她也有些不耐烦，说，就是我本人你放心。我怎么放心呢？我们平常基本都在微信联系，她怎么突然QQ联系我？况且是买虚拟货币，发过来的也是陌生链接。我就去微信跟我这位朋友确认，她说根本没有在QQ上找我。说实话我当时都快被吓哭了，又去QQ问对方，让她打开视频给我看，打开后还是我朋友的样子。她为了让我放心，甚至拿出了身份证给我看，根本看不出来脸是AI合成的。挂了电话，我骂了骗子几句，她看我迟迟不转账，好像也识破了，就没有继续装了。后来我朋友才发现她的QQ账号被盗了。至于身份证，她觉得可能是之前在某个网站上上传过身份证照片。但是想来想去，我们也不知道到底是哪个环节出了问题。如果不是去微信多问了一句，我差点就被骗了。自述：Mike，23岁，留学生我今年23岁，目前在美国读书。说实话，第一次碰到AI诈骗的时候我真的一身冷汗。去年圣诞节我和同学去南美玩，那阵子和我爸妈联络也比较少。有一天半夜我突然接到我妈的微信电话，接上的时候发现她已经打了3、4个了。我当时也吓一跳，以为家里发生什么事。她当时带着哭腔，问我怎么样，还好吗。我当时也有点懵。 ▲ 编造“留学生被绑架”，是诈骗犯常用的手段她告诉我，她白天接到我的电话，来电显示是我国内的手机号，电话那头也是我的声音，我说自己在南美洲被绑架了，跟我妈要10万美元赎金，否则就活不了了，没说几句电话就挂了。我妈当时差点就信了，她尝试给我的手机打电话，发现打不通，当时隔着太平洋，她也没办法确认真假，只感觉声音是我的，她甚至报了警，警察告诉她再通过别的途径确认一下，因为当时是夜里，我的微信也连续打不通。她有点儿着急了，后来我爸给我打手机电话，我妈尝试给我打微信电话，两个人折腾了半天，幸好我的手机平常不会关声音，最后我还是接到了。我安慰她我没事，就是在旅游。她当时都将信将疑的，问我刚才我的声音是怎么回事。我当时根本不知道还有AI诈骗这回事，也是吓得够呛。后来我们打开了视频，她看到我真的没事，才放心下来。后来我上网去查，才知道有些AI诈骗不仅会黑你的手机通讯录，还会黑进你的微信，除了声音，连脸都是可以伪造的。 ▲ 电影《孤注一掷》剧照，主线故事围绕电信诈骗展开平常我和爸妈的联系频率还是比较高的，基本上每周都要打两三个电话，就是那次，我恰好在外面旅行，也发了自己旅行城市的定位，和家里联络比较少了。所以我后来想，可能就是因为这样，诈骗犯利用了这个“空档”，他们通过我的社交媒体知道了我的位置，也不知道怎么黑到了我国内的号码，提取了我的声音，来诈骗我爸妈。还特意选择了我晚上在睡觉，可能接不到电话的时间。我是比较小心谨慎的性格，之前也比较保护自己的隐私，比如我在国内的时候，每次收到快递一定会把自己的个人信息涂抹掉再扔快递盒，也不轻易在外面留自己的电话号码，上网记录也会定时删除，但是有时候难免会泄露一些信息，太难防了。 Q：AI诈骗主要指的是什么？ A：AI诈骗主要采用的技术是Deep fake，意思就是深度伪造。它是一项人工智能的人体图像合成技术。AI诈骗主要就是利用这项技术，进行换声、换脸，再通过电话、社交媒体进行的欺诈。 ▲在《速度与激情7》拍摄过程中，保罗·沃克意外车祸去世，片方讨论后，邀请保罗-沃克的两个弟弟担任替身，正脸则用AI技术复制保罗的脸 Q：正常情况下，这项技术运用于哪些领域？它的发展经历了哪几个阶段？ A：早期，这项技术主要用于影视的后期剪辑，比如说最出名的《速度与激情》，保罗·沃克意外车祸去世后，片子的后半部分就是用了deep fake的换脸技术。 2018年，当时出现过一个政治的恶搞视频，一个美国演员用Deep fake技术制作合成了一个视频，奥巴马大骂特朗普是个笨蛋，其实他本人从没说过这种话。这个视频在推特上获得200多万次的播放，影响力非常大。也就是因为这个虚假新闻，让这个技术慢慢走进大众视野。后来在日本，这个技术也被用来造黄谣，有年轻人通过换脸技术，出售伪造的不雅影片。再后来，就开始出现电话语音诈骗，还有我们看到的更高级的换脸变身诈骗。其实一直到2022年，AI诈骗才开始集中大量出现。 ▲ 去年10月，一位自称裸体绘画艺术家的人称自己受到委托，按要求制作某博主的裸体图片，因委托人没有付费，所以他向博主索要500 USDT（加密货币，约合人民币3500元），否则自己将会公开出售其裸照 Q：AI诈骗爆发有哪些原因？ A：在早期，硬件设施还不是非常完善，deep fake也有一定技术门槛，需要有一点代码能力的人才会去使用。所以AI诈骗没有那么猖獗。2023年，被称为“AI元年”，让人惊叹的chatgpt也出现了，可以说AI技术突飞猛进，加上这几年计算机硬件革新，算力大幅提升，让能使用deep fake的硬件比较容易获得。而且，这项技术是开源的，比较容易获取。在专业的软件网站、应用商店，甚至网购平台就能找到。任何人都可以下载、学习和使用。而且经过不断的优化整合，现在的技术壁垒越来越低。比如说在网上，有些人会出售“一键安装包”，让普通小白一键安装后就能使用。甚至在某些渠道，你花几块钱就能找人帮做一条换脸视频，所以主要是因为AI技术的学习、获取门槛越来越低，导致AI诈骗的门槛也越来越低。 Q：AI诈骗常见的一些方式和手段包括哪些？ A：首先就是语音诈骗，比如通过一些唱歌、配音软件提取你的声音，通过骚扰电话来提取你的声音，进行后期合成。还会通过盗号，用一些第三方的插件，实现语音转发，获取你的声音样本，再电话诈骗。如果要更高阶一些，他们还会通过远程控制软件，向指定的目标人发送含有恶意软件的链接或者文件，一旦你打开，它就可能去控制你手机上的一些APP，甚至盗取你的账号密码、个人身份信息等等，获取你的声音和照片，再去了解你的生活，找到你熟悉的亲人、朋友，直接打视频过去，进行诈骗。 ▲ 徐欣正在科普AI数字人，使用deep fake技术改换人脸。来源：@超级头脑AI魔法师 Q：AI诈骗为什么难以识别？能通过具体案例讲讲吗？ A：AI诈骗是一套“组合拳”。换脸变身，只是诈骗的最后一步。第一步，犯罪分子会通过AI工具选取诈骗对象，一定是各方面条件都是他们可以把握的。我们在浏览网站的时候，会留下cookie。诈骗犯通过盗取QQ等社交媒体，对方可以推断出你大概的年龄段、经济水平。通过公共的社交软件，比如说小红书、抖音等等，你可能发布了一些个人信息，诈骗者也可以通过这些大致推断出你的身份、对什么感兴趣。了解你的个人形象，你的生活圈、行动轨迹，才会为你量身定做一个“诈骗剧本”。比如说之前新闻说一个人十分钟被诈骗了430万，假如说那是一个没有做过功课的骗子，就只是换脸成他的一个普通的朋友，单纯跟他去借钱，别说借430万，几万块可能都有困难。因为骗子之前盗他的账号，收集了他个人隐私的信息，了解到他最好的朋友是谁。这个朋友在什么时候，刚好有一个项目，这个事是真实存在的。然后他就来冒充这个朋友打电话给被害人，说我这边的项目可能需要借点钱。当时肯定有顾虑，但是两个人打开视频，看了视频发现确实是朋友的脸，声音也是，才上当受骗。还有一个学生，他是刚好那段时间出国旅游，没开国际漫游，诈骗犯就是盯准了他和父母电话沟通不是很顺畅这段时间，冒充他去跟他父母要钱，说是在国外遇到了什么事儿，让他父母把钱打到一个账户。利用这种时间、时空差也是他们常用的手段。工具在变，但是诈骗他最终骗的是人性，他会利用受害者一些恐惧心理，冒充领导、冒充公检法之类的，利用受害者对权威机构天生的畏惧心理，通过伪基站，用官方号码给你发送信息。 Q：我们应该如何防止隐私泄露？ A：首先我们浏览网页的时候，尽量关闭cookie，及时清除浏览记录，关闭“登录网站自动保存密码”的选项，不要在非官网的网站留下身份信息，电话信息。在社交平台，尽量不要发清晰的正面照，发朋友圈关闭定位，不接骚扰电话。最重要的就是不点陌生链接，在手机上下载国家反诈APP。 Q：作为普通人，我们如何识别对方是否是AI诈骗？ A：在开视频的情况下，我们可以有意识地引导对方做一些动作，比如说张大嘴巴，或者说大幅度摇头，让对方用手挡在脸前面等等。因为目前这个技术虽然可以换脸，但是它对于突然出现在摄像头的阻碍物，是没有办法进行快速分辨的，这个时候，人的面部就会有变化，产生一些变形。而且deep fake训练模型的时候，大部分用的是人物正脸，对于侧面甚至后脑勺是训练不到的。它能够训练人物的五官，但是很难改变人的脸型、骨骼形状。所以说对方做大幅度动作的时候，可以从侧面，后面这些方位去看，就能看到一些瑕疵。此外，伪造的人脸，他的眨眼频率会比较低，对方的情绪也可能和当时的情景不符合，画面会停顿，这时候先不要考虑是不是网不好，可以考虑有可能是伪造的。如果对方打来的是语音电话，我们可以尝试用方言交流。假如骗子已经高阶到连方言都对答如流，那只有一个办法，就是聊隐私，聊你们没有从没有同任何人讲过，没有在社交软件上说过的事情。还有一个办法是，直接拨打对方的电话，但是注意不要通过通讯录找对方的名字打，因为对方可能已经黑进了你的通讯录，最好直接输入对方的手机号打过去询问，关键就是多个渠道验证。核心就是，只要谈到钱，无论对方是谁，都要谨慎。 Q：AI诈骗案件的侦破方面，有哪些难度？ A：最大的难度在于AI诈骗具有高隐蔽性，很难获得线索。假如诈骗犯设置了一个虚拟IP，他就可以在全世界任何一个国家、任何一个地区来诈骗任何人。你可能在中国受骗了，你去报警，但是骗你的人是在大洋彼岸的其他国家，是任何一个人种。加上对方的声音、形象都是合成的，就是难上加难了。但我还是建议被AI诈骗一定先报警，至少留下一份档案。 Q：在电信诈骗、AI诈骗这方面，我们国家有相应的法律举措吗？还有哪些方面需要完善？ A：2023年1月份，我们国家颁布了一条《互联网信息服务深度合成管理规定》，规定了深度合成服务提供者的主体责任，就是从技术提供者的源头去规范和管理。当然，漏洞依然有，目前急需完善的地方就是技术层面。对于第三方软件、Ai软件，我们对它的拦截、识别技术，还是比较滞后的。其实在国外，已经有相关的技术，比如美国一家科技公司，去年6月份他们就宣布将增强AI反诈检测技术，设计了一款软件，可以立即发现伪造内容，能识别99.5%的deep fake的内容。对我们来说，AI工具的使用范围离普通民众还是稍微有些远，AI技术更多应用在大健康产业，天气预测等等。其实我们普通人也可以提高AI技术的素养，多了解一些AI知识，它的底层逻辑，也是有助于我们识破诈骗的。

今年夏天，我爸妈做了一件自己人生里的壮举：作为高龄者去西藏玩了一圈。 70岁的我爸和64岁的我妈进藏前，被旅行社详细审查了他们的最新体检报告、再三确认了健康状况、还给俩人罗列了一堆可能用得上的药品物资，请他们慎重考虑携带。但我爸妈还是渴望一睹西藏的风采，为了能减少出现意外的可能，我妈在网上看了很多攻略，又咨询了去过的朋友，反复确认高原反应可能会带来影响与急救措施，做了周密的准备，总算有备无患地出发了。《三十而已》剧照。没想到，一周玩下来，爹妈头不晕、气不短，除了偶尔有点轻微头疼，瓶子里的氧气一口都没吸。作为团里年龄最大的两个人，无论是爬山下坡、还是吃喝拉撒，他们都是团中的佼佼者。担惊受怕地去、虎虎生威地归，七天下来，我妈对她自己和我爸的身体素质刷新了认知，并觉得是自己做的攻略起到了巨大的作用，所以他们才能应对自如，开心出游。正当我妈兴致勃勃地跟大家进行经验分享时，作为攻略的“既得利益者”，我爸却一盆冷水浇下来：你说的那么邪乎，进藏也就那样，没啥了不起的，别想太多，不用额外准备也没事。和大多数人的童年里有一对扫兴的中国父母一样，大多数婚姻里也总会有一位扫兴的伴侣。在我父母的婚姻里，我爸就是那个扫兴鬼。扫兴的伴侣通常用两种方式让另一半透心凉：第一种是习惯性泼凉水。新开的牛排店，我妈带我爸去尝鲜，我爸吃干抹净后陈述总结：“比我卤的牛肉差远了”；我妈买了一捧鲜花放家里欣赏，我爸评价：有啥好看的，还不是开几天就败了；我妈洗剪吹拉烫花三个多小时换了个发型，美滋滋问我爸意见，我爸破天荒没砸场子，金口一开飘出一句“还不错”，没等我妈来得及开心，他的下半句紧跟着跑了出来：“要是能少剪一点、再长一点就更好了。” 当然，我爸一视同仁，对亲闺女泼起冷水来也是得心应手。读小学时我很喜欢诗歌，泰戈尔和普希金的诗集被我翻了很多遍，我还模仿大师的风格自己写了两首诗，兴冲冲拿去给我爸读。我一度担心他“亲爹滤镜”太严重，不能给出客观评价，就骗我爸说是普希金的作品。听完后他给出了评价：这首诗写得一般啊。我说，其实是我模仿普希金写的啦。我爸的凉水从天而降：我就感觉不像大师的作品。你这点水平还敢和普希金相提并论？我爸体内好像天生自带一个声控瀑布，但凡看到别人冒出一点开心、兴奋、有期待的小火苗，开关就会自动开启，送你一盆飞流直下三千尺的冷水。第二种是无法欣赏生活中那些真善美的东西。我妈看剧，被剧中冲破重重阻碍、终成眷属的男女主的爱情感动得抽抽噎噎。我爸凑过来甩出一句：都是骗人的，哪有这样的感情啊；我妈看电影，被影片里的女主角不畏艰难、追求自己的理想所感动。坐在身旁的我爸来了一句：别被人骗了，这个女演员演一部电影赚的钱比我们十辈子都赚的多；冬季下雪后，我妈邀请我爸踏雪寻梅，我爸担心的是“雪天路滑、不要出门”；晚上有流星雨，我妈想来一场“陪你去看流星雨落在这地球上”的浪漫，我爸：“还是别去了吧，万一感冒了多不划算”。生活里的真善美、际遇中碰到的小确幸，在一个扫兴的人眼中一律都是nothing at all. 只有在扫兴这件事上，我爸从来不会让全家人扫兴。英文里有一个很直观的词用来表示“扫兴”：Killjoy，扼杀喜悦，无法更形象了。但说句公道话，一个擅长扫兴的人，多半是成长路上被喂了不少心酸才会变得如此“下头”。我爸作为长子，幼年丧父、早早进工厂赚钱，带着寡母一起养活一个妹妹和两个弟弟，缺乏管教的两个弟弟年轻时又不省心，长兄如父的我爸没少帮他们收拾烂摊子。家道贫困使他过了而立之年才能娶妻生子、组建自己的家庭。麦家在《人生海海》里说“生活是如此令人绝望，但人们兴高采烈地活着”。可现实中，更多人被困苦磨平了棱角、磨光了积极、磨尽了欢喜。打开一盏灯，别人看到的是光亮，他们习惯了去看阴影。 “扫兴”也许不像基因是天生的，但它和基因一样会传承。在父母一辈的婚姻里，我爸是那个扫兴的伴侣，在我的婚姻里，我接过衣钵，成了那个扫兴鬼。老公兴致勃勃邀请我一起观赏一段有趣的视频，看完后他笑得前俯后仰，我一脸茫然。笑点不在一个频道不可怕，你有你的欢乐、我有我的悲喜这很正常。可怕的是扫兴的我非要来一句：我不懂哪里好笑？下次这种视频可以不必邀请我的。老公喜欢在闲暇日洗手做羹汤、推陈出新一些美食，这在生活中原本是一件解压、又蛮有情调的事情。扫兴的我却总喜欢在他还没动手时就先赠送一盆冷水：能好吃吗？不好吃我可不会给你面子硬捧啊。圣诞节他送我礼物，拆开前我条件反射性扫兴：你又买啥乱七八糟的东西了？拆开后我习惯性泼冷水：不喜欢，你退了吧。我曾反思过，自己为什么那么容易扫兴？我从小也没吃过我爸那样的苦，相反，我拥有一对极尽所能对孩子好的父母。无论是在原生家庭、还是儿时经历方面，我都算是一个幸运儿。难道父辈的“榜样力量”真的如此强大？思考后，我得出一个结论：其实在结婚多年后，为生计的奔波、育儿的重担、爱情的转变、激情的稀释都让人无暇去取悦、振奋另一半，导致夫妻之间一不小心就走入“扫兴模式”。比如，前段时间我看网综《再见爱人》第三季，已婚多年的傅首尔就是一个扫兴的伴侣。老刘在聚餐时，点起火把，她翻了翻白眼说“有用么”；当老刘提醒车窗是绿色贴膜，她一个冷眼丢过去说“就你能”。相同的场景在热恋中的情侣之间可能会是另一种画风。看到男友点燃了火把，女友可能会有点兴奋地惊呼；看到男友发现了绿色的车窗膜，女友就算兴趣不大，也不至于阴阳怪气说一句“就你能”。但同样作为已婚多年的女性，我又颇能共情傅首尔，火把和绿色的车窗膜固然新奇，但婚姻中不需要它们承担点缀的角色。婚姻中更需要的是一顿饭、一个司机。一个糟心的事实：爱在恋爱阶段，主旋律是桥下春波绿、星月相皎洁，多年婚姻生活，早把爱腌制成了锄豆溪东、正织鸡笼，务实、高效和接地气才是必备。扫兴不似急症，它对一段感情的伤害不是劈头盖脸袭来；扫兴更像是一种慢性病、多年婚姻生活中长出的一个结节，如果长久盘桓在一段关系中，它会变成你咬进口的鱼肉里的细刺、眼皮里刚刚发起的麦粒肿、被钉子瞬间刺破的手指，一开始细微的刺激不会使你疼痛，但累积到一定程度，你会惊觉那根细刺、那颗麦粒肿、那层被划破的皮肤已经开始渗血、发炎。让从前的亲密关系变得疏离、冷漠，这才是“扫兴”最大的危害。扫兴的父母对子女造成的影响是你和他们分享快乐，快乐就会消失；你向他们倾诉烦恼，烦恼就会加倍。其实扫兴的伴侣何尝不会让人感受如此。如果不是碰巧遇到了高能量的另一半，一段关系很容易支离破碎。在《摩登家庭》里，米歇尔是那个扫兴的伴侣。无论是卡梅隆精心策划的纪念日、为万圣节费心制作的cosplay、或者和克莱尔积极地投入到废场地的建设中想要给孩子们打造出一个棒球场时，米歇尔的第一反应要么是先佯装赞赏、然后用一个but带出自己的真正意图，要么是默不作声却在背后翻出一个要把伴侣吞掉的白眼。米歇尔的幸运之处在于他有一个既敏感但能量又颇高的伴侣——卡梅隆。卡梅隆会在第一时间告诉那个扫兴的伴侣，你的话有多伤人、会对我们的关系造成什么样的伤害、以及自己费心费时做的这一切是为了让爱的人、爱的家庭或者自己开心。然后他会“大人不记小人过”，在米歇尔的道歉后，愿意继续带着自己的爱人一起“疯狂”、一起构建一场浪漫；而不是在一次次被泼冷水后，放弃沟通、放弃行动、放弃让这段婚姻继续心动。当然，改变这种扫兴的现状，最大的努力不该来自高能量的另一半，扫兴的伴侣作为始作俑者，才是要全力以赴去自我优化的一方。约翰.戈特曼在他的著作《幸福的婚姻》里提到导致一段婚姻破裂的“末日四骑士”：批评、鄙视、辩护和冷战。在前两者里有扫兴伴侣的身影。解决这个问题行之有效的方法之一是，用“我欣赏，我坚持”的态度去培养你对伴侣的喜爱和赞美。具体包括，让喜爱与赞美成为婚姻生活里的惯性系统、学会用正面态度去评价自己过往的婚姻生活、摒弃婚姻中“听你”还是“听我”的权力之争，愿意让另一半去影响自己的决定。当然，做出这些改变不容易。我们都希望能保持真我，即便是在妥协、退让织就的婚姻生活中，也尽可能去保住那个原汁原味的自己。贝姬.肯尼迪博士在Good Inside一书中提出关系中的“真相不唯一”理论：只要两个人生活在同一个屋檐下，那里就会存在两套感受、两套想法、两套需求和两套视角。只有具备同时接纳多重真相（例如我们眼中的真相和对方眼中的真相）的能力，关系中的双方才能感受到自己被看见，感受到自己的存在，哪怕两人存在分歧。而一段健康、持久运行的婚姻正是双方伴侣都能够具备“真相不唯一”的理解力，从而去维护、修补这段关系。作为高能量的伴侣，理解和不要放弃自己身边的那个“扫兴鬼”；作为扫兴的伴侣，学会用实际行动去珍视另一半的情绪和付出。在我看来，这不是改变、只是微调。就像《摩登家庭》里说的：不管是为自己还是为了所爱的人改变，15%，有时候这样就足够了。