AI 与智能

一张图、一段视频、一通电话，怎么判断是不是 AI 做的

香港一名员工在一场视频会议里转出 2 亿港元，会上的“同事”全是假的。靠眼睛找破绽越来越不够用，真正管用的是换一条路去核实。

2026 年 9 月 21 日 方屿

2024 年 1 月，工程设计公司奥雅纳（Arup）香港办公室的一名员工收到消息，发信人自称英国总部的首席财务官，说有一笔要保密的交易。接着他进了一场视频会议，屏幕上的财务官和几位同事看着、听着都对得上。他照着指示分 15 次，往 5 个香港账户转出 2 亿港元，约合 2500 万美元。会上除了他自己，其他人的脸和声音都是伪造的，奥雅纳后来公开确认了这一点。伪造做到这个程度，靠眼睛和耳朵去分辨已经很难赢。下面讲的破绽只能当预警，真正能拦住钱的，是转账之前换一条你自己掌握的渠道，再问一次。

肉眼还能抓到的破绽

FBI 那份公告列了一串值得留意的地方：手和脚变形，牙齿、眼睛看着不真实，脸部模糊，眼镜、耳环这类配饰古怪，影子不对，画面里带水印，视频有延迟，声音和口型对不上，动作不自然。拿到一张可疑的图，可以按从细到粗的顺序扫一遍。

先看手、耳朵和牙齿。这几处结构复杂，又常被别的东西挡住一半，生成模型最容易在这里出错：六根手指，指头和杯子长在一起，一排牙齿连成一条白边。再看背景里的字，招牌、车牌、书脊、衣服上的印花，AI 常把它们画成像字又认不出是什么字的一团。最后看光，脸上的亮面在左边，影子却也落在左边，或者同一张照片里几个人的影子各朝一个方向。

视频要多看一样：遮挡和转头。实时换脸是把一张假脸贴在真人脸上，脸被手挡住、转到侧面、离镜头忽远忽近的时候，贴合最容易出问题，边缘会闪，五官会错位一下。对方在视频里一直正脸、不动、画面还偏糊，本身就值得多想一步。声音上，FBI 建议留意语气和用词。克隆出来的声音音色可以很像，可对方平时怎么叫你、说话爱带哪句口头禅、平时讲方言还是普通话，这些要靠骗子自己去模仿，常常露馅。

这份清单有个问题：它一直在变短。FBI 的公告写于 2024 年底，之后新一代生成模型把手指、文字这些老毛病修掉了不少。一张图上找不到破绽，只说明你没找到，推不出它是真的。反过来也一样，压缩得很厉害的真照片、美颜开到最大的自拍，皮肤发糊、边缘发虚，常被人当成 AI 图。破绽只用来决定要不要接着查，别拿它下结论。

查它的来历：内容凭证和平台标识

比盯着像素找毛病更靠谱的，是看这份文件自己带没带“出生证明”。2021 年 2 月，Adobe、Arm、BBC、英特尔、微软和 Truepic 成立了内容来源和真实性联盟（C2PA），定了一套标准：相机、修图软件、AI 生成工具可以把“这张图是怎么来的、被谁改过”写进文件，并且加上签名，内容一改签名就对不上。支持这套标准的产品把这份记录叫作“内容凭证”（Content Credentials）。手上有原始文件的话，可以传到 verify.contentauthenticity.org 查看，有记录的会列出生成或编辑它的工具，以及中间做过哪些处理。

这条路有两个限制，用之前要心里有数。第一，记录很容易丢。截一次屏，在聊天软件里转一次，被平台重新压缩一次，文件里这类信息往往就没了。第二，查不到记录说明不了什么。大量真实照片本来就没有，存心造假的人更不会主动给假图加上。所以查到了是有用的证据，查不到就等于这一步没做成，得换别的办法。从微信、抖音转来的图和视频，基本都经过了截屏或压缩，拿到手的已经不是原始文件，这种情况下可以直接跳过这一步，去做下一节的反向搜图。

国内另有一套强制规定。国家网信办、工信部、公安部、国家广电总局 2025 年 3 月 14 日联合发布《人工智能生成合成内容标识办法》，同年 9 月 1 日起施行，配套的强制性国家标准《网络安全技术 人工智能生成合成内容标识方法》同一天实施。办法把标识分成两种：显式标识用文字、声音、图形等方式呈现，用户能明显感觉到；隐式标识写在文件数据里，用户不容易察觉。提供 AI 生成服务的一方要按规定加上这两种标识，传播内容的平台要核查文件里的隐式标识，再在内容周围给出提示。办法还写明，任何组织和个人不得恶意删除、篡改、伪造、隐匿这些标识。

落到日常使用上，这套规定帮得上一半忙。在国内平台刷到带“AI 生成”一类提示的内容，基本可以当成合成的来看；没带提示的，却不能反过来当成真的。成心拿假视频骗钱的人本来就不守这个规矩，内容一经截屏、录屏、转发，文件里的隐式标识也会跟着丢掉。

找到最早的那一份

很多“AI 假图”其实是旧图新用，也有不少 AI 图冒充现场照。两种情况都能用同一个办法查：反向搜图。谷歌图片的以图搜图、百度识图、必应的图片搜索都可以，在手机上，先把图片存进相册，视频就停在清楚的画面上截屏，然后打开百度 App 或谷歌智能镜头（Google Lens）的拍照识图，从相册里选这张图。一段视频最好截三四张不同的画面分别搜，人物正脸、带字幕或招牌的画面最容易搜到出处。

搜的目的是找到这个画面最早出现在哪。同一张图几年前就有，只是这次换了配文，那就是旧图新用。一张“突发现场照”只在几个新注册的账号之间转来转去，没有任何媒体或者事发地的警方、官方账号发过，就要打个问号。再看是谁发的：账号开了多久，以前都发些什么，最近有没有突然改过名字和头像。

名人视频是另一个重灾区。FBI 的公告专门提到，骗子会用 AI 生成名人或网红的形象，替假冒商品和各种骗局站台。刷到“某位大佬推荐的币”“某位名人带你理财”一类广告，先去这位名人自己的认证账号翻一翻，看他到底有没有说过；被推荐的项目本身也要单独过一遍，可以用本站的币圈项目三问照妖镜按三个问题查。

AI 检测工具能不能当裁判

网上有很多“一键检测是不是 AI”的网站，给出的往往是一个百分比。这个数字最多当参考。OpenAI 在 2023 年 1 月推出过一个判断文字是否由 AI 写成的分类器，发布时自己写明：在一批英文测试文本上，它只能把 26% 的 AI 文字认出来，同时会把 9% 的人写文字错判成 AI。同年 7 月 20 日，OpenAI 以准确率太低为由把它下线了。做大模型的公司自己都没把这件事做成，市面上宣称准确率 99% 的检测网站，那个数字多半是在自家测试集上算出来的，换一批新模型做的内容，结果就会漂。

图片、视频、声音的检测器也是同样的处境。它们适合在一大批内容里先筛出可疑的，再交给人去核实。把一张截图丢进去看到“AI 概率 90%”，不能拿它当证据去指责谁；看到“AI 概率 3%”，也别因此就信了对方。截屏、压缩、裁剪都会改变结果，同一张图换两三个检测器，给出的结论经常对不上。

熟人打视频、打电话要钱时

钱真正被骗走，多半发生在这一步。美国联邦贸易委员会（FTC）2023 年的提醒里说，骗子只要从网上找到你家人的一小段声音，就能克隆出一个听起来一模一样的声音，打来电话说出了事、急需用钱。FBI 的公告里也写到，冒充亲人遇险索要赎金的电话，冒充公司高管、执法人员的实时视频通话，都已经出现过。

对付这类电话，要做的事很少，难的是当时能想起来：

1. 挂断，用你手机通讯录里本来存着的号码打回去。别回拨这次来电的号码，也别打对方在电话里报给你的号码，来电号码是可以伪造的。
2. 打不通，就问身边的人。给家里其他人、对方的同事或者朋友打电话，问问他现在在哪。
3. 问家庭暗号。FBI 建议家人之间事先约定一个只有自己人知道的词或一句话，接到自称家人求救的电话就问它。暗号别用生日、宠物名这类社交网络上翻得到的东西，也别在群聊里定，当面说好最稳妥。
4. 看对方要什么。FTC 点名了几种典型要求：电汇、转虚拟货币、买礼品卡。再加上“别告诉别人”“现在就要”“别挂电话”，这几样凑到一起，基本可以断定有问题。

如果是视频通话，对方正在屏幕上跟你说话、一时不好挂断，可以当场先试两件事：请对方把头转向一侧，或者把手掌在脸前慢慢挥一下；再问一个只有你们俩知道、网上查不到的问题，比如上次见面吃的是什么。前一个看换脸在遮挡和侧脸时会不会穿帮，后一个是让对方说出骗子不可能查到的东西。两样都过了，也还是挂断之后按上面的办法回拨一次，做得好的伪造未必会在这几秒里露馅。

公司里的情况要靠流程兜底。奥雅纳那位员工面对的是一场“多人会议”，个人的警觉很难扛住。更有效的做法是事先定死规矩：超过一定金额的付款必须两个人复核；收到转账指令，一律用公司通讯录上的号码单独打给下指令的人确认；任何人以保密、紧急为理由要求跳过这些步骤，都按可疑处理。

平时也可以少给骗子一点素材。FBI 的建议是减少网上公开的本人照片和声音，把社交账号设成私密，只通过认识的人的好友申请。家里老人常发语音、视频的，可以帮他们调一下隐私设置，顺便把暗号的事讲清楚。

准备工作里有三件今天就能做完。一是跟家人当面定好暗号。二是在手机银行里看一眼转账设置：人民银行 2016 年的 261 号文要求银行提供实时到账、普通到账、次日到账几种方式，常用账户选上非实时到账，钱真正出去之前就多了一段能反悔的时间；到账前能不能撤回，各家银行规定不一样，设置时问清楚。三是给自己和家里老人装上公安部刑侦局开发的“国家反诈中心”App，打开来电预警，给陌生账号转账前还能在里面查一查对方的账号、手机号有没有涉诈记录。

几种常见场面，先做哪一步

公安机关不会通过电话或视频要求任何人把钱转进“安全账户”，这一条在国内的反诈宣传里反复讲过，碰到就可以直接挂断。

已经转了钱怎么办

第一件事是快。在中国大陆，马上打 110 报警，同时打给你转出钱的那家银行的客服，说明被骗，请求止付。聊天记录、通话记录、转账凭证都留好，别删对话，也别拉黑对方的账号，这些后面都是证据。拿不准是不是被骗，可以先打 96110 反诈专线问一问；接到 96110 打来的电话一定要接，那是反诈中心在给你预警。可疑的号码、网址和账号，也可以在“国家反诈中心”App 里直接举报。

在美国，先联系银行或转账平台，问能不能撤回或冻结这笔款，再到 FBI 的 ic3.gov 和 FTC 的 ReportFraud.ftc.gov 报案。

转出去的是加密货币，记下交易哈希（TXID）和收款地址，马上联系你转出时用的交易所或钱包的客服，报警材料里也写上这两样。链上的转账撤不回来，但钱如果流进了中心化交易所，执法部门有机会请交易所冻结，越早报越有希望。

被骗之后，要特别提防第二轮。FBI 2025 年的年度报告写到，冒充“追款公司”的投诉在增加。主动找上门说能帮你追回损失、要先交一笔手续费或保证金的，基本都是同一类骗局的下半场。

如果被伪造的是你自己的脸和声音，也要尽快处理：报警，向发布这些内容的平台举报，再告诉家人和朋友，以后你找他们借钱，一定会先用哪种方式确认。国内的《标识办法》要求平台对 AI 生成的内容负起标识的责任，举报时可以写明对方盗用你的肖像和声音生成了假内容。

更新记录：2026 年 9 月 21 日首发。文中涉及的工具和平台规则变化较快，发现不再适用的地方会记在这里。

方屿 · 未来观察主编

长期跟踪科技报道，习惯把被讲复杂、或被讲浮夸的技术，对照公开资料一条条还原成普通人能判断的样子；也被各种“颠覆性”宣传忽悠过，才学会先核证据再下结论。开「看懂未来」专栏。了解更多