诞生之初，Deepfake是一（yī）项（xiàng）有趣的图像处理（lǐ）技术，仅仅带来搞笑和娱乐视（shì）频，但殊不知，潘多拉魔盒（hé）就此被打开，催生出 黑产、恶搞政客“操（cāo）纵”民（mín）意，Deepfake正（zhèng）逐（zhú）步进（jìn）化为一种新型“病（bìng）毒”，人类伦理道德（dé）的“遮羞布”也（yě）被无情揭开。

portant;" />

图：Saturday Night Live中（zhōng）凯特·麦金农（nóng）换脸伊丽莎白·沃伦

面对因新技术（shù）而引发的公（gōng）众恐（kǒng）慌，相关（guān）监管机（jī）构也（yě）加快采（cǎi）取（qǔ）行动（dòng），出台“打假”策略，旨在打击Deepfake虚（xū）假音视频（pín），控制“造假病毒”的传播（bō）。同时，国内（nèi）也（yě）迎来了“最严（yán）数（shù）据管理”的一（yī）年。

11月29日，中（zhōng）国国家网（wǎng）信办也正式发（fā）布《网络音视（shì）频（pín）信息服务管理规定》，指出自（zì）2020年1月1日起，AI造假（jiǎ）视频不得（dé）随意发布。新规定中关于AI造假音视（shì）频的（de）规定主要有四条：“按照国家有关规定开展安全（quán）评估（gū）”、“以显著方式予以标（biāo）识”非真实（shí）音频信息、不得利用AI造假技术（shù）发布虚假新闻（wén）、部署AI造假音视频鉴别技术和健全辟谣机制等。

新规中不（bú）难发（fā）现，有效抑制Deepfake及类似（sì）造假需要“两手抓”，除了利用（yòng）法律法规严控“别有用心者”作（zuò）恶，更要从源头（tóu）加强（qiáng）安全评估（gū）、鉴别技术等能力，借助技术（shù）手（shǒu）段提前布局，在检测方面领先一步（bù）。

近日，来自清（qīng）华大学的人（rén）工智能企业——RealAI正（zhèng）式（shì）发布了（le）一款深度伪造（zào）视频检测工具，可一键实现对深度伪造（zào）(Deepfake)视（shì）频的自动精准识别。

一（yī）、 一键换（huàn）脸到一键“打假”

RealAICEO田天表示，尽管需求达（dá）成一致，但目前大规模应用的打假方法（fǎ）面临诸多困难（nán）。

首先，Deepfake的开源技术让AI换脸的使用（yòng）门（mén）槛（kǎn）降低到手机（jī）美颜、P图的（de）水平（píng），一键换脸带来了“造谣”成本的降（jiàng）低、爆炸（zhà）式的传播。可是在防御层，相应（yīng）标（biāo）准化的检测工具却几乎没有，人工鉴（jiàn）别不仅专业性要求（qiú）高（gāo），且效率低。所以（yǐ），无论对于个（gè）人、平台还是第三方机（jī）构而（ér）言，打假辟谣的时（shí）间窗口很短，难度却很高（gāo）。

portant;" />

图：雷佳音（yīn）(左)换脸（liǎn）郭德纲(右（yòu）)

另外，更严重的问题在于，很多情况下，Deepfake“以假乱真”的程度极高，人眼难以察觉。加（jiā）之其算法目前（qián）还（hái）无（wú）法建模分（fèn）析（xī），检测技术的研究被严重影（yǐng）响，而造假方的（de）适应速（sù）度却很快（kuài），新技术日益迭代。

RealAI基于第三代AI技术推出的深（shēn）度伪造视频检测产（chǎn）品，通过采（cǎi）用“数据增广”的（de）方（fāng）式，用伪（wěi）造的（de）视频训练出一个新的模型，从（cóng）而让模型能够更好识别出伪造痕迹，分辨出造假视频，可谓“魔高（gāo）一（yī）尺，道高一丈”。该（gāi）产品支持图像、视频内容鉴别，用户基于API接口将（jiāng）待检（jiǎn）测（cè）的图（tú）片、视频上传，一键即可（kě）反馈真伪（wěi）。

事实上，开展（zhǎn）针（zhēn）对Deepfake的“打假（jiǎ）”研究的团队早就存在，但相关的成果（guǒ）仅停留在算法层面，更（gèng）多的是为学术研究提供使用，无法（fǎ）应对真实环境下大范围传播的虚假内容，所以，RealAI推出的这款标（biāo）准化自动检（jiǎn）测（cè）工（gōng）具可以说给规模（mó）化（huà）的“打假”行动带来了（le）新希望。

二（èr）、检测准确率达99%，Deepfake“在劫难逃”

作为清华（huá）大学（xué）人工智能研（yán）究（jiū）院核心孵化企业，以及国内（nèi）首家安全可控人工智能系统提供商，RealAI在（zài）AI安全与攻防技术领（lǐng）域拥有业界领先优（yōu）势。在今年刚结束的GeekPwn2019国际安全极（jí）客（kè）大赛中，其（qí）与清华大（dà）学联合（hé）战（zhàn）队（duì）一举获得“CAAD CTF 图（tú）像对抗样本（běn）挑战赛”以及“CAAD 隐身挑（tiāo）战赛”两项比（bǐ）赛的冠军。

portant;" />

深厚的（de）技术（shù）积累也让RealAI安全研（yán）究（jiū）团队对“造（zào）假方（fāng）”的攻击（jī）原理有（yǒu）着更深刻的（de）理（lǐ）解（jiě），能够（gòu）更有（yǒu）针对性（xìng）地开发检（jiǎn）测工具。本次推出的（de）深度（dù）伪造视频检测产品，将原本高难度的检测（cè）过程大幅简化（huà），只需接入（rù）SDK即可一键实时检测，调用简单快捷。

portant;" />

Deepfake视频检（jiǎn）测产品流程图（tú）

与目前市（shì）面上已有的检测技术（shù）相比，RealAI的视频检测（cè）工具利用深度学习算法、大量数（shù）据集训练模（mó）型，能够检测出绝大多数AI换脸假视频，准确（què）率达99%(内部（bù）测试数（shù）据（jù）集上)。在面对算法的（de）换脸效果越来越逼（bī）真（zhēn）的（de）情况，RealAI的研（yán）发（fā）团（tuán）队也（yě）集中研发新型的检测算法，以迭代和更新RealAI的检测算法库。

更（gèng）值（zhí）得（dé）注意的（de）是，该产品适用于（yú）复杂视频内容检测，支（zhī）持（chí）多种格式和多人脸检测模式，1S识别，最高可支持10人以上（shàng）同屏。

三（sān）、Deepfake的潘多拉魔盒终将（jiāng）被关上

随着Deepfake技术被滥用，传统意义上“真（zhēn）实”与“虚假”的界（jiè）限被（bèi）模糊，这（zhè）对（duì）于（yú）社会生活的影响之（zhī）大（dà）此前（qián）未被预想（xiǎng）到，但如（rú）今（jīn）技术（shù）作恶所带来（lái）的负面影（yǐng）响正（zhèng）全面爆发（fā）。

比如，网络上（shàng）肆意传（chuán）播的（de）视频、图片内（nèi）容，内容平台传统的审核机制无法辨别Deepfake生成内容（róng），若（ruò）采用人（rén）工审核，需要（yào）投入额外的时（shí）间、人力（lì）成本（běn）;特定对象被编造虚假（jiǎ）信（xìn）息在社交平台上广泛传播（bō），处（chù）于舆论中心（xīn）的（de）当事人由于找不到能够证实“谣言”是捏造的有效途径，个（gè）人（rén）声誉因此受损;案件调查、法（fǎ）庭辩论中涉（shè）及的视频、图（tú）像等证据材（cái）料，警察、律师等人员无法单凭肉眼识别证（zhèng）据是否是（shì）基于Deepfake伪（wěi）造，需（xū）要专业工具鉴定（dìng）真伪;事故中真伪（wěi）难辨的影像资（zī）料，保险公司的审查人员缺乏（fá）Deepfake造假认知（zhī）以及不配备专业鉴别能力（lì），存在被诈骗（piàn）理赔的风（fēng）险……

“人人都怕换脸术”的恐慌（huāng），让反Deepfake的检测需求变（biàn）的异常迫切，本次RealAI检测工具的（de）推（tuī）出，通过与内容（róng）平台、执（zhí）法机构、保险公（gōng）司（sī）等机构开展（zhǎn）合作，能够在虚假内容甄（zhēn）别、线上资（zī）料审核以（yǐ）及影像物证（zhèng）真实性检验等（děng）实际应用场景发挥作用，并帮助（zhù）企业（yè）与个人更好的进行信息管（guǎn）控与风险预警。

最后，在这场AI军备竞赛中，Deepfake将持续演化，RealAI也将（jiāng）持（chí）续（xù）迭（dié）代技术、打磨产品。RealAICEO田（tián）天表示，未（wèi）来AI必然是安全可控的AI，一键“打（dǎ）假（jiǎ）”终将超（chāo）越一（yī）键（jiàn）换脸的（de）速度，Deepfake的潘多（duō）拉（lā）魔盒也（yě）终（zhōng）将被（bèi）关上。