新媒体的社会信任问题研究

奥鹏网院作业

新媒体的社会信任问题研究
——基于“深度伪造”短视频视角
□黎梦兵，吴 勇

（湘潭大学 法学院，湖南 湘潭411105）

[摘 要] 近年来，以短视频为代表的新媒体视频业迅速发展，成为社会公众获取信息的重要途径。但因短视频门槛低、传播快、监管难等特质，容易与“深度伪造”技术相结合，进而出现“深度伪造”短视频。为推进我国社会信用体系建设，可从监管措施的完善、防伪技术的强化、塑造行业自律及民众素养等方面探讨化解新媒体的社会信任危机之对策。

[关键词] 新媒体；短视频；深度伪造；信任危机

近年来，短视频新媒体迅速成为我国全媒体传播体系中的重要一环，从信息获取到娱乐、社交，短视频改变了社会公众的生活方式。短视频作为我国新媒体的重要传播方式之一，成功带动相关产业的发展，在弘扬传统文化、旅游宣传、乡村振兴等方面显示了其强大的力量，也侧面推动了传统媒体的革新。但由于短视频的制作门槛低、传播速度快、监管难度大等特质，极易与“深度伪造”技术结合，形成高度仿真的“深度伪造”短视频。社会公众对传统媒体的疏离是新媒体流行的原因之一，但“深度伪造”短视频的出现，同样会引发对新媒体的信任危机，使社会公众时刻处于怀疑状态之中，并导致新媒体的污名化。因此，如何构建新媒体的社会信任机制成为我国传统媒体和新兴媒体融合发展理应关注之重点。

一、“深度伪造”技术在新媒体领域的应用
在大数据时代，人工智能技术的快速发展与移动智能终端的迅速普及，为短视频这一新媒体的迅速流行和崛起提供了契机。与此同时，短视频也为基于人工智能技术的“深度伪造”技术提供了良好的应用场景。二者结合，便出现了“深度伪造”短视频。

（一）“深度伪造”技术门槛低
深度学习能够让机器自主分析学习，自动将输入数据转化为输出，提高了机器的智能程度。“深度伪造”就是在此基础上诞生的新型技术。2017年，“深度伪造”技术开始用于制作虚假的色情视频，如有人将明星加尔·加多（Gal Gadot）的脸转移到色情视频中，在美国引起关注。2018 年1 月，“深度伪造”软件正式向公众发布，降低视频变脸的技术门槛，“换脸视频”开始在普通公众中广泛传播，随即在推特网等网站上出现了大量“深度伪造”的色情视频[1](p102) 。2018 年5 月，比利时某政党制作并投放了一个“深度伪造”广告短视频，广告中特朗普总统在批评巴黎气候协议，该视频被很多人信以为真[2](p51-58) 。“深度伪造”离我们并不遥远，2019年3月，某短视频中女主播的脸被人用“深度伪造”技术先后替换成了唐嫣、杨幂、刘诗诗、范冰冰等明星，因其具有超高的相似度在网上迅速传播并引起热议；同年“深度伪造”软件“ZAO”（现已下架）迅速流行。

“深度伪造”视频的制作是使用“生成式对抗网络”（Generative Adversarial Networks，GAN）机器学习技术来修改图像或视频，其运作原理是从源图像中检测出受试者嘴和脸的移动方式，并将这些移动复制到另一个视频中。制作者仅仅需要拥有一个包含大量视频的数据库和两个人工智能驱动的软件包即可轻松制作“深度伪造”短视频。一个软件包在源图像数据库上训练自己，并进行视频伪造；另一个软件包检测伪造，重复检测直到不能检测到伪造，“深度伪造”视频就制作完成。这种机器学习过程又被称为“无监督学习”（机器语言模型自学），其学习效果与素材量的多寡呈正相关，即源图像的数据库越大，“深度伪造”视频的仿真度就越高[3](p35-37) 。因此，“深度伪造”最初只需计算机便可完成简单操作，而移动智能终端的不断革新和普及，通过智能手机即可实现“深度伪造”，技术门槛进一步降低。

（二）短视频的迅速流行
新媒体是指依托于数字技术、网络化信息处理技术和移动通信技术，通过互联网等渠道，以电视、电脑和手机为主要输出终端，向用户提供视频、音频、语音数据服务等集成信息和娱乐服务的新兴媒体总称[4](p4) 。随着移动互联网终端的普及，新媒体的形式也逐渐丰富多样，2017 年以来，以“抖音”“快手”为代表的短视频开始普及，并迅速成为社会公众获取信息的重要媒介。三年以来，短视频从最初以搞笑、舞蹈及唱歌等泛娱乐化内容为主，逐步发展成为集新闻时事、城市品牌、产品购物、广告发放及娱乐等于一体的综合媒介。

短视频作为新兴媒体之一，具有以下特征：其一，“人人都是记者”，短视频具有制作自主性和广泛参与性，每个人都可以通过拍摄、剪辑等方式制作短视频，因而也被称为“自媒体”；其二，“事事可为新闻”，短视频的内容具有即时性与海量性，任何一件事都可能被记录下来，并通过短视频媒介传播，与传统媒体对“新闻”的界定有显著区别；其三，“实时可以交流”，以短视频为主的新媒体使信源传播者和信息接受者能够进行及时广泛的沟通和交流[5](p21)；其四，“高效利润转化”，短视频不仅用于娱乐，其背后隐藏着巨大的商业利益，视频制作者可通过短视频的制作与发布，吸引大量的粉丝，通过产品投放、广告合作等途径给自己带来收益，实现商业价值；其五，“价值观念传递”，当前短视频软件多采取无限制上划等形式操作，简单的操作界面上有点赞、转发与评论等功能区域，并通过算法与推送机制实现根据用户需求、偏好、兴趣的定向推送，特定内容以视频的形式重复出现，在潜移默化的熏陶中实现了价值观的传递。

因此，以短视频为代表的新媒体已成为结合用户娱乐与商业运营于一体的新型媒体传播方式，随着5G 的商用，不久的将来短视频的发展将进入全新的阶段。而已经出现的“长的短视频”也对视频制作者提出了更高的要求，需要改变之前的简单拍摄、模仿，创造更多新颖的短视频制作方法，通过改变视频拍摄速度、视频编辑、换脸特效等技术让视频更具创造性。此外，制作更为精良的短视频也需要更多的视频剪辑技术，抖音运营号等自媒体账户对视频剪辑技术的需求日益增加，要求也逐步提高。

尽管以短视频为主的新媒体普及对传统新闻媒体领域带来了巨大的挑战，但二者也并不是简单的对立。相反，两种媒介相互学习、相互融合成为未来媒体发展的趋势，如传统媒体的代表《人民日报》《新闻联播》都已入驻抖音，开通了官方账号，截至2020 年8 月，抖音短视频APP 上数据显示，《人民日报》粉丝量已经突破1 亿，收获49.6 亿点赞。

（三）“深度伪造”短视频的出现
“深度伪造”具有高度仿真、技术门槛低、快速演变的特点。短期内短视频运营者依然会依赖视频内容的娱乐性来吸引关注，所以运营者需要定期更新具有特色的短视频才能获得更多的关注，获取更高的利润。因此，“深度伪造”短视频应定义为使用“深度伪造”技术制作，内容比较具有吸引力的短视频，并借助当前流行的短视频软件进行传播。

随着抖音短视频等新媒体的普及，越来越多的社会公众通过短视频获取新闻信息，“深度伪造”短视频逐渐应用于制作假新闻，在美国就存在通过“深度伪造”技术制作奥巴马、特朗普等人的假新闻视频。“深度伪造”短视频迎合了广大短视频用户的猎奇心理，由抖音官方推出的手机视频编辑工具剪映软件，能够实现视频的切割、变速及慢放等功能；哔哩哔哩网站有人使用“深度伪造” 技术，制作了一段短视频，将演员朱茵的脸换成了杨幂的脸，合成效果非常逼真，说话时嘴型完美契合；由陌陌投资的“ZAO”软件（已下架）一度成为火爆的视频AI 换脸软件，可以一键更换视频中的人脸，并且效果十分逼真。

科学技术的提升会引发负面效应，现代化的过程会带来危险和不安，这也是贝克所述风险社会的主要特征[6](p7) 。随着人工智能时代的到来，算法技术的应用日益普遍且成熟，“深度伪造”技术门槛降低，加上抖音、快手等短视频新媒体传播的迅捷性，极易引起严重的“深度伪造”假新闻、假视频的妨害。

（四）“深度伪造”短视频与新媒体信任危机
风险的社会放大理论认为，媒体对风险进行社会加工的过程会对风险的强度和广度产生影响，放大或弱化社会公众对风险的认知，形成风险涟漪，媒体被认为是风险传播的“放大站”[7](p22) 。信息传递迅捷的新媒体已经成为全新的风险“放大站”，由于缺乏对信息客观性和公正性的监管，出现谣言、虚假新闻等夸大和扭曲事实的现象[8](p68)，让新媒体的信任受到了冲击。在大数据时代，公众要面临新媒体的海量数据，但却难以及时地察觉到信息的变化，更难以灵活应对，进而产生信任的危机。这种危机隐蔽而深刻，它并非一种明晰的断裂或信任的崩塌，而是或多或少表现为一种过程的存在或畸形的形态，不容易被察觉[9](p104) 。以“深度伪造”短视频为例检视新媒体的信任危机具有代表性：

其一，短视频用户基数大。根据第45次《中国互联网络发展状况统计报告》统计的数据，截至2020 年3 月，我国网络视频用户规模达8.50 亿，占网民整体的94.1%；其中短视频用户规模达到7.73亿，占网民整体的85.6%①中共中央网络安全和信息化委员办公室、中华人民共和国国家互联网信息办公室.第45次《中国互联网络发展状况统计报告》[EB/OL].[2020-08-10].http://www.cac.gov.cn/2020-04/27/c_1589535470378587.htm.。短视频已经成为社会公众获取信息的主要途径，“深度伪造”短视频广泛传播对新媒体社会信任度的影响较大。

其二，“深度伪造”短视频容易获得用户的认同。“深度伪造”短视频制作简单，视频的形式更加有张力，更容易获得用户群体认同，这种认同是信任两个组成元素（信心和承诺）的基础，表现为一种预期的信任，即当社会公众充斥在各种各样根据其偏好精准推送的短视频海洋中时，会使其丧失对某些并不清晰事实的客观认知[10](p33-34)，潜移默化认同短视频传递的信息。因而与其他新媒体相比，“深度伪造”短视频更容易获得用户的认同，对新媒体社会信任的破坏具有代表性。

其三，目前媒体呈融合趋势发展，各种形式的新媒体之间也逐步融合。“深度伪造”短视频不仅在短视频软件中相互传递，还可以通过不同的平台传播给其他受众，出现伪造信息广泛传播的现象。如“深度伪造”短视频可以通过各种软件转发，影响范围进一步扩大。

短视频是新媒体的典型代表，“深度伪造”短视频可以借助短视频媒介大量传播，虚假信息被证伪的次数越多，社会公众对信息真实性的怀疑程度越高。因“深度伪造”短视频的仿真程度较高，对新媒体信任危机具有直接影响。

二、新媒体信任危机的表征
（一）法律监管缺失导致信任的脆弱性
新媒体因其自身的特性难以实现有效监管，当新媒体用户通过“深度伪造”技术制作短视频时，监管者往往难以第一时间发现，尽管存在事后监管的可能性，但反转新闻等会对新媒体造成难以愈合的信任毁坏[11](p83-85)。基于此，由于伪造而造成的谣言和虚假视频已成为新媒体发展过程中自身难以克服的顽疾。

首先，立法滞后导致监管无法可依。我国目前现有的关于网络监管的规范性文件总体效力较低，缺乏针对性。一方面，信任与法律规范相互作用，信任的建立需要依赖法律对风险的调控，依赖于奖惩措施的实施和开展。质言之，信任仰仗于法律，依赖于人们对法理的信服、敬畏和遵从[12]（p108）。在大数据时代，网络新媒体问题层出不穷，加上“深度伪造”这种新型技术的特殊性，在遭受损害后人们往往难以寻求既有法律的救济，这便促成了对整个新媒体的不信任。另一方面，规范性文件过多而上位法缺位，会导致针对具体“深度伪造”短视频内容缺乏明确的法律监管措施，影响社会主体对法律系统的信心和信赖[13](p57)，进而扩大到对新媒体的不信任。

其次，主体不明确导致监管缺位。在短视频行业暂无明确监管主体的前提下，对其监管措施多为短视频运营商的自行审核。这就导致在短视频新媒体发展初期，我国对于短视频的监管效果较差，而当短视频发展到一定阶段，监管主体的缺失就会暴露出更多问题，如制造疫情恐慌、散布谣言等[14](p67-70)。“深度伪造”短视频的出现，因其制作简单、高度仿真的特性必然造成更大的社会影响。这样对监管主体的要求则更高，而目前监管主体的缺位不仅不利于短视频新媒体发挥其应有的作用，更有可能导致新媒体的污名化，引发新媒体信任危机。

最后，短视频内容繁多导致监管成本高。短视频新媒体在短时间内迅速流行，但短视频自身的特征给监管带来了较大的挑战。根据《2019 抖音数据报告》，截至2020 年1 月，抖音日活跃用户数已经超过4亿，现有的鉴定技术和监督措施难以有效监管海量的短视频，实施具体监管的成本较高，因此对于谣言等伪造短视频多采取事后监督的方式，由平台或互联网监管部门审核后强制下架。尽管如此，伪造的信息已然进行二次传播，而前后不一致的情形多次出现就会引发公众的不信任情绪。

对未来生活的预期抱有信心，是信任的基本内涵，人们常常通过历史经验来做出判断，正是信任的一种根据和形式[12](p52) 。“深度伪造”短视频的出现，将淡化这种信任的内涵和形式，人们无法判断大量流传短视频的真假，产生一种普遍的质疑，并最终可能演化为对于新媒体乃至整个新闻媒体的不信任，这对于我国构建社会信用体系的目标而言无异于一场灾难。社会信任的建立过程往往依赖于法律的有效实施，而缺乏法律保障的新媒体信任十分脆弱，人们无法通过明确有效的法律来保证自己行为的预期利益，进而不敢在社会生活中付出信任。新媒体的方便快捷看似能够获取人们的信任，但因缺乏法律监管这种信任又较为脆弱，一旦大量出现“深度伪造”短视频妨害，就会引发新媒体的信任危机。

（二）防伪技术滞后导致信任的失效性
“深度伪造”技术作为一种有别于传统视频剪辑技术的新技术，仿真视频的逼真程度已经变得令人不安。在与短视频技术结合后生成的“深度伪造”短视频不同于以往的假新闻和假视频，高度仿真的特性不仅肉眼难以分辨，检测技术也难以区分。在美国，尽管好莱坞多年来一直使用各种工具进行视频的剪辑与修改，但由于深度伪造技术的大众化，美国国会议员要求国家情报总监就该技术提交正式报告进行说明。此外，美国军方还通过美国国防部高级研究计划局（DARPA）与众多学术机构和企业机构展开研究，以开发能够探测到深层假货的技术。但是研究人员遗憾地表达，深度伪造技术的持续进步可能会使一个人工智能驱动的假货检测系统无法检测到另一个人工智能深度伪造的视频[3](p36)。

为缓解短视频的信任危机，目前常见的防伪技术是“数字标记（digital provenance）”“鉴定技术” 以及“经认证的不在场证明（authenticated alibi services）”。其一，所谓“数字标记”，也称“溯源防伪”，一般是指采取技术手段从视频制作开始就对其真实性进行标记，进而可以使得后来的视频使用者、观看者知晓视频的源头。在具体应用上，目前有一些国外公司开始使用区块链等技术，永久记录元数据，在开始制作的时候为音频、照片、视频内容添加水印。其二，“鉴定技术”是指通过技术手段检测伪造品。目前国外已经有大量研究人员在开发增强检测的方法，如通过寻找视频对象眨眼时眼睑运动的异常模式来检测“深度伪造”。其三，“经认证的不在场证明”则主要针对那些声誉宝贵但脆弱的政客和名人，由第三方机构提供大量的不在场证明服务[15](p147-155)。

但是，伪造技术的发展速度往往要比破解速度更快，上述防伪技术难以应对“深度伪造”技术的快速演化性。如随着技术的发展，“深度伪造” 技术可以收集海量的眨眼视频数据进行训练，由此就可以进一步优化“换脸视频”中的眨眼细节，从而成功避开检测工具。防伪技术往往只能够针对已有的伪造技术进行检测，具有明显的滞后性[16](p58)。

新媒体的信任是以短视频的真实性为基础的，所以新媒体发布的短视频应当以真实为出发点，并通过标记编辑行为，使得伪造视频可识别，进而达到对媒体行为的信任。然而遗憾的是，防伪技术在实践中能起到的作用甚微，使得社会公众逐渐拒绝信任。而“深度伪造”短视频制作者却可以不断地获取资源和利益，并投入新一轮“伪造”之中，最终导致新媒体的公信力下降。防伪技术的滞后性以及内在的缺陷，都使人们产生一种深刻的无奈和无力感，进而上升至对新媒体的质疑和否定。

综上，“深度伪造”技术难以被检测，防伪技术的滞后性导致社会公众无法鉴别短视频等新媒体信息的真假，使得“眼见不一定为实”。在大量“深度伪造”短视频被证实为虚假信息的过程中，社会公众预设的信任落空了，唤起的信任被忽视了，怀疑文化替代信任文化成为主导[10](p162)。 可见，防伪技术滞后使社会公众难以辨别“深度伪造”的短视频，导致信任失效，限制了社会信任文化的生成，最终使社会公众对新媒体产生普遍怀疑。

（三）行业市场混乱导致信任的功利性
市场经济具有趋利性，以短视频为主的新媒体迅速普及，造就了中国巨大的短视频产业，形成“网红”经济，导致部分市场主体欲通过短视频新媒体获取利益。主要表现在：

其一，各大互联网公司竞相推出自己的短视频APP。继抖音短视频之后，腾讯微视频、火山小视频等也在抢占市场份额，如抖音短视频无法使用腾讯公司账号登陆导致大量抖音短视频用户的账号无法登陆与找回等，企业相互抢占市场的趋利行为成为短视频行业缺乏行业自律的最显著特征。

其二，短视频用户为了获取高额利益，通过伪造的方式形成“网红”经济，并逐步形成短视频“伪造—推广—获益”的利益链条。区别于传统的仿造，“深度伪造”技术在打造“网红链条”中发挥着至关重要的作用。信任的间接效应主要体现为有利于降低交易成本，减少不确定性，突破信息限制[17](p26)。“深度伪造”技术使得短视频的观看者无法明确“真相”，而短视频制作者则可以通过“深度伪造”成功获取打赏、推送广告及完成商品买卖等，最终获取高额利润。但这种通过伪造而获得的经济利益并不利于社会信任的建立，相反，一旦信息限制突破，将对信任造成严重的损害。

因专家系统的存在，政府的背书等原因，人们普遍地认为至少官方媒体应该被信任。而就新媒体而言，人们认为新媒体是有积极作用的，接受新媒体比不接受新媒体好，缺乏传统权威的保障，使得人们在最开始接触新媒体便从实用主义角度出发，更多地追求新媒体的现实性和功利性，利益成为信任的前提和回报。加之前述监管措施的缺乏，行业混乱使新媒体与利益捆绑。现实主义和功利主义成为对新媒体信任的常态。一方面，政府为便于管理，对新媒体从被动接受变为主动探索，如政务抖音号、政务微信公众号等；另一方面，市场以及新媒体运营者想要抢占巨大的经济利益，开始大面积开展新媒体业务。不难发现，各类社会主体大多出于“实用”“趋利避害”的观念对待“深度伪造”短视频新媒体，新媒体行业市场混乱导致信任的功利性，使新媒体行业滋生更多的问题。

（四）社会公众盲从导致信任的表层性
社会公众对世界的经验以及针对具体问题作出选择和判断都要求有一些证据。这些证据能够在公众意识中形成可信任的感性认识，进而依据已经掌握的信息形成初步信任的理性认识，最终引导公众作出判断。社会公众不可避免地依赖于超出他们直接感知世界的可靠知识作出判断，这在本质上是一种知识生态系统。但根植于短视频新媒体的娱乐性，公众对它的态度较为简单，是一种泛化的信任，“深度伪造”技术的广泛使用就会导致社会公众对“这些证据”产生泛化信任，出现社会公众盲目地信任“深度伪造”短视频，由此带来两个方面的危害：

一方面，社会公众的盲从极易导致谣言和虚假信息的迅速扩大。新媒体的便捷和巨大用户群体使得信息的传播速度空前加快，与此同时虚假信息也会借助新媒体广泛传播。“深度伪造”短视频主要通过以下几种方式吸引社会公众眼球和博取关注：其一，“无中生有”类，即通过“深度伪造” 技术凭空捏造事实；其二，“添油加醋”类，即通过“深度伪造”技术将事实真相进行扩大，制造耸人听闻的假象；其三，“遮三瞒四”类，即通过“深度伪造”技术来隐瞒事实的真相，将原本需要重点关注的事情简单化。

另一方面，社会公众针对“深度伪造”短视频建立起来的泛化信任并不是对新媒体建立起来的真正信任。以“深度伪造”为主的短视频多存在反转，形成反转新闻[18](p187)，降低公众对短视频新媒体的信任度，甚至极端地怀疑包括官方新媒体在内的所有短视频的真实性。

此外，随着越来越多的人从互联网上获取新闻，“深度伪造会改变用户对相关证据的了解，以及他们的个人信仰，从而促进误解”。“当公众无法分辨一份报告是真实的、误导的还是虚假的，那么难以要求其作出明智的决策”[2](p69-75)。 在大数据时代，信息和数据成为一种“财富”，算法的定向精准推送会使得社会公众形成自身的“信息茧房”，仅能够接收到自身喜欢的信息。针对“深度伪造”短视频的认知停留在表层，进一步强化这种偏见，难以区分真假，更有甚者疲于区分真假而人云亦云。

如果任由“深度伪造”技术发展而不加以监管和控制，最终将形成一种信息无序的社会状态，对原有的要求我们信任外部信息来源的个人决策或集体自治构成严重的甚至是无法克服的挑战，最终的结果是对新媒体信任的消失。

三、新媒体信任危机的化解
卢曼认为：信任是一个复杂机制的简化。新媒体的信任不仅能够起到传统媒体所不能达到的效果，更是简化传播的有效途径。“深度伪造”短视频降低了社会公众对新媒体的信任度。为应对逐渐凸显的新媒体信任危机，发挥新媒体信息传播的优势，解决“深度伪造”技术的妨害，需要从系统信任视角出发，关注新媒体信息传播全流程的监管与治理，从政府、企业、制作者及社会公众四个方面进行探讨。

（一）完善新媒体的监督措施
构建新媒体的制度信任需要完善新媒体传播全流程的监督制约措施，使短视频新媒体的违法行为能够得到有效制裁，受害者能够得到救济。制度信任有两个不同层面的要求：其一，公民能够自由地表达自己的意愿；其二，对于某一特定公民而言，其他公民所表达的意愿能够被信任，这就已经表明对系统的信任[19] (p14) 。要建立新媒体系统的信任需注意三个方面：

首先，要完善新媒体相关立法。我国目前并没有针对新媒体的专门立法，主要是针对网络监管的相关法律法规及规范性文件，存在监管主体不明、法律位阶低等问题。在新媒体迅速发展的时代，短视频借助“深度伪造”技术将对新媒体的社会信任造成不可逆性的伤害。现有的法律规范难以实现有效的监管，应该分层级、分步骤、有体系地完善新媒体相关立法。对于目前面临的较为严峻的问题，如谣言的制造和传播等，可以先通过地方立法的方式，结合现有国家法律进行严格管控，然后待时机成熟后逐步提高立法等级，进行国家立法，全面规定新媒体的法律监管措施。立法需要分层级。针对目前新媒体监管的问题应该从国家立法、国务院条例以及地方立法三个层面加以全面完善，才能全面治理和监管新媒体面临的问题。方能真正有利于新媒体的健康发展和传播，进而促使社会公众付出信任。

其次，明确各个监管机构的职责和法律责任。当前我国与新媒体监管的相关法律法规及规范性文件并未明确各个监管机构的职责和法律责任，针对互联网短视频新媒体的监管缺乏主动性，多为消极被动应对，而“深度伪造”谣言短视频一旦发布可以迅速传播，亡羊补牢式的监管难以发挥真正的效用。所以要明确具体的监管机构，在明确监管机构之后，还需要明确各个监管机构的具体职责和法律责任，并确保其积极主动履行职责，如因消极监管及监管不力而造成社会公众信任损伤，对特定的监管机构要予以追责。

最后，建立新媒体传播的全流程监管还需明晰短视频运营商、“深度伪造”短视频的制作者、“深度伪造”短视频传播者的法律责任[20](p33)。 目前我国新媒体监管相关的法律法规及规范性文件对短视频运营商、“深度伪造”短视频的制作者、“深度伪造”短视频传播者三者应该承担的责任界定不清晰，致使责任落实较难。如图1 所示，立法应该从三个层面关注新媒体的监管：其一，短视频运营商的审核责任。作为短视频的管理平台要起到对“深度伪造”短视频的初步审核与管理，及时跟进防伪技术，尤其是对于含政治敏感的、含历史名人的、涉及著作权的等广泛传播的短视频及其制作者及时审核，一经发现，应该迅速下架视频并且及时联系视频制作者。其二，立法应该明确“深度伪造”技术的合理使用空间。伪造内容应该仅限于自身娱乐或者用于其他正当使用，而不得侵犯他人的著作权、隐私权等，更不能用于制造谣言和社会恐慌。其三，立法需要明确传播者责任。明确对于明知道属于“深度伪造”的谣言类短视频传播者，需要追究其传播责任；如不知道属于谣言类短视频而进行传播的，需要进行教育，传播者还需在同样的传播途径中对谣言进行澄清，实现切断传播的目的。

pagenumber_ebook=88,pagenumber_book=87
图1 ：“深度伪造”短视频新媒体法律责任图

（二）强化新媒体的防伪技术
对运营短视频的企业而言，首先需加强新媒体的防伪技术，实现对“深度伪造”短视频的初步筛选；然后为视频加上数字水印，以便于标记“深度伪造”短视频。防伪技术与伪造技术都会不停更新，因此在创新前文所提及的防伪技术之外，还需要互联网短视频企业不断创新防伪技术。美国学术界、工业界和政府已经有很多关于操纵真实图像和伪造图像的视频技术的项目，可以为“深度伪造”短视频的防伪提供新思路。其一，哥伦比亚大学的一个项目正在把行人逆向图像搜索技术提升到一个新的水平，开始从其他图像中寻找经过重新利用的部分图像。因此，如果一幅图像的某一部分与另一幅公开发布的图像完全相同，这项技术就可以将其标记为可能被操纵的图像。这项技术很可能会扩展到伪造视频筛选领域[21](p339)。其二，数字色彩分析可提供一个可能的解决方案。几乎每个图像都存储在一个JPEG 格式的文件中，该文件会丢弃一些信息以保存到存储器中。每个相机在这方面都有很大的差异。如果在Photoshop软件中打开一个JPEG 文件，然后重新打包，那么它总是会以稍微不同的方式重新打包，这一点是可以被检测的。同样，这项技术也适用于视频的防伪侦查。其三，基于人类的自然血液流动可以作为视频防伪筛选的手段。比如，一种算法感知组织中“以心率为中心的狭窄时间通带内的周期性脉动运动”。通俗地说，它可以通过测量人体组织颜色细微变化的频率来计算脉搏。这项技术能够实现侦测对着摄像机讲话的人在视频中的脉搏。因此，它可以标记计算机修改或计算机生成的视频，因为计算机生成的人类视频不会显示这些细微的变化[21](p343)。

上述技术并不一定就是甄别“深度伪造”短视频的最佳选择，但是作为短视频的运营商，理应关注到“深度伪造”短视频可能会面临的巨大危害，在享受新媒体带来的大量数据资源以及巨大的经济利益的同时，需要时时刻刻关注视频防伪技术的更新，以便于在未来的竞争之中掌握核心技术，为企业合法合规发展奠定良好的基础。

（三）塑造新媒体的行业自律
行业协会等共同体是特定社会的同质文化群体，有着局内人和局外人之分，共同体对内团结而对外冷漠、排他，新媒体社会信任的构建需要关注局外人的系统信任，通过相应的技术手段建立整个行业的道德共识，新媒体传播需要同时符合社会正式规则和非正式规则，才可以获得社会公众的自发性信任[22](p234)。 作为短视频行业的制作用户，需要注意所制作的短视频不仅需要符合国家法律法规及规范性文件的规定，也要符合社会主义核心价值观的要求。短视频制作用户作为“深度伪造”技术的使用者，需要严格按照现有法律规范，不得侵犯他人著作权、肖像权等合法权益，也不得使用“深度伪造”技术制造谣言等。

一方面，要明确“深度伪造”技术的使用范围。对“深度伪造”技术不建议采取“一刀切”的方式予以禁止，需要正视技术的经济价值，但同时要限定技术使用的方式、范围。值得注意的是，尽管目前我国尚没有针对新媒体的单独立法，针对“深度伪造”技术也没有明确的规定，但前述“ZAO 软件”被强制下架，至少说明我国政府监管者对于深度伪造技术是持保留态度的。因此，新媒体行业的短视频制作者，需要严格明确“深度伪造”技术的合理使用范围，塑造科学、健康的行业自律氛围。

另一方面，要明确“深度伪造”短视频的“伪造标记”，通过事前预防的方式对可能造成的误解进行明示。“深度伪造”技术的潜在用户群体庞大，且视频的欺骗性、迷惑性较高。在未来，“深度伪造” 短视频可能呈现出随机性、毁坏性、被动性等特征，监管难度较大。因此，采取事前预防的措施成为最经济的选择，也就是说对于“深度伪造”短视频制作者而言，制作“深度伪造”短视频既要符合法律法规及规范性文件以及短视频运营商的管理规定，也要采取明示的方式主动对“深度伪造”短视频进行标记。具体方式为：其一，在视频的显要位置以明显的水印等方式声明“深度伪造”“换脸视频”等标记，这也是“数字标记”的事前预防方式。由视频制作者对伪造视频进行标记，方便视频使用者、观看者了解视频的来源和真伪。其二，在通过短视频平台对外传播时还要清楚地标记该视频系“深度伪造”短视频。如果“深度伪造”短视频制作者能够完成上述义务理应视为尽到了标记义务。

（四）培养社会公众的鉴别能力
社会公众是“深度伪造”短视频传播过程中的重要一环，并逐渐表现出不再迷信传媒机构的权威、注重自我感受、注重参与传播的特点，在信息传播的过程中起着至关重要的作用[23](p140) ；同时，作为信息的主要受众，会因“深度伪造”短视频而对新媒体产生不信任。申言之，从对新媒体产生不信任的角度讲，社会公众是信任主体；而作为短视频传播者时，又是其他人信任的客体，所以社会公众具有双重身份的特征，也就决定了在“深度伪造”短视频管控流程中需要注意阻断传播。阻断“深度伪造”短视频的传播需要提高社会公众的鉴别能力。其一，社会公众需要不断提高鉴别意识，并做到“不造谣、不信谣、不传谣”。积极参与普法和法制教育，学习新媒体知识，逐渐形成对所接受信息的鉴别意识。新媒体的信任离不开理性的社会公众，新媒体的变化使社会公众面对更为复杂的信息，对其鉴别能力提出新的要求。虽然“深度伪造”技术使伪造的短视频逼真度不断增加，但是信息传播环节中最为重要的一环却并不是视频制作者而是传播者，所以通过信息教育提升公众对于新媒体的鉴别能力，提升区分真假视频的能力，也是预防“深度伪造”短视频造成危害的重要途径。所以在大数据时代，社会公众不能停止学习，也不能停留在“信息茧房”，在面对“深度伪造”短视频时，要提升自身的鉴别意识，阻断“深度伪造” 短视频的多渠道传播途径[24](p12)。其二，社会公众需要提高“信息素养”，要求公众能够借助工具，理解新闻报道中的框架、偏见、虚假的部分，并可以对事实的真相进行综合评估[25](p232) 。社会公众要形成批判性思维，使其在接触信息之后冷静客观地进行分析，进行批判检查。此外，大数据时代社会公众每天需要面对海量的数据，所以要养成使用相关工具来分辨数据真假的良好习惯，比如识别短视频的来源等。面对海量的数据，能够主动分析短视频的真实性，面对真假存疑的短视频不轻易传播，也是提高社会公众鉴别能力的重要体现。其三，要重视舆论“意见领袖”的导向作用。意见领袖一般是指在新媒体传播过程中，具有一定权威性与代表性的人物。一般而言，在意见领袖接收到信息后，会进行信息解读，然后传播给他们周围的人[26](p6)。 意见领袖在新媒体短视频的传播过程中对其固定的受众能够产生较大的影响，且意见领袖一般是社会公众中的一员，其传播效果较好。要注意发挥意见领袖的正确导向作用，达到明辨是非、阻断“深度伪造”短视频传播的作用。

如图2所示，“深度伪造”短视频管控流程是一个整体过程，需要关注到传播的各个环节。信任的建立过程遵循辩证关系，“信任危机”也可能并不是表示公众真的拒绝信任，更不能拿来当成证明不再信任的证据，有时候仅是一种怀疑文化[27](p50) 。在信息新时代，作为监管者的政府应积极适应大数据时代的技术环境，探索信息化建设新途径。同时，应从新媒体信息传播全流程进行防范，逐步破除社会公众的怀疑，建立起新媒体的社会信任。

结语
pagenumber_ebook=90,pagenumber_book=89
图2 ：“深度伪造”短视频管控

新媒体时代，传媒的格局将会发生很大的变化，传统分割的形式已不存在，报社、电视台、新媒体融合化发展成为新的趋势。短视频的兴起创新了信息传播方式，成为人们获取信息的重要途径，但因“深度伪造”技术的加入，容易虚化事实要素造成社会公众的曲解，引发新媒体的信任危机。如从某女星天价出演“抠图”电视剧，到主播乔某“贴脸”直播获取巨额打赏，再到疫情防控期间的各种谣言短视频，伤害的是粉丝及短视频使用者的情感和利益，丧失的是社会公众对媒介的信任。如若对“深度伪造”技术不加监管，会造成社会公众对于整个媒体的不信任。当社会关系得到法律的支持时，社会关系就会牢固，这也会使社会牢固[28](p892) 。为提高社会公众对新媒体的信任，需为公众构建整体的新媒体社会信任机制。构建新媒体的信任离不开法律监管的逐步完善，但这需要一个过程，为了防止未来生活中可能发生的深度伪造妨害，企业、制作者、公众都需要积极主动地应对。

参考文献：

[1]Douglas Harris.Deepfakes: False Pornography Is Here and the Law Cannot Protect You[J].Duke Law &Technology Review，2019，17(1).

[2]Holly Kathleen Hall.Deepfake videos: When seeing isn’t believing[J].Catholic University Journal of Law and Technology，2018，27(1).

[3]Judge Herbert B.Dixon Jr.Deepfakes：More Frightening Than Photoshop on Steroids[J].Judges’ Journal Summer，2019，58（3）.

[4]宫承波. 新媒体导论[M]. 北京:中国广播电视出版社，2011.

[5]李勇. 新媒体环境下社会主义核心价值观传播体系的建构研究[J].电化教育研究，2015（2）.

[6][德]乌克里希·贝克. 风险社会——新的现代性之路[M]. 张文杰，何博闻，译. 南京:译林出版社，2018.

[7][英]尼克·皮金，[美]罗杰·E·卡斯帕森，[美]保罗·斯洛维奇. 风险的社会放大[M]. 谭宏凯，译.北京:中国劳动社会保障出版社，2010.

[8]邓滢，汪明.网络新媒体时代的舆情风险特征——以雾霾天气的社会涟漪效应为例[J].中国软科学，2014（8）.

[9]王霞. 教育的信任危机与重建[J]. 西北师大学报（社会科学版），2019（5）.

[10][波兰]彼得·什托姆普卡. 信任：一种社会学理论[M].程胜利，译.北京:中华书局，2005.

[11]杨珺.自媒体与传统媒体的相互影响及融合策略[J].编辑之友，2014（5）.

[12]郑也夫. 信任论[M]. 北京:中信出版社，2015.

[13]张善根. 法律信任论[M]. 北京:法律出版社，2018.

[14]范以锦.自媒体在突发公共事件传播中的社会责任[J].新闻与写作，2018（10）.

[15]Chesney R，Citron D.Deepfakes and the New disinformation war：The Coming Age of Post- truth Geopolitics[J].Foreign Affairs，2019，98（1）.

[16]王禄生.论“深度伪造”智能技术的一体化规制[J].东方法学，2019（6）.

[17]何立华.信任及其影响因素[M]. 北京:科学出版社，2017.

[18]孙源南，成曙霞. 反转新闻对社会信任体系的影响及对策研究[J].山东社会科学，2019（7）.

[19][德]尼古拉斯·卢曼.信任:一个社会复杂性的简化机制[M]. 翟铁鹏，李强，译. 上海:上海世纪出版集团，2005.

[20]符楠楠. 网络自媒体的政府监管研究[D].南京：南京工业大学，2019.

[21]Russell Spivak.“Deepfakes”: The Newest Way to Commit One of the Oldest Crimes[J].Georgetown Law Technology Review，2019，3(2).

[22][美]弗朗西斯·福山.信任社会美德与创造经济繁荣[M]. 郭华，译. 桂林:广西师范大学出版社，2016.

[23]隋岩，曹飞. 论群体传播时代的莅临[J]. 北京大学学报（哲学社会科学版），2012（5）.

[24]姜胜洪. 网络谣言的形成、传导与舆情引导机制[J].重庆社会科学，2012（6）.

[25]Lili Levi.Real "Fake News" and Fake "Fake News"[J].First Amendment Law Review，2018，16.

[26]王艳.民意表达与公共参与:微博意见领袖研究[D].北京：中国社会科学大学，2014.

[27][英]昂诺娜·奥妮尔.信任的力量[M].闫妮，译.重庆:重庆出版社，2017.

[28]Franks M，Waldman A.Sex，Lies，and Videotape：Deep Fakes and Free Speech Delusions[J].Maryland Law Review，2019，78（4）.

[DOI编号] 10.14180/j.cnki.1004-0544.2020.12.009

[中图分类号] C913

[文献标识码]A

[文章编号] 1004-0544（2020）12-0081-10

基金项目：国家社会科学基金“环境风险项目的社会信任机制研究”（16BFX142）；湖南省研究生科研创新项目“算法决策的社会信任机制研究”（CX20200587）。

作者简介：黎梦兵（1992—），男，湖南慈利人，湘潭大学法学院博士研究生；吴勇（1975—），男，湖南慈利人，湘潭大学法学院教授、博士生导师，法治湖南建设与区域社会治理协同创新中心研究员。

责任编辑 杨 幸