<label id="8wfpz"><ol id="8wfpz"><tr id="8wfpz"></tr></ol></label>
  • <code id="8wfpz"></code>
    <code id="8wfpz"><cite id="8wfpz"></cite></code>
  • <var id="8wfpz"></var>
    <th id="8wfpz"></th>

    正文

    专家解读|加速推进深度合成服务规范化

    2022年12月12日 15:30 来源: 中国网信网

    随着人工智能和大数据技术的飞速发展,深度合成技术在互联网信息服务中得到广泛应用。这些技术在为用户提供个性化、精准化、智能化信息服务的同时,如非法应用也容易引发侵害用户合法权益、传播违法信息、操纵社会舆论等一系列问题,给国家利益、社会公共利益和公民合法权益带来巨大挑战。11月25日,国家网信办会同工信部、公安部发布《互联网信息服务深度合成管理规定》(下文简称《规定》),以贯彻落实《网络安全法》《数据安全法》《个人信息保护法》和《互联网信息服务管理办法》等法律、行政法规有关规定。《规定》是我国第一部针对深度合成服务治理的专门性部门规章,对规范深度合成服务、促进相关应用健康发展具有重要时代意义。

    一、深度合成成为重要技术应用

    深度合成技术,是指利用深度学习、虚拟现实等生成合成类算法制作文本、图像、视频、音频、虚拟场景等网络信息的技术。深度合成技术最大的特点之一是“以假乱真”,其通过人工智能和大数据算法合成的虚拟数据具有极佳的视觉、听觉等效果,能够使人难辨真假。深度合成技术的代表性研究是在2014年提出的生成对抗网络(GAN),其通过对抗式迭代训练生成器和判别器两个部分,大幅提升数据生成的逼真程度,使得深度合成的结果难以被人眼辨别真伪。伴随着日益增长的应用需求,深度合成技术在教育、影视、传媒等领域扮演着愈发重要的角色,其面部替换、表情操纵、语音合成等不同技术分支,能够升级传统内容制作方法,改善制作效果,提高制作效率,在各类商业化产品中使用比例显著提升。

    二、深度合成技术非法使用带来严重安全风险

    深度合成技术在支持正向应用的同时,也为我们带来新的安全风险。随着深度合成技术的快速发展,其使用门槛愈发降低,呈现出“平民化”的趋势。普通人可以利用简单方便的软件或工具,制作出真假难辨的合成内容。若非法使用深度合成技术,将导致传播违法和不良信息的乱象,对社会信任、媒体信任、政治信任造成冲击。例如,不法分子通过制作虚假的视频、图像、音频等,进行诽谤、诈骗、勒索、诬陷,甚至通过从互联网获得明星、高管、学者、政要的视频、图像、音频数据,利用深度合成技术对其进行恶意攻击。误用、滥用以及恶意使用深度合成技术生成的数据,将为个人、企业带来声誉损害和财产损失,甚至对国家安全、社会稳定造成威胁。因此,《规定》聚焦深度合成服务乱象问题,构建算法安全治理体系,规范互联网信息服务深度合成管理,意义重大,影响深远。

    三、正确处理服务管理规范与技术研究发展的关系

    深度合成技术研究应在安全可靠的基础上推进,在规范中科学发展。深度合成技术已展现其强大的能力,在各个领域的加速应用已成为趋势。然而,在相关技术研究发展的同时,也须直面技术带来的风险,保证算法和数据的安全性、可靠性,最大程度做到技术进步的趋利避害。《规定》在保护深度合成技术良性发展的基础上,明确了生成合成类算法治理的对象,确立了算法治理的基本原则,并鼓励相关行业组织加强行业自律,建立健全行业标准、行业准则和自律管理制度,强化了深度合成服务提供者和技术支持者的主体责任,为安全可靠的深度合成技术发展指明了方向,并为技术的服务应用提供指引和规范。

    四、深度合成的安全性、可靠性保障对技术治理提出新要求

    《规定》在规范互联网信息服务深度合成管理的同时,也为相关安全性、可靠性保障提出了新的技术治理要求。一方面,深度合成服务提供者应加强深度合成内容管理,建立健全用于识别违法和不良信息的特征库,在非人工审核情形下,则应对使用者的输入数据和合成成果进行精准有效的技术审核,进而对违法和不良信息依法采取处置措施。另一方面,深度合成服务提供者对使用其服务生成或者编辑的信息内容,应当采取技术措施添加不影响用户使用的标识。这要求服务提供者开发新的技术,在不影响用户使用的前提下,在视频、图像、音频、虚拟场景等深度合成信息上合理添加显著标识。此外,由于数据传输过程中,可能会出现如视频帧率降低、图像压缩等常见处理,所添加标识还须具备强鲁棒性,避免在传输过程的正常处理中受到破坏。

    综上,《规定》的颁布标志着我国深度合成服务的规范管理工作进入新阶段。深度合成服务提供者和技术支持者应认真学习和理解《规定》,明确主体权责,积极应对深度合成安全性、可靠性技术要求。深度合成服务使用者也应加强算法应用的安全意识,保证使用的合规合法性,有效维护自身的合法权益。(作者:周杰,清华大学研究生院院长

    关闭

    中共中央网络安全和信息化委员会办公室
    中华人民共和国国家互联网信息办公室 © 版权所有
    承办:国家互联网应急中心
    技术支持:长安通信科技有限责任公司
    京ICP备14042428号

    Produced By CMS 网站群内容管理系统 publishdate:2022/12/13 14:26:09
    久久精品国产97国产精品图片
    <label id="8wfpz"><ol id="8wfpz"><tr id="8wfpz"></tr></ol></label>
  • <code id="8wfpz"></code>
    <code id="8wfpz"><cite id="8wfpz"></cite></code>
  • <var id="8wfpz"></var>
    <th id="8wfpz"></th>