我的位置:首页 > 资讯>软件

互联网大佬联手对付换脸神器DeepFake,Twitter先出招了

时间:2019-11-12 14:43:17 来源:互联网 作者: 神秘的大神 字体:

  上个月 Twitter 曾表示,它们正在研究新政策,以肃清 DeepFake(一种利用深度学习技术识别和交换图片、视频中人物脸部图像的工具)及其它“被操纵”的媒体,还图片、视频及音频本来面目。

  今天(11 月 12 日),Twitter 终于拿出了了新政草稿,要在正式上线前征求公众意见。显然,Twitter 的新政是要解决互联网上泛滥的 DeepFake 问题。

  人工智能技术的进步让 DeepFake 有了飞速繁殖的机会,只要手握它,你就能轻松捏造出看起来“真到不能再真”的虚假视频、音频和其它数字内容。技术无罪,拿它来娱乐倒不是问题,但一旦它被用在错误的地方就麻烦了。在现实世界,别有用心的人甚至能借助 DeepFake 捏造的视频毁掉某个候选人的名声,拿所谓“实锤”来迷惑大众。

  雷锋网了解到,今年早些时候,就有人在 Facebook CEO 扎克伯格身上使用 DeepFake 了,其起因只是因为 Facebook 不愿撤掉某个视频。

  上月月初,参议院情报委员会的 Mark Warner 和 Marco Rubio 召集了主要科技公司负责人,为的就是拿出一个打击 DeepFake 的计划。参会的共有 11 家科技公司,包括 Facebook、Twitter、YouTube、Reddit 和领英等,它们要尽快制定出一个行业标准,以规范人工合成内容的分享、移除和归档。

  Twitter 动作挺快,上月月末就拿出草稿征求公众意见了,而亚马逊则选择与 Facebook 和微软一道支持 DeepFake 探测挑战赛,为的就是找到嗅探“被操纵”媒体的最好方案。

  草案中 Twitter 表示,一旦它们发现故意误导或混淆是非的合成或“被操纵”内容,就会执行下列操作:

  • 在分享合成或“被操纵”媒体的推文旁打上标记;
  • 在用户分享或点赞这类推文前给出警告;
  • 添加链接指向真的新闻或 Twitter Moment,用多方来源证明合成或“被操纵”媒体的虚假属性。

  Twitter 表示,如果 DeepFake 威胁到某人的人身安全或造成严重伤害,它们就会彻底移除该内容。

  除了参与问卷调查,用户也能在 #TwitterPolicyFeedback 话题下提供反馈。

  问卷调查中向用户征求了合成图片与视频的处理方法,即到底该彻底移除,贴警告标签还是见机行事。同时,Twitter 还征询了用户的接受度,当它们隐藏推文或提出警告时大家能否接受。此外,对于什么时候该移除带有误导媒体的视频,Twitter 也广泛征询了用户意见(比如威胁了某人的精神健康、隐私、尊严、财产等)。

  整个问卷调查填写大约要花费 5 分钟时间,英语、日语、葡萄牙语、阿拉伯语、印地语和西班牙语用户均可参与。

  不过,雷锋网(公众号:雷锋网)发现,DeepFake 管理方案准备好后,Twitter 如何嗅探到那些恶意内容却成了谜,毕竟当下此类技术还不完美,而且 DeepFake 的伪装能力也越来越强。为此,Twitter 也决定开诚布公接受各界建议。

  Twitter 向用户征求意见将持续到本月 27 日,随后它们会审阅收到的反馈并对草案进行必要的调整。新规正式上线前,Twitter 还会给出 30 天的过渡期。

  雷锋网编译自外网。