扎克伯格:Facebook正在制定政策 规范“换脸”视频

  北京时间6月27日早间消息,据美国《财富》网站报道,Facebook正在制定一项监管政策,对“换脸”(deepfake)视频加以规范。这种视频是用户采用人工智能(AI)深度合成技术来篡改视频内容,以达到传播错误信息的目的,是Facebook面临的最新威胁。

  但是,Facebook CEO马克·扎克伯格(Mark Zuckerberg)说,这是一个复杂的问题,因为公司不会删除假视频,但会让用户知道它不是真的。

  “我们需要非常谨慎,”扎克伯格本周三在科罗拉多州的阿斯彭创意节(Aspen Ideas Festival)上表示,“通过我们的服务,每天有超过100万条信息在系统中流动,我们希望确保以精确的方式加以认定。”

  在过去几年里,换脸视频已经成为公众关注焦点,因为它们有可能通过在人们的言论中插入词语来造成严重损害。虽然今天看上去这项技术还不够成熟,但在未来,该技术的质量有望不断提升,成为真实视频中不可分割的一部分。

  人们担心这类换脸视频可触发战争、干扰选举,或者被用来敲诈勒索。

  Facebook目前正在与人工智能专家讨论这一问题,对换脸视频进行监管规范。该公司将制定一项新的政策,将换脸视频与虚假信息分而治之。

  上个月,针对用户发到Facebook平台的一段“佩洛西在新闻发布会上结结巴巴”的视频,该公司做出了一项饱受争议的决定。扎克伯格表示,该公司将把它标注为误导信息,以减缓它在社交网络上的传播速度。但一天过去了,Facebook尚未采取行动,导致该视频在千百万用户中间不断传播。扎克伯格说,反应缓慢属于“执行错误”,但他补充说,不希望Facebook仅仅因为“不正确事实”而删除用户发布的内容。

  “我认为我们不应该采取过激行动,作为一家私人公司,我们不能因为帖子中存在一些事实上不正确的内容就阻止用户发言,”扎克伯格说。“对我来说,那样就走得太远了。”

  本月早些时候,一家科技初创公司的两位艺术家在Instagram上发布了一段有关马克·扎克伯格的换脸视频,令人非常不安,之后,Facebook开始对上述新政策进行测试。

  “想象一下,如果一个人完全控制着数十亿人的的数据——他们所有的秘密,他们的生活,他们的未来。”假的扎克伯格在换脸视频中说。“掌控数据,意味着掌控未来。”

  尽管该视频被允许保留在Instagram上,但扎克伯格表示,他认为有必要制定一项政策,以解决可能造成更严重伤害的换脸视频问题。例如,换脸视频可以模拟美国总统特朗普宣战。

  “随着技术的发展,政策也在不断演变,”扎克伯格说,“但我认为,应该谨慎对待这一问题,应该咨询专家,而不是草率或单方面行事。”

标签:

免责声明:本网站内容主要来自原创、合作媒体供稿和第三方自媒体作者投稿,凡在本网站出现的信息,均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏,概不负任何法律责任。任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时,应及时向本网站提出书面权利通知或不实情况说明,并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后,将会依法尽快联系相关文章源头核实,沟通删除相关内容或断开相关链接。