好玩的AI换脸 也可能威胁国家安全?

中国经济E商业公司2019.9.3我想分享

ZAO可能带来的潜在危险和不安全感也是人工智能为社会提供产品时人们面临的不可避免的挑战。

名为ZAO的AI Face Change软件在整个网络中都很受欢迎,但它已经很久没有了。已经停止访问的“ZAO”微邮件共享链接已经在一夜之间流行起来。关于“ZAO”屏幕刷牙引起的隐私焦虑和风险问题,它仍在蔓延。

事实上,ZAO软件是一款改良的变脸APP,于2017年在美国发起,名为Deepfakes。它是Deep Machine Learning和Fake Photo的缩写。最生动的名字是Deepfakes。

当然,因为它是伪造的,所以应该禁止它。它不仅可能造成个人信息泄露造成的各种不安全因素,而且如果涉及犯罪,也难以区分真假犯罪分子,同时增加司法成本。当然,在一些国家,例如美国,面子变化也可能成为反恐的噩梦,这不仅使恐怖分子很容易犯罪并通过改变面子逃脱,而且还使其变得更加困难。安全部门打击恐怖主义。

所有这些问题都是Zao和类似软件可能产生的潜在危险和不安全因素,这也是人工智能为社会提供产品时人们将面临的不可避免的挑战。因此,如何监督是最现实和最严重的问题。

现在ZAO软件面临着禁止和释放管理者的艰难选择。面对变脸,美国,欧盟和其他国家认为,即使是潜在的威胁也是非常严重的,必须先予以预防。

今年1月28日,卡内基国际和平基金会发表了一篇文章《国家如何应对Deepfakes?》,指出Deepfakes所代表的面向变革的技术存在一系列潜在的危害,包括煽动政治暴力,破坏选举,破坏外交关系,提供虚假证据和干涉司法,实施勒索等。希望各国明确界定Deepfakes的不当使用。没有必要接受社会所定义的和不可接受的东西。这有利于社会和法律管理以及社交媒体规范。其平台管理在线内容。

今年6月13日,美国众议院情报委员会举行了关于Deepfakes的听证会。该委员会主席,国会议员亚当希夫说,篡改视频的传播给2020年的总统大选带来了“噩梦”。现场使议员,新闻媒体和公众难以区分真实和虚假。因此,他和美国马里兰州法学院教授Daniel Sitron建议国会考虑修改《通信规范法》第230条(互联网服务不对其用户的行为负责)来打击Deepfakes并保护用户来自假货。误导新闻。

为了应对Deepfakes改变面貌的技术的破坏性和危险性内容,欧盟还在2019年初引入了指南,以帮助公众确定信息的来源,信息的产生方式以及信息是否值得信赖。

可以看出,美国和欧盟非常重视变脸技术的潜在危险,尚未制定禁止它们的法律,但只是在进行示威游行。然而,在压力之下,删除了美国Reddit上改变面貌的技术的讨论版本。这种改变面貌的技术在美国也被禁止,其GitHub开源代码也被删除了。

虽然ZAO软件似乎并没有造成真正的伤害,但正如网民指出的,潜在的危险是非常真实的:“有手机号码,有面部图像,通过技术合成,罪犯可以打电话给你和你的家人。”因此,公众的担忧并不令人担忧,有必要尽快用明确的法律条文加以规范。

收集报告投诉

ZAO能够创造的潜在危险和不安全性也是人工智能在向社会提供产品时必须面对的挑战。

名为zao的人工智能变脸软件风靡网络。不过,好消息并不长。早的微信分享链接已经停止。对于“造”屏带来的隐私焦虑和风险的担忧仍在蔓延。

事实上,zao软件是一款经过修改的变脸应用。它于2017年起源于美国,被称为“深度假货”。它是深度机器学习和假照片(合称)的简称,最生动。标题是一个深度(照片)欺诈。

既然是欺诈,当然必须禁止。它不仅可能产生各种不安全感,造成个人信息泄露。如果涉及犯罪,容易变脸的操作会使真假罪犯难辨,增加司法成本。当然,在一些国家,如美国,变脸也可能成为恐怖主义的噩梦,这可以使恐怖分子更容易犯罪,并通过面子逃跑,也增加了反恐部门在安全部门的困难。

所有这些问题都是ZAO和类似软件可能产生的潜在危险和不安全因素。这也是人工智能在向社会提供产品时必须面对的挑战。因此,如何监督是最现实、最严重的问题。

现在ZAO软件面临着管理者禁止和发布的艰难选择。对于面子变化,美国和欧盟认为即使是潜在的威胁也是非常严重的,必须先采取行动。

今年1月28日,卡内基国际和平基金会发表了一篇文章《国家如何应对Deepfakes?》,指出Deepfakes所代表的面向变革的技术存在一系列潜在的危害,包括煽动政治暴力,破坏选举,破坏外交关系,提供虚假证据和干涉司法,实施勒索等。希望各国明确界定Deepfakes的不当使用。没有必要接受社会所定义的和不可接受的东西。这有利于社会和法律管理以及社交媒体规范。其平台管理在线内容。

今年6月13日,美国众议院情报委员会举行了关于Deepfakes的听证会。该委员会主席,国会议员亚当希夫说,篡改视频的传播给2020年的总统大选带来了“噩梦”。现场使议员,新闻媒体和公众难以区分真实和虚假。因此,他和美国马里兰州法学院教授Daniel Sitron建议国会考虑修改《通信规范法》第230条(互联网服务不对其用户的行为负责)来打击Deepfakes并保护用户来自假货。误导新闻。

为了应对Deepfakes改变面貌的技术的破坏性和危险性内容,欧盟还在2019年初引入了指南,以帮助公众确定信息的来源,信息的产生方式以及信息是否值得信赖。

可以看出,美国和欧盟非常重视变脸技术的潜在危险,尚未制定禁止它们的法律,但只是在进行示威游行。然而,在压力之下,删除了美国Reddit上改变面貌的技术的讨论版本。这种改变面貌的技术在美国也被禁止,其GitHub开源代码也被删除了。

虽然看起来ZAO软件并未造成实际伤害,但正如网友指出的那样,潜在的危害是非常真实的:“有手机号码,有面部图像,通过技术综合,犯罪分子可以打电话给你和你的家人因此,公众的担忧并不令人担忧,有必要尽快通过明确的法律规定对其进行规范。