内容字号:默认大号超大号

段落设置:取消段首缩进段首缩进

字体设置:切换到微软雅黑切换到宋体

业界
软件
手机
数码
电脑
学院
测评
图赏
视频
游戏
原创
直播
 AI
5G
苹果
微软
iPhone
Win10
精准搜索请尝试:精确搜索

产品视频被曝合成,用GAN造出4个工程师,10天众筹3万美元,这家公司火了

2020/3/11 13:35:51来源:大数据文摘微信公众号作者:刘俊寰责编:懒猫评论:

创业公司吹嘘技术骗取信任和融资的例子屡见不鲜,但近日,一家西班牙技术公司被曝惊天造假,不仅技术和产品demo视频被怀疑是造假合成,连团队里的工程师,都是GAN合成的“AI造人”。

六人的工程师团队介绍中,只有Delgado和Balcells两人确有其人。

有网友评论:这算是给GAN的图像生成技术找了个绝佳的落地场景么?

一起看看。

自动棋盘众筹项目火爆全网,用AI远程跟网友“云”下棋

上周,众筹网站Kickstarter上的一项自动棋盘的项目被迫暂停了,多个知名的在线国际象棋社区联合发表声明,称该产品是个骗局。

被举报的这家初创公司名叫REGIUM,主要开发用于在线比赛的全自动国际象棋棋盘,该公司设计的棋盘通过将内置的电磁铁移入其中,从而自动操作棋盘上的棋子。

根据REGIUM的介绍,这个棋盘可以和可以进行网络对战的国际象棋应用同步,原本在PC画面上进行的国际象棋操作可以在物理上进行,自称是“划时代的项目”。

REGIUM称,他们的自动棋盘是高科技棋盘,用到了AI、自动跟踪技术等,用户移动棋子是快速、无声的,可以将棋盘状态与各种在线象棋APP 同步,与人远程“云”下棋,还能实时载入更多棋类游戏。

REGIUM于2019年12月公开了demo视频,随后在Kickstarter上发起众筹,以商品化为目标募集资金。

这一项目迅速获得了不少围棋爱好者和平台的关注,视频迅速在YouTube上获得了超过4万的点击量。在Kickstarter上,从上线到项目被叫停,不到10天时间就获得了33111美元的筹款。

但是,随着在Kickstarter上的信息公开,用户针对REGIUM提出了各种各样的问题,其中最为严重的是,有人发现,“作为开发团队介绍的成员脸部照片是假的”。

知名在线国际象棋社区Chess.com、Chess24.com和Lichess.org的撰稿人相继发文表示,REGIUM官网上介绍的6名工程师中有4人是不存在的,是在网站thispersondoesnotexist上利用AI生成不存在的人类面部照片。这也导致人们进一步怀疑,“该产品本身可能就不存在”。

REGIUM官网链接:

https://www.chess.com/news/view/update-on-regium-chess

伪造工程师?真真假假破朔迷离

personpersondoesnotexist.com的创建人Phil Wang告诉Chess.com,这四个疑似不存在的人的脸部照片存在部分失真,和机器学习算法生成的照片具有相同的特征。这些图像也没有托管在互联网上的其他任何地方。

随后,Wang使用AI技术生成了不存在的人的面孔,将有关与REGIUM的相关页面链接的肖像的信息转发给Chess.com,并表示,“根据我的经验,它的确来自英伟达的生成模型”。

“可以从眼镜周围的变形以及背景中的伪影看出来,这确实是伪造的照片。”

在使用公开可用的信息与同事进行协调之后,Chess.com还能够在公开在线论坛中验证了与该公司有关联的个人虚假陈述。

目前,Chess.com和Chess24.com都终止了对REGIUM的投资。

不过,在一封发送给科技媒体Motherboard的回应邮件中,REGIUM否认了这些说法,但也没有提供进一步的证据来证明其开发团队是真实存在的。

REGIUM在邮件写道,这个事根本不值得一提,一些人总是会乱说些事情,比如首席技术官不是工程师,他不是门萨的人,这个团队没有成员等等。甚至有人猜测,这些照片的标准尺寸是1024x1024,以及关于董事会和团队成员的说法……

他们知道互联网上的阴谋论是如何进行发酵的,有些人就是喜欢胡言乱语。这些团队成员有家人,有些也在正经公司工作,但在这些疯狂的攻击之后,有人担心这将影响到他们正常的职业生涯,于是他们决定从网上撤除他们的数据。

除了被举报伪造工程师,视频国际象棋网站还认为,在Kickstarter上的demo视频中,录像有被明显篡改的证据。在线象棋平台Lichess的开发者在博客中表示,棋子在棋盘上自动移动的画面很可能是使用定格动画(stop motion)做出来的。

博客链接:

https://lichess.org/blog/XlE48hEAACIAQv2F/regium-extraordinary-claims-require-extraordinary-evidence

REGIUM对此进行了回应,称自己根本不擅长制作宣传视频,在拍摄被编辑掩盖的视频时还有出错。

一些怀疑者“要求用手机录制一段视频,以证明这不是定格动画或CGI”。REGIUM在一封电子邮件中表示,“我们照做了,也把视频发送过去了。任何人都可以看到,在视频中定格动画或CGI是绝对不可能存在的”。

用GAN生成人脸图像真的这么无懈可击吗?

Wang所提到伪造人脸的StyleGAN来自英伟达,可以说是近年火遍全网的“造假”神器了。与其他生成器不同,StyleGAN可以根据需要更改生成图像的结果,绘制出的图片更加逼真,不仅可以创造假的人类肖像,也被疯狂应用于其他机器学习应用项目,例如汽车、房间、甚至是动漫人头等。

REGIUM疑似使用的就是这个利用GAN来生成不存在的人脸图像的网站,点开网站之后,每次刷新页面,算法都会从头开始生成新的人脸图像。

网站链接:https://thispersondoesnotexist.com/

该网站使用的是一种称为StyleGAN的机器学习技术,StyleGAN最初是由英伟达在一篇论文中《一种用于生成式对抗网络的基于生成器体系结构的方式(A Style-Based Generator Architecture for Generative Adversarial Networks))

论文下载地址:https://arxiv.org/pdf/1812.04948.pdf

据论文介绍,StyleGAN是一步一步地生成人工图像的,从非常低的分辨率开始,一直到高分辨率(1024×1024)。通过分别地修改网络中每个级别的输入,它可以控制在该级别中所表示的视觉特征,从粗糙的特征(姿势、面部形状)到精细的细节(头发颜色),而不会影响其它的级别。

这种技术不仅可以更好地理解所生成的输出,而且还可以产生最高水平的结果,即比以前生成的图像看起来更加真实的高分辨率图像。

英伟达的代码链接:https://github.com/NVlabs/stylegan

Philip Wang还在一封电子邮件中表示,绝大多数人都不知道,将来AI在合成图像方面会有多么出色。

不过,尽管非常逼真,但是StyleGAN生成的图片中还是存在一些技术缺陷,文摘菌之前也曾报道过,如何区分真假图片的几个方法,比如,有时候在生成的照片中,乍一看似乎与真实照片没有什么区别,但仔细一看,会发现图像中有一些奇怪的光线会漂浮在人物周围,或者是局部出现奇怪的变形。这也是Wang能够一眼看出照片伪造的关键所在。

GAN于2014年由计算机科学家Ian Goodfellow及其同事首次引入,从那之后,GAN变得越来越强大,现在已经可以以惊人的高分辨率生成高度逼真的图像。

不仅如此,这些程序还可以用于生成人们跳舞的视频,甚至是“将夏天的场景变成冬天的仙境”。不过也有令人苦恼的地方,就是这项技术也有随时被用于以“deepfakes”为核心的的假色情影片制作中。

Wang的网站在租用的服务器上运行,该服务器配有运行Nvidia软件的强大GPU,Wang透露道,每两秒钟生成一张随机的脸,随后以可扩展的方式展示给全世界,这其中没什么花哨。

REGIUM这次事件,不管真假,都足以再次让我们反思技术带来的双面性,的确,大规模的虚假复制将对于平台、个人都将造成不同程度的伤害。

显然,看似作为罪魁祸首的GAN技术,仍然是一种通用的东西,而真正将此滥用的,正是我们人。或许正是出于对现在以及未来GAN的逐渐“疯魔化”趋势,Wang曾表示,他想要在以后坚持真实的脸部图像,“人的脸对我们的认知最重要,因此我决定提出该特定的预训练模型”。

对此,你又是怎么看的?

相关文章

关键词:机器学习

IT之家,软媒旗下科技门户网站 - 爱科技,爱这里。

Copyright (C)RuanMei.com, All Rights Reserved.

软媒公司版权所有