内容字号:默认大号超大号

段落设置:取消段首缩进段首缩进

字体设置:切换到微软雅黑切换到宋体

业界
软件
手机
数码
电脑
学院
测评
图赏
视频
游戏
原创
直播
 AI
5G
苹果
微软
iPhone
Win10
精准搜索请尝试:精确搜索

深入总部,探寻 OpenAI“拯救世界”背后的真相

2020/3/29 16:13:41来源:大数据文摘微信公众号作者:赵吉克、lin、楚阳、Olivia、钱天培责编:微尘评论:

用 “出道即巅峰”来形容 OpenAI 一点也不为过。

2015 年 10 月,硅谷 “钢铁侠”Elon Mush 和传奇投资人 Sam Altman 揽入 10 亿巨资,挥手成立了这个 AI 梦工厂。

除了众星云集的投资人团队,OpenAI 还吸引来了一批技术界的大牛。硅谷知名 fintech 创业公司 Strip 的前首席技术官 Greg Brockman,师从人工智能教父 Geoffrey Hinton 的 Ilya Sutskever,来自多个顶尖大学的研究员等等,都成为了 OpenAI 的第一批造梦师。

“成为第一个实现‘通用人工智能’,并确保这一科技能造福全世界。”OpenAI 来势汹汹。

独立、超前、透明、忠于全人类——这是这家非盈利机构的最初定位。

2017 年 8 月,OpenAI 开发的 Dota 人工智能首次在 1v1 对战中打败顶级人类玩家。

2019 年 4 月,OpenAI 以 2:0 击败了 Dota2 世界冠军 OG。

这还只是 OpenAI 成就的一小部分。从成立到现在,OpenAI 成果颇丰,似乎正在稳健地向实现 “通用人工智能”这一目标前行。

而在另一边,2019 年 2 月,Elon Musk 宣布,由于在公司发展方向上存在分歧,他将与公司分道扬镳。

2019 年 3 月,Sam Altman 辞去了创业加速器 YC 总裁一职,成为 OpenAI 的首席执行官。同月,OpenAI 通过设立 “封顶利润”部门,摆脱了非营利组织的地位。

2019 年 7 月,OpenAI 宣布将接受微软的 10 亿注资,正式建立合作关系。

OpenAI 似乎正在一步步向商业化边缘。

我们不经要问,在这短短 4 年多时间,OpenAI 究竟经历了什么?

而更重要的是,在一个个另外界惊叹的研究成果背后,OpenAI 又到底离 “通用人工智能”还有多远呢?

深挖 OpenAI 的发展历史和现状,问题的答案神秘而有趣。

尽他们所能,做最好的事情

OpenAI 位于旧金山第 18 街和福尔松街的交叉口,平平武无奇的建筑很难让人联想到背后的庞大野心。

很少有人进入过 OpenAI 的办公楼。MIT 科技评论记者 Karen Hao 是得以一度庐山真面的幸运儿之一。

Karen Hao 在今年年初来到 OpenAI,对这些科技狂人 men 进行了一次专访。

“在室内,空间光线充足,通风良好。一楼有几个公共空间和两个会议室,其中一个用于大型会议,叫做‘太空漫游’;另一个,更像是一个装修好的电话亭,叫做‘无尽的玩笑’。这是我访问期间被限制的地方。“Karen 如此描述这一次特殊的采访。

在首席技术官 Greg Brockman 和 Karen 的访谈中,这位科技狂人如此回忆他当时决定加入 OpenAI 的原因。

“马斯克当时和我说,‘我想清楚了。通用人工智能可能很遥远,但如果事实不是这样呢?如果通用人工智能可能在未来五到十年内实现呢?即使这种几率只有 1% 或 0.1%,我们不应该仔细考虑一下吗?’他的这席话引起了我的共鸣。”

起初,OpenAI 研究院们的探索可谓天马行空,公司的扁平化结构更是进一步促成了这样的局面。

然而,这样的随性探究也导致了大方向的模糊。

2016 年 5 月,在一位 Google 研究员访问完 OpenAI 后表示,没人知道他们在做什么。其实 OpenAI 团队自己也不太清楚。他们的目标是,“尽他们所能,做最好的事情”。实在有些模糊。

”到 2017 年 3 月,也就是 15 个月后,领导层意识到是时候更加集中目标了。因此,Brockman 和其他一些核心成员开始起草内部文件,为通向通用通用人工智能铺平道路。

“但是,该过程很快暴露出致命的缺陷。当团队研究该领域的趋势时,他们意识到维持非营利性在财务上是站不住脚的。

”该领域其他团队用于获得突破性结果的计算资源每 3.4 个月翻一番。Brockman 认为,为了保持竞争力,他们将需要足够的资金来达到或超过这一指数级增长。这就需要一种可以迅速积累资金的新组织模型,同时又要使其能够忠于使命。

”考虑到这一点,OpenAI 于 2018 年 4 月发布了章程,这个章程是不对公众和大多数员工公布的。该文件重新阐明了实验室的核心价值,但巧妙地改变了措辞以反映新的现状。除了承诺‘避免使用损害人类利益或过度集权的 AI’,它还强调了对资源的需求。

“它说:‘我们预计需要调拨大量资源来完成我们的使命,但将始终努力以最大程度地缓解广泛的员工和股东之间的利益冲突。’”

Karen 讲述了 OpenAI 使命的微妙变化。

时间快进到 2019 年 3 月。正如文章开头所提到的那样,OpenAI 设立 “封顶利润”部门,实际摆脱了非营利组织的地位。投资人可以通过注资 OpenAI 获利,只不过收益上限为 100 倍。

这样的举动引来了一波指责——毕竟 Google 的早起投资者也只获得了大约 20 倍的资本回报率。

”这样的变化也使许多员工感到不安,他们也表达了类似的担忧。为了缓解内部动荡,领导层撰写了答疑指南,作为一系列受高度保护的过渡文档的一部分。比如,问:‘我可以信任 OpenAI 吗?’ 回答是‘是’,然后是一段解释。“

去年夏天,OpenAI 正式接受微软的 10 亿注资。领导层向员工保证,这些更新不会在功能上改变 OpenAI 的研究方法。微软完全符合实验室的价值观,商业化会很遥远。

”一段时间以来,这些保证似乎都是成立的,项目依旧保持原样。许多员工也不知道他们究竟对微软承诺了什么。“

不过,在和员工的访谈中,Karen 感觉到,“近几个月,商品化的压力加大了,做赚钱研究的需求也不再只发生在遥远的将来了。”

“不为赚钱而研究,但要为研究而赚钱。”

GPT-2 的争议

让我们再回到 OpenAI 的研究进程。伴随组织结构的一次次剧变,OpenAI 的科研是否有从众受益呢?

提到这个问题,我们不得不讲述 OpenAI 的智能写作模型 GPT-2——这是 Dota AI 之外,OpenAI 的另一个重磅研究成果。2019 年 4 月,OpenAI 宣布了 GPT-2 的存在。

GPT-2 是 OpenAI 在自然语言处理领域的一大成果:只要按下一个按钮,模型就能根据输入的一段台词写出风格类似的下一段。

然而,OpenAI 并没有遵从创立之初 “透明、忠于全人类”的原则,选择不发布这个 “神奇”的模型。理由是,“如此强大的 AI 模型如果被不法分子利用,就会成为制造各种虚假言论的武器。”

这立刻引起了科学家的反对,认为 OpenAI 是自导自演了一场公关大戏。

受到争议影响,5 月,OpenAI 一改口径,决定了 “阶段性发布”的计划,并宣称这一切其实都是他们的一场实验——为了应对研究出更大风险的 AI 模型的一次小演戏。

事实上,GPT-2 并不是 OpenAI 第一次选择对其项目保密。另一个更加秘密的项目正在悄然实施。

在一系列访谈和研究后,Karen 发现了 OpenAI 实现通用人工智能的”隐秘 “计划。

“乐观派”OpenAI

对于通用人工智能,目前有两种流行的技术理论。“乐观派”认为,我们已经完成了对通用人工智能的基础研究,只需一些工程类进步,如算力提升,并假以时日,就可以达成。“悲观派”认为,仅靠深度学习等现有技术,我们还无法实现通用人工智能 。

OpenAI 在这场争论中选择了 “乐观派”的立场。

”在 OpenAI 内部,一支名为‘先知’的团队做了一些实验,他们按照数据量和计算能力递增的顺序训练已有的算法,以测试他们能把 AI 的能力向前推进多少。这些实验的结果证实了他们的直觉,即计算驱动策略是最好的实现通用人工智能的方法。

“这些结果在未来的大约六个月都没有被公开,因为 OpenAI 视其为主要竞争优势。员工和实习生被明确指示不要透露它们,而那些离开的人则都签署了保密协议。直到 1 月,OpenAI 才无比低调地在一个用于 AI 研究的主要开源数据库中发布了一篇论文。”

“OpenAI 的秘密之一就是他们的下一步行动:使用大量计算资源对大量的文本、图像数据进行训练的 AI 系统。”

在这期间,OpenAI 的各个团队会尽全力探索不同的 AI 方向:计算机视觉、自然语言处理、机器人,等等。每一个方向都是一个 “赌注”。

最终,一些赌注会脱颖而出,吸收其他方向的研究成果,指出唯一的走向通用人工智能的方向。

“它仍然拥有最重要的元素,也仍有时间去做出改变”

深思这一战略,我们似乎不难明白 OpenAI 的结构剧变了。

面对 “第一个实现通用人工智能”的目标,OpenAI 在前期迷茫的探索后终于找到了一条可行的路线。

这样的战略选择无疑需要大量的资金支撑,组织的结构变化也就随之而来。

“这种压力迫使它做出一些似乎离初衷越来越远的决定。它急于进行炒作以吸引资金和人才,捍卫其研究以期保持优势,并追逐计算繁琐的策略——不是因为这是通向通用智能的唯一途径,而是因为这似乎是最快的。”Karen 这样评论道。

那么,OpenAI 的未来是否又足够明朗了呢?

可以相信,在未来的很长一段时间,我们会持续看到他们更为炫目的研究成果。

更重要的是,OpenAI 无疑有着宝贵的财富。Karen 认为,这里 “充满了为人类的利益而真诚地努力工作的人们。换句话说,它仍然拥有最重要的元素,也仍有时间去做出改变”。

让我们用 Karen 和一位 OpenAI 前研究员的访谈记录作为结尾。对于前东家的前景,这位研究员说道,

“我认为,问题是有的。一些问题来自于他们所面临的环境,而另一些问题来自于他们所吸引的目标人群。但是我觉得他们在做一些正确的事情,因为我能感受到他们正带着真诚而坚定的信念尝试着什么。”

相关文章

关键词:OpenAI马斯克

IT之家,软媒旗下科技门户网站 - 爱科技,爱这里。

Copyright (C)RuanMei.com, All Rights Reserved.

软媒公司版权所有