亚马逊警告员工不要向 ChatGPT 分享机密,包括正在写的代码

2023/1/25 16:00:21 来源:网易科技 作者:小小 责编:汪淼

1 月 25 日消息,自从人工智能研究公司 OpenAI 于 2022 年 11 月发布 AI 聊天机器人 ChatGPT 以来,后者在科技领域受到热捧,但科技巨头亚马逊却对其充满了警惕,甚至警告员工不要与 ChatGPT 分享机密信息

亚马逊内部 Slack 频道有许多员工关于如何使用 ChatGPT 的问题。有些员工询问亚马逊,是否制定了关于在工作设备上使用 ChatGPT 的官方指导。而其他人则想知道,他们是否被允许使用 AI 工具工作。一位员工敦促亚马逊云计算部门 AWS 澄清其对使用“生成性 AI(AIGC)工具”的立场。

很快,亚马逊一名公司律师加入了讨论。Slack 频道的内部交流截图显示,这位律师警告员工不要向 ChatGPT 提供“任何亚马逊机密信息”,包括正在编写的亚马逊代码。他还建议员工遵循公司现有的保密政策,因为 ChatGPT 的某些回复看起来与亚马逊内部情况十分相似。

这位律师写道:“这一点至关重要,因为你的输入可能会被用作 ChatGPT 的迭代训练数据,我们不希望它的输出中包含或类似于我们的机密信息。”

这些交流表明,ChatGPT 突然出现后引发了许多新的伦理问题。ChatGPT 是一种对话式 AI 工具,可以用更清晰、更智能化的答案回应查询。ChatGPT 的迅速扩散有可能颠覆多个行业,包括媒体、学术和医疗保健行业等,促使人们努力寻找聊天机器人的新用例及其可能产生的影响。

员工如何与 ChatGPT 共享机密信息,以及其开发者 OpenAI 如何处理这些信息,可能会成为非常棘手的问题。这对亚马逊来说尤其重要,因为其主要竞争对手微软已经在 OpenAI 投入了大量资金,包括本周新一轮的融资,据报道总计达 100 亿美元。

在华盛顿大学教授计算语言学的艾米丽・本德(Emily Bender)说:“OpenAI 在如何使用数据方面还远远不够透明,但如果这些数据被用于训练,我预计企业会这样想:在广泛使用 ChatGPT 几个月后,是否可能通过精心设计的提示来获取私人公司的机密信息?”

亚马逊为员工使用 ChatGPT 设置了许多内部防护措施。例如,交流的信息截图显示,当员工使用工作设备访问 ChatGPT 网站时,会弹出一条警告消息,称他们即将访问一项第三方服务,该服务“可能未被亚马逊安全部门批准使用”。

参与 Slack 频道聊天的员工表示,他们只需点击“Acknowledge”选项卡,就可以绕过这条消息。工作人员猜测,该警告弹出窗口是为了防止员工将机密信息粘贴到 ChatGPT 上,特别是因为他们还没有看到公司关于内部使用的政策。

尽管如此,有些亚马逊员工已经在将 AI 工具用作软件“编码助手”,以帮助改进内部代码行。一位亚马逊员工在 Slack 频道上写道:“我认为,如果现在能直接使用这一功能,那就太棒了!因此,任何指导意见都将是非常棒的。”

既担忧又兴奋

另一名员工说,他在 ChatGPT 上分享了亚马逊对一个公开编程职位的面试问题。根据这位员工在 Slack 上的帖子,该 AI 模型为其中几个技术问题提供了正确的解决方案。他说:“看到这将对我们进行编程面试的方式产生什么影响,我既感到担忧又觉得兴奋。”

总体而言,参与 Slack 频道聊天的亚马逊员工对 ChatGPT 的潜力感到兴奋,并想知道亚马逊是否正在开发与之竞争的产品。警告员工不要使用 ChatGPT 的公司律师表示,亚马逊正在加速开发“类似的技术”,并引用了语音助手 Alexa 和代码推荐服务 CodeWhisperer 为例。

一名 AWS 员工写道,Enterprise Support 团队最近在内部成立了小型工作组,以“了解高级聊天 AI 对我们业务的影响”。研究显示,ChatGPT 在回答 AWS 支持问题方面“表现非常好”,包括解决 Aurora 数据库问题等。与此同时,它在为 AWS 认证的云架构师考试创建培训材料方面、提出客户的公司目标方面也非常出色。

“远不够透明”

华盛顿大学的本德表示,在工作中越来越多地使用 ChatGPT 引发了严重的问题,即 OpenAI 计划如何使用与 AI 工具共享的材料。

OpenAI 的服务条款要求用户同意其可以使用用户和 ChatGPT 所产生的所有输入和输出。它还表示,OpenAI 从使用的数据中删除了所有个人身份信息 (PII)。

但本德称,考虑到 ChatGPT 的规模迅速增长,在推出一周内就突破了 100 万用户,很难看出 OpenAI 如何识别和删除所有个人信息。更重要的是,公司的知识产权可能不属于 PII 定义的一部分。

对于亚马逊的员工来说,数据隐私似乎是他们最不关心的问题。他们说,在工作中使用聊天机器人已经使工作效率提高了 10 倍,许多人都希望能加入开发类似服务的内部团队。

其中一名员工在 Slack 上写道:“如果现在有建立类似服务的计划,我非常希望能加入其中,在有需要的时候略尽绵薄之力。”

相关文章

软媒旗下网站: IT之家 辣品 - 超值导购,优惠券 最会买 - 返利返现优惠券 iPhone之家 Win7之家 Win10之家 Win11之家

软媒旗下软件: 魔方 云日历 酷点桌面 Win7优化大师 Win10优化大师 软媒手机APP应用