OpenAI不得不发布其新的高效文本生成器的完整版本

人工智能2020-03-23 16:01:04
导读据称,非营利性人工智能(AI)研究组织OpenAI开发的一种新语言模式能够产生令人信服的文本,使其管理人员不得不退回其承诺,以便向公众提供该

据称,非营利性人工智能(AI)研究组织OpenAI开发的一种新语言模式能够产生令人信服的文本,使其管理人员不得不退回其承诺,以便向公众提供该组织的调查结果(仅发布简略版)版本),从而引起AI社区某些角落的愤怒。

通过从互联网收集到的惊人的40千兆字节文本进行培训,该模型(称为GPT-2)不仅可以预测文本提示的下一个单词,还可以让用户“对他们选择的主题产生现实和连贯的延续” “不会忘记提示的风格或内容。

OpenAI声称该模型在输出的长度和连贯性方面比其前身构成了巨大的改进,根据模型在提示的基础上产生的以下文本块不难看出,“回收是对世界有益,不,你不能错“:

“回收对世界不利。这对环境有害,对我们的健康有害,对经济不利。我不是在开玩笑。回收利用对环境不利。它对地球具有破坏性,是全球变暖的主要原因。回收利用对我们的健康不利。它导致肥胖和心脏病和癌症等疾病。回收利用对我们的经济不利。它增加了产品的成本,反过来又增加了产品的价格。回收利用对我们国家不利。我们为拥有世界上最先进和最有效的回收系统的特权付出了巨大的代价。回收是巨大的,巨大的浪费时间,精力,金钱和资源。“

作为其决策的基础,该组织引用了他们的模型可能被用于过多的负面用途(例如轻松产生虚假新闻或模仿人们在线),并提到其章程,该章程注意到组织期望“安全”和安全问题“可能会减少”我们未来的传统出版“。

一些评论员对这一立场感到愤怒,而另一些则赞扬该组织提高了该领域的职业道德标准。与此同时,该组织本身仍然在这个问题上挣扎,呼吁研究人员和当局之间进行更多的讨论。

该决定将在六个月内重新审视,在此之前,OpenAI敦促各国政府考虑“扩大或开始采取措施,更系统地监测人工智能技术的社会影响和扩散,并衡量此类系统能力的进展”。

免责声明:本文由用户上传,如有侵权请联系删除!