赐研®网站 > ai人工智能 >> 嘉兴苹果X进水修理_AI专家警告:GPT-3令人赞叹,但缺乏透明度

嘉兴苹果X进水修理_AI专家警告:GPT-3令人赞叹,但缺乏透明度

让算法像人一样书写是OpenAI多年来追求的梦想。嘉兴苹果X进水修理他的最新研究成果是语言生成算法模型GPT-3,该模型现在已用于生成无法区分的伪文章。他的博客欺骗了Hacker News的发布者,甚至成为该网站上的热门文章。

让算法像人一样书写是OpenAI多年来追求的梦想。嘉兴苹果X进水修理他的最新研究成果是语言生成算法模型GPT-3,该模型现在已用于生成无法区分的伪文章。他的博客欺骗了Hacker News的发布者,甚至成为该网站上的热门文章。

这篇文章写道:“要做好事情,也许我们不需要思考太多。这似乎违反直觉,但我相信有时思考太多会阻碍我们的创造力。”

OpenAI之所以能够实现如此高效的算法,是因为它可以访问大量的计算和数据,并且该算法本身的容量远远大于所有现有算法:GPT-3的最大版本具有1,750亿个参数,该等式可以帮助算法做出更准确的预测。 GPT-2只有15亿个参数。

嘉兴苹果X进水修理

尽管OpenAI宣布了其算法,但这一次它选择使GPT-3保持神秘。该公司表示,对于大多数运营商而言,GPT-3太大了,为此收费将使OpenAI从中获利。

在过去的一年中,OpenAI改变了公司的结构,以使其对投资者更具吸引力。它放弃了“极限利润”模型的非营利性定位,因此,如果OpenAI获利,投资者可以获得回报。它还与微软达成了一项10亿美元的合作协议,以启动两家公司之间的合作。该协议还允许OpenAI优先访问Microsoft的云计算平台。

研究人员说,他们质疑OpenAI不公开该算法,说它违反了基本的科学原理,对公司声明的验证变得越来越困难。

Facebook人工智能研究(FAIR)联合总监兼Facebook蒙特利尔人工智能研究实验室负责人Joelle Pineau在一封电子邮件中说:“我非常关注GPT-2 // GPT- 3和AlphaGo不共享代码表示怀疑。在人工智能领域,有许多类似的情况。”

GPT-3的核心是功能非常强大的英语写作工具。 GPT-3最重要的是它的规模。它通过分析45万亿字节的数据来学习写数据。据报道,这一培训过程已经在云计算上花费了数百万美元,并且见证了数亿人的写作组合。

这是OpenAI长期战略的关键部分。多年来,该公司表示,深度学习算法的规模越大越好。数据越多,计算能力越强,算法能力越强。 OpenAI在Dota 2中击败了专业的电竞玩家,因为它能够同时在数百个GPU上训练算法。

AI专家警告:GPT-3令人赞叹,但缺乏透明度

OpenAI的领导人表示,OpenAI的政策总监Jack Clark认为,算法越大,“组织性,创造性和可靠性就越高”。在谈到“ Dota 2”机器人所需的训练量时,首席技术官Greg Brockman说:“当我们的运气用尽时,我们期待能与对手见面的比赛。”

GPT-3使用类似的方法。 OpenAI相信更大的算法意味着更多的参数,从而允许更多的常规操作。例如,GPT-3的最基本功能是自动完成。给它一个单词或句子,它会逐字生成它认为接下来应该出现的单词和句子。无需对算法进行任何更改,它还可以回答问题甚至进行翻译。这不同于只能处理一项任务的特殊微调算法。

有人认为,这是迈向人工智能圣战的一步,这意味着算法可以像人类一样学习和适应。而其他人则说算法仍然无法真正理解它生成的单词。

OpenAI发布了一份详细的研究报告,嘉兴苹果X进水修理解释了该算法的体系结构及其实现的结果。当涉及GPT-3的功能研究时,其他人工智能研究人员只能选择信任OpenAI。这家研究公司最近不再是非营利组织,而是开始募集资金开发商业产品。它不再像过去那样发布算法。

2019年2月,OpenAI宣布之前最大版本的GPT-2算法可能会产生错误信息或虚假消息,这太危险且不方便发布。这项声明引起了许多疑问。该公司首先发布了GPT-2的简化版本,在最终发布该算法的最大版本之前,没有发现滥用迹象。现在,与其说GPT-3太危险,不如说它似乎太有利可图,因此无法发布。

GPT-3只能通过OpenAI运行的API进行访问,这类似于Amazon,Google和Microsoft等公司的算法货币化方法。开发人员可以编写程序以将特定的指令发送到O中的GPT-3,GPT-3penAI云生成响应并返回结果。尽管该API在封闭测试期间是免费的,但OpenAI正在考虑长期定价。这意味着研究人员只能向该算法发送特定的命令,而OpenAI可以随时取消访问。

OpenAI将这种方法归因于安全性和规模考虑。如果该公司发现有人滥用了该API来做诸如支持虚假新闻网站之类的事情,那么它可以取消开发人员的访问权限。

该公司还表示,这些算法规模庞大且运行成本高昂,更不用说开始培训的成本了。 “这使除大公司以外的任何人都难以从底层技术中受益。我们希望API将使小型企业和组织更容易使用强大的人工智能系统。”

由于云计算的定价方法,OpenAI培训和操作算法的确切成本难以计算。租用GPU的成本取决于多种因素,例如特定服务器区域的地理位置相近以及基于项目规模的协议费率。由于OpenAI使用部分资金来构建自己的超级计算机来完成任务,因此它可能会从与Microsoft的10亿美元合作中受益。

但是这些限制(即规模和缺乏透明性)使其他科学家很难复制和验证算法的有效性。

人工智能虽然涉及风险资本和公司利益,但它仍然是研究计算机科学的方法,并且这种科学方法仍然适用。可以复制最好的科学实验,例如建立成功完成任务和证明假设的算法。

Pinault是可复制计算机科学的热心支持者,她认为GPT-3和AlphaGo等未经宣布的算法是“科学人工制品”。她在一封电子邮件中说:“这有点像挖出恐龙骨头。它为您提供支持某些理论的证据,但与实际实验不同。”皮诺说,这些“文物”可以帮助提出未来的研究假说,但它们仍不能替代扎实的知识。

许多人担心,通过限制对代码和训练有素的算法的访问,人工智能的“民主化”,即任何人都可以使用人工智能,将受到OpenAI的威胁。术语“使用人工智能”是多方面的,意味着计算能力,数据集和算法本身的使用。诸如Google的TensorFlow和Facebook的PyTorch之类的开源框架使算法易于构建和共享一样,还有许多其他开源数据集。

但是,计算能力来自硬件,而硬件是有限的物理资源。大型公司和资金雄厚的研究机构(如OpenAI)更有可能获得此资源。

如果OpenAI的实验被证明是人工智能的发展方向,并且算法的扩展转化为性能的提高,那么那些负担不起高级人工智能的人将无法使用它。这还将使拥有资源的大公司能够设置规则,以确定谁有权使用某些人工智能算法。例如,他们可以使用API​​来设置和收费以访问和使用算法。

乔治亚理工学院的人工智能教授Mark Riedl研究自然语言处理说:“如果您确信实现更好的人工智能的方法实际上是实现更大的规模,那么谁可以拥有更多的卓越人工智能呢?由OpenAI决定。”

Riddle质疑OpenAI是否将监视其新API的所有使用,以确定是否将其用于恶意目的。 OpenAI花了很多精力思考如何滥用其算法。 “ OpenAI是否会查看输出以确定其技术是否得到适当使用?鉴于其目的以及与新利润模型的冲突,这似乎至关重要。他们可以进行大规模监控吗?”

并非所有人都同意OpenAI的“更大更好”方法是人工智能的发展方向。例如,自然语言处理研究人员Melanie Mitchell(Melanie Mitchell)对GPT-3进行了“模仿”测试,要求使用算法来识别特定字母序列中的变化模式。如果“ abc”变成“ abd”,“ efg”会变成什么?

在1980年代,米歇尔(Michelle)开发了一种算法来解决人类一直在进行的这种类比小型模拟测试。为了做出正确的比喻,您必须了解所有组件之间的关系。对于字母,算法必须了解字母的顺序和每个字母的位置。尽管该算法在许多测试中表现良好,但Michelle发现它无法掌握其他算法数十年前掌握的一些简单概念。

米歇尔说:“就研究而言,我个人认为对问题投入过多的计算和参数可能会迫使人工智能。陷入死胡同。如果我们的目标是制造具有通用智能的强大机器,那么我认为这不会取得真正的进步。 ”

她承认,在制造需要深度学习的人工智能产品时,巨大的计算能力为科技巨头提供了优势,但是相反,并非所有现代问题都需要高能深度学习算法,并且并非每个问题都需要达到GTP-3规模。

在测试算法时,嘉兴苹果X进水修理米切尔写道:“ GPT-3的性能令人惊叹,但它也与当今最先进的人工智能系统中的许多情况类似:看似智能的性能与一些非人为错误混合在一起。不知道为什么它表现良好或犯了错误。”

本文链接:https://www.zhaoiphone.cn/ai/1054.html
版权声明

本站资讯除标注“原创”外的信息均来自互联网以及网友投稿,版权归属于原始作者,如果有侵犯到您的权益,请联系我们提供您的版权证明和身份证明,我们将在第一时间删除相关侵权信息,谢谢.联系地址:977916607@qq.com

标签列表