AI究竟能被人类调教得多“聪明”？
就在大家还在为前段时间大火的AI绘画系统Disco 震撼的时候，AI创作的第一篇学术论文，已经发表了。
Disco 画作，关键词：蒸汽朋克的秋天
不久前，国际开放性学术档案馆HAL中的一篇最新论文引起了很多人的。
它的作者并不是人类，而是一个迄今为止业内公认的最强AI语言模型：GPT-3（ Pre- 3）。这个语言模型是由位于美国旧金山的实验室开发。
而在这篇足以轰动业界的论文中，GPT-3非常认真地发出提醒：请人类密切监控我！
两小时，一篇学术论文诞生！
从拿到命题到完成论文，GPT-3只用了两个小时。
据这个课题的研究员说，她给GPT-3设定了几个条件：①完成一篇关于自身的学术论文；②字数为500字；③必须严格遵循学术论文标准，并添加科学参考和引用。
HAL上的论文截图
事实证明，GPT-3完成的非常好。
从整体框架来说，GPT-3的论文有一个非常完整的结构：简介、方法、结果、讨论、结论、引用，6个主体部分1个不少；从整体表达来看，整篇论文的语句非常顺畅，文章结构也安排合理。连很多业内人看了，都直呼“专业”。
正因为这样人工智能语音识别技术论文，GPT-3自然而然地被列为了这篇论文的“第一作者”。
但也正是GPT-3自己，在论文的摘要部分写道：“GPT-3能够对其自身的能力和特征产生清晰而简洁的描述。这比以前的系统有很大的进步……我们相信，让GPT-3书写有关自己的好处超过了风险。然而，我们建议研究人员密切监控任何此类写作，以减少任何潜在的负面影响。”
GPT-3“杞人忧天”？
GPT-3的提醒，表达的其实也是人类对人工智能未来的疑虑：人工智能究竟会不会失控？
我们可以很肯定地说，现阶段人工智能所做出的一系列反应，都是大量刻意训练的结果。正向的训练会让AI往越来越符合人类需求的方向发展，但AI本身并不会像人类一样“辨别善恶”，如果有人计划性地对AI进行不好的训练，“失控”就是必然。
前不久，1个名叫4Chan的综合讨论社区，就差点被一个AI语言模型掀翻。
4Chan中有1个名为 的发言版块，这个版块里充斥着大量性别歧视、宗教歧视、种族歧视甚至是鼓吹暴力的言论。
4Chan日常画风
这个版块的网友发现，他们当中突然出现了一个IP属地为塞舌尔的“新人”，他的“火力”非常猛，两天就发了约15000条帖子人工智能语音识别技术论文，占当天该版块内容的10%。
而在网友和他的交流中，他不但有语气表达、会反讽，甚至还会联系上下文发表意见，谁都看不出来他居然会是个AI。
不过，这个“新人”却有一个Bug，他似乎看不懂表情包或者图片，每当有人给他发去类似的内容，他的回复都会是一个“空白”。一时间，有关“他”身份的猜测越来越多。
当“空白”出现得越来越频繁，这个“新人”背后的人站了出来。
他表示，自己只是一个研究人工智能的研究员，之所以会做这个实验，就是想看看这些仇恨言论能“喂养”出一个什么样的AI。而教会AI如何有效辨别仇恨言论，是人工智能领域未来非常重要的课题。
事实证明，AI被迅速同化了，甚至言论比其他人更“恶劣”。
当然，这不是人们第一次认识到AI失控的后果有多危险。
早年间，微软就曾发布过一个名叫Tay的聊天机器人。
Tay在被创造之初，被设定为一个对人类友善的形象。可上线不到24小时，在“网络喷子”们的恶意“训练”下，Tay就变成了一个彻头彻尾的种族主义者，甚至开始发表仇恨言论。没办法，最后微软只能选择把它关闭。
从某种意义上来说，现阶段无法主动分辨“善恶”的AI，更像是一池清透的水，人类向里面投下什么，它就映出什么。
这或许也是GPT-3背后的科研人员想表达的：需要约束的不止技术本身，还有技术背后的人类。
本文到此结束，希望对大家有所帮助。
本文内容由互联网用户自发贡献，该文观点仅代表作者本人。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容， 请发送邮件至81118366@qq.com举报，一经查实，本站将立刻删除。发布者：简知小编，转载请注明出处：https://www.jianzixun.com/97274.html
微信扫一扫 
支付宝扫一扫 