使用过她的人都认为她无所不能：情趣好玩，自动写程序代码，写文章，分析产生中奖彩票号码，理解自然语言，精通几十国语言！
三个重要能力：
语言生成：遵循提示词，然后生成补全提示词的句子。这也是今天人类与语言模型最普遍的交互方式。上下文学习 : 遵循给定任务的几个示例，然后为新的测试用例生成解决方案。世界知识：包括事实性知识 和常识 。
以上三种能力都来自于大规模预训练：在有3000亿单词的语料上预训练拥有1750亿参数的模型。语言生成的能力来自于语言建模的训练目标 。世界知识来自 3000 亿单词的训练语料库。
大多数新模型的行为都是 从人类反馈中进行强化学习（ from human , RLHF）， RLHF 触发的能力：
详实的回应： 的回应则更加冗长，以至于用户必须明确要求“用一句话回答我”，才能得到更加简洁的回答。这是 RLHF 的直接产物。公正的回应： 通常对涉及多个实体利益的事件（例如政治事件）给出非常平衡的回答。这也是RLHF的产物。拒绝不当问题：这是内容过滤器和由 RLHF 触发的模型自身能力的结合人工智能 训练模型，过滤器过滤掉一部分，然后模型再拒绝一部分。拒绝其知识范围之外的问题：例如，拒绝在今天之后发生的新事件，因为它没在这之后的数据上训练过。它牺牲了上下文学习的能力，来换取：建模对话历史、增加对话信息量实时改写模型的信念：当模型表达对某事的信念时，如果该信念是错误的，我们可能很难纠正它：形式推理：据测试，算错小学数学题！
说明：本文主要参考
本文到此结束，希望对大家有所帮助。
本文内容由互联网用户自发贡献，该文观点仅代表作者本人。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容， 请发送邮件至81118366@qq.com举报，一经查实，本站将立刻删除。发布者：简知小编，转载请注明出处：https://www.jianzixun.com/98811.html
微信扫一扫 
支付宝扫一扫 
