OpenAI开发能追问的对话语言模型ChatGPT

11月30日,OpenAI发表对话最佳化语言模型ChatGPT,该模型能够以对话的方式与使用者进行互动,对话的格式让ChatGPT可以回答后续问题、承认错误、质疑不正确的前提以及拒绝不适当的要求。 ChatGPT目前为研究预览阶段,供用户免费试用。

OpenAI开发能追问的对话语言模型ChatGPT

ChatGPT能以对话的方式帮助使用者解决各种问题,像是开发人员可以贴一段存在臭虫的程式码,并且要求ChatGPT提供除错方法,ChatGPT会利用对话与开发者互动询问更多资讯,以提供具体有效的解法。当然用户也可以跟ChatGPT讨论有关费马小定理,或是要求ChatGPT编写一段跟邻居自我介绍的文字,而ChatGPT会拒绝回答用户,诸如侵入他人房子的方法等提问。

ChatGPT从GPT-3.5的模型微调而成,研究人员运用与之前训练语言服务模型InstructGPT相同的方法,以人类回馈增强学习(RLHF)训练该模型,但在资料收集配置上略作调整。 ChatGPT仍存在一些限制,像是ChatGPT有时会写出看似合理,但是不正确或荒谬的答案,研究人员解释,主要原因有三个,除了在增强训练时缺乏事实来源之外,训练模型因为过度谨慎,可能会拒绝回答可以正确回答的问题,又或是在监督训练时被误导。

ChatGPT对输入的措辞调整非常敏感,当用户在查询问题时,可以尝试调整措辞或以相同提示多试几次,当模型表示不知道答案,可能用户只要稍微改写句子,模型就能够正确回答。

研究人员还提到,有时候ChatGPT的解释会过度冗长或是不停重复部分词语,像是一直重申他是由OpenAI训练的语言模型,而原因来自训练资料的偏差,因为人工智慧训练者喜欢更全面且更长的回答,再加上常见的模型过度最佳化问题,让ChatGPT出现重复语句的问题。在理想的情况,当用户提出模棱两可的查询时,模型会提出问题试图澄清查询,但当前模型通常倾向猜测用户的意图。

OpenAI开发能追问的对话语言模型ChatGPT

另外,虽然OpenAI尽量让ChatGPT能够拒绝不当请求,但是ChatGPT有时候仍会回应有害指令或是出现偏见行为,研究人员以Moderation API来警告或阻挡特定类型的不安全内容,但是预期会有部分遗漏,他们会收集用户回馈,并且改进该系统。

主题测试文章,只做测试使用。发布者:星球长,转转请注明出处:https://crstai.com/post/43/

(25)
上一篇 2022年8月4日 下午8:46
下一篇 2023年2月18日 下午10:51

相关推荐

  • GPT-4强势来袭:支持最长50页文本、识图能力强

    美国OpenAI推出新一代大型语言模型「GPT-4」,比前代ChatGPT处理长篇内容的能力提升8倍、回覆内容更精准,也具有图像辨识功能,可以解读图片中文字,并根据文字内容给出完整建议。就在各大产业为 ChatGPT 为之疯狂的这段日子,OpenAI 前些日子突袭式推出新的大型语言模型「GPT-4」。它不仅能处理比 ChatGPT 多 8 倍的长篇内容、回覆…

    2023年3月15日
    2.0K
  • 【亲测可用】ChatGPT4.0Plus开通教程-支付宝购买苹果礼品卡

    之前订阅了一个月的chatGPT Plus,因为太贵,之后就没续,最近我又想开通ChatGPT Plus 会员用GPT-4,上次开通太过麻烦,几年前的apple ID,没有设置免税州地址,导致买礼品卡充值了余额也无法支付,必须让我添加信用卡才能用余额支付,好在无意中发现了一个平台,只购买了一天的虚拟信用卡,充了1美金,将虚拟信用卡成功绑定到了Apple St…

    2023年6月17日
    1.9K
  • ChatGPT App上线苹果商店支持语音输入

    没有一点点防备,ChatGPT 就迎来了真·iPhone 时刻。 在今天凌晨, OpenAI 在美区 App Store 悄无声息地上线了 ChatGPT app,半天不到就冲上效率榜的 No.1。 我们第一时间下载体验了一番后不禁感叹:官方版,就是香! 此前很多人尝试用 iOS 快捷指令和 ChatGPT API 的方式 DIY 移动端的 ChatGPT,…

    2023年5月19日
    1.8K
  • GPT Store上线,企业客户新品ChatGPT Team也来了,OpenAI新年重磅

    周三,OpenAI推出了两款新的产品和服务:GPT Store和ChatGPT Team。 GPT Store 或称为GPTs,相当于大模型领域的苹果App Store,是OpenAI在去年首届开发者大会上发布的重磅产品,用户无需任何代码,全程支持可视化点击操作。GPT Store允许用户列出他们为其他人构建的个性化聊天机器人,以供下载。更直白的说,就是让用…

    2024年1月11日
    1.2K
  • GPTs 今日上线,GPT-4 Turbo登场

    11月6日,人工智能行业龙头OpenAI的历史首届开发者大会揭幕。OpenAI首席执行官山姆·奥特曼在接近45分钟的开幕演讲中,向全球开发者和ChatGPT用户展示了AI龙头即将推出的一系列产品更新。 在发布会的开始,奥特曼简短回顾了公司过去一年的发展历程,特别提到“公司在今年3月发布的GPT-4,至今仍是世界上能力最强的AI大模型”。时至今日,已经有200…

    2023年11月7日
    154

联系我们

+1(740)-679-2888

邮件:darler@qq.com

工作时间:9:30-17:30

联系微信