OpenAI最近更新了其大型语言模型产品线,其中包括GPT-4和gpt-3.5-turbo两个API产品。
这次产品更新主要包括三个方面:1) 新增功能调用能力;2) 显著降低使用成本;3) gpt-3.5-turbo模型增加16,000个标记上下文窗口选项。这使得OpenAI的API产品在功能、成本和表达能力等方面获得提升。
在大型语言模型中,“上下文窗口”就像一种短期记忆,用于存储提示输入的内容或对话机器人的整个持续对话内容。它为模型提供语境,有助于其生成更准确和连贯的回复。不断增加上下文窗口大小已成为一种技术竞赛。Anthropic最近宣布其Claude语言模型新增75,000个标记的上下文窗口选项。OpenAI也开发出GPT-4的32,000个标记版本,但尚未公开。
OpenAI最近推出了gpt-3.5-turbo的新版本“gpt-3.5-turbo-16k”,其上下文窗口达到16,000个标记。这使得提示输入最长可以达到16,000个标记长度。相比标准版的4,000个标记窗口,gpt-3.5-turbo-16k的上下文窗口扩大了4倍,它可以在单次请求中处理约20页文本。这对需要模型处理和生成较长文本回复的开发者来说是一个相当大的提高。
,除了gpt-3.5-turbo-16k版本外,这次OpenAI的产品更新还包括其他几个方面:
1. 新增功能调用能力。
2. 改进GPT-4和gpt-3.5-turbo的性能表现和易用性。
3.“ada”嵌入模型的价格下调75%。
4. gpt-3.5-turbo的输入标记价格下调25%。
功能调用使语言模型能够更好地将自然语言转换为实际的功能执行,这增强了其在实际任务中的应用潜力。开发者可以设计出能调用各种外部工具和执行不同操作的交互。例如,将一段提示语言转换为发送邮件的功能调用。这展示了功能调用使语言模型具备执行更加复杂操作的能力。相关聊天机器人能够完成更丰富的交互与任务。
OpenAI声称新版本的gpt-3.5-turbo模型通过系统消息实现了更高的可控性。系统消息用于提供明确的行为提示,指导语言模型的输出方向。例如,提供“你是格里马斯,你只聊奶昔”这样的系统消息可以指导语言模型只在奶昔主题上产生回复。
除了功能改进外,OpenAI还提供了大幅降低的成本。
OpenAI大幅下调“text-embedding-ada-002”嵌入模型的价格,降低了开发者使用该产品的成本门槛。嵌入模型用于将语言表达转换为机器理解的数字方式。它起到翻译的作用,这使机器可以处理和运用语言信息。这是许多自然语言处理任务的基础,如文本搜索、内容推荐等。
OpenAI不断推出更新的语言模型产品,这必然会淘汰旧版本的模型。该公司宣布开始实施这些早期模型版本的弃用流程,例如,旧版的gpt-3.5-turbo-0301和gpt-4-0314模型将在9月13日后不再可访问。虽然OpenAI的GPT-4 API仍在等待列表中,但已经广泛开放使用。