OpenAI为开发者推出GPT聊天机器人API大更新

OpenAI今日宣布对其大型语言模型API（包括GPT-4和gpt-3.5-turbo）进行重大更新，包括新增函数调用功能、降低使用成本、以及为gpt-3.5-turbo模型提供16000个token的版本。

大型语言模型（LLM）是一种能够处理自然语言的人工智能技术，它的“上下文窗口（contextwindow）”相当于一个短期记忆，可以存储输入的内容或者聊天机器人的对话内容。在语言模型中，增加上下文窗口大小已经成为一种技术竞赛，Anthropic公司最近宣布其Claude语言模型可以提供75000个token上下文窗口选项。此外，OpenAI也开发了一个32000个token的GPT-4版本，但尚未公开推出。

OpenAI刚刚推出了一个新的16000上下文窗口的gpt-3.5-turbo版本，名为“gpt-3.5-turbo-16k”，可以处理长度达到16000个token的输入，这意味着可以一次处理大约20页的文本，这对于需要模型处理和生成较大文本块的开发者来说是一个很大的提升。

关于“更易控”方面，这是一个指代如何让LLM按照你想要的方式行事的专业术语，OpenAI表示其新的“gpt-3.5-turbo-0613”模型将包含“通过系统消息更可靠地控制”的功能。系统消息是API中一种特殊的指令输入，可以告诉模型如何行事，例如“你是格林姆斯，你只谈论奶昔。”

除了功能上的改进之外，OpenAI还提供了相当大幅度的成本降低。值得注意的是，受欢迎的gpt-3.5-turbo模型的token价格降低了25%。这意味着开发者现在可以以每1000个token约0.0015美元、每1000个token约0.002美元的价格使用这个模型，相当于每美元可以处理大约700页文本。gpt-3.5-turbo-16k模型则定价为每1000个token0.003美元、每1000个token0.004美元。

OpenAI还将其“text-embedding-ada-002”嵌入模型的价格降低了75%。嵌入模型是一种让计算机理解单词和概念的技术，可以将自然语言转换为机器可以理解的数字语言，这对于搜索文本和推荐相关内容等任务很重要。