OpenAI宣布ChatGPT模型大更新性能更优且价格更低

Hawk Insight

2024-01-26 17:26:08

2.76W

1月25日，OpenAI宣布，将推出新一代嵌入模型、新的GPT-4 Turbo和审核模型、新的API使用管理工具。OpenAI还表示，很快会降低GPT-3.5 Turbo的价格。

两种新的嵌入模型

OpenAI表示，更新后的ChatGPT将引入了两种新的嵌入模型：小文本嵌入模型text-embedding-3-small，以及大文本嵌入模型text-embedding-3-large。

这两个新的模型与上一代（2022年12月发布的模型text-embedding-ada-002）相比，有两个特点。

一是性能更优。OpenAI表示，与上一代相比，text-embedding-3-small其多语言检索（MIRACL）常用基准的平均得分从31.4%增加到44%，英语任务（MTEB）常用基准的平均得分也从此前的61%增加到62.3%。

text-embedding-3-large在上述两个性能比text-embedding-3-small还要更优秀一些。其MIRACL常用基准的平均得分为54.9%，MTEB常用基准的平均得分达到64.6%。

ChatGPT更新

二是定价更低。虽然性能更进一步，但text-embedding-3-small/large定价却更低。OpenAI表示，text-embedding-3-small的定价较其上一代降了5倍，每1000 tokens价格为0.00002美元，而text-embedding-3-large每1000 tokens价格为0.00013美元。

而之所以能定价更低，是与OpenAI缩短了嵌入降低成本有关。

一般来说，使用较大的嵌入式模型（例如将它们存储在向量存储中以供检索）通常比使用较小的嵌入式模型成本更高，并且消耗更多的计算、内存和存储。而对于text-embedding-3-small/large两个新嵌入模型，OpenAI均使用一种技术进行训练，该技术允许开发人员权衡使用嵌入的性能和成本。具体来说，开发人员可以通过传入API参数来缩短嵌入，而不会使嵌入丢失其概念表示特性。例如，在MTEB基准上，text-embedding-3-large嵌入可以缩短到256，同时性能仍优于大小为1536的未缩短嵌入模型text-embedding-ada-002。

这使得开发人员使用起来非常灵活。例如，当使用仅支持长度不超过1024个维度的嵌入的向量数据存储时，开发人员现在仍然可以使用text-embedding-3-large，并为维度API参数指定1024的值，这将使嵌入从3072个维度缩短，降低一些精度以换取较小的向量。

不过，OpenAI也提到，公司并不打算弃用text-embedding-ada-002，他们仍欢迎客户继续使用上一代型号。

更新GPT-3.5 Turbo型号

OpenAI表示，下周将推出全新的GPT-3.5 Turbo型号——gpt-3.5-turbo-0125。并且将再次降低GPT-3.5 Turbo的价格，以帮助其扩大客户规模。新模型的输入价格为每1000 tokens价格为0.0005美元，较之前降低50%；输出价格为每1000 tokens价格为0.0015美元，较之前降低25%。

OpenAI表示，该模型还将进行各种改进，包括以更高的精度响应请求的格式，以及修复导致非英语函数调用的文本编码问题的错误。