您现在的位置:haosf > 升级指南 >

比GPT-3.5 Turbo便宜超60% OpenAI推出小模型卷性价比

时间:2024-07-23 点击:126

核心提示:7月18日,OpenAI正式推出新一代入门级别人工智能模型“GPT-4omini”,称这款新模型是“功能最强、性价比最高的小参数模型”。从OpenAI官网的介绍来看,GPT-4omini在文本智能和多模态推理方...

7月18日,OpenAI正式推出新一代入门级别人工智能模型“GPT-4o mini”,称这款新模型是“功能最强、性价比最高的小参数模型”。

从OpenAI官网的介绍来看,GPT-4o mini在文本智能和多模态推理方面的基准性能超越了GPT-3.5 Turbo,在LMSYS(指聊天机器人对战)排行榜上还超过GPT-4。而价格层面,GPT-4o mini相比GPT-3.5 Turbo便宜了超过60%。

在“大力出奇迹”的Scaling Law(尺度定律)之外,如何做好小模型正在成为大模型厂家的新考题。

OpenAI入局小模型赛场

OpenAI表示,预计GPT-4o mini将通过大幅降低智能的成本,显著扩展AI应用的范围。据官网介绍,GPT-4o mini的优势在于低成本和低延迟,支持广泛的任务,例如串联或并行多个模型调用的应用程序(例如调用多个API);向模型传递大量上下文(例如完整代码库或对话历史);或通过快速、实时的文本响应与客户互动(例如聊天机器人)。

目前,GPT-4o mini在API中支持文本和视觉功能,未来将支持文本、图像、视频和音频的输入和输出。该模型具有128K Token的上下文窗口,数据更新至2023年10月。

性能方面,OpenAI称,GPT-4o mini在涉及文本和视觉的推理任务中优于其他小模型,在MMLU(文本智能和推理基准测试)中得分为82.0%,相比之下,Gemini Flash为77.9%,Claude Haiku为73.8%。

在数学推理和编码任务方面,GPT-4o mini超过了市场大部分小模型。在MGSM(数学推理评估)中,GPT-4o mini得分为87.0%,而谷歌发布的Gemini Flash为75.5%;在HumanEval(编码性能评估)中,GPT-4o mini得分为87.2%,而Gemini Flash为71.5%。

价格方面,GPT-4o mini每百万个输入Token为15美分(约合人民币1.09元),每百万个输出Token为60美分(约合人民币4.36元)。OpenAI表示,这一价格相较GPT-3.5 Turbo便宜超60%。

OpenAI表示,在过去几年中,人们见证了AI的显著进步和成本的大幅降低。例如,自2022年推出文本模型Text-Davinci-003以来,GPT-4o mini的每个Token成本已经下降了99%。

按照设想,OpenAI希望未来能够将一个模型无缝集成到每个应用程序和每个网站中,而GPT-4o mini正在为开发者更高效和更经济地构建和扩展强大的AI应用程序铺平道路。

不过,在小模型赛场中,OpenAI的各家竞争对手已经早早就位。例如谷歌推出的Gemini Flash,Anthropic旗下的Claude Haike等。近日,Mitral AI与英伟达推出的小模型Mistral Nemo上线,声称性能赶超Meta推出的Llama-3 8B。

大模型越卷越“小”

这一年来,“降本增效”已经成为大部分大模型公司的共识。

平安证券研报认为,OpenAI新模型GPT-4o mini兼具性能与性价比,有望加速大模型应用落地。当前全球范围内的大模型逐渐呈现由单方面的性能角逐,转向性能与实用性并重的发展趋势。大模型能力达到一定水平时必然会走向应用,大模型厂商通过提升其产品性价比,助推下游应用端的推广部署,有望加速大模型产业链商业闭环的形成。

一方面,上半年开打的大模型价格战不断蔓延,从两家海外AI巨头OpenAI和谷歌开始,到国内字节跳动、阿里、百度、智谱AI、科大讯飞等企业,入局者不断增加。从OpenAI此举来看,这场价格战还将持续。

IDC中国研究经理程荫此前在接受《每日经济新闻》记者采访时就谈到,从短期的发展来看,大模型能力更新迭代后将会走向趋同,无论是国内还是国外的技术供应商都不能建立起长久的护城河。一些技术供应商选择直接砍掉大模型成本上的门槛,除了出于促进大模型落地应用,也有增加曝光度,争抢用户、防止用户流失的动因。

另一方面,通过“小模型”,以更低的成本,垂直覆盖更多的应用场景,以推动端侧应用的落地同样成为行业趋势。同时,随着以苹果为代表的各大手机厂商加速发力AI手机,端侧大模型正在成为新的竞争焦点。

专注端侧模型的面壁智能CEO李大海此前在接受包括《每日经济新闻》在内的记者采访时就谈到,相同智能水平的模型,每8个月其参数规模将减少一半,这与摩尔定律具有一定的相似性。在同等性能下,参数规模减小,说明大模型的知识密度在不断提高。李大海表示,随着大模型知识密度的提升和端侧算力的增强,两个因素叠加,有信心在2026年年底前研发出达到GPT-4水平的端侧模型,当端侧模型能够实现GPT-4水平时,很多端侧的产品会更快落地。

李大海认为,当端侧模型可以应用,其成本会更低,且可靠性更高,不需要依赖网络。例如,在用户需求交流时,基于端侧模型的陪伴机器人能够迅速作出反应。这种比较优势使得在适用端侧模型的场景中,大家会更倾向于选择端侧解决方案。

今年3月,百度也发布ERNIESpeed、ERNIE Lite、ERNIE Tiny三个轻量模型。百度集团董事长李彦宏在今年4月的一场公开演讲中也谈到,MoE、小模型和智能体是值得关注的三个方向。“通过大模型,压缩蒸馏出来一个基础模型,然后再用数据去训练,这比从头开始训小模型效果要好很多,比基于开源模型训出来的模型效果更好、速度更快、成本更低。”李彦宏表示。

  • 这里是当初的好私服发布站www.haosf.com,本站为您免费提免费的好私服新开传奇私服开区信息,全力打造国内给力的最好搜服发布网。――我们一直在努力!
  • haosf(www.dmzibu.com) © 2024 版权所有 All Rights Reserved. 粤ICP备13063149号