OpenAI转向未来模型研发,GPT-6仍在持续优化

2026-10-07 9731

OpenAI的应用研究负责人Boris Power透露,目前公司的研究重心已转向下一代模型GPT-7和GPT-8,大约80%到90%的研究资源已分配给这些未来的项目。尽管如此,OpenAI依然在不断优化当前的GPT-6。例如,本月推出了以提升能力为目标的GPT-6 Astra,以及在9月22日上线的高效与实惠版本Sol和Luna。

这一状况引发了两个问题:既然大部分精力都投入到了新一代模型上,为什么还要继续改进现有模型?如果目标是让大模型更强大,为什么不直接放弃小模型的开发?

针对现有模型的优化被部分员工视为“短视”,Power指出,这类短期优化虽然能加速当前的迭代和学习,但未来的发展仍然会着眼于下一代模型。因此,团队需分清当前需要解决的问题与临近发布的新模型的潜在影响。当新模型问世后,现有的短板可能就不再是问题。 球友会

此外,OpenAI在Astra的介绍中强调,团队依然致力于根据实际工作训练模型,并改进Codex,以提升AI的工作效率。尽管用户当前在使用AI时需不断调整指令和监控过程,但这样的麻烦随着模型的进化将逐渐消失。未来的新版本可能会解决以往的问题,使用户的使用体验更加顺畅。

在谈到制作强大的模型与小型模型的关系时,Power指出,开发一个能力强大的通用模型可以为更小的专用模型提供指导。以Astra和Luna为例,OpenAI采取了“先强化后蒸馏”的策略,让大模型传授能力给小模型。

OpenAI已经熟练运用模型蒸馏技术,将强模型的知识转移到更轻量的模型上。例如,2025年将通过蒸馏将大型音频模型的能力传递给小型模型。即便小型模型在全面能力上不及大模型,但在特定任务中能够接近其表现是其成功的体现。 球友会

近期推出的GPT-6 Sol和Luna便是以类似方法训练而成,强调了在降低成本的同时吸收大模型的能力进步。尽管具体的训练机制尚未完全公开,但更强大模型的研究成果会间接使用户在使用小型模型时受益。

针对不同任务,OpenAI建议将大模型与小模型合理分工。例如,在准备项目汇报时,可以利用强模型整理逻辑与识别数据矛盾,而完成一些明确要求的简单任务则可交给小模型。这种方式能有效提高效率,合理分配资源。

推荐产品