文 | 硅谷101

从旧年在大会前夕被OpenAI的4o模子“精确狙击”，到本年Gemini 2.5 Pro全面霸榜。短短一年时候，Gemini是如何完成从追逐者到领跑者的逆转？

《硅谷101》创举东谈主泓君邀请了Energent.ai取悦创举东谈主Kimi Kong和HeyRevia创举东谈主Shaun Wei，全部和两位前Google的技能民众聊聊Gemini模子登顶背后的底层逻辑。

以下是这次对话本色的精选:

01 Gemini2.5崛起背后的底层逻辑

泓君：这次发布的Gemini 2.5 Pro，在面前各项评测中的数据都是统统大模子中最佳的，Kimi你可以分析一下它是如何作念到的吗？

Kimi：我也曾离开DeepMind快一年时候了，也不太明晰我的前共事们在这一年中又作念了哪些新的翻新。但大言语模子磨砺压根的法子是不变的，包括以下三点：Pre-training（预磨砺）、SFT （Supervised Fine-tuning，监督微调）和哄骗RLHF（基于东谈主类响应的强化学习）技能作念的Alignment（对皆）。

简略在旧年的NeurIPS（神经信息处理系统大会）上，业内也曾广大承认，公开网罗数据基本都也曾合手结束，就像化石燃料也曾被消费殆尽雷同。因此，在当年这一年里，更多元气心灵其实是插足到了对皆阶段，荒芜是强化学习地点，尤其是在“东谈主类响应”和“AI响应”上的探索。比如在数学和编程类这类目的澄莹且可考证的任务上。

对于Google来说，从Gemini 1到1.5再到2，也曾累积了极端坚实的基座模子磨砺训戒。再加上Google开动愈加深爱强化学习的作用，不仅仅依赖东谈主类响应，而是启动了一种“让AI批判AI”的机制。就像当年AlphaGo的到手，它的中枢冲突点就在于下出“第37手”那样卓绝东谈主类老例清醒的棋步，是AI冲突东谈主类融会的体现。

是以我认为，畴昔的AI模子需要在强化学习中能杀青“自我判断正确性”。而在Gemini 2.5的磨砺过程中，很可能恰是引入了更多此类强化学习战略，才使它在编程、数学等高细则性任务中，展现出如斯令东谈主惊艳的进展。

泓君：对，在旧年大模子的磨砺中出现了一个相比赫然的趋势，各家都在预磨砺基础上加入了后磨砺。比如OpenAI的o1系列和DeepSeek的R1，都在推理任务上进展得很好。天然Anthropic在很长一段时候内，并莫得新推出推理模子，但Sonnet 3.5和3.7，它们在代码才略上出现了赫然的质变。这也带动了Cursor、Windsurf这样一批编程类Agent的马上崛起。这次发布会Google也荒芜强调了我方在代码生成上的质地擢升。

我一直很风趣的少量是：为什么Anthropic生成的代码质地，赫然优于其他家？代码质地的擢升，主淌若靠什么才略杀青的？

Kimi：我照旧从我刚提到的三个法子张开。率先在预磨砺阶段，公共一定会靠近数据配比的问题：比如要放几许代码，几许天然言语进去，其中汉文和英文别离占几许等等。这件事当今并莫得任何行业共鸣，莫得东谈主知谈最优比例是什么。但我猜，对于Anthropic来说，代码的优先级是最高的。它们在预磨砺时可能就插足了广大高质地的代码数据，是以模子在基座层面的编程才略绝顶强。

接下来是对皆波折，在大公司里，咱们暗里会捉弄它像是一个YOLO RUN（快速整合、节拍紧凑的大模子磨砺迭代神志）。比如今天咱们三位别离在Google不同的团队，每个东谈主在各自的方进取鼓舞各种翻新，然后咱们定一个节拍，比如两周，把统统恶果整合起来跑一个版块，望望最终迭代出了什么。这就意味着，模子在对皆的时候，不同团队的优先级是不同的。有的团队珍惜写稿才略，有的珍惜数学才略。

我猜Anthropic的里面认为编程是第一优先级，也可能他们认为编程是惩处推理模子的钥匙。是以不管是在预磨砺阶段，照旧在后续的监督微调、强化学习波折，它们都倾向于引入更多的编程磨砺进去。这样会让它在Coding才略上进展好，可是这样作念也会导致它在别的才略上稍有欠缺。

我举个我我方最近资格的真义真义的例子。看成初创公司的创举东谈主，我当今每天不仅仅写代码，也要作念市集、销售、写案牍的使命。我平素会用团结段指示词，别离输入给Gemini、ChatGPT、Claude、Perplexity，比如让它们都输出一段市集营销的案牍。限制我对比发现，OpenAI写出来的本色最有调性，让我很餍足径直用。Claude写的案牍就会显得荒芜枯燥，像是在和一个败兴的码农聊天，这是战略问题。

大言语模子的磨砺原来即是东谈主们常说的：垃圾进，垃圾出。如果你喂进去广大高质地代码，天然产出的代码质地也会高，这照旧数据配比的问题，我认为Anthropic在代码问题上念念考的更多。

泓君：主要亦然看团队把哪一块放成是要点，你以为DeepMind之前的要点在那处呢？

Kimi：我以为其实DeepMind一直追求的是一种抽象才略，包括在编程、数学、推理、写稿等多个维度上都具备较强的进展。是以咱们会设定一套通用的评估诡计体系，用于隐敝多个不同的评估维度。

不外我也知谈，咱们当年确乎有些才略是相对薄弱的，比如写代码。也正因为如斯，通盘团队在编程上插足了更多的元气心灵和资源。这一轮我认为在代码才略上算是追上了Anthropic。

泓君：推理才略呢？亦然取决于深爱进度，照旧需要在后磨砺阶段加入一些荒芜的技能？

Kimi：我在Google的时候，Google还莫得开动它的推理模子，但我离开Google的时候，是OpenAI的o1刚开动出来的时候，那时Google推理模子还莫得排在优先级很高的位置上，Google那时照旧在追逐OpenAI的写稿才略和问题惩处才略。

OpenAI刚出的时候，公共都很可爱它输出的本色，是以Google最早作念的是要追上OpenAI在东谈主类偏好这方面的输出质地。但东谈主类偏好的数据瑕瑜常有限的。是以其后公共开动念念考：还有什么才略是更可量化、也更容易作念出冲突的？ 谜底即是编程。

Anthropic在这方面作念出了冲突之后，Google接着也意志到，不可只输出东谈主类偏好的本色，我还要写出绝顶牛的代码。而当公共都写出绝顶牛的代码之后，OpenAI又把要点转向了推理。它认为不可仅仅想写出东谈主可爱的本色，不可仅仅写出好的代码，还要作念出逻辑严实的模子，能让用户确凿看懂问题是如何被惩处的。

当这件事作念成之后，目下我以为Google也曾开动凭借推理才略，在引颈这股潮水了，让别东谈主成为了追逐者。

泓君：在数学才略方面，我肃穆到Grok的进展挺可以的，XAI的模子。它们的创举团队里有许多绝顶顶尖的数学家，而且一直在尝试惩处一些全球最难的数知识题。

Kimi：我的数学才略莫得见地达到这个顶尖数学家的水平，这是一个“先有鸡照旧先有蛋”的问题，你需要东谈主有这个才略，能力评价模子好不好。我看成软件工程师，唯独才略评价代码才略。但这个才略也分两个方面：模子是擅长写出交易可用的代码，照旧仅仅擅长写代码这件事本人。

我牢记Anthropic取悦创举东谈主Dario也曾说过一句很故真义的话：“我不但愿我的编程模子仅仅能惩处LeetCode题目。”因为LeetCode的题目本人不具备径直的交易价值。他但愿编程模子生成的高质地代码，能径直进入像Shaun或者咱们这样的初创公司的分娩过程。这亦然Anthropic绝顶专注的地点。

再说回数知识题本人。我以为也分红两方面：一方面，有一部分东谈主确乎需要惩处高难度的奥数题，这是模子能秀肌肉的地方。但另一方面，如何把这些数知识题接入不同的创业公司，从而创造交易价值。这可能是许多交易公司需要念念考的问题。

02 三位灵魂东谈主物撑起Gemini

泓君：你以为谁是DeepMind的灵魂东谈主物？谷歌模子的价值不雅集更偏向谁？

Kimi：“谷歌是谁”这个问题挺故真义的。我的清醒是，在Gemini之前，Google的模子基本是由Jeff Dean和Oriol Vinyals共同主导的，他们亦然Google的灵魂东谈主物。

Jeff Dean可以说是计较机科学界的“活化石”。咱们平素开打趣说，他如果要写简历，可能径直写“没作念过什么”比写“作念过什么”还要短许多。因为Jeff Dean实在作念了太多事，是以只需要写他“没作念过什么”，这样可以在一页上写完他统统的东谈主生建树。

Jeff Dean绝顶擅长对集群普随处调度，即是预磨砺。Oriol则是AlphaGo、AlphaStar、AlphaZero、MuZero这些名堂的灵魂东谈主物，他看成DeepMind的代表，在强化学习方面的接头更潜入。

是以基于Google擅长的预磨砺，加上DeepMind擅长的强化学习与对皆，使得Google能快速地追逐上竞争敌手的要领。

其后，随着Google收购Character.AI，也重新赢回了Noam Shazee。他可能是我最垂青的一位东谈主物，因为他是弥远深耕在边界的，从他写的《Attention Is All You Need》，到其后的提倡的Grouped Query Attention。

这三位巨头酿成三足鼎峙的形态，把预磨砺、强化学习、言语才略整合成一个有机的、迭代的举座过程，使模子才略赓续取得擢升，让Google也变得更好。我对这三位也都绝顶可贵，我以为Google这一波能快速赶上竞争敌手，亦然依靠这三位的才略，包括Jeff Dean代表预磨砺与基础设施的才略，Oriol代表对皆与强化学习的才略，Noam代表天然言语处理的才略。

Kimi：我以为在Google Brain和DeepMind还莫得合并之前，双方的念念路是实足不同的。DeepMind强化学习的才略绝顶强，这亦然Google收购它的原因。而Google短暂调度广大资源来边界化磨砺的才略瑕瑜常强的，包括预磨砺与监督微调才略也很锐利。

最终我以为这是一次强强联手的过程，Google和DeepMind把互相最擅长的边界整合了起来。

我以为Demis在团队里上演的变装更多是不休者和指点者。比如，我以前作念IC（Individual Contributor，个东谈主孝敬者）的时候，每天的使命只需要把代码写好就可以了。但当我真实去运营一家公司的时候就会意志到：确凿难的不是完成任务，而是要若何激勉一群极其贤人的东谈主，朝着团结个地点勤恳。

这其实瑕瑜常有挑战性的。因为越贤人的东谈主，时常越有我方绝顶强的想法，他们是不肯意听从他东谈主的指示的。而我以为Demis在这方面作念得绝顶好，他能把两个刚刚整合的公司互助成一个举座。况且能让统统东谈主都阐扬出最擅长的才略，全部朝着杀青AGI（通用东谈主工智能）的目的共同勤恳。

泓君：Jeff Dean和Demis之间的干系是如何样的？

Kimi：Jeff Dean当今是首席科学家，Demis是Google DeepMind的CEO。我不细则当今如何，我牢记我走的时候Demis和Jeff Dean都径直向Sundar Pichai陈诉。

泓君：我看Sergey Brin在2023年的时候也回来了，不外最近才开动高调亮相。你以为看成Google的创举东谈主之一，他的总结会带来什么变化吗？

Kimi：我以为Sergey Brin带给Google的，更多是一种“Founder Mode”，也即是创举东谈主的使命景况。他让公共理解要以什么样的插足和神志，去完成这项使命。

如果创举东谈主都切身回来作念这件事了，而且一周在办公室待60个小时，那你看成Google的别称职工，难谈好真义只干40小时就回家吗？而且据我所知有些团队是真实一周使命60个小时的。比如我有一又友在图像生成团队，他们提到过，Sergey Brin有一次蓦然说：“Meta又发新模子了，咱们的模子什么时候能出来？”公共一听，心想：“得了吧，周末加班吧。”是以我以为他的总结更多的是带来“Founder Mode”，能绝顶饱读动公共的士气。

泓君：Shaun你如何看Gemini 2.5 Pro？

Shaun：我以为Kimi把该讲的、不该讲的，都也曾讲得绝顶好了，我就从一个相对“外部”的视角补充一些，毕竟我也在Google使命过。

公共都知谈Google的东谈主才密度绝顶高，但大部分东谈主其实都处在一个相比“躺平”的景况。因为告白太赢利了，许多团队并不需要太拚命。但这波AI波澜真实起来之后，荒芜是旧年OpenAI抢了Google不少风头，再加上Sergey Brin总结带来的“Founder Mode”，通盘Gemini团队的士气都绝顶飞扬。公共其实都为了拼连结：如果AGI真实有东谈主能作念出来，那是不是就应该是Google。

因为Google有全球最强的计较机，有最优秀的东谈主才，还有接近无尽的资源，当今连创举东谈主都切身冲回来了。站在外部来看，这一波Gemini的崛起其实就花了一年时候。从旧年的I/O被OpenAI抢了风头，到本年的Gemini 2.5径直霸榜，统统都是第别称，连OpenAI可能本年也没见地再抢风头了。

03 Google API价钱上风揭秘

泓君：公共当今都能看到Gemini的模子作念得很好，但很久之前，我牢记在OpenAI和Anthropic的API价钱还很高的时候，Gemini就把token价钱就降到了简略唯独OpenAI的五分之一、甚而十分之一。不事后续是否它也反向促使OpenAI和Anthropic随着降价，我莫得荒芜去跟进当今最新的数据。

但举座来看，在设立者社区里面，公共都知谈Gemini的API接入成本和token使用成本瑕瑜常低的。我也很风趣，Google是如何把这个价钱降下来的？

Shaun：我认为主要有三方面的原因。

第一，Google简略从十年前就开动广大插足TPU了。那时它们就很明晰，如果通盘Google Cloud发展起来后，就没见地不停地向NVIDIA或AMD采购GPU。是以Google从十年前就开动逐步地深耕TPU生态，而且TPU的迭代速率在近几年也赫然变快了。因为当今需求量绝顶大，如果领有我方的TPU，就可以祛除所谓的“NVIDIA税”，也无须等NVIDIA新的GPU出来之后和市集抢货。

第二是公共都知谈Google Infra（基础设施）的才略绝顶强，是以极端于领有简直无尽的资源。而且Google动态调度资源的才略亦然远强于OpenAI和Anthropic的，因为这两家目下还莫得我方的数据中心。Grok当今很强，作念出了全球最大GPU集群。但行业内大多数AI公司照旧莫得休养如斯大的集群的才略的，照旧需要依赖Amazon、Microsoft这些第三方云劳动来作念这些事情。

第三，因为Google能够自行定制硬件，又能调用强大的集群资源，在优化模子时就极端于软硬件一体化了，因此在硬件上阐扬出的才略也会更强。况且Google还有我方通盘设立者生态。

Kimi：我绝顶承诺Shaun说的，Google里面的Infra才略确乎绝顶强。很早之前，SemiAnalysis出过一篇很故真义的陈述，对不同的GPU云劳动进行了打分和名次。那时它们把CoreWeave排在了第一，我知谈OpenAI用的即是CoreWeave来作念通盘GPU调度的。那时我还跟我的取悦创举东谈主开打趣说，其实在CoreWeave之上还有一个，最牛的应该是Google我方里面的系统，它的Infra才略真实绝顶强。

对于API的价钱，天然咱们当今都以为API价钱也曾很低廉了，但其实咱们都并不知谈它的成本价是几许。唯独一个咱们能看到的陈迹，是之前DeepSeek发布的一篇论文，里面提到：DeepSeek有80%的溢价空间，阐发它的成本价钱唯独收取用度的20%操纵。

对比DeepSeek用的GPU的体量，咱们可以反推OpenAI的利润一定瑕瑜常高的。天然，我不是说Google的API一定是成本价，但它确乎有富饶的成本和才略去这样作念。