大模型商业演进 · #5

AI 的本质：模型生成候选，系统筛出可信结果

从天气预报、材料发现、医疗筛查、自动驾驶、教育到软件开发，模型能力只是起点；独立验证、目标一致、结果反馈与责任边界，决定概率能否变成可信结果。

张飞17 分钟阅读 · 5801 字
微博

TL;DR

这里讨论的不是意识，也不试图给全部 AI 技术下终极定义。对当前以机器学习和基础模型为主的应用浪潮，更有用的工程判断是：模型从数据中学习条件关系，为下一状态、答案或动作分配概率，并快速提出候选；领域系统再用真实观测、实验、规则、专家复核和长期结果筛选候选。本文进一步提出一条可检验的应用假说：在模型能力与错误代价近似时，外部反馈越快、越独立、越难被投机，任务越早获得稳定自动化。未来应用的稀缺资产会从单纯拥有模型，迁移到定义结果、建设验证回路、积累纠错记录和管理责任边界。

核心论点

  1. 当前 AI 的核心能力可以工程化地理解为：学习条件关系、估计概率、压缩搜索范围并提出候选，而非自行拥有真值
  2. 高质量结果是系统属性：候选质量、验证独立性、目标一致性、反馈密度和边界可靠性共同约束结果
  3. 在模型能力与错误代价近似时，外部反馈越快、越独立、越难被投机，任务越早获得稳定自动化
  4. 天气与材料案例的优势来自真实观测和实验回路；医疗与自动驾驶还要处理尾部风险、责任和召回
  5. 教育与软件开发表明，在部分条件下，近期产出指标可以上升，无辅助表现、维护质量或真实生产率却未同步上升，甚至反降
  6. 垂直 AI 的关键资产不止是领域数据，还包括领域验证器、任务轨迹、失败样本、专家修正和授权边界

一、先给结论：AI 擅长提出候选，真值仍在模型之外

“AI 的本质是什么”很容易被讨论成意识、理解或人的替代。这篇文章不处理这些终极问题，只给当前应用浪潮一个可操作的工程定义。

上一篇文章回答了一套 AI 任务系统由什么构成。这里追问更前一层的问题：为什么接入同一代模型，不同领域、不同任务仍会得到差异巨大的结果？

当前 AI 的核心能力，是从数据中学出条件关系，面对新上下文时，为下一状态、下一答案或下一动作分配概率，再从巨大的候选空间里快速提出少量值得检查的选项。

这一定义还需要一条可证伪的应用假说：

在模型能力与错误代价近似时，一个任务从候选到外部证据的距离越短，验证越独立、越难被投机，它就越早获得稳定自动化。

语言模型预测后续表达，天气模型预测大气状态，材料模型提出新结构，诊断模型排列疾病假设，推荐系统估计行动之后的反应。形式不同，共同点都是：用过去的数据压缩搜索范围，把“需要穷举的世界”缩成“值得验证的候选集”。

概率不等于随便猜，也不等于复述旧材料。高维表示、组合与搜索可以产生训练材料里没有直接出现过的方案。可新颖、正确、有效是三件事：

层次 回答的问题 谁来判定
看起来成立 这个候选是否符合已学到的模式 模型内部概率
事实上成立 这个候选是否经得住观测、实验或规则检查 模型之外的证据
在场景中有效 它是否改善了真实结果，代价与风险是否可接受 领域目标与长期结果

很多 AI 产品停在第一层，却用第三层的语言宣传自己。回答流畅被当成知识可靠，代码通过单元测试被当成可以合并，作业分数提高被当成学生已经学会，诊断命中被当成临床流程已经改善。

更稳妥的质量判断是：

高质量结果受五块短板共同约束：候选质量、验证独立性、目标一致性、反馈密度、边界可靠性。

任一块明显落后，模型能力就很难变成可信结果。

二、先看反馈距离，再看错误代价

“反馈距离”不是行业排名。它描述一个具体任务从模型输出到可靠外部证据之间隔了多远，包括结果多久出现、测量是否直接、判定是否独立。代码的语法错误可以立即发现，维护成本要数月后才暴露；医疗影像的标签可以很快复核，死亡率却需要多年随访。同一领域会同时落在多个位置。

“错误代价”是另一条轴。结果很快出现，不代表动作容易撤销；反馈很慢，也不代表每次尝试都高风险。稳定放权要同时看反馈距离和错误发生后的可逆性。

AI 任务从立即判定、短期观测、实验检验、风险累积走向长期结果，同一行业的不同任务可以分布在多个反馈距离层级

图里的方向只表达“候选离真实结果有多远”。验证越快、越独立、越接近真实目标，系统越能快速淘汰坏候选。是否扩大行动权限，还要另看错误能否逆转、尾部损失多高、责任由谁承担。

这是解释应用差异的一条重要线索：算法搜索、短期天气与材料实验已经出现可量化结果，教育迁移、医疗长期结局与组织效果仍需要更长验证。差别不只来自模型，也来自具体任务的判卷能力。

三、六个近期案例，检验同一条假说

以下案例以 2026 年 7 月 12 日前公开的论文、运行报告和监管记录为边界。它们的证据强度并不相同，表中把证据等级与案例放在一起，避免把实验室结果、公司自报和人口随机试验当成同一回事。

任务与证据等级 模型承担什么 外部验证 不能越过的边界
天气短期预报：生产运行 + 官方缺陷记录 一次给出 51 个未来场景，表达天气分布 后续观测、物理同化、传统物理模型与预报员反馈 2026 年版本仍披露云场、降雪、近地温度和强气旋噪声等问题，不能撤掉物理系统
材料器件：同行评审实验室结果 提出分子候选并调整制造参数 量子建模、机器人制造、器件测试和稳定性实验 小面积电池与小组件结果不等于规模化量产
乳腺筛查：10 万人以上人口随机试验 给影像风险打分，把高风险病例分配给两位医生 放射科医生、两年以上随访和间期癌统计 验证的是一套筛查流程，不能把效果单独归给模型，也未证明死亡率下降
自动驾驶安全：公司自报 + 同行评审子集 + 监管召回 感知、预测轨迹并搜索行动 真实事故、道路测试、安全审查与监管召回 平均事故率改善不能消除施工区等低频高损失场景
数学辅导：集群随机试验 生成解释、提示或直接答案 撤掉工具后的独立考试、延迟保持与迁移 练习完成得更好，不等于学生获得了能力
软件交付：三组企业随机试验 + 小样本真实仓库随机试验 + 维护者复核研究 补全代码、提出改动和执行任务 编译、测试、维护者审查、生产指标与长期维护 代码量、任务数和基准通过率不能单独代表可维护交付

1. 天气预报：系统交付的是一组概率，不是假装确定

ECMWF 在 2025 年 7 月把 AIFS ENS 投入运行。它每次生成 51 个天气场景，并与传统物理系统并行。官方报告显示，这套系统在部分指标上提高了预测质量，速度与能耗也有明显优势；它仍依赖物理数据同化（把卫星、探空和地面观测整理成统一的大气初始状态），并持续接受真实天气校准。ECMWF 运行说明

这里利用了 AI 的核心优势：它不用押中一条唯一未来，可以给每种天气分配概率，再让预报员和下游系统按风险阈值行动。

边界同样公开。ECMWF 在 2026 年 5 月列出的已知问题包括局部云场异常、错误降雪、长期低温偏差和强气旋周围噪声，部分近地指标还有退化。AIFS ENS 已知问题

这不是失败，反而说明生产级 AI 应该怎样存在：输出概率，暴露缺陷，与另一套原理不同的系统交叉检查，在真值到来后继续校准。

2. 材料发现：候选再新颖，也要由实验封口

2026 年《Nature》发表的钙钛矿太阳能电池研究，把机器学习驱动的分子发现、量子建模、机器人制造和器件测试连成闭环。系统找到的分子使小面积电池达到 27.22% 的转换效率，小组件达到 23.49%；器件连续运行 1,200 小时后保留 98.7% 的初始效率，自动制造的效率重复性接近手工制造的五倍。Nature 原始论文

这组结果的关键不在模型给出了一个漂亮分子名称。每个候选都要经过计算、制造和实测，失败结果再影响下一轮搜索。实验室是真值来源，机器人提高了反馈的一致性，模型负责缩小需要花钱验证的范围。

结论也必须收住：小面积电池和小组件没有证明商业量产已经解决。AI 在这里提高了发现与优化效率，没有跳过工程放大、成本、良率和长期可靠性。

3. 医疗筛查：概率的价值，是重新分配稀缺的医生注意力

2026 年《The Lancet》发表的 MASAI 随机试验分析了 105,915 名女性。系统把乳腺影像风险分为 1 到 10 分：大多数影像由一名医生阅读，10 分病例由两名医生阅读，并向医生标出可疑区域。两年以上随访后，AI 支持组的间期癌（两次常规筛查之间被发现的癌症）发生率达到预设的非劣效标准（不比对照差到超过事先设定的范围）；敏感度，也就是发现癌症的比例，为 80.5%，对照组为 73.8%；两组特异度，也就是不把健康者误报为阳性的比例，均为 98.5%。Lancet 论文记录

这个案例没有让模型独立宣布诊断。模型提供风险排序，流程决定谁需要第二位医生，医生承担判断，长期随访检查系统有没有漏掉癌症。AI 的价值，是把有限的专家注意力投向更值得复核的位置。

同样不能把这项试验写成“机器已经胜过医生”。它验证的是瑞典筛查体系中的单一商业系统；主要结果也不是死亡率下降，长期过度诊断仍需继续观察。

4. 自动驾驶：平均优势成立时，低频高损失场景仍要触发限权和召回

Waymo 截至 2026 年 3 月公开的数据覆盖 2.206 亿无人驾驶英里。按公司构建的同地区人类驾驶基准，严重伤害及以上事故减少 94%。这份仪表盘仍由公司维护；覆盖 5,670 万英里的研究已经正式发表，另一项覆盖 1.27 亿英里的时空匹配研究在 2026 年 7 月通过同行评审并获接收，正式刊出仍待完成。Waymo Safety Impact；1.27 亿英里研究更新

2026 年 7 月 2 日，美国国家公路交通安全管理局公布另一面：3,871 套第五代自动驾驶系统因施工区识别与风险优先级问题被召回。此前已有车辆穿越锥桶或进入封闭车道，企业随后限制高速运行并更新策略。NHTSA 召回报告

两个事实可以同时成立：系统的平均安全表现优于基准，某类低频场景仍然危险。高风险 AI 的质量标准不能只有平均准确率，还要包含低频高损失场景、主动停用、事故回写、监管审查和重新放行。

5. 教育：完成任务与获得能力，是两个相反方向的指标

2025 年《PNAS》发表了一项近千名高中生参与的数学随机试验。开放聊天组在有工具的练习阶段提高 48%，带教学约束的辅导组提高 127%。紧接练习、撤掉工具后的相似题考试中，开放聊天组比无 AI 对照低 17%；教学约束组没有出现显著下降，也没有显著超过对照组。PNAS 原始论文

同一基础模型进入不同教学协议，结果差异很大。开放聊天可以直接交付答案，提升的是“人与工具共同完成题目”的表现；教学约束组获得教师解法与常见错误，只给提示，使撤掉工具后的负效应回到与对照组无显著差异，但没有转成显著的正向增益。

2026 年另一项 16 周集群随机试验也给出探索性正面信号：研究按六个班级分组，362 名护理学生入组，301 名进入最终分析；把数字辅导、知识图谱和既定教学结构组合起来的组，在课程成绩、一个月保持率和病例推理上均高于对照。BMC Medical Education 论文

但这项干预同时包含辅导系统、知识结构和教学法，不能把全部增益归给模型。研究也只有六个班级，61 名入组者未进入最终分析，统计处理没有校正同班学生彼此相关的问题，因果强度需要降级。教育领域真正该测的是：工具撤掉后，学生还能否解释、迁移、反驳与独立完成。只测作业完成率，会奖励代做；测独立表现，才开始接近学习。现有两项试验都没有证明长期保持或跨情境迁移。

6. 软件开发：候选代码更便宜，验证与整合没有同步归零

一项覆盖 4,867 名企业开发者的三组随机开放试验中，作者对实际采用者的加权工具变量估计为每周完成任务增加约 26%，初级开发者受益更明显；这个数字不代表所有获得访问权的人都提高 26%。研究中的工具主要提供局部补全，企业原有编译、分支和同行审批接住了后续验证。论文已于 2026 年正式发表。Management Science 论文

另一项 2025 年随机试验把 16 名资深开源贡献者放回他们熟悉的大型仓库，处理 246 个真实任务。允许使用当时的前沿工具后，完成时间反而增加 19%；开发者事前以为会快 24%，事后仍以为快了 20%。这是早 2025 年工具的历史快照，研究页面已经明确标注结果过时。METR 早期试验

两组结果没有互相推翻。局部补全、企业任务计数、资深贡献者、隐性仓库约束和可合并代码，测的是不同问题。METR 在 2026 年说明，后续数据的点估计已经转向加速，但重度使用者拒绝进入禁用工具的对照条件，选择偏差使研究无法可靠估计幅度。2026 年研究设计更新

两项研究共同支持的较稳判断是：模型降低了候选代码的成本；上下文构造、测试、审查、整合、维护和安全验证仍然收费。代码通过自动基准，也未必达到维护者愿意合并的标准。2026 年维护者复核研究

四、跨领域的共同设计：把“判卷”装进产品

这些案例没有证明验证距离是唯一变量，但它们共同指向三项产品要求。

第一，拆开近期指标与真实结果。天气要测概率是否校准，材料要测器件，医疗要测漏诊与后续结局，教育要测无辅助能力，软件要测可合并、可维护和生产表现。若指标只方便采集，却离目标很远，它就是代理指标（替代真实目标的近似数字），系统迟早会学会优化数字而非结果。

第二，验证机制要有不同的失败来源。真实观测、实验设备、确定性规则、专家判断和延迟结果，都能提供模型之外的约束。另一只模型只能做交叉检查；如果它共享训练材料、评分目标和盲区，就不能单独充当真值来源。独立至少要求数据来源、测量机制或失败模式有一项不同，并在末端锚定现实结果。

第三，放权同时看反馈距离与错误可逆性。内容草稿可以多试几次；发药、交易、驾驶和面向未成年人的长期干预不能用同一授权标准。只沉淀被采纳的答案还会制造幸存者偏差，系统必须保留候选为何被否决、专家改了什么、结果何时反转，以及哪个群体受损。

五、垂直 AI 的新稀缺资产，是“领域判卷能力”

模型入口会普及，公开知识也会被多家产品共享。行业差距会迁移到另一层：谁能持续回答“什么才算做好了”。

领域判卷能力包含四类相互连接的资产：

  • 可证伪的结果定义；
  • 连接观测、实验、规则或长期结果的测量设施；
  • 候选、否决、专家修正与结果反转组成的失败档案；
  • 数据授权、行动权限、暂停、申诉与追责规则。

很多文档只能让模型更熟悉领域语言；测量设施与失败档案，才让团队知道什么有效。若目标定义错了，更多数据只会让错误优化得更稳定。

对 Herline，这个结论很具体：教育产品不能把“替孩子交付一份更好的答案”当成成长。模型应该追问、提供分层提示、制造反例、帮助核验，并记录孩子如何修改判断；评价则要回到工具撤掉之后的独立表达、跨题迁移、长期作品与真实反馈。AI 素养的价值，是让孩子会调度概率机器；判断力、表达力、品味和定力，决定他用这台机器追求什么、相信什么、拒绝什么。

六、反过来审视：这套解释会在哪些地方失效

第一，“概率估计与候选搜索”是一个工程抽象，不是全部 AI 的本体论。端到端控制与连续决策中，行动会不断改变环境，很难干净地切成“候选”和“验证器”两段。规则系统、优化器、检索与工具执行也各有自己的机制。

第二，反馈便宜也不保证稳定自动化。数据分布会变化，对手会主动适应，系统会寻找代理指标的漏洞。代码有自动测试，仍会留下安全和维护问题；天气每天都有真值，仍会在极端事件上失效。验证距离短，只是有利条件之一。

第三，慢反馈领域可以借助仿真、替代终点和专家评分缩短研发周期，但这些近似判卷器也会把系统带向错误目标。考试可以奖励背题，点击率可以奖励刺激，模拟会遗漏现实变量。替代终点必须定期与长期结果对账。

第四，反馈越多不等于系统越好。未经授权的行为数据不能因为“有用”就进入训练；历史决策里的偏见也会被反馈放大。数据权利、删除、用途限制和人类申诉，是质量的一部分，不是上线后的合规附件。涉及隐私、医疗、未成年人和跨境数据时，仍需按最新法规与专业法律意见复核。

第五，公开案例有幸存者偏差。成功项目更愿意发表，失败部署常常不可见；公司报告与实验室指标也不等于跨机构复现。人类也不是天然可靠的终点，专家会受经验、激励和组织压力影响。更稳妥的结构是多源证据、不同原理的交叉检查、明确责任和可申诉流程。

这套假说有更直接的反证标准：在同一领域、模型能力和错误代价近似的任务中，反馈更快、更独立、更难被投机的一组，若没有表现出更高可靠性或更早放权，“反馈距离”对应用扩张的解释力就应下降。本文所列证据尚未显示这种情况，但这些案例不是系统综述，不能替代后续跨任务比较。

七、结论：AI 是概率能力，质量是组织能力

AI 把候选的生产成本压得很低。它可以一次提出更多诊断假设、材料结构、代码改动、教学解释和行动方案。这已经改变了知识工作的成本结构。

可行业价值不会因为候选变便宜就自动出现。有人要定义结果，有系统要调用现实，有验证器要淘汰坏答案，有责任主体要决定何时执行，有记录要把失败带回下一轮。

因此，理解 AI 应该同时保留两句话：

模型压缩搜索，现实与领域协议检验候选。
模型降低候选成本，系统承担结果责任。

模型会继续普及。知道什么值得优化、如何证明真的变好、何时必须停下来的组织，不会因此自动普及。这才是不同领域利用 AI 得到高质量结果时，共享的底层能力。

参考信号

分享 / SHARE微博