【翻译】Jev 与大语言模型的对比

本文翻译 TypeSafe AI 官方文章中的「Frontiers, Old and New」对比表，不包含全文其他部分。

原文：Introducing System One Models & Jev
作者：Diogo Almeida，TypeSafe 创始人。

对比表译文

对比项	现有大语言模型（LLM）	System One + Jev
优化方法	基于人类反馈的强化学习（RLHF）／基于可验证奖励的强化学习（RLVR）。	面向校准决策的强化学习（RLCD）。
优化目标	人类偏好：人类评估者更喜欢的文章和聊天回复。可验证奖励：能够通过程序验证的输出。	经过校准的决策：在 System One 任务中，给出能够如实反映认知不确定性的概率及答案。
输入	非结构化数据（如文本），侧重于按顺序组织的消息。	非结构化数据（如文本），侧重于结构化的程序状态。
输出	字符串／生成的文本。字符串十分灵活，可以承载任何内容：聊天回复、代码、幻觉、拒绝回答，甚至类型安全的结构化值。要供软件使用，回复需要经过解析和校验。此外，AI 始终存在偏离预期的风险。	类型安全的结构化值。可能的输出及其结构都预先定义。模型不会出现类型错误。所有答案都附有经过校准的概率和置信度分数。
采样方式	顺序采样。每次生成一个 token，每个 token 的生成都以前一个 token 为条件。	并行采样。在一次请求中生成所有输出。效率极高，并针对硬件特性进行优化。
成本	输入 token：每百万 token 0.20–10 美元。输出 token：价格约为输入 token 的 5 倍。	输入 token：每百万 token 0.042 美元，即每十亿 token 42 美元。输出 token：免费，成本低到不值得计费。
速度	前沿模型的端到端响应时间为 3–329 秒。与人交互时，这样的速度足够快；但集成到代码中时，就会成为很大的瓶颈。	TypeSafe 的端到端响应时间为 70–500 毫秒。对于符合 System One 特征的请求，在达到同等前沿智能水平时，速度可以快 40–200 倍。
置信度	即使提示模型估计置信度，它也往往过于自信，且表现不一致。如果模型有 95% 的时候能完成某项任务，却无法指出自己何时属于出错的那 5%，就无法用它自动完成该任务。	每次输出都会传达置信度和不确定性。经过校准：置信度越高，准确率越高。更一致：相似的输入会得到相似的答案。
应用场景	有人参与的任务（聊天机器人、辅助工具、编程 Agent）。通用且强大，但需要人类监督，因为输出自由度也意味着可能偏离预期。可验证的问题（数学证明、内核优化）。当正确性能够以较低成本自动检查时，LLM 可以不断生成、测试和迭代，直到找到可行结果。演示。字符串的灵活性使它非常适合快速制作原型，即便这些原型只有部分时候能正常工作。	AI 驱动的工作流／智能 if 语句。结构化输出可以作为模糊决策规则嵌入普通软件：当手写逻辑过于脆弱时，用于分类、路由、评分、提取或分支判断。外围代码限制了模型的自由度，使这些决策更容易组合成可靠的系统。大数据上的 MapReduce。将 PB 级数据转化为特征和洞察。实时应用。 100 毫秒的速度意味着，可以在用户体验至关重要的应用中使用 AI。验证一切。对 LLM 的提示词、推理轨迹或输出进行评分、评判、验证，设置防护措施，并检测越狱。