什么是 大语言模型？
大语言模型（LLM，Large Language Model）是一类参数化神经模型，它估计 Token 序列的概率，并据此对语言条件下的输出进行评分、转换或生成。可观察到的行为属于完整推理配置，而不只属于一个模型名称。
快速了解
| 创建时间 | 2018 年（GPT-1），2020 年显著扩展（GPT-3） |
|---|---|
| 规范文档 | 官方规范 |
工作原理
训练目标与适配
预训练通过优化预测目标，把 Token Corpus 中的统计规律压缩进参数；它不会形成一个经过核验的数据库，也不会自动获得独立的事实判断能力。Supervised Fine-tuning、Preference Optimization、Reinforcement Learning、Retrieval、Tool 与 System Prompt 都能改变行为，但每一层都带来新的数据、评测和治理要求。
推理是一次带配置的计算
推理时，文本或多模态输入先被编码为 Token，再与提供的上下文一起经过学习参数处理，最后按照 Sampling 或 Reasoning Policy 解码。输出还取决于 Tokenizer 与 Chat Template 版本、Context Truncation、Provider Routing、Tool Result、Cache Behavior 和 Runtime Limit。因此，一个 API Alias 不是可复现的模型身份。
能力与边界
LLM 可以转换文本、提取结构化字段、生成代码、分类、摘要、翻译、规划 Tool Call，并综合检索证据；也可能捏造依据、遗漏约束、误解否定或长上下文、泄露敏感输入、服从 Prompt Injection、陷入 Tool Loop，或在重复尝试间产生波动。Retrieval、低 Temperature、Fine-tuning 或更大 Context Window 只能减少部分错误，不能保证正确。
评测契约
可辩护的评测需要固定 Release Identity、Dataset Hash、Split、Prompt、Tool Permission、Retrieval Version、Harness Commit、Grader、Sampling Setting，以及 Token、Tool 和 Time Budget。应报告任务级成功率和不确定性，并拆分安全、拒答、长上下文、多语言、工具失败与高影响切片。不同 Harness 的公开基准分数不能合并成通用排行榜。
成本与推理服务
应比较单位成功任务成本，把输入输出 Token、缓存、重试、Fallback、工具、验证和人工修复都纳入分子。私有化部署时，总存储参数决定裸权重下界；稀疏模型的激活参数不代表完整显存。还需计入量化元数据、KV Cache、Runtime Workspace、副本、Idle Capacity、运维和事故响应。
发布与治理
生产发布应具备签名评测制品、明确质量与风险门禁、Shadow Replay、有限 Canary、回滚阈值、Drift Monitoring 和负责人。保存模型与 Prompt 血缘，但不要记录密钥或隐藏思维链。Model Alias、Weight、Tokenizer、Prompt、Tool Schema、Retrieval Corpus、Policy 或 Runtime 变化后应重新评测。
主要特点
- 根据学习参数与提供的上下文估计 Token 序列概率
- 行为取决于确切模型、Tokenizer、Prompt、Decoding Policy、工具、检索和 Runtime
- 可通过参数更新、Preference Optimization、Retrieval、工具和控制策略适配
- 必须进行任务专用评测，因为流畅输出与公开基准不能证明可靠性
- 在质量、延迟、上下文利用、内存、成本、隐私、安全和可运维性之间权衡
- 生产使用需要带版本的发布证据、受监控部署与回滚机制
常见用途
- 从文档提取结构化字段，并执行 Schema 校验与校准拒答
- 基于获权证据回答问题，同时提供引用与来源核验
- 在 Sandbox 中生成和审查代码，并受测试、工具预算和人工审批约束
- 按照可测量质量阈值执行大规模分类、路由、摘要或翻译
- 以最小权限工具、有限重试和副作用审计运行多步 Agent
- 仅在证据可追踪且有责任明确的人工复核时辅助高影响专业决策
示例
Loading code...常见问题
大语言模型与传统 NLP 模型有什么区别？
许多传统 NLP 系统针对边界明确的任务优化，而 LLM 往往经过广泛预训练，并可通过 Prompt、Retrieval、Tool 或参数更新适配。边界并不绝对：较小的任务专用模型可能更准确、更便宜、更私密且更易验证。应在代表性失败案例上比较确切 Release。
LLM 会像数据库一样理解或存储事实吗？
LLM 学习的是支持条件 Token 预测的参数，不是经过核验的事实库。它可能复现、组合、扭曲或虚构信息。需要最新或可审计事实的系统，应检索获权来源、保留引用、验证输出，并允许模型拒答。
为什么只有模型名称无法复现 LLM 结果？
结果还取决于 Revision 或 Weight Digest、Tokenizer、Chat Template、Prompt、Decoding / Reasoning Setting、Tool、Retrieval Data、Provider Routing 与 Runtime Limit。比较或发布前，应把这些字段与 Dataset、Harness 版本一起记录。
生产环境应如何评测 LLM？
先定义验收标准与禁止失败，再在固定 Tool 和预算下，用带版本且有代表性的数据集评测已固定身份的 Release。测量任务成功率、不确定性、安全切片、p95 延迟、重试和单位成功任务成本，并通过 Shadow、Canary 与回滚阈值控制发布。
LLM 可以不使用云 API 在本地运行吗？
部分开放权重 Release 可以。可行性取决于确切制品、许可证、总参数、精度、上下文长度、KV Cache、Batch Size、Inference Engine、硬件、吞吐目标和运行控制。应测试最终量化制品，并把补丁、监控、访问控制与故障切换纳入总成本。