什么是 生成式 AI？
生成式 AI 是一类学习数据概率分布，并根据提示词或其他条件生成候选文本、图像、音频、视频、代码或结构化记录的模型与系统。
快速了解
| 全称 | 生成式人工智能 |
|---|---|
| 创建时间 | 2014 年（Ian Goodfellow 提出 GAN）、2017 年（Transformer）、2022 年（ChatGPT 公开发布） |
| 规范文档 | 官方规范 |
工作原理
生成过程建模的是条件分布
生成器估计 P(x)、P(x|c) 或等价的隐变量过程，其中 c 可以是提示词、类别、图像、Schema、说话人或检索证据。推理阶段再通过解码或采样把分布转化为一个或多个具体候选。温度、top-p、随机种子行为、约束、采样步数和候选选择，都可能在不改变模型权重的情况下改变结果。生成样本可能不同于单条训练记录，但生成行为本身不能证明原创，也不能证明与训练数据无关。
不同模型族采用不同机制
自回归模型分解有序数据并预测下一个元素；扩散模型学习逆转数据损坏过程；生成对抗网络让生成器与判别器对抗训练；变分自编码器学习经过正则化的概率隐空间。这些不是互斥的产品分类。系统可以在潜空间扩散管线中使用 VAE，把 Transformer 组件与扩散过程结合，也可能不公开架构。模型族名称可以帮助分析，却不能替代对实际部署版本的评测。
生产系统远大于模型本身
输入在到达模型前会经过认证、数据分级、解析与指令边界。生成链路可能加入检索、工具、记忆、重试或多候选。输出还可能需要 Schema 验证、证据核验、策略审核、内容溯源或人工批准。每个模型、提示词、语料、工具、策略和评估器都需要版本、负责人和可观测故障路径，团队才能定位回归并安全回滚。
评测必须围绕用户决策
调优前冻结代表性正常样本、困难样本、对抗样本和严重风险样本。记录具体模型、提示词、工具、解码策略、评估器、重试预算、延迟边界与成本口径。除产物特有的质量指标外，还要测量严重失败、分片表现、p95 延迟、每个验收结果的成本、拒答质量和人工审核负担。对于机器可验证契约应优先使用确定性检查；人工或模型评估器则需要在独立裁决样本上校准。
风险控制需要分层，无法绝对化
NIST 生成式 AI 风险管理框架涵盖幻觉、隐私、信息安全、有害偏差、知识产权、内容安全、信息完整性和价值链依赖等风险。团队可通过缩小任务、工具最小权限、批准数据、检索、过滤、审核、监控和降级路径降低暴露。检索不能保证事实正确，第二个模型可能共享相关性错误，审核者缺乏证据、时间或决策权时，人工审核同样会失效。
内容溯源不是事实检测器
C2PA Content Credential 可把签名声明、断言、素材来源和编辑历史绑定到资产，使验证者检查签名者信任关系，并发现受保护数据的变更。它不能证明画面中的事件真实发生、此前每次处理都已记录，也不能证明未签名内容就是合成内容。可见水印与 AI 检测分类器是另外两种信号，各自存在被移除和误判的风险。
主要特点
- 在明确条件下，通过采样或解码已学习分布来生成候选结果
- 使用不同或混合模型族覆盖文本、图像、音频、视频、代码与结构化数据
- 行为随模型、提示词、上下文、工具、解码、过滤和候选选择版本变化
- 需要任务化评测，因为语言流畅或视觉逼真不能证明结果正确
- 需要分层控制隐私、安全、偏差、权利、内容安全与信息完整性风险
- 只有同时设计溯源、监控、降级与回滚，才能形成可问责的生产部署
常见用途
- 生成有依据的文本或摘要，并对高影响主张执行引用核验、拒答与人工审核
- 在授权、品牌、权利和溯源控制下生成或编辑图像、音频与视频资产
- 生成代码候选，并要求在沙箱中编译、测试、静态检查和人工审核 Diff
- 通过受约束解码、Schema 验证与字段级指标抽取结构化记录
- 生成合成训练或测试数据，同时保留来源血缘、去重、分片审计与独立留出集
示例
Loading code...常见问题
生成式 AI 与判别式 AI 有什么区别？
判别式模型根据输入估计标签或数值，例如 P(y|x)；生成式模型表示数据或输出的分布，例如 P(x)、P(x|c) 或等价的隐变量形式，因此可以采样候选。生产系统经常组合两者：生成器提出结果，分类器、排序器、规则或人工决定是否验收。
生成式 AI 一定会创造原创内容吗？
不一定。生成结果可能不完全等于某一条训练记录，但这不能证明原创。模型可能复现记忆片段、常见表达、可识别风格、来源偏差或受保护素材。新颖性、署名、相似性和合法使用权需要独立的技术与法律审查。
生成式 AI 使用哪些架构？
主要模型族包括用于有序序列的自回归模型、用于迭代合成的扩散模型、用于对抗生成的 GAN，以及用于概率隐空间的 VAE。现代系统可以组合这些组件，产品名称也不能可靠揭示其完整架构。
如何评测生成式 AI 系统？
先定义用户决策与不可接受结果，冻结代表性样本和严重风险样本，并记录完整部署配置。测量任务质量、严重失败、分片表现、p95 延迟、每个验收结果的总成本、拒答与审核负担。输出契约允许时，应优先使用确定性验证。
内容溯源或 AI 检测器能证明内容由 AI 生成吗？
通常不能。C2PA 可以在信任策略下验证签名的来源声明与内容完整性，但凭证可能缺失或被移除，而且不能证明事实真实。AI 检测分类器只是带有误报和漏报的模式估计。两者都不应被当作来源的通用证明。