知行札记
专题AI 模型与系统

AI 模型与系统

从模型的表示、学习与生成机制,到交互、知识增强、工具执行与质量测量。

把模型放进完整系统

语言模型把输入表示成向量,计算下一个输出的条件分布。训练改变参数,推理消耗计算与存储资源。应用再为它提供消息、文档、工具和执行环境,最后用评测判断整个系统是否完成了任务。这几个层次共同决定结果:模型回答正确,工具仍可能执行失败;资料齐全,模型仍可能漏读;输出格式合法,字段仍可能没有事实依据。

八个专题沿这些能力组织。模型与生成机制解释 token、注意力、位置、模型块和解码;训练与适配解释数据、优化、后训练及参数更新;推理与计算解释缓存、调度、量化和计算预算;多模态解释图像、音频、视频的表示与生成。模型交互、上下文与输出约束解释消息、演示、资料和生成契约;检索增强生成解释如何把外部知识变成有依据的回答;Agent 解释工具循环与执行边界;评测解释质量和风险如何被测量。

每个专题包含完成本主题理解所需的背景。数学放在公式使用处,较长的向量、梯度与概率推导集中在模型专题的数学页。安全问题按发生位置展开:训练中的行为塑造、交互中的输入输出约束、工具执行中的权限以及评测中的攻击测量各有完整上下文。

按任务进入

理解模型内部结构,可以从模型生成、训练适配和推理计算读起。开发问答或信息抽取系统,可以先读交互与上下文,再读检索增强生成和评测。需要让模型执行动作,则在此基础上阅读 Agent 的状态、授权、恢复和工具观测。图像、视频与实时语音的质量问题需要额外考虑空间分辨率、时间一致性和实时交互。

具体语言、SDK、模型服务和微调配置放在 AI 工程实践。工具之间的比较与开放性条件放在 AI 生态选型研究。专题解释机制,实践给出实现路径,研究帮助判断适用条件。

最后更新于

本页目录