生成式 AI 术语:先说清楚为什么要看这一页
生成式 AI 术语,是指围绕以大模型为核心的内容生成技术形成的一套概念体系,涵盖模型结构、训练方式、使用方法与风险控制四个层面,其中相当一部分词在中文技术圈有多种译法,同一个概念在不同资料里叫法不同是常见情况。
网上的术语表大多只给定义。但对企业里做选型和落地的人来说,知道一个词的定义,和知道它会影响哪个决策,是两回事。比如”上下文窗口”这个词,定义读完还是不知道该关心什么;而它实际决定的是”一次能塞进去多长的合同、能不能一次处理完一份年报”。
所以这一页每条术语除了定义,都补了一句它在企业场景里意味着什么。翻到需要的词,两句话就能判断该不该往下深究。
生成式 AI 是一类以神经网络为基础、用于产生新内容的人工智能系统,输出可以是文本、图像、音频、视频或代码。与用于分类和预测的传统机器学习不同,它的核心能力是根据训练数据中学到的模式生成此前不存在的内容,而不是对已有数据做判断。
六个最常被问到的术语,一句话版
| 大语言模型(LLM) | 在海量文本上训练、通过预测下一个词来生成语言的模型 |
|---|---|
| 上下文窗口 | 模型一次能读进去的最大内容长度,决定单次能处理多长的文档 |
| 提示词 | 给模型的输入指令,同一个模型换个问法结果可能差很多 |
| RAG(检索增强生成) | 先从自有资料里检索,再让模型基于检索结果回答,用来让模型说自家的事 |
| 幻觉 | 模型生成了流畅但不属实的内容,且语气与正确回答没有区别 |
| AI 智能体 | 能自行规划步骤、调用工具、多轮执行的系统,不只是一问一答 |
※ 中文译名在不同资料中不统一(如 Transformer 有译作”转换器”的,Embedding 有译作”嵌入””向量化”的)。本页在标题后标注英文原名,便于对照英文资料。
生成式 AI 术语:分四组逐条解释
顺序按理解难度排列。只想快速上手的话,看第一组和第三组就够;要参与技术评审或写方案,第二组和第四组值得读完。
不看这几个词,后面的讨论跟不上。
大语言模型 Large Language Model / LLM
在极大规模文本上训练出来的模型,核心机制是根据已有内容预测下一个词,一个词一个词地生成回答。它没有在”查资料”,而是在按训练时学到的统计规律往下续写,这解释了它为什么有时说得很流畅却不属实。
企业含义:模型本身不知道你公司的事。想让它回答内部问题,要么把资料塞进上下文,要么做检索增强,指望它”自己知道”是最常见的误判。
基础模型 Foundation Model
在通用数据上预训练、可适配到多种下游任务的大型模型。它是底座,不是成品:具体应用通常在基础模型之上通过提示、检索或微调来构造。
企业含义:选基础模型是选底座,决定成本、部署方式与合规边界;但决定效果好坏的,往往是底座之上那层工程,而不是底座本身。
参数 Parameter
模型内部可训练的数值,数量常以十亿(B)为单位。参数量大致反映模型容量,但不等于效果-训练数据质量、训练方法和后期优化同样关键,参数少而针对性强的模型在特定任务上超过大模型是常见的。
企业含义:参数量直接对应显存与算力开销。本地部署时,它是决定”这台机器跑不跑得动”的第一个硬指标,不是营销数字。
多模态 Multimodal
同一个模型能处理文本以外的输入或输出,例如读图、读表格截图、听音频。多模态不等于每种模态都同样强,通常以某一种为主、其余为辅。
企业含义:扫描件、拍照的凭证、PDF 里的图表,这类”非结构化又不是纯文本”的材料能否处理,取决于多模态能力,也是很多档案类项目的成败点。
上下文窗口 Context Window
模型单次能接收的内容长度上限,包含输入和输出。超出部分要么被截断,要么需要分段处理。窗口大也不意味着长文本中的每处细节都被同等关注,靠近首尾的内容通常更容易被用上。
企业含义:它决定一次能不能读完一份合同、一份年报。窗口不够时就要分段加汇总,工程复杂度和出错概率都会上升。
技术评审时会被问到的部分,了解到能讲清楚原理即可。
神经网络 Neural Network
由多层可调权重连接组成的计算结构,通过反复调整权重来拟合数据中的规律。它受生物神经系统启发,但不是对大脑的复制,这个类比只在最粗略的层面成立。
企业含义:它是当前几乎所有 AI 能力的底层结构。理解到”权重是学出来的、不是写出来的”,就足以理解为什么模型行为难以被完全预先规定。
Transformer Transformer
目前主流大模型采用的网络架构,特点是能并行处理整段内容,并让每个位置的词参考其他所有位置。中文资料里有译作”转换器”的,通常直接用英文原名更少歧义。
企业含义:方案里出现这个词多半只是在说”用的是主流架构”。它本身不构成差异化,不必在选型时纠结。
注意力机制 Attention
Transformer 的核心部件,让模型在处理某个词时决定该”看重”上下文中的哪些部分。它是模型能处理长距离依赖关系的原因,比如把段落末尾的代词正确关联到开头提到的对象。
企业含义:注意力的计算量随内容长度快速增长,这是长上下文既贵又慢的直接原因,也是长文档处理成本估算的依据。
词嵌入与向量 Embedding
把词、句子或整段文本转换成一串数字(向量),让语义相近的内容在数值空间中距离更近。这是机器”理解”语义的基本方式,也是所有语义检索的基础。
企业含义:做企业知识库检索时,向量化的质量直接决定检索准不准。检索不准,后面模型答得再流畅也是错的。
向量数据库 Vector Database
专门存储向量并支持相似度检索的数据库。给定一个查询向量,它快速找出语义最接近的若干条内容,是检索增强生成的常见组成部分。
企业含义:属于要单独选型和运维的一层基础设施。数据量不大时未必需要它,先评估规模再决定,避免过度设计。
真正决定项目成败的部分,落地阶段天天打交道。
提示词 Prompt
给模型的输入内容,包括指令、背景信息、示例与输出格式要求。同一个模型、同一个问题,换一种问法结果可能差别很大,因此提示词本身需要版本管理,不能靠个人经验散落在各处。
企业含义:提示词是会被反复修改的资产。改了哪里、为什么改、改完效果如何,如果记不下来,项目后期没人说得清当前版本为什么这么写。
检索增强生成 RAG
回答前先从指定资料库里检索相关内容,再连同问题一起交给模型,让它基于检索结果作答。这是让通用模型回答企业内部问题的主流方式,相比微调更新更快、成本更低。
企业含义:RAG 项目做不好,问题通常出在检索这一端而不是模型端:资料没整理、切分不合理、口径不统一。数据准备的工作量往往超过整个项目的一半。
微调 Fine-tuning
在预训练模型的基础上,用特定领域的数据继续训练,使其更贴合特定任务或语言风格。相比检索增强,微调改变的是模型本身,因此更新知识需要重新训练。
企业含义:微调适合固定风格与格式,不适合承载会变的知识。”公司制度改了就重新微调一次”是很贵的做法,这类需求应该用检索解决。
AI 智能体 AI Agent
能够自行拆解任务、调用外部工具、按多个步骤执行并根据中间结果调整的系统。与一问一答的区别在于它会主动做多步动作,因此也更难预测和排查。
企业含义:步骤越多,出错后越难定位是哪一环出的问题。让执行路径可观察、可复现,是智能体能不能进生产环境的前提。参见 AI 智能体。
推理模型与思维链 Reasoning Model / Chain-of-Thought
让模型在给出结论前先输出中间推理步骤的做法,以及为此专门优化的一类模型。它在需要多步计算或逻辑推导的任务上表现更好,代价是响应更慢、开销更大。
企业含义:中间步骤可以被人检查,这对需要解释结论的场景很有价值。但要注意:写出来的推理过程不等于模型真实的计算过程,它仍是生成出来的文本,不能当作证据链。
蒸馏与量化 Distillation / Quantization
两种让模型变小变快的技术:蒸馏是用大模型指导训练一个小模型,量化是降低模型参数的数值精度。两者都以少量效果损失换取显著的资源节省。
企业含义:本地部署时经常用到。原本跑不动的模型,量化之后可能就能在现有服务器上跑起来,这是私有化项目里很实用的一招。
受监管行业尤其要看这一组,评审时会被逐条追问。
幻觉 Hallucination
模型生成了看起来合理、实际不属实的内容。它源于模型的基本工作方式-按概率续写而非查证事实,因此无法被彻底消除,只能通过检索增强、结果校验与人工复核来降低影响。
企业含义:最危险的一点是,错误答案和正确答案的语气完全一样,看不出区别。凡是结论要被采信的场景,都必须设计校验环节,不能只靠模型自己。
偏见 Bias
训练数据中的倾向性被模型学习并在输出中放大。它可能表现为对特定群体的系统性差异,也可能是把无关特征当成了有意义的规律。
企业含义:涉及信贷审批、人事评估、投诉分类这类场景时,偏见是合规问题而不只是技术问题,需要在上线前做专门评估。
涌现能力 Emergent Ability
模型规模增大后表现出的、在小模型上观察不到的能力。这类能力没有被显式设计,是训练的副产物。学术上对”涌现”是真实现象还是评测方式造成的错觉仍有争论。
企业含义:不要把涌现当作可依赖的功能来写进方案。没有被明确测试过的能力,就不该出现在验收标准里。
拟人化 Anthropomorphism
把人类特质投射到 AI 系统上的倾向。模型能模仿情感表达和第一人称叙述,但这是语言模式的复现,不代表它具有感受或意图。
企业含义:影响的是责任归属。系统做出的判断,责任在设计和使用它的人,”AI 自己决定的”不构成免责理由。
可追溯性 Traceability
能够还原一个结论是如何产生的:用了哪些数据、经过哪些处理、依据什么规则。对生成式 AI 系统而言,这意味着要记录检索到的内容、使用的提示词版本与中间步骤。
企业含义:审计、监管问询、内部评审都要求这个。做不到可追溯,系统在受监管行业就上不了线,功能再强也没用。这也是可视化工作流在 AI 项目里的主要价值所在。
生成式 AI 术语:在选型时怎么用
看完术语表最容易犯的错,是拿它去对照供应商的功能清单打勾。更有用的做法是拿它反过来问自己三个问题。
一、我们的问题真的需要生成式 AI 吗
相当一部分被当作 AI 需求提出来的事情,本质是数据没理清:口径不统一、数据散在多个系统、每期靠人工汇总。这类问题上大模型解决不了,反而会因为输入数据本身就是乱的而放大混乱。先把数据这一层做扎实,往往比换更强的模型收益更大。
二、结论需要被解释吗
如果答案只是给一两个人参考,可追溯性可以往后放。如果要写进报告、要过评审、要应对监管问询,那么从第一天就要设计记录机制。事后补文档几乎必然与实际运行的逻辑对不上。
三、数据能不能出内网
受监管行业通常不允许把业务数据传给外部服务处理。这一条会直接筛掉一大批只有云端形态的方案,应该在评估功能之前先确认,而不是最后才发现方案根本用不了。
iModel 数据科学平台基于 KNIME 开源内核二次开发,承担的是数据接入与准备、流程编排与可视化、执行记录与结果复现这一段,支持完全本地离线部署。上面第一和第二个问题-数据是否理清、结论能否解释-正是这一层要解决的。具体的模型接入能力请与我们确认后写入方案,我们不在未验证的场景上做承诺。
常见问题
术语看完了,接下来看数据
多数 AI 项目卡住的地方不在模型选型,在于数据口径没统一、来源散在多处。这一层理顺之后,后面的选择会清楚得多。

