知识库 · 术语速查

生成式 AI 术语:20 个词读懂大模型在讲什么

生成式 AI 术语,绕不开的问题不是记住定义,而是知道每个词在采购与落地时对应什么决策。本页按基础概念、模型架构、训练优化、工程与风险四组整理,每条都注明它在企业场景里意味着什么。

20核心术语 4分组维度 300+数据源连接器 2026内容更新至

生成式 AI 术语:先说清楚为什么要看这一页

生成式 AI 术语,是指围绕以大模型为核心的内容生成技术形成的一套概念体系,涵盖模型结构、训练方式、使用方法与风险控制四个层面,其中相当一部分词在中文技术圈有多种译法,同一个概念在不同资料里叫法不同是常见情况。

网上的术语表大多只给定义。但对企业里做选型和落地的人来说,知道一个词的定义,和知道它会影响哪个决策,是两回事。比如”上下文窗口”这个词,定义读完还是不知道该关心什么;而它实际决定的是”一次能塞进去多长的合同、能不能一次处理完一份年报”。

所以这一页每条术语除了定义,都补了一句它在企业场景里意味着什么。翻到需要的词,两句话就能判断该不该往下深究。

什么是生成式 AI

生成式 AI 是一类以神经网络为基础、用于产生新内容的人工智能系统,输出可以是文本、图像、音频、视频或代码。与用于分类和预测的传统机器学习不同,它的核心能力是根据训练数据中学到的模式生成此前不存在的内容,而不是对已有数据做判断。

六个最常被问到的术语,一句话版

大语言模型(LLM)在海量文本上训练、通过预测下一个词来生成语言的模型
上下文窗口模型一次能读进去的最大内容长度,决定单次能处理多长的文档
提示词给模型的输入指令,同一个模型换个问法结果可能差很多
RAG(检索增强生成)先从自有资料里检索,再让模型基于检索结果回答,用来让模型说自家的事
幻觉模型生成了流畅但不属实的内容,且语气与正确回答没有区别
AI 智能体能自行规划步骤、调用工具、多轮执行的系统,不只是一问一答

※ 中文译名在不同资料中不统一(如 Transformer 有译作”转换器”的,Embedding 有译作”嵌入””向量化”的)。本页在标题后标注英文原名,便于对照英文资料。

生成式 AI 术语:分四组逐条解释

顺序按理解难度排列。只想快速上手的话,看第一组和第三组就够;要参与技术评审或写方案,第二组和第四组值得读完。

01基础概念

不看这几个词,后面的讨论跟不上。

大语言模型 Large Language Model / LLM

在极大规模文本上训练出来的模型,核心机制是根据已有内容预测下一个词,一个词一个词地生成回答。它没有在”查资料”,而是在按训练时学到的统计规律往下续写,这解释了它为什么有时说得很流畅却不属实。

企业含义:模型本身不知道你公司的事。想让它回答内部问题,要么把资料塞进上下文,要么做检索增强,指望它”自己知道”是最常见的误判。

基础模型 Foundation Model

在通用数据上预训练、可适配到多种下游任务的大型模型。它是底座,不是成品:具体应用通常在基础模型之上通过提示、检索或微调来构造。

企业含义:选基础模型是选底座,决定成本、部署方式与合规边界;但决定效果好坏的,往往是底座之上那层工程,而不是底座本身。

参数 Parameter

模型内部可训练的数值,数量常以十亿(B)为单位。参数量大致反映模型容量,但不等于效果-训练数据质量、训练方法和后期优化同样关键,参数少而针对性强的模型在特定任务上超过大模型是常见的。

企业含义:参数量直接对应显存与算力开销。本地部署时,它是决定”这台机器跑不跑得动”的第一个硬指标,不是营销数字。

多模态 Multimodal

同一个模型能处理文本以外的输入或输出,例如读图、读表格截图、听音频。多模态不等于每种模态都同样强,通常以某一种为主、其余为辅。

企业含义:扫描件、拍照的凭证、PDF 里的图表,这类”非结构化又不是纯文本”的材料能否处理,取决于多模态能力,也是很多档案类项目的成败点。

上下文窗口 Context Window

模型单次能接收的内容长度上限,包含输入和输出。超出部分要么被截断,要么需要分段处理。窗口大也不意味着长文本中的每处细节都被同等关注,靠近首尾的内容通常更容易被用上。

企业含义:它决定一次能不能读完一份合同、一份年报。窗口不够时就要分段加汇总,工程复杂度和出错概率都会上升。

02模型与架构

技术评审时会被问到的部分,了解到能讲清楚原理即可。

神经网络 Neural Network

由多层可调权重连接组成的计算结构,通过反复调整权重来拟合数据中的规律。它受生物神经系统启发,但不是对大脑的复制,这个类比只在最粗略的层面成立。

企业含义:它是当前几乎所有 AI 能力的底层结构。理解到”权重是学出来的、不是写出来的”,就足以理解为什么模型行为难以被完全预先规定。

Transformer Transformer

目前主流大模型采用的网络架构,特点是能并行处理整段内容,并让每个位置的词参考其他所有位置。中文资料里有译作”转换器”的,通常直接用英文原名更少歧义。

企业含义:方案里出现这个词多半只是在说”用的是主流架构”。它本身不构成差异化,不必在选型时纠结。

注意力机制 Attention

Transformer 的核心部件,让模型在处理某个词时决定该”看重”上下文中的哪些部分。它是模型能处理长距离依赖关系的原因,比如把段落末尾的代词正确关联到开头提到的对象。

企业含义:注意力的计算量随内容长度快速增长,这是长上下文既贵又慢的直接原因,也是长文档处理成本估算的依据。

词嵌入与向量 Embedding

把词、句子或整段文本转换成一串数字(向量),让语义相近的内容在数值空间中距离更近。这是机器”理解”语义的基本方式,也是所有语义检索的基础。

企业含义:做企业知识库检索时,向量化的质量直接决定检索准不准。检索不准,后面模型答得再流畅也是错的。

向量数据库 Vector Database

专门存储向量并支持相似度检索的数据库。给定一个查询向量,它快速找出语义最接近的若干条内容,是检索增强生成的常见组成部分。

企业含义:属于要单独选型和运维的一层基础设施。数据量不大时未必需要它,先评估规模再决定,避免过度设计。

03使用与工程

真正决定项目成败的部分,落地阶段天天打交道。

提示词 Prompt

给模型的输入内容,包括指令、背景信息、示例与输出格式要求。同一个模型、同一个问题,换一种问法结果可能差别很大,因此提示词本身需要版本管理,不能靠个人经验散落在各处。

企业含义:提示词是会被反复修改的资产。改了哪里、为什么改、改完效果如何,如果记不下来,项目后期没人说得清当前版本为什么这么写。

检索增强生成 RAG

回答前先从指定资料库里检索相关内容,再连同问题一起交给模型,让它基于检索结果作答。这是让通用模型回答企业内部问题的主流方式,相比微调更新更快、成本更低。

企业含义:RAG 项目做不好,问题通常出在检索这一端而不是模型端:资料没整理、切分不合理、口径不统一。数据准备的工作量往往超过整个项目的一半

微调 Fine-tuning

在预训练模型的基础上,用特定领域的数据继续训练,使其更贴合特定任务或语言风格。相比检索增强,微调改变的是模型本身,因此更新知识需要重新训练。

企业含义:微调适合固定风格与格式,不适合承载会变的知识。”公司制度改了就重新微调一次”是很贵的做法,这类需求应该用检索解决。

AI 智能体 AI Agent

能够自行拆解任务、调用外部工具、按多个步骤执行并根据中间结果调整的系统。与一问一答的区别在于它会主动做多步动作,因此也更难预测和排查。

企业含义:步骤越多,出错后越难定位是哪一环出的问题。让执行路径可观察、可复现,是智能体能不能进生产环境的前提。参见 AI 智能体

推理模型与思维链 Reasoning Model / Chain-of-Thought

让模型在给出结论前先输出中间推理步骤的做法,以及为此专门优化的一类模型。它在需要多步计算或逻辑推导的任务上表现更好,代价是响应更慢、开销更大。

企业含义:中间步骤可以被人检查,这对需要解释结论的场景很有价值。但要注意:写出来的推理过程不等于模型真实的计算过程,它仍是生成出来的文本,不能当作证据链。

蒸馏与量化 Distillation / Quantization

两种让模型变小变快的技术:蒸馏是用大模型指导训练一个小模型,量化是降低模型参数的数值精度。两者都以少量效果损失换取显著的资源节省。

企业含义:本地部署时经常用到。原本跑不动的模型,量化之后可能就能在现有服务器上跑起来,这是私有化项目里很实用的一招。

04风险与治理

受监管行业尤其要看这一组,评审时会被逐条追问。

幻觉 Hallucination

模型生成了看起来合理、实际不属实的内容。它源于模型的基本工作方式-按概率续写而非查证事实,因此无法被彻底消除,只能通过检索增强、结果校验与人工复核来降低影响。

企业含义:最危险的一点是,错误答案和正确答案的语气完全一样,看不出区别。凡是结论要被采信的场景,都必须设计校验环节,不能只靠模型自己。

偏见 Bias

训练数据中的倾向性被模型学习并在输出中放大。它可能表现为对特定群体的系统性差异,也可能是把无关特征当成了有意义的规律。

企业含义:涉及信贷审批、人事评估、投诉分类这类场景时,偏见是合规问题而不只是技术问题,需要在上线前做专门评估。

涌现能力 Emergent Ability

模型规模增大后表现出的、在小模型上观察不到的能力。这类能力没有被显式设计,是训练的副产物。学术上对”涌现”是真实现象还是评测方式造成的错觉仍有争论。

企业含义:不要把涌现当作可依赖的功能来写进方案。没有被明确测试过的能力,就不该出现在验收标准里。

拟人化 Anthropomorphism

把人类特质投射到 AI 系统上的倾向。模型能模仿情感表达和第一人称叙述,但这是语言模式的复现,不代表它具有感受或意图。

企业含义:影响的是责任归属。系统做出的判断,责任在设计和使用它的人,”AI 自己决定的”不构成免责理由。

可追溯性 Traceability

能够还原一个结论是如何产生的:用了哪些数据、经过哪些处理、依据什么规则。对生成式 AI 系统而言,这意味着要记录检索到的内容、使用的提示词版本与中间步骤。

企业含义:审计、监管问询、内部评审都要求这个。做不到可追溯,系统在受监管行业就上不了线,功能再强也没用。这也是可视化工作流在 AI 项目里的主要价值所在。

生成式 AI 术语:在选型时怎么用

看完术语表最容易犯的错,是拿它去对照供应商的功能清单打勾。更有用的做法是拿它反过来问自己三个问题。

一、我们的问题真的需要生成式 AI 吗

相当一部分被当作 AI 需求提出来的事情,本质是数据没理清:口径不统一、数据散在多个系统、每期靠人工汇总。这类问题上大模型解决不了,反而会因为输入数据本身就是乱的而放大混乱。先把数据这一层做扎实,往往比换更强的模型收益更大。

二、结论需要被解释吗

如果答案只是给一两个人参考,可追溯性可以往后放。如果要写进报告、要过评审、要应对监管问询,那么从第一天就要设计记录机制。事后补文档几乎必然与实际运行的逻辑对不上。

三、数据能不能出内网

受监管行业通常不允许把业务数据传给外部服务处理。这一条会直接筛掉一大批只有云端形态的方案,应该在评估功能之前先确认,而不是最后才发现方案根本用不了。

iModel 在这条链路上的位置

iModel 数据科学平台基于 KNIME 开源内核二次开发,承担的是数据接入与准备、流程编排与可视化、执行记录与结果复现这一段,支持完全本地离线部署。上面第一和第二个问题-数据是否理清、结论能否解释-正是这一层要解决的。具体的模型接入能力请与我们确认后写入方案,我们不在未验证的场景上做承诺。

常见问题

差在输出的性质。传统机器学习做的是判断-分类、预测、打分,输出是对已有数据的结论;生成式 AI 做的是创作,输出是训练数据里不存在的新内容。企业里这两类常常同时需要:用传统方法做风险评分,用生成式做报告撰写与信息提取,不是替代关系。
不一定。参数量大致反映模型容量,但训练数据质量、训练方法与后期优化同样关键,针对性强的小模型在特定任务上超过通用大模型是常见情况。而且参数量直接决定显存与算力开销,本地部署时它首先是成本约束,其次才是能力指标。
不能彻底消除,只能降低影响。幻觉源于模型按概率续写而非查证事实的基本工作方式。常见的缓解手段是检索增强、结果校验和人工复核。最需要警惕的是错误答案和正确答案的语气完全一致,肉眼看不出区别,所以凡是结论要被采信的场景,都必须有独立的校验环节。
看知识会不会变。会变的知识用检索增强,改资料即可生效;固定的风格与输出格式用微调,一次训练长期使用。两者可以叠加。实践中多数企业场景先做检索增强就够了,微调的成本和维护负担经常被低估。
不能当作证据链。中间推理步骤对人工检查很有帮助,也确实能提升多步任务的准确率,但那段文字同样是生成出来的,不等于模型内部真实的计算过程。需要向审计或监管出示依据时,要依靠系统记录的数据来源与处理流程,而不是模型自述的推理。
可以,路径是本地部署开源模型加上本地的数据处理层。需要提前确认三件事:可用的模型范围、所需的算力资源、以及数据准备这一层如何在内网完成。这三项的答案取决于具体环境,建议评估后写入方案,不要按通用宣传材料做预算。

术语看完了,接下来看数据

多数 AI 项目卡住的地方不在模型选型,在于数据口径没统一、来源散在多处。这一层理顺之后,后面的选择会清楚得多。

数据这一层具体要做什么、做到什么程度才算可以进入模型环节。
iModel 在生成式 AI 方向的产品能力说明与适用场景。
可追溯性与协作优势,AI 项目里最容易被低估的一层。
iModel 专属客服
在线留言或电话联系
在线留言

留下您的问题和联系方式,我们会在一个工作日内回复。

手机与邮箱至少填一项

4008568196 拨打此号码联系我们

微信扫码咨询

iModel 微信咨询二维码

使用微信扫描上方二维码