自回归生成 自回归生成的核心是一个循环：每一步输入已有 token 序列，输出下一个 token 的概率分布，选取下一个 token，将 token 追加到已有序列，重复该过程直到满足停止条件...

大语言模型并不是一种脱离 Transformer 而独立出现的新架构，而是在 Transformer 基础上经过长期演化与工程实践逐步形成的。从最初的 Encoder-Decoder，到如今主流...

基本概念 LangChain 是一个用于开发基于 LLM 应用的框架，LangChain 由以下包构成 langchain-core：包含核心组件 langchain：包含了通用的模型、链等...

语言模型 大语言模型（LLM）是通过预测下一个词的监督学习方式进行训练的。具体来说，首先准备一个包含数百亿甚至更多词的大规模文本数据集。然后，可以从这些文本中提取句子或句子片段作为模型输入。模...

提示词设计原则 在 LLM 开发中，通常将 LLM 的输入称为 Prompt，将 LLM 的输出称为 Completion 提示词（Prompt）设计的两个关键原则 编写清晰、具体的指令 给...