前言生成式AI中常说的token是什么嵌入Embeddings是什么意思为什么现在的AI具有生成能力AI是怎么和你进行对话的为什么都说提示词很重要为什么同一段提示词同一个AI模型/工具多问几次可能得到截然不同的结果要回答以上这些问题你需要了解大语言模型LLM是如何工作的。知其然也要知其所以然。步骤1分词Tokenize面对一个问题我们人类的习惯性操作是什么理解问题。LLM也是一样。LLM在处理输入文本时首先使用分词器Tokenizer将文本分割成若干小的文本块即tokens。这些tokens由可变数量的字符组成随后被转换成高维向量的数值表示也就是嵌入embeddings供模型处理。这一步骤是模型理解语言的基础类似于人类阅读和解析文本的过程。分词Tokenize是LLM工作的第一步在这个过程中将输入文本转换为模型可以处理的数值表示。这个过程通常包括以下几个步骤文本分割输入文本首先被分割成若干小的文本块tokens。每个token可以是一个单词、部分单词或字符序列。分词的方式取决于具体的分词器算法和模型的需求。例如BERT模型通常使用WordPiece分词方法而GPT系列模型使用Byte Pair Encoding (BPE)。Token映射分割后的tokens被映射到特定的token索引即整数编码。这些整数编码是模型内部词汇表的一部分。通过这种方式文本被转换为数值序列模型可以更高效地进行处理。嵌入Embeddings这些整数编码随后被转换为高维向量这些向量称为嵌入embeddings。嵌入是对文本语义信息的密集表示捕捉了词汇之间的语义关系和上下文信息。嵌入向量在模型的初始层被计算和优化以便在后续的模型层中进行处理。步骤2预测Predict在完成分词和嵌入后LLM进入核心的预测阶段。这一过程通过多层神经网络和注意力机制来完成以确保生成的文本在语法和语义上都是合理的。自注意力机制Self-Attention允许模型在生成文本时关注输入序列中的不同部分从而理解单词之间的依赖关系。例如Transformer架构通过自注意力机制有效地捕捉长距离依赖关系并能够高效并行地进行计算。输入处理模型接收n个输入tokens的嵌入表示。通过多层的神经网络通常是基于Transformer架构的层这些嵌入被处理以捕捉词与词之间的依赖关系和上下文信息。自注意力机制在每一层中模型使用自注意力机制来计算每个token与其他token的关系。自注意力机制允许模型在处理当前token时考虑整个输入序列的上下文。这对于生成连贯和上下文相关的文本至关重要。前馈神经网络经过自注意力机制处理的输出被传递给前馈神经网络层进一步进行非线性变换和特征提取。经过多层的自注意力和前馈处理后模型生成用于预测的特征表示。步骤3概率分布和选择Probability Distribution Selection在生成文本时LLM会为每个可能的下一个token计算一个概率分布。然后模型会选择概率最高的token作为输出或者通过引入随机性来选择token从而模拟创造性思维。这种随机性的引入是为了增加模型输出的多样性避免每次生成相同输入的相同文本。概率分布计算模型为每个可能的下一个token计算一个概率分布。这些概率反映了每个token在当前上下文中作为下一个token的可能性。概率分布是通过softmax函数计算的确保所有可能token的概率之和为1。选择输出token根据计算出的概率分布模型选择一个token作为输出。通常会选择概率最高的token但为了增加生成文本的多样性和创造性模型有时会引入随机性。这种随机性可以通过“温度Temperature”参数进行调整温度越高生成的文本越随机。迭代生成选择的输出token会被加入到输入序列中模型重新进行上述步骤以生成下一个token。这种迭代过程一直持续直到生成完整的句子或文本。结语知其然更要知其所以然。生成式AI中常说的token是什么Token是LLM处理文本的最小单位可以是一个单词、部分单词或字符序列。分词器将文本分割成tokens并将其映射为数值表示供模型处理。嵌入Embeddings是什么意思嵌入是将tokens转换为高维向量的过程这些向量捕捉了词汇之间的语义关系和上下文信息是模型理解语言的基础。为什么现在的AI具有生成能力LLM通过大规模数据训练和复杂的神经网络结构能够预测并生成符合上下文的文本。这种能力源自模型对语言模式的深度学习和对上下文的理解。AI是怎么和你进行对话的AI通过接收你的输入进行分词和嵌入然后预测下一个可能的token生成回应文本。这个过程是连续且动态的确保对话的连贯性和相关性。为什么都说提示词很重要提示词prompts是模型生成内容的起点好的提示词能引导模型生成更符合预期的高质量文本。为什么同一段提示词同一个AI模型/工具多问几次可能得到截然不同的结果这是因为模型在选择输出token时引入了随机性尤其是温度参数较高时。这种随机性模拟了创造性思维确保生成的文本多样性。最后的最后感谢你们的阅读和喜欢我收藏了很多技术干货可以共享给喜欢我文章的朋友们如果你肯花时间沉下心去学习它们一定能帮到你。因为这个行业不同于其他行业知识体系实在是过于庞大知识更新也非常快。作为一个普通人无法全部学完所以我们在提升技术的时候首先需要明确一个目标然后制定好完整的计划同时找到好的学习方法这样才能更快的提升自己。这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】大模型知识脑图为了成为更好的 AI大模型 开发者这里为大家提供了总的路线图。它的用处就在于你可以按照上面的知识点去找对应的学习资源保证自己学得较为全面。经典书籍阅读阅读AI大模型经典书籍可以帮助读者提高技术水平开拓视野掌握核心技术提高解决问题的能力同时也可以借鉴他人的经验。对于想要深入学习AI大模型开发的读者来说阅读经典书籍是非常有必要的。实战案例光学理论是没用的要学会跟着一起敲要动手实操才能将自己的所学运用到实际当中去这时候可以搞点实战案例来学习。面试资料我们学习AI大模型必然是想找到高薪的工作下面这些面试题都是总结当前最新、最热、最高频的面试题并且每道题都有详细的答案面试前刷完这套面试题资料小小offer不在话下640套AI大模型报告合集这套包含640份报告的合集涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师还是对AI大模型感兴趣的爱好者这套报告合集都将为您提供宝贵的信息和启示。这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】