ARTICLE DETAIL

资讯详情

深耕郑州网站建设与运营推广的一线实战洞察。

generative-ai-for-beginners 第一课:生成式 AI 与大语言模型(LLM)原理、能力与教学场景实战(阿拉伯语版课程导读)

generative-ai-for-beginners 第一课:生成式 AI 与大语言模型(LLM)原理、能力与教学场景实战(阿拉伯语版课程导读) generative-ai-for-beginners 第一课生成式 AI 与大语言模型LLM原理、能力与教学场景实战阿拉伯语版课程导读【免费下载链接】generative-ai-for-beginners21 Lessons, Get Started Building with Generative AI项目地址: https://gitcode.com/GitHub_Trending/ge/generative-ai-for-beginners本文基于 generative-ai-for-beginners 课程阿拉伯语译本的第一课translations/ar/01-introduction-to-genai/README.md展开课程以一家虚构教育初创公司为贯穿主线讲清楚生成式 AI 的定义与技术演进脉络、大语言模型的内部工作机制分词、逐 token 预测、概率采样与温度参数以及 LLM 在摘要、创意写作、对话、文本补全、代码生成等任务上的实际应用与固有局限。读完后你能理解“提示词prompt/补全completion”这一核心交互范式掌握 LLM 非确定性行为的本质并能在教育场景中规划 LLM 的落地用法。课程导读与学习目标第一课对应课程第 1 讲内容定位如下商业场景引入课程虚构初创公司的理念与使命贯穿全部 21 讲的故事线生成式 AI 的定义以及技术如何演进到当前的格局大语言模型的内部工作原理LLM 的主要能力与实用用例。完成本课后的学习目标理解什么是生成式 AI以及大语言模型如何工作知道如何在不同使用场景中重点是教学场景利用 LLM。课程整体采用“先概念、后动手”的结构第 13 讲打概念与责任边界基础从第 6 讲06-text-generation-apps/起进入代码实战提供 Python、JavaScript、TypeScript、.NET 多语言示例。本课虽然没有可运行的代码但它定义的“提示词—补全”范式与“温度”参数正是后续所有代码示例中 API 调用参数的理论来源——例如 04-prompt-engineering-fundamentals/ 中的提示词设计练习、05-advanced-prompts/python/aoai-assignment.py 等作业脚本都建立在本课建立的心智模型之上。场景我们的教育初创公司生成式 AI 代表了当前 AI 技术的尖端不断突破曾经被认为不可能的边界。生成式 AI 模型具备多种能力与应用但本课程选择通过一家虚构初创公司后文称“我们的初创公司”来探索它如何变革教育。该公司专注于教育领域使命宣言是在全球范围内提升学习的可及性确保公平的受教育机会并根据每位学习者的需求提供个性化的学习体验。初创团队清楚不借助当代最强大的工具之一——大语言模型LLM就无法实现这一目标。生成式 AI 有望彻底改变当今的学习与教学方式学生将拥有 24 小时在线的虚拟教师可随时获取海量信息与示例教师则能利用创新工具评估学生并给出反馈。注阿拉伯语版文档中该图引用为预翻译的 WebP 压缩图translated_images/ar/students-by-DALLE2.b70fddaced1042ee.webp原图为01-introduction-to-genai/images/下的 PNG。课程通过translated_images/语言/目录为各语言版本文档预置了哈希命名的 WebP 图片以加速多语言站点加载。接下来定义课程全程使用的核心概念与术语。生成式 AI 是如何来的从专家系统到 Transformer尽管生成式 AI 模型的公告近来引发了巨大声浪但这项技术已经研发了几十年最早的科研努力可追溯到 20 世纪 60 年代。如今 AI 已具备类似人类认知的能力例如对话能力——市面上基于 GPT 模型的对话式搜索产品即是例证。最早的 AI 原型是“打字式聊天机器人”依赖从一组专家那里提取的知识库并以程序形式存储于计算机中知识库里的答案由输入文本中出现的关键词触发。但很快人们意识到这种手写聊天机器人的方式无法规模化。统计化路径机器学习20 世纪 90 年代出现转折点统计方法被应用于文本分析由此诞生了“机器学习”这一类算法——它们能从数据中学习模式而无需被显式编程。该方式让机器可以模拟对人类语言的理解统计模型在“文本—标签”配对上训练从而能把未知的输入文本分类到一个预定义的标签上这个标签代表消息的意图。神经网络与现代虚拟助手近年硬件技术的演进能处理更多数据、完成更复杂计算推动了 AI 研究进而催生了被称为“神经网络”或“深度学习”算法的高级机器学习算法。神经网络尤其是循环神经网络 RNN显著增强了自然语言处理使文本语义的表示更精确——能够结合词在句子中的上下文来理解词义。这正是 21 世纪第一个十年诞生的虚拟助手背后的技术它们非常擅长解释人类语言、识别需求并执行满足该需求的操作例如回复预设脚本或调用第三方服务。当下生成式 AI由此我们来到了今天的生成式 AI——它可以被视为深度学习的一个子集。各概念之间的包含关系如下图所示AI ⊃ 机器学习 ⊃ 深度学习 ⊃ 生成式 AI经过数十年研究一种新的模型架构——Transformer——突破了 RNN 的极限能够处理远比 RNN 更长的文本序列。Transformer 基于注意力attention机制使模型可以对接收到的输入赋予不同的权重在信息最密集的地方“投入更多注意力”而不受该信息在文本序列中位置的限制。近期大多数生成式 AI 模型——由于以文本为输入输出也被称为大语言模型LLM——都基于这一架构。这些模型的有趣之处在于它们在来自书籍、文章、网站等多样来源的海量无标注数据上训练之后既能适配种类繁多的任务又能生成语法正确且带有几分创造性的文本。因此它们不仅极大增强了机器“理解”输入文本的能力还赋予了机器用人类语言生成原创回复的能力。大语言模型是如何工作的下一讲translations/ar/02-exploring-and-comparing-different-llms/将探索不同类型的生成式 AI 模型这里先聚焦 OpenAI GPTGenerative Pre-trained Transformer生成式预训练 Transformer系列模型看 LLM 的内部工作方式。整个流程由三个环节构成1. 分词器Tokenizer把文本变成数字LLM 接收文本输入、产生文本输出。但作为统计模型它们处理数字远比处理文本序列更擅长。因此模型的每个输入在交给核心模型之前都会先经过分词器处理。token 是一段文本块——由可变数量的字符组成所以分词器的主要任务是把输入切分为一个 token 数组随后每个 token 被映射为一个token 索引即原始文本块的整数编码。下图是一个真实的分词示例来自课程配图输入 What is a tokenizer? 共 20 个字符被切分为 6 个 token对应索引序列[2061, 318, 257, 11241, 7509, 30]。可以看到分词并不严格按单词边界切分如 tokenizer? 作为一个 token 出现且标点被编码进索引这正是“token 由可变数量字符组成”的直观体现分词还直接影响成本与上下文长度从源码结构看本课程后续各讲如 04-prompt-engineering-fundamentals/ 中对 token 计费的说明、06-text-generation-apps/python/ 中读取 API 返回 usage 字段的代码都会涉及 token 统计其底层依据就是本课的编码机制。2. 预测输出 token扩展窗口式生成给定 n 个 token 作为输入最大 n 因模型而异模型能够预测出一个token 作为输出。这个 token 随即被并入下一轮迭代的输入中以扩展窗口的模式不断向前推进从而让用户最终获得一个或数个完整句子的回答。这也解释了为什么使用 ChatGPT 时你可能会看到它“停在半句话”——那只是生成过程在逐 token 进行的中间状态。3. 选择过程概率分布与温度输出 token 由模型按照它“在当前文本序列之后出现”的概率来选取模型会基于训练结果对所有可能的“下一个 token”预测出一个概率分布。但并非每次都从该分布中选出概率最高的 token——选择过程中加入了随机性使模型呈现非确定性行为同样的输入不一定得到完全相同的输出。这种随机性是为了模拟创造性思维过程并可通过一个名为**温度temperature**的模型参数来调节。实践含义温度这一概念是 LLM 所有 API 调用中的核心采样参数。理解“非确定性 温度可调”是读懂后续课程示例聊天应用、检索应用、图像应用等中请求参数配置的前提。我们的初创公司如何用好 LLM理解了 LLM 的内部机制后来看它做得比较好的几类最常见任务的实战示例并对应到我们的商业场景。LLM 的核心能力是从一段自然语言书写的文本输入出发从零生成文本。那么输入和输出具体是什么形态LLM 的输入称为提示词prompt输出称为补全completion——该术语对应模型“生成下一个 token 以补全当前输入”的机制。什么是提示词、如何设计提示词以最大化模型收益是后续课程的重点见第 4 讲提示词工程。这里先说明提示词可以包含以下四类内容。1. 指令instruction指定我们期望模型输出的类型有时还会内嵌示例或附加数据。典型任务摘要对文章、书籍、产品评论等做摘要并从非结构化数据中提取洞见创意构思设计文章、论文、作业等。课程原文为这两类任务各配有一张 ChatGPT 实际操作截图01-introduction-to-genai/images/summarization-example.png与01-introduction-to-genai/images/creative-writing-example.png。2. 问题question以与智能体对话的形式提出一个问题。课程配图01-introduction-to-genai/images/conversation-example.png展示了一次典型对话问答。3. 待补全的文本text to complete给出文本片段隐式请求写作协助。课程配图01-introduction-to-genai/images/text-completion-example.png展示了这种“续写”用法。4. 代码片段code给出一段代码并要求解释、注释、文档化或者用一句注释描述任务要求生成执行该任务的代码。课程配图01-introduction-to-genai/images/coding-example.png展示了让模型编写代码的示例。以上示例都比较简单并非对 LLM 能力的穷尽展示目的在于说明生成式 AI 的潜力——尤其但不限于在教育语境中的应用。从仓库结构看这些用法分别对应后续课程的可运行实现文本生成06-text-generation-apps/python/aoai-app.py、聊天应用07-building-chat-applications/python/、检索应用08-building-search-applications/python/、图像生成09-building-image-applications/python/aoai-app.py、函数调用11-integrating-with-function-calling/本课的概念在此全部落地为代码。局限性与可信度生成式 AI 并不完美生成式 AI 模型的输出并不完美模型的“创造力”有时反而会拖累它产出可能是用户会误读为“现实包装”的词句组合甚至具有冒犯性。需要明确三点生成式 AI并不“聪明”——至少按照更全面的智能定义包含批判性/创造性推理、情商而言不是它不是确定性的它不可无条件信任捏造内容错误的引用、内容、陈述可能与正确信息混杂在一起并以富有说服力、看似自信的方式呈现即“幻觉”问题。这些局限将在后续课程中逐一处理课程将给出相应的缓解手段。从课程结构看第 3 讲translations/ar/03-using-generative-ai-responsibly/系统讲解负责任的生成式 AI 与缓解层次mitigation layers第 13 讲translations/ar/13-securing-ai-applications/进一步讨论 AI 应用安全与本节构成前后呼应。课后任务你的任务是进一步阅读生成式 AI 的相关资料并尝试找出一个“今天可以引入生成式 AI 但尚未引入”的领域。思考与“老办法”相比影响有何不同你能否做到以前做不到的事或者只是更快然后写一篇约 300 词的总结描述你梦想中的 AI 初创公司是什么样的并包含“问题Problem”“我会如何使用 AIHow I would use AI”“影响Impact”等标题可选地附上商业计划。原文档此处还提示完成该任务后你甚至可以考虑申请微软面向初创公司的孵化器 Microsoft for Startups Founders Hub——其提供 Azure、OpenAI 额度及导师支持等。按本仓库规范此外部链接在本文不展开。知识检查关于大语言模型下列说法哪项正确每次都能得到完全相同的响应。它做事完美无缺擅长加法计算、产出可运行代码等。即使用同样的提示词响应也可能不同。它很擅长为你提供某样东西文本或代码的初稿但你需要对结果做改进。答案3。LLM 是非确定性的响应会变化但你可以通过温度temperature设置控制其波动幅度。也不应指望它把事做得完美——它的价值在于替你完成“重活”通常意味着你会得到一个不错的初稿需要逐步打磨改进。延伸阅读与课程衔接本课阿拉伯语译本translations/ar/01-introduction-to-genai/README.md对应英文原版01-introduction-to-genai/README.md文档声明原文档以其原始语言版本为权威来源本译文由 Co-op Translator 服务生成可能存在机翻误差。下一课为第 2 讲“探索与比较不同 LLM 类型”translations/ar/02-exploring-and-comparing-different-llms/README.md将对比不同类型 LLM 的优缺点、在 Azure 上测试与比较模型、以及模型部署方式。环境搭建云端/本地/模型提供商见课程第 00 章00-course-setup/README.md。课程总览与语言版本入口见根目录 README.md 与 translations/ar/README.md。免责声明本文依据的课程阿拉伯语文档由 AI 翻译服务 Co-op Translator 翻译生成。虽然力求准确但机译可能存在错误或偏差原文档原始语言版本应视为权威来源关键信息建议以专业人工译本为准。【免费下载链接】generative-ai-for-beginners21 Lessons, Get Started Building with Generative AI项目地址: https://gitcode.com/GitHub_Trending/ge/generative-ai-for-beginners创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
返回列表