尧图网站建设 
generative-ai-for-beginners 第 12 课实战为生成式 AI 应用设计可信、协作与包容的用户体验【免费下载链接】generative-ai-for-beginners21 Lessons, Get Started Building with Generative AI项目地址: https://gitcode.com/GitHub_Trending/ge/generative-ai-for-beginners在生成式 AI 应用开发中用户体验UX往往比模型能力更容易被低估用户能高效完成任务固然重要但更重要的是应用应当对所有人可用、可信、可反馈、可掌控。本文基于generative-ai-for-beginners课程仓库第 12 课 12-designing-ux-for-ai-applications 的完整内容结合仓库内真实的对话、文本生成与检索示例源码系统讲解如何为一个虚构的 AI 教育产品面向教师与学生设计出“人们能用、更愿意用”的 AI 应用。读完后你将掌握以可用性、可靠性、可访问性与愉悦性四支柱评估体验通过可解释性与控制权构建信任并用反馈闭环与明确的错误处理实现人机协作。认识你的用户AI 应用体验设计的两类关键角色用户体验UX描述的是用户如何与某一产品、服务或系统交互并完成目标。在设计 AI 应用时开发者不仅要保证交互“有效率”还要保证体验符合伦理。以一个虚构的教育科技创业公司为例系统中有两类核心用户教师需要自动化批改、复习资料管理等提效工具学生需要个性化学习、自我练习与即时反馈。以用户为中心的设计user-centered design把用户放在首位确保产品对目标人群真正相关且有价值。需要特别强调的是并非每个问题都该用 AI 解决。AI 的角色是增强augment而非取代用户体验——例如自动化重复性的人工任务或对个体体验做个性化。判断某个功能是否需要引入生成式模型本身就是体验设计的起点。好体验的四个支柱可用、可靠、可访问、愉悦原课程将“好的用户体验”拆解为四个可评估、可设计的维度。围绕 AI 教育应用它们的具体含义如下维度含义在 AI 教育场景中的体现可用Useful / Usability功能与其预期目的相匹配自动化批改应用须能按预定义标准准确、高效地为作业评分生成复习卡片的应用须能基于数据产出相关且多样的问题可靠Reliable能一致地、无误地完成任务AI 与人一样并不完美应用会遇到错误与意外需要设计人工干预与修正路径可访问Accessible将体验扩展到不同能力含残障的用户遵循无障碍规范与原则确保“没有人被排除在外”愉悦Pleasant让用户乐于使用、愿意再次回来愉悦的体验对用户产生正向影响同时提升业务留存与收益四者之中可靠性在生成式应用里最需要主动设计。以课程仓库 第 06 课的文本生成代码 为例它用一段系统提示约束扮演历史人物的模型——“只依据时间线与事件的事实作答不要自行创作内容如果不知道就明确说自己不记得”。这正是在提示词层面把“不可靠”的幻觉风险转化为“明确拒绝”的可控行为是 AI 应用可靠性设计的最小可行范例。类似的角色化 system 提示同样出现在 第 07 课聊天应用示例 中。信任与透明在“不信任”与“过度信任”之间设计信任是 AI 应用设计的命门它让用户确信应用能完成任务、稳定产出结果且结果符合预期。但信任存在两个方向的失效风险不信任Mistrust用户对 AI 系统几乎或完全没有信心直接导致拒绝使用你的应用过度信任Overtrust用户高估了 AI 系统的能力从而过度依赖。课程给出了一个非常具体的反例——自动化批改系统一旦被教师过度信任教师可能不再抽查部分试卷最终造成不公或错误的评分同时错失给学生反馈与改进的机会。为了让信任成为设计中心而非事后补救课程给出两个抓手可解释性Explainability与控制Control。可解释性让用户看懂 AI 如何做决定当 AI 参与影响重大决策例如向下一代传授知识时教师与家长必须理解 AI 的决策如何产生。可解释性设计包含三层可落地动作明确标注 AI 身份受众必须知道输出来自 AI 而非真人。课程提供了文案对照范例——与其写“现在开始和你的导师聊天吧”不如写“使用会根据你的需求调整、帮助你按自己的节奏学习的 AI 导师”后者让用户对“对象是 AI”有清晰预期。下图即展示了这种文案优化前后的一对应用落地页说清个人数据的使用边界不同 persona如“学生”会有对应的权限限制。AI 不直接揭晓答案而是引导用户自己思考如何解题——把“能力边界”作为人设约束写进产品与提示词同样是本仓库代码中反复出现的模式例如上面提到的扮演类历史对话约束。简化解释学生和教师不是 AI 专家关于“应用能做什么、不能做什么”的说明必须简洁易懂。可解释性的目标不是展示技术细节而是降低认知负担。控制给用户改写与选择数据的权利生成式 AI 天然是用户与模型的协作用户可以通过修改提示词prompt获取不同结果输出生成后用户也应能编辑结果从而获得掌控感。课程以微软 CopilotBing Chat为例给出两类控制入口提示与输出层面的控制用户可按格式format、语气tone、长度length调整提示也可在生成后继续追加修改数据层面的控制opt-in / opt-out用户能自主选择加入或退出 AI 所使用的数据。对教育应用而言学生可能既希望使用自己的课堂笔记、又希望引用教师提供的资源作为复习素材——此时必须让用户显式决定哪些数据被纳入。“控制”还能落到代码实现层。本仓库的聊天示例在调用模型时显式关闭了会话存储TypeScript 示例 chat-completions-app/src/main.ts 通过store: false声明不保留对话内容Python 示例 oai-history-bot.py 同样传入storeFalse。这是“把数据控制权交还用户”的最小、可审计实现可直接作为合规设计的技术参考。设计 AI 应用时意图性intentionality是关键——要在提示与结果之间制造适当的“摩擦”时刻提醒用户“这是 AI不是另一个人类”从而防止过度信任与不切实际的预期。协作与反馈把错误处理与学习闭环内置到产品中生成式 AI 的大部分交互路径是“用户输入提示 → AI 生成输出”。那么当输出错误时怎么办应用是责怪用户还是花时间解释错误AI 应用应当被设计为既能接收反馈、也能给出反馈——这不仅帮助系统持续改进更在构建与用户的信任。两个关键设计点如下。反馈闭环Feedback Loop反馈机制应内置进界面最朴素的形式就是对每条输出提供/。反馈闭环让用户感到“我的判断被采纳”同时为后续质量评估与微调提供真实数据。本课程系列第 18 课 微调fine-tuning 所依赖的高质量数据集很大程度上正来源于此类在产品内持续收集的用户反馈信号。明确沟通能力边界与优雅的错误处理系统错误在两类情况下尤其常见用户询问超出 AI 知识范围的信息或应用对“可生成摘要的题目/科目数量”设有上限。例如一个只使用历史与数学数据训练的教育应用无法回答地理问题。此时系统应明确回复例如“抱歉我们的产品仅基于以下科目的数据训练历史、数学无法回答你提出的问题。”同时应用应通过产品文案预先说明自身局限。下图对比了两类典型会话左侧是模型基于训练边界礼貌拒答的流程右侧则是模型引导用户运用数学公式自行求解、并在界面顶部提供点赞/点踩反馈的成功交互面向检索增强的可靠作答控制范围的又一技术路径当“训练数据范围有限”是可靠性硬约束时除了限制与拒答更优雅的解法是把用户自己的资料引入上下文。课程仓库 第 08 课搜索应用示例 演示了用 embedding 模型把文本向量化、再通过余弦相似度计算语义距离的过程同一课的检索增强RAG与向量数据库内容详见 第 15 课。将这类检索能力接入教育产品后“AI 只能基于你自己的笔记作答”就不再是提示词约束而是真实的技术实现——应用仍能回答范围外问题但答案会明确锚定在用户授权、可解释、可溯源的资料上从根源上缓解幻觉与范围外错误。设计清单把四项原则落进你的 AI 应用课程在第 12 课结尾布置了一个可直接执行的复盘任务挑选你此前第 0609 课构建的任意 AI 应用按以下四步做一次体验改造体检愉悦Pleasant是否在每个环节都提供了必要的解释是否鼓励用户探索错误提示的措辞是否友好而非指责可用Usability若构建的是 Web 应用确认它既可用鼠标也可用键盘完整导航键盘可达性是可访问性的基础工程信任与透明Trust Transparency不要完全信任 AI 及其输出——设计“人在环上”的输出核验流程例如自动化批改结果由教师抽检并补充其他可落地信任手段控制Control把数据决定权交给用户在 AI 应用中实现数据采集的 opt-in / opt-out 入口并在实现上确认会话数据未在服务端被无条件留存对照仓库示例的store: false写法。小结与下一步一句话概括本课方法AI 应用体验设计 以用户为中心的四支柱可用、可靠、可访问、愉悦做底座以可解释性与控制权建立信任以反馈闭环与优雅的错误处理支撑长期协作。这些原则与提示词、模型无关适用于从文本生成、聊天到图像应用的所有生成式场景也因此被编排在课程的通用设计环节。完成本次体验改造后可以继续进入 第 13 课AI 应用安全加固——信任设计的另一半来自对滥用、越权与数据泄露的防御两部分共同构成值得用户信赖的 AI 产品。【免费下载链接】generative-ai-for-beginners21 Lessons, Get Started Building with Generative AI项目地址: https://gitcode.com/GitHub_Trending/ge/generative-ai-for-beginners创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考 generative-ai-for-beginners 第 12 课实战：为生成式 AI 应用设计可信、协作与包容的用户体验
generative-ai-for-beginners 第 12 课实战为生成式 AI 应用设计可信、协作与包容的用户体验【免费下载链接】generative-ai-for-beginners21 Lessons, Get Started Building with Generative AI项目地址: https://gitcode.com/GitHub_Trending/ge/generative-ai-for-beginners在生成式 AI 应用开发中用户体验UX往往比模型能力更容易被低估用户能高效完成任务固然重要但更重要的是应用应当对所有人可用、可信、可反馈、可掌控。本文基于generative-ai-for-beginners课程仓库第 12 课 12-designing-ux-for-ai-applications 的完整内容结合仓库内真实的对话、文本生成与检索示例源码系统讲解如何为一个虚构的 AI 教育产品面向教师与学生设计出“人们能用、更愿意用”的 AI 应用。读完后你将掌握以可用性、可靠性、可访问性与愉悦性四支柱评估体验通过可解释性与控制权构建信任并用反馈闭环与明确的错误处理实现人机协作。认识你的用户AI 应用体验设计的两类关键角色用户体验UX描述的是用户如何与某一产品、服务或系统交互并完成目标。在设计 AI 应用时开发者不仅要保证交互“有效率”还要保证体验符合伦理。以一个虚构的教育科技创业公司为例系统中有两类核心用户教师需要自动化批改、复习资料管理等提效工具学生需要个性化学习、自我练习与即时反馈。以用户为中心的设计user-centered design把用户放在首位确保产品对目标人群真正相关且有价值。需要特别强调的是并非每个问题都该用 AI 解决。AI 的角色是增强augment而非取代用户体验——例如自动化重复性的人工任务或对个体体验做个性化。判断某个功能是否需要引入生成式模型本身就是体验设计的起点。好体验的四个支柱可用、可靠、可访问、愉悦原课程将“好的用户体验”拆解为四个可评估、可设计的维度。围绕 AI 教育应用它们的具体含义如下维度含义在 AI 教育场景中的体现可用Useful / Usability功能与其预期目的相匹配自动化批改应用须能按预定义标准准确、高效地为作业评分生成复习卡片的应用须能基于数据产出相关且多样的问题可靠Reliable能一致地、无误地完成任务AI 与人一样并不完美应用会遇到错误与意外需要设计人工干预与修正路径可访问Accessible将体验扩展到不同能力含残障的用户遵循无障碍规范与原则确保“没有人被排除在外”愉悦Pleasant让用户乐于使用、愿意再次回来愉悦的体验对用户产生正向影响同时提升业务留存与收益四者之中可靠性在生成式应用里最需要主动设计。以课程仓库 第 06 课的文本生成代码 为例它用一段系统提示约束扮演历史人物的模型——“只依据时间线与事件的事实作答不要自行创作内容如果不知道就明确说自己不记得”。这正是在提示词层面把“不可靠”的幻觉风险转化为“明确拒绝”的可控行为是 AI 应用可靠性设计的最小可行范例。类似的角色化 system 提示同样出现在 第 07 课聊天应用示例 中。信任与透明在“不信任”与“过度信任”之间设计信任是 AI 应用设计的命门它让用户确信应用能完成任务、稳定产出结果且结果符合预期。但信任存在两个方向的失效风险不信任Mistrust用户对 AI 系统几乎或完全没有信心直接导致拒绝使用你的应用过度信任Overtrust用户高估了 AI 系统的能力从而过度依赖。课程给出了一个非常具体的反例——自动化批改系统一旦被教师过度信任教师可能不再抽查部分试卷最终造成不公或错误的评分同时错失给学生反馈与改进的机会。为了让信任成为设计中心而非事后补救课程给出两个抓手可解释性Explainability与控制Control。可解释性让用户看懂 AI 如何做决定当 AI 参与影响重大决策例如向下一代传授知识时教师与家长必须理解 AI 的决策如何产生。可解释性设计包含三层可落地动作明确标注 AI 身份受众必须知道输出来自 AI 而非真人。课程提供了文案对照范例——与其写“现在开始和你的导师聊天吧”不如写“使用会根据你的需求调整、帮助你按自己的节奏学习的 AI 导师”后者让用户对“对象是 AI”有清晰预期。下图即展示了这种文案优化前后的一对应用落地页说清个人数据的使用边界不同 persona如“学生”会有对应的权限限制。AI 不直接揭晓答案而是引导用户自己思考如何解题——把“能力边界”作为人设约束写进产品与提示词同样是本仓库代码中反复出现的模式例如上面提到的扮演类历史对话约束。简化解释学生和教师不是 AI 专家关于“应用能做什么、不能做什么”的说明必须简洁易懂。可解释性的目标不是展示技术细节而是降低认知负担。控制给用户改写与选择数据的权利生成式 AI 天然是用户与模型的协作用户可以通过修改提示词prompt获取不同结果输出生成后用户也应能编辑结果从而获得掌控感。课程以微软 CopilotBing Chat为例给出两类控制入口提示与输出层面的控制用户可按格式format、语气tone、长度length调整提示也可在生成后继续追加修改数据层面的控制opt-in / opt-out用户能自主选择加入或退出 AI 所使用的数据。对教育应用而言学生可能既希望使用自己的课堂笔记、又希望引用教师提供的资源作为复习素材——此时必须让用户显式决定哪些数据被纳入。“控制”还能落到代码实现层。本仓库的聊天示例在调用模型时显式关闭了会话存储TypeScript 示例 chat-completions-app/src/main.ts 通过store: false声明不保留对话内容Python 示例 oai-history-bot.py 同样传入storeFalse。这是“把数据控制权交还用户”的最小、可审计实现可直接作为合规设计的技术参考。设计 AI 应用时意图性intentionality是关键——要在提示与结果之间制造适当的“摩擦”时刻提醒用户“这是 AI不是另一个人类”从而防止过度信任与不切实际的预期。协作与反馈把错误处理与学习闭环内置到产品中生成式 AI 的大部分交互路径是“用户输入提示 → AI 生成输出”。那么当输出错误时怎么办应用是责怪用户还是花时间解释错误AI 应用应当被设计为既能接收反馈、也能给出反馈——这不仅帮助系统持续改进更在构建与用户的信任。两个关键设计点如下。反馈闭环Feedback Loop反馈机制应内置进界面最朴素的形式就是对每条输出提供/。反馈闭环让用户感到“我的判断被采纳”同时为后续质量评估与微调提供真实数据。本课程系列第 18 课 微调fine-tuning 所依赖的高质量数据集很大程度上正来源于此类在产品内持续收集的用户反馈信号。明确沟通能力边界与优雅的错误处理系统错误在两类情况下尤其常见用户询问超出 AI 知识范围的信息或应用对“可生成摘要的题目/科目数量”设有上限。例如一个只使用历史与数学数据训练的教育应用无法回答地理问题。此时系统应明确回复例如“抱歉我们的产品仅基于以下科目的数据训练历史、数学无法回答你提出的问题。”同时应用应通过产品文案预先说明自身局限。下图对比了两类典型会话左侧是模型基于训练边界礼貌拒答的流程右侧则是模型引导用户运用数学公式自行求解、并在界面顶部提供点赞/点踩反馈的成功交互面向检索增强的可靠作答控制范围的又一技术路径当“训练数据范围有限”是可靠性硬约束时除了限制与拒答更优雅的解法是把用户自己的资料引入上下文。课程仓库 第 08 课搜索应用示例 演示了用 embedding 模型把文本向量化、再通过余弦相似度计算语义距离的过程同一课的检索增强RAG与向量数据库内容详见 第 15 课。将这类检索能力接入教育产品后“AI 只能基于你自己的笔记作答”就不再是提示词约束而是真实的技术实现——应用仍能回答范围外问题但答案会明确锚定在用户授权、可解释、可溯源的资料上从根源上缓解幻觉与范围外错误。设计清单把四项原则落进你的 AI 应用课程在第 12 课结尾布置了一个可直接执行的复盘任务挑选你此前第 0609 课构建的任意 AI 应用按以下四步做一次体验改造体检愉悦Pleasant是否在每个环节都提供了必要的解释是否鼓励用户探索错误提示的措辞是否友好而非指责可用Usability若构建的是 Web 应用确认它既可用鼠标也可用键盘完整导航键盘可达性是可访问性的基础工程信任与透明Trust Transparency不要完全信任 AI 及其输出——设计“人在环上”的输出核验流程例如自动化批改结果由教师抽检并补充其他可落地信任手段控制Control把数据决定权交给用户在 AI 应用中实现数据采集的 opt-in / opt-out 入口并在实现上确认会话数据未在服务端被无条件留存对照仓库示例的store: false写法。小结与下一步一句话概括本课方法AI 应用体验设计 以用户为中心的四支柱可用、可靠、可访问、愉悦做底座以可解释性与控制权建立信任以反馈闭环与优雅的错误处理支撑长期协作。这些原则与提示词、模型无关适用于从文本生成、聊天到图像应用的所有生成式场景也因此被编排在课程的通用设计环节。完成本次体验改造后可以继续进入 第 13 课AI 应用安全加固——信任设计的另一半来自对滥用、越权与数据泄露的防御两部分共同构成值得用户信赖的 AI 产品。【免费下载链接】generative-ai-for-beginners21 Lessons, Get Started Building with Generative AI项目地址: https://gitcode.com/GitHub_Trending/ge/generative-ai-for-beginners创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考