尧图网站建设 
为生成式 AI 应用设计用户体验从用户需求、信任透明到反馈闭环的实战指南generative-ai-for-beginners 第 12 课【免费下载链接】generative-ai-for-beginners21 Lessons, Get Started Building with Generative AI项目地址: https://gitcode.com/GitHub_Trending/ge/generative-ai-for-beginners用户界面能跑起来不等于用户体验合格。在生成式 AI 应用中体验设计的核心不只是效率还包括伦理、信任与协作。本指南基于 12-designing-ux-for-ai-applications/README.md 展开面向所有正在构建 AI 应用聊天机器人、智能评测、学习辅导等的开发者讲解如何围绕可用、可靠、可访问、愉悦四要素设计产品并通过可解释性、用户控制、反馈闭环来建立信任。读完后你将掌握一套可直接落地的 AI 应用体验设计方法论并能结合本仓库源码中的聊天应用示例、系统提示词框架与输入校验工具把理论落实到代码中。一、理解用户体验与用户需求用户体验User ExperienceUX指的是用户与某个产品或服务无论是系统、工具还是设计交互与使用的方式。在开发 AI 应用时开发者不仅需要保证体验有效还需要保证体验合乎伦理。以课程虚构的教育科技创业场景为例产品同时服务教师与学生两类核心用户而他们的需求截然不同——教师需要自动化批改、学情追踪学生需要个性化辅导与复习材料。以用户为中心的设计User-Centered Design要求把用户置于第一位确保产品对目标人群是相关且有价值的。课程将好的用户体验拆解为四个维度可用性Usable、可靠性Reliable、可访问性Accessible与愉悦性Pleasant。1. 可用性Usable可用意味着应用具备与其设计目的相匹配的功能。例如自动化批改应用应能依据预设标准准确、高效地为学生作业打分复习卡片生成应用应能基于已有数据生成相关且多样化的题目。判断标准不是功能多而是功能是否精准服务于任务本身。2. 可靠性Reliable可靠意味着应用能始终如一、无差错地完成其任务。但 AI 和人一样并不完美会出错也可能遇到需要人工介入或纠正的意外情况。因此如何处理错误本身就是可靠性设计的一部分——这正是本课最后一部分协作与反馈要回答的问题。3. 可访问性Accessible可访问意味着将用户体验延伸到各种能力的用户包括残障人士确保没有人被排除在外。遵循可访问性指南与原则AI 解决方案才会更具包容性、更易用、对所有人更有益。在本仓库第 7 课 07-building-chat-applications/README.md 的 UX 章节中给出了针对不同障碍类型的可访问性功能清单可作为落地清单视觉障碍高对比度主题、可缩放文字、屏幕阅读器兼容听觉障碍文本转语音TTS与语音转文本STT、音频通知的视觉提示运动障碍键盘导航支持、语音命令认知障碍简化语言选项。4. 愉悦性Pleasant愉悦意味着应用用起来令人愉快。有吸引力的体验会对用户产生积极影响促使用户再次使用应用进而提升业务收益。需要清醒地认识到并非每个挑战都能用 AI 解决。AI 的价值在于增强用户体验——例如自动化手动任务、个性化用户体验——而不是包揽一切。二、为信任与透明而设计建立信任是设计 AI 应用时的关键。信任意味着用户确信应用能把事情做完、能稳定地产出结果、且结果正是用户所需要的。这一领域存在两种相反的风险不信任Mistrust用户对 AI 系统几乎没有信任导致用户直接拒绝你的应用过度信任Overtrust用户高估 AI 系统的能力从而过度依赖。例如在自动化批改系统中如果教师过度信任系统而不抽查部分试卷就可能给学生打出不公平或不准确的分数或错失反馈与改进的机会。课程指出把信任置于设计中心有两个抓手可解释性Explainability与控制Control。可解释性Explainability当 AI 参与决策例如向下一代传授知识时教师和家长必须理解 AI 是如何做决策的。可解释性设计应包括展示 AI 得出结果的过程细节并明确告知受众输出由 AI 生成而非人类。课程给出了一个精辟的措辞示例与其说立即开始与您的辅导老师聊天暗示真人不如说使用能适应您需求、帮助您按自己节奏学习的AI 辅导老师。可解释性还体现在角色Persona与数据使用上。例如当用户具有学生角色时其权限可能受角色限制AI 不能直接给出答案但可以引导用户思考如何解决问题。可解释性的最后一块关键拼图是简化解释。学生和教师不一定是 AI 专家因此关于应用能做什么、不能做什么的解释应当简化、易于理解。控制Control生成式 AI 在 AI 与用户之间创造了协作关系修改提示词用户可以修改 prompt 以获得不同结果修改输出输出生成后用户应能编辑结果获得掌控感。例如在 Microsoft Copilot原 Bing Chat中用户可以根据格式、语气和长度定制提示词还可以对输出进行增删改。控制还体现在数据的选择权上用户应能选择是否让 AI 使用自己的数据opt-in / opt-out。在校园应用中学生可能希望将自己的笔记与教师资源一起作为复习材料——这种数据来源可选的能力本身就是一种用户控制。设计意图Intentionality是关键在设计 AI 应用时要在 prompt 与结果之间制造适当的摩擦friction不断提醒用户这是 AI不是真人从而避免用户产生不切实际的期望、避免过度信任。三、为协作与反馈而设计多数人机交互模式是用户输入 prompt → AI 生成输出。那么问题来了如果输出是错误的怎么办应用如何处理错误AI 是指责用户还是花时间解释错误课程给出的答案有两层1. 内置反馈循环Feedback LoopAI 应用应当既能接收反馈也能提供反馈。这不仅帮助 AI 系统改进也在用户之间建立信任。最简单的落地形式是在输出旁放置赞 / 踩按钮收集用户对结果质量的即时评价。2. 清晰沟通能力边界与错误处理当用户提出超出 AI 能力范围的需求时系统需要有明确的处理方式。课程给出的示例回应是抱歉我们的产品仅使用以下科目的数据训练……我无法回答您提出的问题。这类系统错误很常见比如一个仅用历史与数学数据训练的 AI 应用无法回答地理问题。与其让模型胡编幻觉不如优雅地声明能力边界。课程结论AI 应用不完美注定会犯错。设计时务必为用户留出反馈空间并提供简单、易于解释的错误处理机制。四、结合仓库源码的纵深实践本仓库为上述设计原则提供了大量可参考的实现证据以下按原则逐一对应。4.1 系统提示词把可解释性与意图写进代码在 07-building-chat-applications/js-githubmodels/app.js 中可以看到角色与能力边界是通过system角色消息设定的const response await client.path(/chat/completions).post({ body: { messages: [ { role: system, content: Youre the president of France}, { role: system, content: You have just resigned }, { role: user, content: What tasks needs doing? }, ], model: modelName, } }); if (response.status ! 200) { throw response.body.error; }对应地07-building-chat-applications/README.md 中介绍了微软面向大语言模型的System Message 框架可视为透明沟通能力边界的工程化模板共 4 个部分定义模型的服务对象以及其能力与局限定义模型的输出格式提供具体示例来演示模型的预期行为提供额外的行为护栏guardrails。这套框架正是本课可解释性与控制原则在提示词层面的落地在对话开始前就向模型进而向用户声明它是什么、能做什么、不能做什么。Python 侧的实现可参考 06-text-generation-apps/python/aoai-app.py 中的客户端初始化与 Responses API 调用模式以及第 7 课关于聊天应用的多种语言作业07-building-chat-applications/python、07-building-chat-applications/typescript。4.2 输入校验把用户控制与安全落在边界层本课强调用户对数据的控制权以及系统的能力边界。仓库的共享工具模块 shared/python/input_validation.py 提供了可复用的输入校验函数如validate_number_input与validate_text_input用于限制用户输入的数值范围与文本长度并给出友好的错误信息def validate_number_input( value: str, min_val: int 1, max_val: int 100, field_name: str number ) - int: Validate and convert string input to an integer within bounds. ... raise ValueError( fPlease enter a valid {field_name} between {min_val} and {max_val} )从源码结构看这套工具的设计意图正是在输入边界拦截越界请求与本课创建 prompt 与结果之间的摩擦、清晰说明系统限制的原则一脉相承与其让模型在边界外自由发挥不如在入口处用明确、可解释的规则拒绝请求。对应的单元测试位于 tests/test_input_validation.py可作为行为契约参考。4.3 可解释性、透明度与负责任 AI 的指标支撑第 7 课 07-building-chat-applications/README.md 还给出了一份聊天应用的关键指标表可用来量化可靠性与信任指标含义对聊天应用开发者的考量正常运行时间Uptime应用可被访问的时间如何将停机时间最小化响应时间Response Time回复用户查询的耗时如何优化查询处理以提升响应速度精确率 / 召回率 / F1模型预测质量如何验证与提升模型精度困惑度Perplexity预测分布与真实分布的吻合度如何最小化困惑度用户满意度通过问卷采集的用户感知多久收集一次反馈如何据此迭代错误率Error Rate模型理解或输出出错的比率有哪些降低错误率的策略再训练周期模型纳入新数据的频率多久再训练一次触发条件是什么异常检测识别不符合预期行为的模式出现异常时如何响应同一份文档还梳理了微软负责任 AI 的六原则公平性、可靠与安全、隐私与安全、包容性、透明度、问责制。其中透明度AI 系统应可被理解用户更可能信任能理解其决策机制的系统与问责制为审计与改进 AI 决策建立流程直接呼应本课关于可解释性与人工复核的设计要求。五、动手实践清单Assignment课程建议取一个你已构建的 AI 应用按以下四个方向逐一检查并落地愉悦性Pleasant思考如何让应用更令人愉悦——是否在合适的地方都添加了解释是否鼓励用户去探索错误消息的措辞是否友好可用性Usability若在构建 Web 应用请确保应用既能用鼠标也能用键盘完成全部导航操作信任与透明Trust and transparency不要完全信任 AI 及其输出考虑如何在流程中加入人来复核输出的环节并思考、实施其他达成信任与透明的方式控制Control把数据控制权交给用户实现一种让用户可以在 AI 应用中选择同意 / 拒绝数据收集的机制。六、学习路线衔接本课的体验设计原则与第 7 课 07-building-chat-applications/README.md 的聊天应用 UX 章节处理歧义、上下文保留、个性化、可访问性互为补充第 3 课 03-using-generative-ai-responsibly/README.md 从用户体验这一缓解层说明了 UI/UX 设计如何限制用户输入、并透明地声明应用能做什么、不能做什么与本课能力边界沟通完全一致继续深入学习可进入第 13 课 13-securing-ai-applications/README.md了解如何在体验设计之上叠加 AI 应用的安全防护。【免费下载链接】generative-ai-for-beginners21 Lessons, Get Started Building with Generative AI项目地址: https://gitcode.com/GitHub_Trending/ge/generative-ai-for-beginners创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考 为生成式 AI 应用设计用户体验：从用户需求、信任透明到反馈闭环的实战指南（generative-ai-for-beginners 第 12 课）
为生成式 AI 应用设计用户体验从用户需求、信任透明到反馈闭环的实战指南generative-ai-for-beginners 第 12 课【免费下载链接】generative-ai-for-beginners21 Lessons, Get Started Building with Generative AI项目地址: https://gitcode.com/GitHub_Trending/ge/generative-ai-for-beginners用户界面能跑起来不等于用户体验合格。在生成式 AI 应用中体验设计的核心不只是效率还包括伦理、信任与协作。本指南基于 12-designing-ux-for-ai-applications/README.md 展开面向所有正在构建 AI 应用聊天机器人、智能评测、学习辅导等的开发者讲解如何围绕可用、可靠、可访问、愉悦四要素设计产品并通过可解释性、用户控制、反馈闭环来建立信任。读完后你将掌握一套可直接落地的 AI 应用体验设计方法论并能结合本仓库源码中的聊天应用示例、系统提示词框架与输入校验工具把理论落实到代码中。一、理解用户体验与用户需求用户体验User ExperienceUX指的是用户与某个产品或服务无论是系统、工具还是设计交互与使用的方式。在开发 AI 应用时开发者不仅需要保证体验有效还需要保证体验合乎伦理。以课程虚构的教育科技创业场景为例产品同时服务教师与学生两类核心用户而他们的需求截然不同——教师需要自动化批改、学情追踪学生需要个性化辅导与复习材料。以用户为中心的设计User-Centered Design要求把用户置于第一位确保产品对目标人群是相关且有价值的。课程将好的用户体验拆解为四个维度可用性Usable、可靠性Reliable、可访问性Accessible与愉悦性Pleasant。1. 可用性Usable可用意味着应用具备与其设计目的相匹配的功能。例如自动化批改应用应能依据预设标准准确、高效地为学生作业打分复习卡片生成应用应能基于已有数据生成相关且多样化的题目。判断标准不是功能多而是功能是否精准服务于任务本身。2. 可靠性Reliable可靠意味着应用能始终如一、无差错地完成其任务。但 AI 和人一样并不完美会出错也可能遇到需要人工介入或纠正的意外情况。因此如何处理错误本身就是可靠性设计的一部分——这正是本课最后一部分协作与反馈要回答的问题。3. 可访问性Accessible可访问意味着将用户体验延伸到各种能力的用户包括残障人士确保没有人被排除在外。遵循可访问性指南与原则AI 解决方案才会更具包容性、更易用、对所有人更有益。在本仓库第 7 课 07-building-chat-applications/README.md 的 UX 章节中给出了针对不同障碍类型的可访问性功能清单可作为落地清单视觉障碍高对比度主题、可缩放文字、屏幕阅读器兼容听觉障碍文本转语音TTS与语音转文本STT、音频通知的视觉提示运动障碍键盘导航支持、语音命令认知障碍简化语言选项。4. 愉悦性Pleasant愉悦意味着应用用起来令人愉快。有吸引力的体验会对用户产生积极影响促使用户再次使用应用进而提升业务收益。需要清醒地认识到并非每个挑战都能用 AI 解决。AI 的价值在于增强用户体验——例如自动化手动任务、个性化用户体验——而不是包揽一切。二、为信任与透明而设计建立信任是设计 AI 应用时的关键。信任意味着用户确信应用能把事情做完、能稳定地产出结果、且结果正是用户所需要的。这一领域存在两种相反的风险不信任Mistrust用户对 AI 系统几乎没有信任导致用户直接拒绝你的应用过度信任Overtrust用户高估 AI 系统的能力从而过度依赖。例如在自动化批改系统中如果教师过度信任系统而不抽查部分试卷就可能给学生打出不公平或不准确的分数或错失反馈与改进的机会。课程指出把信任置于设计中心有两个抓手可解释性Explainability与控制Control。可解释性Explainability当 AI 参与决策例如向下一代传授知识时教师和家长必须理解 AI 是如何做决策的。可解释性设计应包括展示 AI 得出结果的过程细节并明确告知受众输出由 AI 生成而非人类。课程给出了一个精辟的措辞示例与其说立即开始与您的辅导老师聊天暗示真人不如说使用能适应您需求、帮助您按自己节奏学习的AI 辅导老师。可解释性还体现在角色Persona与数据使用上。例如当用户具有学生角色时其权限可能受角色限制AI 不能直接给出答案但可以引导用户思考如何解决问题。可解释性的最后一块关键拼图是简化解释。学生和教师不一定是 AI 专家因此关于应用能做什么、不能做什么的解释应当简化、易于理解。控制Control生成式 AI 在 AI 与用户之间创造了协作关系修改提示词用户可以修改 prompt 以获得不同结果修改输出输出生成后用户应能编辑结果获得掌控感。例如在 Microsoft Copilot原 Bing Chat中用户可以根据格式、语气和长度定制提示词还可以对输出进行增删改。控制还体现在数据的选择权上用户应能选择是否让 AI 使用自己的数据opt-in / opt-out。在校园应用中学生可能希望将自己的笔记与教师资源一起作为复习材料——这种数据来源可选的能力本身就是一种用户控制。设计意图Intentionality是关键在设计 AI 应用时要在 prompt 与结果之间制造适当的摩擦friction不断提醒用户这是 AI不是真人从而避免用户产生不切实际的期望、避免过度信任。三、为协作与反馈而设计多数人机交互模式是用户输入 prompt → AI 生成输出。那么问题来了如果输出是错误的怎么办应用如何处理错误AI 是指责用户还是花时间解释错误课程给出的答案有两层1. 内置反馈循环Feedback LoopAI 应用应当既能接收反馈也能提供反馈。这不仅帮助 AI 系统改进也在用户之间建立信任。最简单的落地形式是在输出旁放置赞 / 踩按钮收集用户对结果质量的即时评价。2. 清晰沟通能力边界与错误处理当用户提出超出 AI 能力范围的需求时系统需要有明确的处理方式。课程给出的示例回应是抱歉我们的产品仅使用以下科目的数据训练……我无法回答您提出的问题。这类系统错误很常见比如一个仅用历史与数学数据训练的 AI 应用无法回答地理问题。与其让模型胡编幻觉不如优雅地声明能力边界。课程结论AI 应用不完美注定会犯错。设计时务必为用户留出反馈空间并提供简单、易于解释的错误处理机制。四、结合仓库源码的纵深实践本仓库为上述设计原则提供了大量可参考的实现证据以下按原则逐一对应。4.1 系统提示词把可解释性与意图写进代码在 07-building-chat-applications/js-githubmodels/app.js 中可以看到角色与能力边界是通过system角色消息设定的const response await client.path(/chat/completions).post({ body: { messages: [ { role: system, content: Youre the president of France}, { role: system, content: You have just resigned }, { role: user, content: What tasks needs doing? }, ], model: modelName, } }); if (response.status ! 200) { throw response.body.error; }对应地07-building-chat-applications/README.md 中介绍了微软面向大语言模型的System Message 框架可视为透明沟通能力边界的工程化模板共 4 个部分定义模型的服务对象以及其能力与局限定义模型的输出格式提供具体示例来演示模型的预期行为提供额外的行为护栏guardrails。这套框架正是本课可解释性与控制原则在提示词层面的落地在对话开始前就向模型进而向用户声明它是什么、能做什么、不能做什么。Python 侧的实现可参考 06-text-generation-apps/python/aoai-app.py 中的客户端初始化与 Responses API 调用模式以及第 7 课关于聊天应用的多种语言作业07-building-chat-applications/python、07-building-chat-applications/typescript。4.2 输入校验把用户控制与安全落在边界层本课强调用户对数据的控制权以及系统的能力边界。仓库的共享工具模块 shared/python/input_validation.py 提供了可复用的输入校验函数如validate_number_input与validate_text_input用于限制用户输入的数值范围与文本长度并给出友好的错误信息def validate_number_input( value: str, min_val: int 1, max_val: int 100, field_name: str number ) - int: Validate and convert string input to an integer within bounds. ... raise ValueError( fPlease enter a valid {field_name} between {min_val} and {max_val} )从源码结构看这套工具的设计意图正是在输入边界拦截越界请求与本课创建 prompt 与结果之间的摩擦、清晰说明系统限制的原则一脉相承与其让模型在边界外自由发挥不如在入口处用明确、可解释的规则拒绝请求。对应的单元测试位于 tests/test_input_validation.py可作为行为契约参考。4.3 可解释性、透明度与负责任 AI 的指标支撑第 7 课 07-building-chat-applications/README.md 还给出了一份聊天应用的关键指标表可用来量化可靠性与信任指标含义对聊天应用开发者的考量正常运行时间Uptime应用可被访问的时间如何将停机时间最小化响应时间Response Time回复用户查询的耗时如何优化查询处理以提升响应速度精确率 / 召回率 / F1模型预测质量如何验证与提升模型精度困惑度Perplexity预测分布与真实分布的吻合度如何最小化困惑度用户满意度通过问卷采集的用户感知多久收集一次反馈如何据此迭代错误率Error Rate模型理解或输出出错的比率有哪些降低错误率的策略再训练周期模型纳入新数据的频率多久再训练一次触发条件是什么异常检测识别不符合预期行为的模式出现异常时如何响应同一份文档还梳理了微软负责任 AI 的六原则公平性、可靠与安全、隐私与安全、包容性、透明度、问责制。其中透明度AI 系统应可被理解用户更可能信任能理解其决策机制的系统与问责制为审计与改进 AI 决策建立流程直接呼应本课关于可解释性与人工复核的设计要求。五、动手实践清单Assignment课程建议取一个你已构建的 AI 应用按以下四个方向逐一检查并落地愉悦性Pleasant思考如何让应用更令人愉悦——是否在合适的地方都添加了解释是否鼓励用户去探索错误消息的措辞是否友好可用性Usability若在构建 Web 应用请确保应用既能用鼠标也能用键盘完成全部导航操作信任与透明Trust and transparency不要完全信任 AI 及其输出考虑如何在流程中加入人来复核输出的环节并思考、实施其他达成信任与透明的方式控制Control把数据控制权交给用户实现一种让用户可以在 AI 应用中选择同意 / 拒绝数据收集的机制。六、学习路线衔接本课的体验设计原则与第 7 课 07-building-chat-applications/README.md 的聊天应用 UX 章节处理歧义、上下文保留、个性化、可访问性互为补充第 3 课 03-using-generative-ai-responsibly/README.md 从用户体验这一缓解层说明了 UI/UX 设计如何限制用户输入、并透明地声明应用能做什么、不能做什么与本课能力边界沟通完全一致继续深入学习可进入第 13 课 13-securing-ai-applications/README.md了解如何在体验设计之上叠加 AI 应用的安全防护。【免费下载链接】generative-ai-for-beginners21 Lessons, Get Started Building with Generative AI项目地址: https://gitcode.com/GitHub_Trending/ge/generative-ai-for-beginners创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考