generative-ai-for-beginners 第 12 课精读为生成式 AI 应用设计可信、透明、可协作的 UX【免费下载链接】generative-ai-for-beginners21 Lessons, Get Started Building with Generative AI项目地址: https://gitcode.com/GitHub_Trending/ge/generative-ai-for-beginners本仓库generative-ai-for-beginners共 21 课从 01-introduction-to-genai/README.md 一路到 21-meta/README.md在教会读者「如何用 LLM 写代码」之后用一课的时间回答了一个容易被忽略的问题用户凭什么愿意使用你做的 AI 应用。本文以第 12 课 12-designing-ux-for-ai-applications/README.md原文为英文本仓库亦提供多语言译本例如 translations/es/12-designing-ux-for-ai-applications/README.md为骨架系统讲解 AI 应用的 UX 设计方法如何理解用户需求、如何通过可解释性与用户控制建立信任、如何用反馈闭环与透明的错误处理实现人机协作。读完你将得到一份可直接对照执行的设计清单并把原则落到你在此前章节中写过的聊天、文本与图像应用上。一、UX 的起点理解「为谁设计」用户体验User ExperienceUX描述的是用户如何与某个系统、工具或产品交互并完成其目标。在生成式 AI 应用中UX 不只关乎「好不好用」还关乎「是否合乎伦理」——开发者既要让交互高效也要让结果可被信赖。本课程的叙事背景是一家虚构的教育科技初创公司其核心用户有两类教师与学生。两类用户的需求并不相同教师要的是把出题、批改等重复劳动自动化学生要的是贴合自己学习进度的辅导与复习材料。以用户为中心user-centered design的设计方法要求产品为「使用它的人」量身定制否则再先进的模型也只是技术演示。课程将优秀 AI 应用体验归纳为四个特质有效useful、可靠reliable、可访问accessible、愉悦pleasant。下图为这四要素的示意后续小节逐条拆解。1. 有效Usability / Usefulness功能要对得上用途「有效」指应用的功能与其设计意图一致。课程给出了两个一正一反的例子自动化批改应能依据预定义标准准确、高效地为学生作业打分生成复习闪卡应能基于数据生成相关且多样的问题。换言之模型能力要与任务域严格匹配。在设计阶段就应明确「这个 AI 具体要替用户完成哪件事」而不是提供一个万能问答框。2. 可靠Reliability承认 AI 会犯错「可靠」指应用能持续、稳定、少错误地完成任务。但课程明确提醒AI 和人一样会出错应用必然遭遇异常或超出预期的情况此时需要人类的介入与纠正。因此「可靠」不等于「追求零错误」而是意味着预先设计错误发生时的处理路径——这正是本章第三节「协作与反馈」要回答的问题。3. 可访问Accessibility不把任何人排除在外「可访问」要求把体验扩展到不同能力的用户包括残障人士。遵循可访问性指南与原则例如键盘可达、语义化标记、充足对比度等会让 AI 解决方案对所有人都更包容、更可用。这也是后面作业清单中「鼠标和键盘都能导航」的直接依据。4. 愉悦Pleasant让人愿意回来「愉悦」指应用令人乐于使用。好的体验会给用户正向反馈促使用户再次打开应用。不过课程强调了一个容易忽视的定位问题并非所有挑战都能靠 AI 解决。AI 的价值在于增强augment体验——无论是自动化重复任务还是个性化学习路径都应当嵌入到「人本来就要完成的任务」里而不是为了用 AI 而用 AI。二、为信任与透明而设计信任是 AI 应用设计的基石。用户必须确信应用能完成任务、结果稳定、且产出正是自己需要的。课程指出这条线上的两个典型风险恰好是互相对称的两种失败模式风险表现后果不信任Mistrust用户对 AI 系统几乎没有信任直接弃用你的应用过度信任Overtrust用户高估 AI 能力、盲目依赖放弃人工核查埋下错误隐患课程用自动化批改系统举例说明过度信任的代价若教师完全信任系统便不再抽查试卷确认批改质量最终可能给学生不公平、不准确的分数也流失了通过反馈改进教学的机会。要把信任真正放进设计中心课程给出了两条路径可解释性Explainability与控制Control。1. 可解释性让用户理解「AI 如何做出决定」当 AI 参与教育这类影响深远的决策时教师和家长需要理解 AI 的决策过程。可解释性设计的落点包括三层1明确告知「这是 AI 的输出」。受众必须意识到结果由 AI 生成、而非真人撰写。课程给出的文案改写对比是经典范例与其说「现在开始和你的导师聊天吧」暗示真人不如说「使用一个会适应你需求、按你的节奏帮你学习的AI 导师」。措辞上的一次主动披露就能建立正确的心理预期。2基于用户画像persona约束行为并说明边界。学生的画像决定了系统该给什么、不该给什么。课程举例当 AI 面对「学生」这个角色时可以不去直接揭示题目答案而是用苏格拉底式提问引导学生自己想出解题路径——把「我能/不能做什么」反映在每次交互中。这类「角色即约束」的做法在本仓库的示例代码里就有同款实现。06-text-generation-apps/python/oai-history-bot.py 让模型扮演指定历史人物并在提示词里写明纪律「只能基于时间线和事件事实回答不要自行编造不知道就说不知道」Dont create content yourself. If you dont know something, tell that you dont remember.。这正是把可解释性与诚实边界写进系统提示词的工程化手段——先约束行为再谈体验。3简化解释用受众能懂的话说明能力边界。学生和教师未必是 AI 专家因此对「应用能做什么、不能做什么」的解释必须平实易懂。术语要降级到用户心智模型能消化的程度而不是把「神经网络」丢给用户。2. 控制把「修改权」和「数据决定权」交给用户生成式 AI 的本质是用户与 AI 之间的协作用户修改提示词以获得不同结果结果生成后用户还应当能继续修改产出从而获得掌控感。课程以 Bing/Copilot 这类产品界面为例给出两类控制形态提示维度控制用户可按格式format、语气tone、篇幅length来裁剪自己的提问让输出更贴合目标场景结果再编辑生成草稿后用户可以继续追加指令或直接改写输出内容数据参与控制opt-in / opt-out用户能决定「AI 可以使用哪些数据」。对学校场景而言学生可能既希望用自己的课堂笔记、也希望引用教师提供的资料作为复习素材——是否授权这些数据进入生成过程应当由用户自己说了算。课程还补充了一个反直觉的设计提醒有意为之的摩擦intentionality / friction。当用户对 AI 能力抱有不切实际的期待时过度信任就开始了。在提示词与结果之间刻意保留一点「这是 AI、不是人类同伴」的提示摩擦反而能维护健康的信任关系。三、为协作与反馈而设计既然生成式 AI 的应用体验本质是「用户输入提示词 → AI 生成结果」的协作循环那么必须回答三个问题结果错了怎么办错误由谁负责AI 会不会解释错误1. 把反馈闭环内置进产品课程给出的最小反馈机制是对结果点赞/点踩thumbs up / thumbs down。这样一个低成本控件同时完成两件事为 AI 系统提供改进信号让用户感到自己的意见被采纳从而建立信任。反馈闭环必须出现在设计图纸上而不是功能上线后的补丁。下图左侧展示了「无法回答」时的错误提示形态右侧则是生成结果附带用户反馈控件的理想界面。2. 提前讲清能力边界温和地处理越界请求当用户请求超出 AI 能力范围时例如模型只训练过「历史」与「数学」数据却被问到地理问题系统不应含糊其辞而应明确说明局限并给出替代路径。课程给出了一种可直接套用的应答句式「抱歉我们的产品仅使用以下学科的数据训练……因此我无法回答你提出的这个问题。」这种应答同时做到三件事承认局限、交代原因、维持礼貌。类似的「诚实拒绝」策略同样出现在仓库代码中——06-text-generation-apps/python/oai-history-bot.py 明确要求模型「如果不知道某些内容就告诉用户你不记得」而不是编造史实。3. 错误处理要「简单且可解释」应用难免出错真正拉开体验差距的是错误发生时的处理方式。课程要求错误提示既要简单也要可解释——不要甩锅给用户你问得不对也不要用技术黑话解释失败而是说明发生了什么、系统能做什么、接下来可以怎么补救。反馈入口与错误处理应当是一体设计的两面。四、动手作业四条可执行的改造清单本课作业要求读者拿起「此前任何一章已经构建过的 AI 应用」逐条落实以下四个维度的改造。结合本仓库实际你可以挑选 06-text-generation-apps文本生成、07-building-chat-applications对话应用或 09-building-image-applications图像应用中的示例作为改造对象1. 愉悦Pleasant——审视你的文案与情绪曲线是否在关键位置都提供了「为什么给出这个结果」的解释是否用文案鼓励用户继续探索例如追问、换角度提问错误消息是如何措辞的是冷冰冰的技术报错还是友好地说明原因并给出下一步2. 有效性 / 可访问性Usability / Accessibility——面向 Web 的可用性体检确保应用既能用鼠标、也能纯键盘完整导航焦点顺序、可见焦点、可跳过区域对照可访问性原则检查对比度、文案层级与操作提示确保不同能力的用户都能完成核心任务。3. 信任与透明Trust Transparency——引入「人在环内」不要盲目信任 AI 输出考虑增加一个人工复核环节例如教师抽查批改结果并把这个环节写进产品流程参考本课可解释性三原则逐条检查你的应用是否披露了「AI 生成」「能力边界」「数据用途」。4. 控制Control——归还数据决定权让用户对「提供给应用的数据」有掌控感实现一个用户可opt-in / opt-out的数据收集开关允许用户修改提示参数格式、语气、篇幅与生成结果而不是把界面做成「只读的一次性问答」。五、如何继续深挖仓库内配套资源想看课程原貌与配套图示回到英文主版本 12-designing-ux-for-ai-applications/README.md需要对照阅读可使用本仓库的 60 语言译本本文对应 translations/es/12-designing-ux-for-ai-applications/README.md配图可在translated_images/es/下按同文件名查找本课讨论的「能力边界」「角色约束」「诚实拒绝」可直接在 oai-history-bot.py 与 oai-study-buddy.py 的提示词设计中看到代码级实现UX 中涉及的隐私、数据授权与越权风险与本仓库下一课 13-securing-ai-applications/README.md 直接衔接——第 13 课会讲解如何加固 AI 应用、识别攻击面把本课的「信任」从界面设计延伸到系统安全层面。UX 设计的最终标准不是炫酷的对话效果而是让用户在理解、信任与掌控的前提下高效完成自己想做的事。把本课的四要素、两大信任支柱可解释性与控制和一条反馈闭环放进你的下一个 AI 应用它才真正算得上「可以被使用、也值得被使用」。【免费下载链接】generative-ai-for-beginners21 Lessons, Get Started Building with Generative AI项目地址: https://gitcode.com/GitHub_Trending/ge/generative-ai-for-beginners创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考 generative-ai-for-beginners 第 12 课精读：为生成式 AI 应用设计可信、透明、可协作的 UX
generative-ai-for-beginners 第 12 课精读为生成式 AI 应用设计可信、透明、可协作的 UX【免费下载链接】generative-ai-for-beginners21 Lessons, Get Started Building with Generative AI项目地址: https://gitcode.com/GitHub_Trending/ge/generative-ai-for-beginners本仓库generative-ai-for-beginners共 21 课从 01-introduction-to-genai/README.md 一路到 21-meta/README.md在教会读者「如何用 LLM 写代码」之后用一课的时间回答了一个容易被忽略的问题用户凭什么愿意使用你做的 AI 应用。本文以第 12 课 12-designing-ux-for-ai-applications/README.md原文为英文本仓库亦提供多语言译本例如 translations/es/12-designing-ux-for-ai-applications/README.md为骨架系统讲解 AI 应用的 UX 设计方法如何理解用户需求、如何通过可解释性与用户控制建立信任、如何用反馈闭环与透明的错误处理实现人机协作。读完你将得到一份可直接对照执行的设计清单并把原则落到你在此前章节中写过的聊天、文本与图像应用上。一、UX 的起点理解「为谁设计」用户体验User ExperienceUX描述的是用户如何与某个系统、工具或产品交互并完成其目标。在生成式 AI 应用中UX 不只关乎「好不好用」还关乎「是否合乎伦理」——开发者既要让交互高效也要让结果可被信赖。本课程的叙事背景是一家虚构的教育科技初创公司其核心用户有两类教师与学生。两类用户的需求并不相同教师要的是把出题、批改等重复劳动自动化学生要的是贴合自己学习进度的辅导与复习材料。以用户为中心user-centered design的设计方法要求产品为「使用它的人」量身定制否则再先进的模型也只是技术演示。课程将优秀 AI 应用体验归纳为四个特质有效useful、可靠reliable、可访问accessible、愉悦pleasant。下图为这四要素的示意后续小节逐条拆解。1. 有效Usability / Usefulness功能要对得上用途「有效」指应用的功能与其设计意图一致。课程给出了两个一正一反的例子自动化批改应能依据预定义标准准确、高效地为学生作业打分生成复习闪卡应能基于数据生成相关且多样的问题。换言之模型能力要与任务域严格匹配。在设计阶段就应明确「这个 AI 具体要替用户完成哪件事」而不是提供一个万能问答框。2. 可靠Reliability承认 AI 会犯错「可靠」指应用能持续、稳定、少错误地完成任务。但课程明确提醒AI 和人一样会出错应用必然遭遇异常或超出预期的情况此时需要人类的介入与纠正。因此「可靠」不等于「追求零错误」而是意味着预先设计错误发生时的处理路径——这正是本章第三节「协作与反馈」要回答的问题。3. 可访问Accessibility不把任何人排除在外「可访问」要求把体验扩展到不同能力的用户包括残障人士。遵循可访问性指南与原则例如键盘可达、语义化标记、充足对比度等会让 AI 解决方案对所有人都更包容、更可用。这也是后面作业清单中「鼠标和键盘都能导航」的直接依据。4. 愉悦Pleasant让人愿意回来「愉悦」指应用令人乐于使用。好的体验会给用户正向反馈促使用户再次打开应用。不过课程强调了一个容易忽视的定位问题并非所有挑战都能靠 AI 解决。AI 的价值在于增强augment体验——无论是自动化重复任务还是个性化学习路径都应当嵌入到「人本来就要完成的任务」里而不是为了用 AI 而用 AI。二、为信任与透明而设计信任是 AI 应用设计的基石。用户必须确信应用能完成任务、结果稳定、且产出正是自己需要的。课程指出这条线上的两个典型风险恰好是互相对称的两种失败模式风险表现后果不信任Mistrust用户对 AI 系统几乎没有信任直接弃用你的应用过度信任Overtrust用户高估 AI 能力、盲目依赖放弃人工核查埋下错误隐患课程用自动化批改系统举例说明过度信任的代价若教师完全信任系统便不再抽查试卷确认批改质量最终可能给学生不公平、不准确的分数也流失了通过反馈改进教学的机会。要把信任真正放进设计中心课程给出了两条路径可解释性Explainability与控制Control。1. 可解释性让用户理解「AI 如何做出决定」当 AI 参与教育这类影响深远的决策时教师和家长需要理解 AI 的决策过程。可解释性设计的落点包括三层1明确告知「这是 AI 的输出」。受众必须意识到结果由 AI 生成、而非真人撰写。课程给出的文案改写对比是经典范例与其说「现在开始和你的导师聊天吧」暗示真人不如说「使用一个会适应你需求、按你的节奏帮你学习的AI 导师」。措辞上的一次主动披露就能建立正确的心理预期。2基于用户画像persona约束行为并说明边界。学生的画像决定了系统该给什么、不该给什么。课程举例当 AI 面对「学生」这个角色时可以不去直接揭示题目答案而是用苏格拉底式提问引导学生自己想出解题路径——把「我能/不能做什么」反映在每次交互中。这类「角色即约束」的做法在本仓库的示例代码里就有同款实现。06-text-generation-apps/python/oai-history-bot.py 让模型扮演指定历史人物并在提示词里写明纪律「只能基于时间线和事件事实回答不要自行编造不知道就说不知道」Dont create content yourself. If you dont know something, tell that you dont remember.。这正是把可解释性与诚实边界写进系统提示词的工程化手段——先约束行为再谈体验。3简化解释用受众能懂的话说明能力边界。学生和教师未必是 AI 专家因此对「应用能做什么、不能做什么」的解释必须平实易懂。术语要降级到用户心智模型能消化的程度而不是把「神经网络」丢给用户。2. 控制把「修改权」和「数据决定权」交给用户生成式 AI 的本质是用户与 AI 之间的协作用户修改提示词以获得不同结果结果生成后用户还应当能继续修改产出从而获得掌控感。课程以 Bing/Copilot 这类产品界面为例给出两类控制形态提示维度控制用户可按格式format、语气tone、篇幅length来裁剪自己的提问让输出更贴合目标场景结果再编辑生成草稿后用户可以继续追加指令或直接改写输出内容数据参与控制opt-in / opt-out用户能决定「AI 可以使用哪些数据」。对学校场景而言学生可能既希望用自己的课堂笔记、也希望引用教师提供的资料作为复习素材——是否授权这些数据进入生成过程应当由用户自己说了算。课程还补充了一个反直觉的设计提醒有意为之的摩擦intentionality / friction。当用户对 AI 能力抱有不切实际的期待时过度信任就开始了。在提示词与结果之间刻意保留一点「这是 AI、不是人类同伴」的提示摩擦反而能维护健康的信任关系。三、为协作与反馈而设计既然生成式 AI 的应用体验本质是「用户输入提示词 → AI 生成结果」的协作循环那么必须回答三个问题结果错了怎么办错误由谁负责AI 会不会解释错误1. 把反馈闭环内置进产品课程给出的最小反馈机制是对结果点赞/点踩thumbs up / thumbs down。这样一个低成本控件同时完成两件事为 AI 系统提供改进信号让用户感到自己的意见被采纳从而建立信任。反馈闭环必须出现在设计图纸上而不是功能上线后的补丁。下图左侧展示了「无法回答」时的错误提示形态右侧则是生成结果附带用户反馈控件的理想界面。2. 提前讲清能力边界温和地处理越界请求当用户请求超出 AI 能力范围时例如模型只训练过「历史」与「数学」数据却被问到地理问题系统不应含糊其辞而应明确说明局限并给出替代路径。课程给出了一种可直接套用的应答句式「抱歉我们的产品仅使用以下学科的数据训练……因此我无法回答你提出的这个问题。」这种应答同时做到三件事承认局限、交代原因、维持礼貌。类似的「诚实拒绝」策略同样出现在仓库代码中——06-text-generation-apps/python/oai-history-bot.py 明确要求模型「如果不知道某些内容就告诉用户你不记得」而不是编造史实。3. 错误处理要「简单且可解释」应用难免出错真正拉开体验差距的是错误发生时的处理方式。课程要求错误提示既要简单也要可解释——不要甩锅给用户你问得不对也不要用技术黑话解释失败而是说明发生了什么、系统能做什么、接下来可以怎么补救。反馈入口与错误处理应当是一体设计的两面。四、动手作业四条可执行的改造清单本课作业要求读者拿起「此前任何一章已经构建过的 AI 应用」逐条落实以下四个维度的改造。结合本仓库实际你可以挑选 06-text-generation-apps文本生成、07-building-chat-applications对话应用或 09-building-image-applications图像应用中的示例作为改造对象1. 愉悦Pleasant——审视你的文案与情绪曲线是否在关键位置都提供了「为什么给出这个结果」的解释是否用文案鼓励用户继续探索例如追问、换角度提问错误消息是如何措辞的是冷冰冰的技术报错还是友好地说明原因并给出下一步2. 有效性 / 可访问性Usability / Accessibility——面向 Web 的可用性体检确保应用既能用鼠标、也能纯键盘完整导航焦点顺序、可见焦点、可跳过区域对照可访问性原则检查对比度、文案层级与操作提示确保不同能力的用户都能完成核心任务。3. 信任与透明Trust Transparency——引入「人在环内」不要盲目信任 AI 输出考虑增加一个人工复核环节例如教师抽查批改结果并把这个环节写进产品流程参考本课可解释性三原则逐条检查你的应用是否披露了「AI 生成」「能力边界」「数据用途」。4. 控制Control——归还数据决定权让用户对「提供给应用的数据」有掌控感实现一个用户可opt-in / opt-out的数据收集开关允许用户修改提示参数格式、语气、篇幅与生成结果而不是把界面做成「只读的一次性问答」。五、如何继续深挖仓库内配套资源想看课程原貌与配套图示回到英文主版本 12-designing-ux-for-ai-applications/README.md需要对照阅读可使用本仓库的 60 语言译本本文对应 translations/es/12-designing-ux-for-ai-applications/README.md配图可在translated_images/es/下按同文件名查找本课讨论的「能力边界」「角色约束」「诚实拒绝」可直接在 oai-history-bot.py 与 oai-study-buddy.py 的提示词设计中看到代码级实现UX 中涉及的隐私、数据授权与越权风险与本仓库下一课 13-securing-ai-applications/README.md 直接衔接——第 13 课会讲解如何加固 AI 应用、识别攻击面把本课的「信任」从界面设计延伸到系统安全层面。UX 设计的最终标准不是炫酷的对话效果而是让用户在理解、信任与掌控的前提下高效完成自己想做的事。把本课的四要素、两大信任支柱可解释性与控制和一条反馈闭环放进你的下一个 AI 应用它才真正算得上「可以被使用、也值得被使用」。【免费下载链接】generative-ai-for-beginners21 Lessons, Get Started Building with Generative AI项目地址: https://gitcode.com/GitHub_Trending/ge/generative-ai-for-beginners创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考