mcpField
B
building-with-llms

building-with-llms

github.com/refoundai开发1.4k1.7k 次安装15 周前更新
代码仓库

关于 building-with-llms

面向产品团队和开发者的 LLM 应用构建技能,内容涵盖提示词、上下文与架构、评估、迭代以及 AI 工具使用,并汇集从业者经验。

主要功能

  1. 01诊断提示词、上下文和模型问题
  2. 02应用提示词模式
  3. 03设计上下文与模型架构
  4. 04系统评估输出
  5. 05借助 AI 工具迭代和调试

适用场景

  1. 01构建聊天机器人或 Agent
  2. 02用示例改善模型回复
  3. 03为 AI 功能建立评估
  4. 04排查不稳定的输出

MCP 相关

该技能指出,模型决策不佳时可通过 MCP 或 RAG 提供更好的上下文;未说明它是 MCP 服务或客户端。

安装

复制下面的命令,在终端中运行。

$npx skills add https://github.com/refoundai/lenny-skills --skill building-with-llms

安装后在 Claude Code 中输入/building-with-llms确认已加载。

附带文件references/guest-insights.md

详细介绍

使用大模型构建应用

运用 60 位产品负责人和 AI 从业者的实用技巧,帮助用户构建高效的 AI 应用。

如何提供帮助

当用户询问如何使用大模型构建应用时:

  1. 了解他们的用例——询问他们正在构建什么(聊天机器人、Agent、内容生成、代码助手等)
  2. 诊断问题——帮助判断问题是与提示词、上下文还是模型选择有关
  3. 应用相关技巧——分享具体的提示词模式、架构方法或评估方法
  4. 指出常见错误——反对过度依赖直觉、跳过评估,或为任务选择了错误的模型

核心原则

提示词

少样本示例胜过文字描述
Sander Schulhoff:“如果只能推荐一种技巧,那就是少样本提示——提供你想要的示例。与其描述你的写作风格,不如贴出几封以前的邮件,然后说‘照这样写’。”

提供你的观点
Wes Kao:“分享我的观点能让输出好得多。不要只问‘你会怎么说?’要告诉它:‘我想拒绝,但也希望维持这段关系。我理想中的做法是……’”

将复杂任务拆解
Sander Schulhoff:“问‘需要先解决哪些子问题?’列出清单,逐一解决,然后综合起来。不要让模型一次性解决所有问题。”

自我批评能改善输出
Sander Schulhoff:“让大模型检查并批评自己的回答,然后改进。只要提示模型去检查,它们就能发现自己的错误。”

角色设定有助于控制风格,而非提升准确性
Sander Schulhoff:“‘扮演一位教授’之类的角色设定对准确性任务没有帮助,但很适合控制创意类工作的语气和风格。”

将上下文放在开头
Sander Schulhoff:“把较长的上下文放在提示词开头。这样可以缓存(成本更低),而且模型处理时不会忘记任务。”

架构

上下文工程 > 提示词工程
Bret Taylor:“如果模型做出了糟糕的决定,通常是因为缺少上下文。要从根源解决——通过 MCP 或 RAG 提供更好的数据。”

RAG 质量 = 数据准备质量
Chip Huyen:“最大的提升来自数据准备,而非向量数据库的选择。将源数据改写成问答形式,并添加注释,补充人类习以为常的上下文信息。”

分层使用模型以增强稳健性
Bret Taylor:“让 AI 监督 AI 很有效。将认知步骤分层——一个模型生成内容,另一个模型审核。这能让准确率从 90% 提升到 99%。”

针对专门任务使用专用模型
Amjad Masad:“我们用 Claude Sonnet 编写代码,用其他模型进行批评。由不同角色组成的‘模型社会’胜过单一通用模型。”

200ms 是延迟阈值
Ryan J. Salva(GitHub Copilot):“实时建议的理想延迟约为 200ms。更慢会让人觉得被打断。围绕这一限制设计架构。”

评估

评估必不可少,不是可选项
Kevin Weil(OpenAI):“编写评估正成为一项核心产品技能。可靠率为 60% 的模型,需要与可靠率为 95% 或 99.5% 的模型不同的 UX。不了解准确率,就无法进行设计。”

二元评分 > 李克特量表
Hamel Husain:“用通过/不通过,而不是 1-5 分。量表会产生‘3.7’这类毫无意义的平均分。二元评分迫使你做出明确判断。”

从直觉测试开始,再逐步转向评估
Howie Liu:“对于新颖的产品,先进行开放式直觉测试。只有在用例趋于一致后,才转向正式评估。”

验证你的大模型评判者
Hamel Husain:“如果使用大模型作为评判者,就必须评估这套评估。衡量它与人类专家的一致程度,并不断迭代,直到两者一致。”

构建与迭代

失败时重试——模型具有随机性 Benjamin Mann(Anthropic):“如果失败了,就用完全相同的提示词再试一次。重试的成功率远高于继续沿用行不通的方法。”

大胆提出需求 Benjamin Mann:“高效和低效的 Claude Code 用户之间的区别在于:是否敢于提出大胆的需求。要求进行大改动,而不是一点点微调。”

不同模型之间交叉借鉴 Guillermo Rauch:“迭代 100 多次仍然卡住时,把代码复制到另一个模型中(例如,从 v0 转到 ChatGPT o1)。全新的视角能帮你突破瓶颈。”

复利式工程 Dan Shipper:“每完成一项工作,都要让下一项工作变得更容易。保存有效的提示词,建立一个库。团队使用 AI 的成效会不断累积。”

使用 AI 工具

学会阅读和调试,而不是死记语法 Amjad Masad:“AI 能放大编程的效用,因此编程的投资回报率每 6 个月就翻一倍。专注于阅读代码和调试——语法交给 AI 处理。”

用聊天模式理解问题 Anton Osika:“使用‘聊天模式’让 AI 解释其逻辑。问:‘你为什么这么做?我遗漏了什么?’把它当作导师。”

Vibe 编码是一项真正的技能 Elena Verna:“我把 Vibe 编码写进了简历。在交给工程团队之前,先用自然语言构建功能原型。”

帮助用户思考的问题

  • “你正在构建什么?要解决的核心用户问题是什么?”
  • “模型最常在哪些方面出错?”
  • “你是在系统地衡量成功,还是仅凭感觉?”
  • “模型可以访问哪些上下文?”
  • “你试过少样本示例吗?”
  • “重试失败的提示词会有什么结果?”

需要指出的常见错误

  • 永远只凭感觉——最终你需要真正的评估,而不只是“感觉不错”
  • 只关注提示词——问题往往出在上下文不够好,而不是提示词不够好
  • 所有任务都用同一个模型——不同模型各有所长
  • 失败一次就放弃——随机性系统需要重试
  • 跳过人工审核——AI 输出需要人工验证,尤其是在早期阶段

深入了解

有关 60 位嘉宾分享的全部 110 条见解,请参阅 references/guest-insights.md

相关技能

  • AI 产品策略
  • AI 评估
  • Vibe 编码
  • 评估新技术

评论

支持 Markdown