letta-configuration

Letta 配置

在 Agent 上配置模型、在服务上配置提供商的完整指南。

何时使用此技能

Agent 级别（模型配置）：

• 创建具有特定模型配置的 Agent
• 调整模型设置（temperature、max tokens、上下文窗口）
• 配置提供商专属功能（OpenAI 推理、Anthropic 思考）
• 更改现有 Agent 的模型

服务级别（提供商配置）：

• 设置 BYOK（自带密钥）提供商
• 使用环境变量配置可自托管部署
• 验证提供商凭据
• 设置自定义的 OpenAI 兼容端点

此处未涵盖： 模型选择建议（选择哪个模型）——请参阅 agent-development 技能。

---

第 1 部分：模型配置（Agent 级别）

模型句柄

模型使用 provider/model-name 格式：

提供商	句柄前缀	示例
OpenAI	openai/	openai/gpt-4o、openai/gpt-4o-mini
Anthropic	anthropic/	anthropic/claude-sonnet-4-5-20250929
Google AI	google_ai/	google_ai/gemini-2.0-flash
Azure OpenAI	azure/	azure/gpt-4o
AWS Bedrock	bedrock/	bedrock/anthropic.claude-3-5-sonnet
Groq	groq/	groq/llama-3.3-70b-versatile
Together	together/	together/meta-llama/Llama-3-70b
OpenRouter	openrouter/	openrouter/anthropic/claude-3.5-sonnet
Ollama（本地）	ollama/	ollama/llama3.2

基本模型配置

from letta_client import Letta

client = Letta(api_key="your-api-key")

agent = client.agents.create(
    model="openai/gpt-4o",
    model_settings={
        "provider_type": "openai",  # Required - must match model provider
        "temperature": 0.7,
        "max_output_tokens": 4096,
    },
    context_window_limit=128000
)

常见设置

设置	类型	说明
provider_type	string	必填。 必须与模型提供商匹配（openai、anthropic、google_ai 等）
temperature	float	控制随机性（0.0-2.0）。值越低，结果越确定。
max_output_tokens	int	响应中的最大令牌数。

更改 Agent 的模型

client.agents.update(
    agent_id=agent.id,
    model="anthropic/claude-sonnet-4-5-20250929",
    model_settings={"provider_type": "anthropic", "temperature": 0.5},
    context_window_limit=64000
)

注意： 更改模型后，Agent 会保留记忆和工具。

提供商专属设置

有关 OpenAI 推理模型和 Anthropic 扩展思考的信息，请参阅 references/provider-settings.md。

---

第 2 部分：提供商配置（服务级别）

快速入门

# Add provider via API
python scripts/setup_provider.py --type openai --api-key sk-...

# Generate .env for Docker
python scripts/generate_env.py --providers openai,anthropic,ollama

# Validate credentials
python scripts/validate_provider.py --provider-id provider-xxx

添加 BYOK 提供商

# Via REST API
curl -X POST http://localhost:8283/v1/providers \
  -H "Content-Type: application/json" \
  -d '{
    "name": "My OpenAI",
    "provider_type": "openai",
    "api_key": "sk-your-key-here"
  }'

支持的提供商类型

openai、anthropic、azure、google_ai、google_vertex、ollama、groq、deepseek、xai、together、mistral、cerebras、bedrock、vllm、sglang、hugging_face、lmstudio_openai

有关各提供商的详细配置，请参阅：

• references/common_providers.md - OpenAI、Anthropic、Azure、Google
• references/self_hosted_providers.md - Ollama、vLLM、LM Studio
• references/all_providers.md - 完整参考
• references/environment_variables.md - Docker/可自托管设置

---

防止幻觉检查清单

配置前请确认：

• 模型句柄使用正确的 provider/model-name 格式
• model_settings 包含必需的 provider_type 字段
• context_window_limit 设置在 Agent 级别，而非 model_settings 中
• 提供商专属设置使用正确的嵌套结构
• 对于可自托管部署：已指定嵌入模型
• Temperature 在有效范围内（0.0-2.0）

脚本

模型配置：

• scripts/basic_config.py - 基本模型配置
• scripts/basic_config.ts - TypeScript 对应版本
• scripts/change_model.py - 更改现有 Agent 的模型
• scripts/provider_specific.py - OpenAI 推理、Anthropic 思考

提供商配置：

• scripts/setup_provider.py - 通过 REST API 添加提供商
• scripts/validate_provider.py - 检查提供商凭据
• scripts/generate_env.py - 为 Docker 生成 .env