near-ai-cloud

NEAR AI Cloud

通过可信执行环境（TEE）实现可验证的私密 AI 推理。所有推理均在搭载 NVIDIA TEE GPU 的 Intel TDX 机密虚拟机中运行。你的数据始终处于加密状态，并与基础设施提供商、模型提供商以及 NEAR 本身隔离。

快速开始

该 API 兼容 OpenAI。将任意 OpenAI SDK 指向 https://cloud-api.near.ai/v1：

import openai

client = openai.OpenAI(
    base_url="https://cloud-api.near.ai/v1",
    api_key="YOUR_API_KEY"  # from cloud.near.ai dashboard
)

response = client.chat.completions.create(
    model="deepseek-ai/DeepSeek-V3.1",
    messages=[{"role": "user", "content": "Hello, NEAR AI!"}]
)
print(response.choices[0].message.content)

import OpenAI from 'openai';

const openai = new OpenAI({
    baseURL: 'https://cloud-api.near.ai/v1',
    apiKey: 'YOUR_API_KEY',
});

const completion = await openai.chat.completions.create({
    model: 'deepseek-ai/DeepSeek-V3.1',
    messages: [{ role: 'user', content: 'Hello, NEAR AI!' }]
});
console.log(completion.choices[0].message.content);

工作原理

• 所有推理均在搭载 NVIDIA TEE GPU 的 Intel TDX 机密虚拟机中运行
• TLS 在 TEE 内部终止，而不是在负载均衡器处终止，因此提示词绝不会以明文形式暴露
• TEE 会生成可通过 NVIDIA NRAS 和 Intel TDX 验证的加密证明
• 每条聊天回复均由永不离开 TEE 的密钥签名
• 你可以独立验证硬件证明，并将其与消息签名绑定

验证流程

1. Generate nonce
2. Request model attestation  →  get signing_address, nvidia_payload, intel_quote
3. Verify GPU attestation     →  submit nvidia_payload to NVIDIA NRAS, check JWT fields
4. Verify CPU attestation     →  verify intel_quote via dcap-qvl or TEE Explorer
5. Verify GPU-CPU binding     →  signing_address + nonce bound in TDX report data; same nonce in NRAS eat_nonce
6. Make chat request           →  use the API as normal
7. Fetch chat signature       →  GET /v1/signature/{chat_id}
8. Verify signature            →  recover signer, compare to attested signing_address

API 端点

基础 URL：https://cloud-api.near.ai

端点	方法	描述
/v1/chat/completions	POST	兼容 OpenAI 的聊天补全
/v1/models	GET	列出可用模型
/v1/attestation/report?model={model}	GET	模型证明（GPU + CPU）——需要 API 密钥
/v1/attestation/report	GET	网关证明——需要 API 密钥
/v1/signature/{chat_id}	GET	聊天消息签名（也涵盖 Responses API resp_*）

重要信息

• 基础 URL 为 https://cloud-api.near.ai/v1，可与任意 OpenAI SDK 搭配使用
• signing_algo 可以是 ecdsa 或 ed25519
• 证明报告现在需要 API 密钥——Authorization: Bearer <key>；获取报告免费且不计费
• 为确保证明的新鲜度，Nonce 应为随机的 64 位十六进制字符串（32 字节）
• NRAS 响应是一个两部分数组：[["JWT", "..."], {"GPU-0": "..."}]，包含整体 JWT 和每个 GPU 的 JWT
• 模型证明中的 signing_address 必须与签署聊天消息的地址一致
• 聊天签名会持久保存，完成后可随时查询

参考资料

主题	文件
私密模型与匿名化模型	references/private-vs-anonymised.md
模型 TEE 验证	references/model-verification.md
网关验证 + TLS	references/gateway-verification.md
聊天消息验证	references/chat-verification.md
端到端加密聊天（E2EE）	references/e2ee-chat.md
专用端点	references/specialized-endpoints.md

上游文档（优先使用实时值）

• OpenAI 兼容性 — 流式传输、推理、Files API 行为
• 无状态 Responses API — resp_* 无状态响应
• 提示词缓存
• 网页搜索 — 服务端实时网页结果
• 推理质押 — 使用质押奖励支付
• 用量报告 API
• 模型发现与刷新

资源

• NEAR AI Cloud：https://cloud.near.ai
• 文档：https://docs.near.ai/cloud/introduction- 验证示例：https://github.com/near-examples/nearai-cloud-verification-example
• 完整验证器：https://github.com/nearai/nearai-cloud-verifier
• NVIDIA NRAS API：https://docs.api.nvidia.com/attestation/reference/attestmultigpu_1
• TEE 证明浏览器：https://proof.t16z.com/
• DCAP QVL（TDX 验证）：https://github.com/Phala-Network/dcap-qvl