mcpField
N
neon-ai-gateway

neon-ai-gateway

github.com/neondatabase開発10729.0k 回インストール1 日前に更新
リポジトリ

neon-ai-gateway について

neon-ai-gateway は、Neon AI Gateway を使って Neon のブランチから LLM 推論や埋め込み生成を行うスキルです。Neon アプリやエージェントを開発する人向けに、ブランチ分離や AI SDK、Mastra の設定を案内します。

主な機能

  1. 01単一 API で複数プロバイダーのモデルにアクセス
  2. 02Neon のブランチごとにゲートウェイを分離
  3. 03LLM 推論と埋め込み生成
  4. 04モデル応答のストリーミング
  5. 05AI SDK と Mastra の設定

活用シーン

  1. 01Neon アプリにモデル推論を追加
  2. 02プレビューや CI ブランチで AI リクエストを分離
  3. 03SDK の再配線なしでモデルを切り替え

インストール

コマンドをコピーしてターミナルで実行します。

$npx skills add https://github.com/neondatabase/agent-skills --skill neon-ai-gateway

インストール後、Claude Code で/neon-ai-gatewayを入力して読み込まれたか確認します。

詳細

最初に:Neon の概要、Neon の始め方、Neon 開発のベストプラクティスなどについては、親の neon スキルを使用してください。

neon スキルがインストールされていない場合は、https://neon.com/docs/ai/skills/neon/SKILL.md から取得するか、次のコマンドでインストールしてください。

neon skills -s neon -y

Neon AI Gateway

現在、aws-us-east-2、aws-us-east-1、aws-eu-central-1、aws-ap-southeast-1 で利用できます。

Neon AI Gateway を使うと、Neon ブランチで LLM 推論と埋め込み推論を実行できます。1 つの API と 1 つの Neon 認証情報で、Databricks がホストおよび提供する、多数のプロバイダー(Anthropic、OpenAI、Google、Meta など)の最先端モデルやオープンソースモデルに加え、埋め込みモデルにもアクセスできます。カタログは随時更新されるため、固定のプロバイダー一覧ではなく、/v1/models と models.dev の Neon ページを最新情報として参照してください。埋め込みモデルの ID と次元数については、埋め込みガイドをご覧ください。既存の OpenAI/Anthropic/Gemini SDK は、ベース URL を変更するだけで動作します。

このスキルを使って、ユーザーがゲートウェイ経由でモデル呼び出しを行えるよう支援したり、AI SDK または Mastra に接続したり、コードの再配線なしでプロバイダーを切り替えたりしてください。動作する推論リクエスト、設定済みのエージェント、または Neon の公式ドキュメントに基づく正確な回答を提供してください。

使用する場面

アプリやエージェントが LLM を呼び出す必要がある場合や、テキスト埋め込みを生成する必要があり、ユーザーがモデルプロバイダーの管理を避けたい場合は、AI Gateway を利用してください。

  • 複数のプロバイダーアカウントの代わりに、1 つの認証情報を使用できます。 1 つの Neon 認証情報で、Databricks がホストするすべてのプロバイダーのモデルカタログ全体にアクセスできます。OpenAI/Anthropic/Google の個別の課金設定、キー、登録を準備してローテーションする必要はありません。
  • 再配線せずにモデルを切り替えられます。 統合エンドポイントは OpenAI 互換で、カタログ内のすべてのモデルで動作します。model フィールドを 1 つ変更するだけで、Claude、GPT、Gemini を切り替えられます。標準 SDK(OpenAI、Anthropic、google-genai)は、ベース URL を変更するだけで動作します。
  • AI がブランチに追従します。 各ブランチには、データベースと同じ系譜に紐付けられた専用のゲートウェイエンドポイントがあります。プレビューブランチやフィーチャーブランチからの AI リクエストは、そのブランチ内に分離されます。これはデータに適用されているものと同じ分離であり、プレビュー、CI、エージェントの環境を自己完結型にできます。
  • 追加のインフラは不要で、すでにデータのすぐそばにあります。 ゲートウェイは Neon プロジェクト内にあり(Neon Functions にも自動的に注入されます)、月に何兆ものトークンを処理する同じ Databricks インフラストラクチャ上で実行されます。また、ストリーミング(SSE)を標準でサポートしています。

すでに単一プロバイダーとの深い統合があり、Neon のブランチ機能やマルチモデルルーティングに関心がない場合は、プロバイダーの SDK を直接使っても問題ありません。ただし、1 つの認証情報、モデルの移植性、またはブランチ単位の AI が必要になったら、これを使う理由になります。

できること

  • すべてのモデルに 1 つの API でアクセス — 最先端モデルとオープンソースモデルを単一のエンドポイントから利用できます。カタログ ID(例:claude-sonnet-4-6、gpt-5-mini、gemini-3-flash)で指定します。
  • 標準 SDK は URL の変更だけで利用可能 — OpenAI SDK と AI SDK(OpenAI 互換の MLflow/Responses ルート)、Anthropic SDK(ネイティブ Messages)、google-genai(ネイティブ Gemini)に対応しています。
  • ブランチ単位で利用可能 — 各ブランチには専用のゲートウェイホストが割り当てられます。Neon 認証情報を使って、そのブランチとその子孫ブランチへのリクエストを認証します。
  • ストリーミング — チャット生成では、追加設定なしでサーバー送信イベントをサポートします。
  • 埋め込み — セマンティック検索用のベクトルを生成します。

利用条件

設定を始める前に、次の前提条件を確認してください。

AI Gateway は現在、aws-us-east-2、aws-us-east-1、aws-eu-central-1、aws-ap-southeast-1 で利用できます。ユーザーのプロジェクトがこれらのリージョンのいずれかにあることを確認してください。

AI Gateway は有料の Neon プラン(Launch と Scale)でのみ利用でき、前払い済みの AI Gateway クレジットを消費します。前払いクレジットのある有料アカウントは、カタログ内のすべてのモデルを呼び出せます。https://neon.com/docs/ai-gateway/prepaid-credits.md をご覧ください。

ゲートウェイの有効化:プランとモデルへのアクセス

AI Gateway の利用には認証情報が必要であり、プロビジョニングの手順ではありません。CLI ではプランとモデルへのアクセス制限が表示されます。

  • Free プラン → プロビジョニングはブロックされます。 neon config apply / deploy と neon checkout は、Free プランでゲートウェイを有効にすることを拒否します(このプランではゲートウェイはリクエストを処理できません)。その際、「有料プランにアップグレードするか、aiGateway を削除してください」という分かりやすいエラーが表示されます。ドライランの neon config plan と neon env pull はプロビジョニングを行わないため、警告のみを表示します。つまり、ゲートウェイを利用するには、プロジェクトのアカウントが有料の Neon プランである必要があります。
  • 有料プランでもモデルがロックされている場合。 GET /v1/models はカタログ内のすべてのモデルを一覧表示し、アカウントからまだ呼び出せないモデルには enabled: false を設定します。neon env pull(および apply / deploy / checkout に含まれる env pull)は、一部のモデルが有効でも、主要モデル(例:Anthropic Opus、OpenAI Codex / *-pro)が含まれていない場合に警告し、Neon Console のブランチの AI Gateway ページ(https://console.neon.tech/app/projects/<project-id>/branches/<branch-id>/ai-gateway)へのリンクを表示します。このページでは、ロックされたモデルが一部のモデルは制限されていますの下に、理由ごとにグループ化されて表示され、それぞれの解決方法も示されます。有料プランの場合はプランをアップグレード、プリペイドクレジットの場合はクレジットを追加、アカウントの制限やアカウントで利用できないモデルの場合はサポートに問い合わせてください。ユーザーがアップグレードするかクレジットを購入した後、Neon がアクセスを確認するとモデルのロックが解除されます。CLI に警告が表示されないからといって、すべてのモデルが有効であるとは限りません。モデルの enabled 値を確認してください。https://neon.com/docs/ai-gateway/troubleshooting.md を参照してください。

セットアップ

ゲートウェイは neon.ts の一部です(ブランチ優先のワークフローと neon.ts の基本については neon スキルを参照してください)。aiGateway を使って有効にします。

// neon.ts
import { defineConfig } from "@neon/config/v1";

export default defineConfig({
  aiGateway: true,
});
neon deploy   # provisions the gateway on the linked branch

Neon Infrastructure as Code(neon.ts)

上記の aiGateway 切り替え設定は、Neon の Infrastructure as Code ファイルである neon.ts の一部です。1 つの TypeScript ファイルで、ゲートウェイと他のすべてのブランチサービスを宣言し、バージョン管理します(詳細については neon スキルを参照してください)。Terraform の方法でブランチとの整合性を取ります。

neon config status   # print the branch's live config (is the gateway on?)
neon config plan     # dry-run diff of what apply would change
neon config apply    # enable the gateway on the branch  (neon deploy is an alias)

ゲートウェイはブランチ単位です。各ブランチには専用のゲートウェイホストが割り当てられます。neon.ts がある場合、neon checkout はブランチの作成時にポリシーを適用するため、新しいプレビュー/CI ブランチではゲートウェイが有効な状態で起動します。既存のブランチをチェックアウトしても設定は調整されません。変更を適用するには neon deploy を実行してください。プロビジョニング(config apply / deploy)、link、checkout では、ブランチのゲートウェイ認証情報もローカルの .env.local に取り込まれるため、ローカル実行でもデプロイ済みの関数と同じブランチゲートウェイに接続できます(手動で env pull を実行する必要はありません)。

環境変数

aiGateway が有効な場合、Neon はゲートウェイの認証情報を Neon ブランドの環境変数として注入します。デプロイ済みの Neon Function 内では自動的に注入されます。ローカルでは、neon env pull によって .env/.env.local に書き込まれます(ファイルを使わず、実行時に注入するには neon-env run -- <cmd> を使用してください)。

変数意味
NEON_AI_GATEWAY_TOKENゲートウェイのベアラートークン(Neon の認証情報、nt_live_...)
NEON_AI_GATEWAY_BASE_URLブランチのゲートウェイホストのみ(scheme://host、パスなし — /ai-gateway なし):https://<branch-id>-api.ai.<region>.aws.neon.tech

Neon が注入するのはこの 2 つの変数のみです。OPENAI_API_KEY/OPENAI_BASE_URL は設定されません。@neon/ai-sdk-provider と Mastra の neon/<model> は NEON_AI_GATEWAY_* を直接読み取ります(設定不要)。通常の OpenAI SDK/@ai-sdk/openai では、これらを使ってクライアントの apiKey と baseURL を設定するか(下記参照)、独自に OPENAI_* を手動で設定してください(env pull はユーザーが設定した変数を変更しません)。

NEON_AI_GATEWAY_BASE_URL はホストのみです。方言のパスは自分で追加してください(@neon/ai-sdk-provider はこれを自動で行います)。ホスト以下のルートは次のとおりです。

  • /v1 — 統一された、OpenAI の Chat Completions 互換エンドポイントです。デフォルトとして推奨されており、すべてのプロバイダーで動作します(/v1/chat/completions)。
  • /openai/v1 — OpenAI Responses API(gpt-5-…-codex バリアントと gpt-5-5-pro で必須)。@ai-sdk/openai プロバイダーはデフォルトで Responses API を使用します(/openai/v1/responses)。
  • /anthropic — ネイティブの Anthropic Messages(拡張思考、プロンプトキャッシュ)。これを Anthropic SDK のベース URL として指定すると、SDK が /v1/messages を追加します。そのため、リクエストの完全なパスは /anthropic/v1/messages です。
  • /gemini — ネイティブの Gemini generateContent。これを google-genai のベース URL として指定すると、SDK が /v1beta/models/<model>:generateContent を追加します。そのため、リクエストの完全なパスは /gemini/v1beta/models/<model>:generateContent です。

つまり、${NEON_AI_GATEWAY_BASE_URL}/v1 は Chat Completions エンドポイント、${NEON_AI_GATEWAY_BASE_URL}/openai/v1 は OpenAI Responses エンドポイントです(どちらも自分で追加します)。ネイティブの Anthropic および Gemini の方言では、SDK に短い方の /anthropic または /gemini ベース URL を渡すと、残りが追加されます。詳しくは、以下の通常の SDK での使用方法を参照してください。

注入された認証情報に対して、型付きで検証済みのアクセスを行うには、同じ neon.ts 設定オブジェクトを @neon/env の parseEnv に渡してください。設定から派生した env.aiGateway 名前空間(apiKey、baseUrl)が返されます。

Vercel AI SDK でエージェントを構築する(推奨)

Vercel AI SDK は、TypeScript からゲートウェイを呼び出してエージェントを構築するための推奨方法です。カタログ内のすべてのモデルで使える一連のプリミティブ(generateText、streamText、ツール呼び出し、構造化出力)を備え、Neon Functions がホストするように設計された長時間のエージェント応答に対応する、ファーストクラスのストリーミングを提供します。

専用の @neon/ai-sdk-provider は、注入された環境変数から NEON_AI_GATEWAY_BASE_URL と NEON_AI_GATEWAY_TOKEN を読み込み、設定なしで各モデルを最適なエンドポイントにルーティングします(Anthropic → Messages、OpenAI/Codex → Responses、それ以外 → MLflow)。テキストをストリーミングし、画像を生成する Neon Function では、画像ツールが Responses ルートで実行されるため、OpenAI カタログモデルを選択してください。

import { neon } from "@neon/ai-sdk-provider";
import { streamText } from "ai";

const result = streamText({
  model: neon("gpt-5-mini"),
  messages,
  tools: {
    image_generation: neon.tools.imageGeneration({
      model: "gpt-image-2",
      outputFormat: "jpeg",
      size: "1024x1024",
    }),
  },
});
return result.toUIMessageStreamResponse();

単一の補完には、同じプロバイダーで generateText を使います。

import { neon } from "@neon/ai-sdk-provider";
import { generateText } from "ai";

const { text } = await generateText({
  model: neon("claude-haiku-4-5"), // or gpt-5-3-codex, gemini-3-flash, ...
  prompt: "Summarize Postgres for me.",
});

裸の @ai-sdk/openai の openai() よりも @neon/ai-sdk-provider を優先してください。Neon が注入するのは NEON_AI_GATEWAY_* のみで、OPENAI_* は注入されないため、openai() は環境変数からゲートウェイを自動的に取得できません。@ai-sdk/openai を使う場合は、createOpenAI({ apiKey: process.env.NEON_AI_GATEWAY_TOKEN, baseURL: ${process.env.NEON_AI_GATEWAY_BASE_URL}/openai/v1 }) を使って明示的に設定してください。

エージェント(ツールをループ内で呼び出してから回答するモデル)を構築するには、tools と stopWhen の予算を追加します。ループはプロセス内で実行されるため、Neon Function では Lambda 形式のタイムアウトで中断されません。

import { neon } from "@neon/ai-sdk-provider";
import { generateText, tool, stepCountIs } from "ai";
import { z } from "zod";

const { text } = await generateText({
  model: neon("claude-sonnet-4-6"),
  prompt: "How many open todos do I have, and what's the oldest one?",
  tools: {
    listTodos: tool({
      description: "List the user's open todos.",
      inputSchema: z.object({}), // AI SDK v5+: `inputSchema`, not `parameters`
      execute: async () => db.select().from(todos),
    }),
  },
  stopWhen: stepCountIs(5), // let the model call tools, then summarize
});

ストリーミング、ツール呼び出し、画像生成、永続化に対応する、Neon Function としてデプロイされた完全な AI SDK エージェントについては、neon-functions スキルの references/ai-sdk.md を参照してください。

画像を生成する

画像は、OpenAI モデル上で /openai/v1/responses ルートを使い、OpenAI Responses の組み込みツール image_generation から生成します。ゲートウェイには画像モデルのエンドポイントがないため、AI SDK の generateImage() は NoSuchModelError をスローします。すべての画像リクエストで、次の 2 つのルールに従ってください。

  • サポート対象の画像モデルを使用してください。 ゲートウェイは gpt-image-2、gpt-image-1.5、gpt-image-1-mini をサポートしています。すべてのツール定義で model を明示的に設定し、ユーザーから別のモデルを指定されない限り gpt-image-2 を使用してください。
  • 必ずストリーミングしてください。 画像が 655,360 バイトを超える非ストリーミング応答は、400: The response content length cannot be greater than 655360 bytes long というエラーになります。ほとんどの画像はこのサイズを超えます。画像ツールを付ける場合は generateText ではなく、streamText を使用してください。素の OpenAI SDK では、client.responses.create() に stream: true を渡してください。
import { neon } from "@neon/ai-sdk-provider";
import { streamText } from "ai";

const result = streamText({
  model: neon("gpt-5-mini"),
  prompt: "Generate an image of a red apple on a wooden table",
  tools: {
    image_generation: neon.tools.imageGeneration({ model: "gpt-image-2" }),
  },
});

for await (const part of result.fullStream) {
  if (
    part.type === "tool-result" &&
    !part.dynamic &&
    "result" in part.output &&
    typeof part.output.result === "string"
  ) {
    const png = Buffer.from(part.output.result, "base64"); // save or upload it
  }
}

AI SDK で埋め込みを生成する

埋め込み呼び出しには、@neon/ai-sdk-provider 1.0.0 以降と AI SDK 6 以降を使用してください。neon.embeddingModel() は言語モデルと同じ注入済みゲートウェイ変数を読み込みます。

import { neon } from "@neon/ai-sdk-provider";
import { embed, embedMany } from "ai";

const model = neon.embeddingModel("qwen3-embedding-0-6b");
const providerOptions = { neon: { dimensions: 1024 } };
const { embeddings } = await embedMany({
  model,
  values: documentBodies, // unprefixed document text
  providerOptions,
  maxParallelCalls: 1,
});
const { embedding } = await embed({
  model,
  value: `Instruct: Given a question about Neon, retrieve documentation passages that answer the question\nQuery: ${queryText}`,
  providerOptions,
});

クエリの指示は Qwen3 と Neon ドキュメント検索に特化しています。コーパスに合わせて調整してください。ドキュメントにはプレフィックスを付けません。ドキュメントとクエリには同じモデルと次元数を使用し、BM25 用には元のクエリテキストを保持してください。スキーマ、ストレージ、バッチ制限、OpenAI SDK を使う代替方法については、neon-postgres スキルの ベクトル検索ガイド を参照してください。

Mastra でエージェントを構築する(推奨)

Mastra は、組み込みのメモリ、ツール、ワークフロー、トレースを備えた、必要な機能が揃ったエージェントを作りたい場合に推奨されるフレームワークです。モデルの接続先は引き続きゲートウェイです。@mastra/core 1.47 以降では、neon/<model> 形式のマジック文字列を使用してください。aiGateway が有効な場合、Mastra は環境変数から NEON_AI_GATEWAY_BASE_URL と NEON_AI_GATEWAY_TOKEN を読み込みます(neon deploy によって注入されます)。parseEnv は、ほかに宣言したサービス(例:@mastra/pg のメモリ用の env.postgres.databaseUrl)にのみ使用してください。

import { Agent } from "@mastra/core/agent";
import { parseEnv } from "@neon/env";
import config from "../neon";

const env = parseEnv(config);

export const personalAssistant = new Agent({
  id: "personal-assistant",
  name: "personal-assistant",
  instructions:
    "You are a warm, concise personal assistant with long-term memory.",
  model: "neon/claude-haiku-4-5",
  memory, // your Mastra memory store, e.g. @mastra/pg on env.postgres.databaseUrl
});

プレーンな SDK での使用(低レベル)

エージェントフレームワークが不要な場合(単一の補完、既存のプロバイダー SDK 統合、またはプロバイダーのネイティブ機能を使う場合)は、プレーンな SDK からゲートウェイを呼び出してください。Neon は OPENAI_* ではなく NEON_AI_GATEWAY_* 変数を注入するため、クライアントの apiKey と baseURL にはこれらの値を設定します。OpenAI Responses 形式(/openai/v1)の場合:

import OpenAI from "openai";

const client = new OpenAI({
  apiKey: process.env.NEON_AI_GATEWAY_TOKEN,
  baseURL: `${process.env.NEON_AI_GATEWAY_BASE_URL}/openai/v1`,
});

const res = await client.responses.create({
  model: "gpt-5-mini", // swap to claude-sonnet-4-6, gemini-3-flash, ...
  input: "What is Neon?",
});

統一された chat-completions 形式の場合は、代わりに baseURL を /v1 に設定してください。

const client = new OpenAI({
  apiKey: process.env.NEON_AI_GATEWAY_TOKEN,
  baseURL: `${process.env.NEON_AI_GATEWAY_BASE_URL}/v1`,
});

const res = await client.chat.completions.create({
  model: "claude-sonnet-4-6",
  messages: [{ role: "user", content: "What is Neon?" }],
});

Anthropic SDK と google-genai も、プロバイダーのネイティブ機能では同じように使用できます。Anthropic SDK の接続先を ${NEON_AI_GATEWAY_BASE_URL}/anthropic に設定すると(SDK が /v1/messages を自動で追加します)、google-genai の接続先は ${NEON_AI_GATEWAY_BASE_URL}/gemini に設定します(/v1beta/models/... を自動で追加します)。

モデル識別子

モデルのカタログ ID をそのまま model フィールドで使用してください(例:claude-sonnet-4-6、gpt-5-mini、gemini-3-flash)。プロバイダーのプレフィックスは不要です。ゲートウェイが提供する正確な識別子、それぞれが対応する基盤モデル、コンテキストウィンドウ、料金、機能を確認するには、次のいずれかを利用してください。

  • models.dev の Neon プロバイダーページ:https://models.dev/providers/neon — Neon プロバイダーのモデル ID と、それぞれに対応する基盤モデルを掲載した、常に最新の正式な一覧です。機械可読なカタログは https://models.dev/api.json にあります(neon キー)。
  • Models ドキュメント:「関連情報」を参照してください。

実行時に利用可能なモデルを一覧表示する(/v1/models)

ゲートウェイは、モデルカタログを独自のブランチエンドポイントからリアルタイムで提供します。これにより、アプリやエージェントは一覧をハードコードせずに、そのブランチが提供するモデルを正確に検出できます。これは OpenAI 互換の一覧エンドポイントで、統一形式(/v1)でのみ提供されます。

curl "$NEON_AI_GATEWAY_BASE_URL/v1/models" \
  -H "Authorization: Bearer $NEON_AI_GATEWAY_TOKEN"
  • GET ${NEON_AI_GATEWAY_BASE_URL}/v1/models → 200
  • GET ${NEON_AI_GATEWAY_BASE_URL}/openai/v1/models → 404(Responses 形式では提供されません。/v1 を使用してください)

リクエストの認証情報を取得する。 どちらの値も、他のすべての箇所でゲートウェイが使用する、同じブランチスコープの Neon 認証情報から取得します。プロバイダーキーを管理する必要はありません。

  • neon.ts でプロビジョニングする(推奨)。 neon.ts で aiGateway を有効にし、neon deploy(または neon config apply)を実行します。プロビジョニング、neon link、および neon checkout により、NEON_AI_GATEWAY_TOKEN と NEON_AI_GATEWAY_BASE_URL がローカルの .env.local に取り込まれます。デプロイ済みの Neon Function 内では自動的に注入されます。上記のセットアップと環境変数を参照してください。
  • CLI で環境に取り込む。 neon env pull は 2 つの変数を .env/.env.local に書き込みます。または、neon-env run -- <cmd> を使うとファイルを作成せずに実行時に注入できます。ただし、neon.ts で aiGateway が宣言されている場合に限ります。ブランチの状態だけから変数が取り込まれることはありません。
  • コンソール UI でプロビジョニングする。 Neon Console でブランチの AI Gateway を有効にし、プロジェクトの接続/認証情報ビューから、ブランチのゲートウェイベース URL と Neon 認証情報(トークン)をコピーします。

ブランチで有効な Neon 認証情報(nt_live_...)であれば、どれでもベアラートークンとして使用できます。NEON_AI_GATEWAY_BASE_URL はブランチのホスト部分のみです(パスは含みません)。

レスポンス形式 — OpenAI/OpenRouter 互換の一覧:

{
  "object": "list",
  "data": [
    {
      "id": "claude-sonnet-4-6",              // catalog model ID — use directly in the `model` field
      "canonical_slug": "claude-sonnet-4-6",
      "name": "Claude Sonnet 4.6",            // human-readable display name
      "object": "model",
      "owned_by": "anthropic",                // provider slug, e.g. anthropic | openai | google | meta | alibaba | databricks | ... (non-exhaustive; read live)
      "created": 0,
      "enabled": true,
      "context_length": null,
      "architecture": {
        "modality": "text->text",
        "input_modalities": ["text"],
        "output_modalities": ["text"],
        "tokenizer": "Claude",                // Claude | Gemini | GPT | "" (empty for open-source)
        "instruct_type": null
      },
      "top_provider": {
        "is_moderated": false,
        "context_length": null,
        "max_completion_tokens": null
      },
      "pricing": null,
      "per_request_limits": null
    }
    // ... one entry per model in the branch's catalog
  ]
}

注:すべてのエントリで、現在 context_length、pricing、per_request_limits は null、created は 0 です。コンテキストウィンドウ、料金、機能については、上記の models.dev カタログを使用してください。提供可能なモデル ID のブランチスコープのリアルタイム一覧が必要な場合(例:モデル選択メニューの表示や、リクエスト前の model の検証)は /v1/models を使用し、enabled: true のエントリのみを残してください。

Neon ドキュメント

Neon のドキュメントが信頼できる唯一の情報源であり、AI Gateway は急速に進化しているため、必ず公式ドキュメントで確認してください。URL に .md を追加するか、Accept: text/markdown をリクエストすると、どのドキュメントページも Markdown として取得できます。ドキュメントの索引(https://neon.com/docs/llms.txt)と変更履歴のお知らせから、目的のページを探してください。

Further Reading

コメント