mcpField
F
fandhe-ai

fandhe-ai

github.com/fandhe-aiDevelopment4132 installsUpdated 5d ago
Repository

About fandhe-ai

fandhe-ai is a Rust AI/ML library with its own tensor, autodiff, compute-kernel, and backend-abstraction core. It is for Rust developers building model, data, optimization, interoperability, and inference workflows; the supported public API is centered on the fandhe-ai crate.

Key features

  1. 01Custom tensor and autodiff core
  2. 02CPU, CUDA, and Metal backend abstraction
  3. 03Neural network and optimizer APIs
  4. 04Data loading and text vectorization
  5. 05ONNX and safetensors interoperability
  6. 06Autoregressive generation and batch scheduling

Use cases

  1. 01Build and train models in Rust projects
  2. 02Run tensor computations on different device backends
  3. 03Import ONNX models and run inference
  4. 04Implement local autoregressive text generation

Install

Copy the command and run it in a terminal.

$npx skills add https://github.com/fandhe-ai/agent-reference-skills --skill fandhe-ai

After installing, type/fandhe-aiin Claude Code to confirm it loaded.

Bundled files

References and scripts installed along with SKILL.md.

references/api/
autodiff-transforms.md
backend-tuning.md
compat-array.md
compat-callbacks.md
compat-functional.md
compat-metrics.md
compat-model-io.md
compat-sequential.md
compat-training.md
device-param-store.md
device.md
dtype.md
errors.md
gradients.md
linear-vars.md
random-creation.md
README.md
tape.md
tensor.md
var-elementwise.md
var-linalg.md
var-losses.md
var-nn-ops.md
var-reduction.md
var-shape-indexing.md
var-signal.md
var.md
references/data/
dataloader.md
dataset.md
iterable-prefetch.md

Details

From the project README

fandhe-ai

fandhe-ai は Rust 製 AI/ML ライブラリ。Burn / candle / tch などの既存フレームワークに依存せず、テンソル・autodiff・kernel fusion・計算カーネル・バックエンド抽象層を完全自作コアとして実装している。リポジトリ内の crates/*/Cargo.toml は 11 件（crates.io 公開 7 件 + 未公開 guardrail / self-repair / bench-harness / docs-site の 4 件）に分かれるが、利用者が直接触れるのは fandhe-ai クレート（リポジトリ内パスは crates/facade）のみで、公式ドキュメントは「fandhe-ai crate のみが supported public API surface、内部クレートの直接利用は非サポート」と明言している。

対象バージョン — fandhe-ai 0.11.0（crates.io 2026-10-09 公開、git タグ v0.11.0 = commit 6b14fdb）。公式の確定入口は 4 つ（tape() / tape_for、compat::{array, Sequential}、optim、DeviceParamStore）。facade の公開モジュールは compat / optim / data / nn / interop / model / inference / text。docs.rs のレンダリング済みページは 0.11.0 に pin。

注意 — guardrail は AI 生成 changeset を判定する CI 用 CLI（check / eval）であり、openai-agents / anthropic-prompt-eval / openai-evals-tuning が扱う LLM 出力の guardrail / eval とは別物。

他スキルとの使い分け — Device::Cuda / Device::Metal を含むバックエンド抽象は fandhe-ai 独自の Rust API であり、CUDA C++ / PTX / CUTLASS を調べる場合は nvidia-cuda、MSL / MPSGraph / MLX を調べる場合は apple-silicon、HIP / ROCm を調べる場合は amd-rocm を参照すること。Tensor / autodiff / tape も同様に fandhe-ai 独自の Rust API であり、apple-ml の MLMultiArray、apple-silicon（MLX）の mx.array とは別物。inference::generate / KvCache / speculative decoding は自作モデル上のローカル自己回帰生成ループであり、LLM API（openai-api-core / anthropic-api-core / hermes-agent）ではない。interop::onnx は自作インタープリタで、Windows ML（windows-ai）とは別物。optim / nn / data は apple-silicon の MLX（optimizers・nn Module）とは別物。スキル内の同名別物として compat::Sequential（Keras 風ビルダー）と nn::Sequential（PyTorch 風コンテナ）がある。fandhe-ai は fandhe-frontend（Rust 製フロントエンドフレームワーク）・fandhe-backend（Rust 製バックエンド HTTP サーバーフレームワーク）とは同じ Fandhe-AI org の別ライブラリで、API・対象領域とも無関係。

公式ドキュメント: https://fandhe-ai.github.io/fandhe-ai/ / リポジトリ: https://github.com/Fandhe-AI/fandhe-ai

ディレクトリ構成

skills/fandhe-ai/
  SKILL.md
  references/
    getting-started/
      README.md
      overview.md
      installation.md
      quick-start.md
      crate-layout.md
    guides/
      README.md
      backends.md
      numerical-parity.md
      performance.md
      interop.md
    api/
      README.md
      tape.md
      var.md
      tensor.md
      gradients.md
      linear-vars.md
      device.md
      errors.md
      compat-sequential.md
      compat-array.md
      var-elementwise.md
      var-reduction.md
      var-shape-indexing.md
      var-linalg.md
      var-nn-ops.md
      var-losses.md
      var-signal.md
      autodiff-transforms.md
      random-creation.md
      dtype.md
      device-param-store.md
      backend-tuning.md
      compat-training.md
      compat-callbacks.md
      compat-metrics.md
      compat-model-io.md
      compat-functional.md
    optim/
      README.md
      optimizers.md
      param-groups-state.md
      lr-schedulers.md
      grad-scaling-clipping.md
      ema-swa.md
    nn/
      README.md
      module.md
      containers.md
      forward-hooks.md
      init.md
      loss.md
      rnn.md
      transformer.md
      kv-cache.md
    data/
      README.md
      dataset.md
      dataloader.md
      samplers.md
      iterable-prefetch.md
      text-vectorization.md
    interop/
      README.md
      onnx.md
      safetensors.md
      npy.md
      model-registry.md
    inference/
      README.md
      generate.md
      speculative.md
      batch-scheduler.md
      predict-batches-phase-metrics.md
    internals/
      README.md
      tensor-core.md
      tensor-core-fusion.md
      autodiff.md
      backend-cpu.md
      backend-cuda.md
      backend-metal.md
      onnx-interop.md
      bench-harness.md
    tooling/
      README.md
      guardrail.md
      self-repair.md
      config.md
  samples/
    README.md
    getting-started.md
    array-shapes.md
    backend-switching.md
    training-loop.md
    inference.md
    gemm-bench.md
    compat-fit-callbacks.md
    dataloader.md
    text-vectorization.md
    safetensors-save-load.md
    hf-safetensors-sequential.md
    reference-models-training.md
    optimizer-and-scheduler.md
    generate-autoregressive.md
    generate-scheduler.md
    npy-npz-roundtrip.md
    onnx-external-data-limits.md
    reference-models.md
  scripts/
    README.md
    install.md
    dev.md
    cli.md

探索手順

タスクからカテゴリを引き、カテゴリの README.md で目的のページを特定する:

  1. 下記マッピング表でタスクに対応するカテゴリを探す（internals/* は公式が非サポートと明言する内部クレートのアーキテクチャ解説であり、通常の利用手順は api/ を参照する）
  2. そのカテゴリの references/{category}/README.md を参照して目的のページを特定する
  3. 該当ページの .md を Read して詳細を確認する

タスク → カテゴリ マッピング

タスクカテゴリ参照 README
fandhe-ai とは何か、11 クレート構成（公開 7 + 未公開 4）・設計思想、インストール手順、compat::array + compat::Sequential の最小例、公開/未公開クレート一覧と facade → fandhe-ai の対応を知りたいgetting-startedreferences/getting-started/README.md
cfg ベースのバックエンド切替と fail-fast 設計、バックエンド間の数値一致契約、kernel fusion を含む性能の考え方、ONNX / safetensors 相互運用の設計とサポート境界（利用は facade の interop から可能）を知りたいguidesreferences/guides/README.md
tape() / tape_for(Device) / Tape、Var、Tensor、Gradients、LinearVars、Device（Cpu / Cuda / Metal）、AutodiffError / BackendError、compat::Sequential / compat::array の型・API、Var のメソッド群（elementwise / reduction / shape・indexing / linalg / conv・pool・norm・attention / loss / FFT・STFT）、乱数・生成関数（manual_seed / randn）、高階微分・vmap・gradcheck（jacobian / hessian）、dtype・TapeF64、DeviceParamStore、CUDA / Metal 設定フラグ、compat の fit・callbacks・metrics・model io（save_model / load_model）・Functional API を知りたいapireferences/api/README.md
fandhe_ai::optim の optimizer（Sgd / Adam / AdamW ほか）、ParamGroup・state dict、LrScheduler、GradScaler・gradient clipping、EMA / SWA を知りたいoptimreferences/optim/README.md
nn::Module trait、nn::Sequential / ModuleList / ModuleDict、nn::loss、nn::init、RNN / LSTM / GRU、Transformer、KvCache、forward hooks を知りたいnnreferences/nn/README.md
Dataset / DataLoader / Sampler、IterableDataset・prefetch、text::TextVectorization を知りたいdatareferences/data/README.md
interop::onnx（OnnxModel の import / 推論 / export）、safetensors・.npy / .npz の読み書き、model::ModelRegistry を知りたいinteropreferences/interop/README.md
inference::generate（自己回帰生成）、speculative decoding、BatchScheduler、predict_batches と推論フェーズ計測を知りたいinferencereferences/inference/README.md
tensor-core（buffer/device/dispatch/memory_stats/pool/typed, BackendOps）や FusionPlan / FusedOpKind などの kernel fusion 表現、dynamic-tape autodiff の内部実装、CPU/CUDA/Metal 各バックエンドクレートの実装構造、公開済みの onnx-interop と未公開の bench-harness クレートの実装構造を知りたい（いずれも公式非サポートの内部 API）internalsreferences/internals/README.md
CI changeset 判定 CLI guardrail（check / eval）、self-repair（run / verify-log）、guardrail.toml / policy-exclusion.toml と判定/評価レポート JSON の形式を知りたいtoolingreferences/tooling/README.md
compat::array + compat::Sequential の最小推論、shape 確認、tape_for(Device) でのバックエンド明示指定とフォールバック、手動 SGD 学習ループ、fit + callbacks、DataLoader、TextVectorization、optimizer + LR スケジューラ、safetensors / npy・npz の保存と復元、ONNX external data、自己回帰生成と BatchScheduler・speculative、参照モデル（MLP / LeNet / ResNet / Transformer）、predict() と Tape + forward() の推論経路比較、Var::matmul（GEMM）の簡易ベンチなど典型的な使い方を知りたいsamplessamples/README.md
crate 導入コマンド（crates.io / Git / Path 依存）、サンプル実行・ビルド・テスト・静的検査、guardrail / self-repair バイナリのコマンドを知りたいscriptsscripts/README.md

Comments

Markdown supported