AI

AI

ほかの Nasdanika 機能の上で動作する人工知能関連の機能です。 具体的には、相互につながったモデルのコレクションであるリソースセットの上で動作します。 モデルとリソースセットにより、AI コンポーネントを低レベルの実装詳細から抽象化できます。

モデル要素とその関係をさまざまな方法で説明する「ナレーター」プロセッサーです。 たとえば、サンプルの家族 では、派生した関係と能力ベースの推論を備えたモデルを使って、次のように説明できます。

• Paul は Lea の親です
• Paul は Lea の父親です
• Lea は Paul の子です
• Lea は Paul の娘です
• Elias は Lea のきょうだいです
• Elias は Lea の兄弟です
• ...

また、EObject -> EClass の関係を使って、Lea が女性であると説明し、メタモデルにある女性の定義を提示できます。

このテキストを Lea の説明に追加できます。その後、生成されたテキストをチャンクに分割し、埋め込みを生成して、 ベクトルストアに追加できます。 これは、意味的な距離だけでなくグラフ上の距離も考慮するセマンティック検索や RAG に利用できます。

たとえば、Dave のコンテキストでの質問やチャットでは、Elias からの意味的な一致が Paul からの一致よりも 高い重み、つまり小さい距離になります。

主なコンポーネント：

• 埋め込み — OpenAI と Ollams のもの
• ベクトルストア — https://github.com/jelmerk/hnswlib。ローカルコンピューターでの観察結果：
  • 事前にダウンロードした https://dl.fbaipublicfiles.com/fasttext/vectors-crawl/cc.en.300.vec.gz から 200K 個のベクトルを読み込むのに約 10 分
  • インデックスファイルは約 2.5 Gb
  • ファイルからインデックスを読み込むのに約 90 秒
• チャット補完
• CLI
  • ベクトルストアのミックスイン
  • search-documents.json 用の埋め込み生成ツール
  • 埋め込みの有無を指定できる、search-documents.json からのベクトルストア生成ツール。新規作成、または既存のものへの追加／更新
  • セマンティック検索 HTTP サーバーのルート
  • チャット用 Vuejs コンポーネント — https://medium.com/@alen.ajam/building-a-simple-chat-app-with-vue-js-462c4a53c6ad を応用
  • サイトとのチャット — 静的サイトとセマンティック検索コマンドの両方を提供し、OpenAI と Ollama を利用。GCP VM 上の Docker。
  • モデルとのチャット

今後、Invocation フローに基づくエージェントも検討します。