AI

AI

与基于其他 Nasdanika 功能运行的人工智能相关的内容。 具体而言，是基于资源集运行的——资源集是互相关联的模型集合。 模型和资源集可将 AI 组件与底层实现细节抽象隔离。

“叙述器”处理器可通过多种方式描述模型元素及其关系。 例如，在示例家庭 中，可使用包含派生关系和基于能力的推理的模型来解释：

• Paul 是 Lea 的父母
• Paul 是 Lea 的父亲
• Lea 是 Paul 的孩子
• Lea 是 Paul 的女儿
• Elias 是 Lea 的兄弟姐妹
• Elias 是 Lea 的兄弟
• ...

此外，还可以利用 EObject -> EClass 关系解释 Lea 是一位女性，然后给出元模型中对女性的定义。

这段文本可以添加到 Lea 的描述中。然后可以对生成的文本进行分块、生成嵌入，并添加到向量存储中。 这可用于语义搜索和 RAG，其中不仅考虑语义距离，还考虑图距离。

例如，在 Dave 的上下文中进行提问／聊天时，来自 Elias 的语义匹配项会比来自 Paul 的匹配项权重更高／距离更近。

关键组件：

• 嵌入 - 来自 OpenAI 和 Ollams
• 向量存储 - https://github.com/jelmerk/hnswlib。本地计算机上的观察结果：
  • 从之前下载的 https://dl.fbaipublicfiles.com/fasttext/vectors-crawl/cc.en.300.vec.gz 加载 200K 个向量约需 10 分钟
  • 索引文件约 2.5 Gb
  • 从文件加载索引约需 90 秒
• 聊天补全
• CLI
  • 向量存储混入
  • 为 search-documents.json 生成嵌入
  • 从 search-documents.json 生成向量存储，可包含或不包含嵌入。全新创建，或添加／更新现有内容
  • 语义搜索 HTTP Server 路由
  • 聊天 Vuejs 组件 - 改编自 https://medium.com/@alen.ajam/building-a-simple-chat-app-with-vue-js-462c4a53c6ad
  • 与网站聊天 - 同时提供静态网站和语义搜索命令，使用 OpenAI 和 Ollama。在 GCP VM 上运行 Docker。
  • 与模型聊天

之后或许可以基于 Invocation flow 构建 Agent。