gpu-document-processing

GPU 文档处理技能

使用 GPU 加速工具处理大型文档和文档集合。本技能采用“沙箱即工具”模式：Agent 在 CPU 上进行推理，并将文档处理工作发送到配备 GPU 的环境中执行。

何时使用此技能

在以下情况下使用本技能：

• 处理大型 PDF 文件（50 页以上）
• 分析文档集合（10 个以上文件）
• 从非结构化文档中提取结构化数据
• 执行批量文本提取和分块
• 为大规模文档集生成嵌入向量
• 用户上传或引用大型文档进行分析

架构：沙箱即工具

本技能遵循 GPU 执行的沙箱即工具模式：

1. Agent 在 CPU 上推理：负责规划、综合和撰写报告
2. 处理任务发送至 GPU 沙箱：负责文档解析、嵌入和提取
3. 结果返回给 Agent：提供结构化输出以供进一步分析

这种分离确保：

• API 密钥保留在沙箱之外（安全性）
• Agent 状态独立于处理任务持久存在
• 可以跨文档并行处理
• 高性价比：GPU 仅在处理期间使用，推理期间不占用

功能

PDF 文本提取

提取 PDF 文档中的文本内容并保留版式：

• 分别识别标题、段落、列表和表格
• 保留页码和章节边界
• 处理多栏版式

表格数据提取

将文档中的表格提取为结构化格式：

• 使用 GPU 加速解析，将 PDF 表格转换为 CSV/DataFrame
• 自动检测列类型
• 处理合并单元格和多行表头

文档分块

将大型文档拆分为有意义的块以便分析：

• 语义分块（按主题/章节边界）
• 固定大小分块并带重叠，用于嵌入
• 可配置块大小（默认：512 个 token）

嵌入生成

为文档块生成向量嵌入：

• 使用 NVIDIA NeMo Retriever NIM 进行 GPU 加速嵌入
• 支持大规模文档集的批量处理
• 兼容主流向量存储（Milvus、ChromaDB）

工作流程

1. 从编排器接收文档引用
2. 确定处理类型（提取、分析、嵌入）
3. 发送至 GPU 沙箱进行处理
4. 收集结构化结果（文本、表格、嵌入）
5. 将发现写入 /shared/，供编排器综合

处理大型文档集合

处理多个文档时：

1. 以并行批次处理文档（3–5 个并发）
2. 首先提取关键元数据（标题、日期、作者、页数）
3. 生成每篇文档的摘要
4. 跨文档交叉比对发现
5. 撰写带有各文档引用的综合发现

输出格式

报告文档处理结果时：

• 包含文档元数据（文件名、页数、大小）
• 按章节/篇目组织提取的内容
• 将表格格式化为 Markdown 表格
• 为所有提取内容附上页码引用
• 注明任何提取质量问题（扫描图像、损坏页面）

与 NVIDIA NIM 集成

在生产部署中，GPU 文档处理可以利用：

• NVIDIA NeMo Retriever：GPU 加速的嵌入与检索
• NVIDIA RAPIDS cuDF：处理从提取表格中获得的表格数据
• NVIDIA Triton：用于文档分类模型的可扩展推理

有关可自托管部署选项，请参阅 NVIDIA 的 NIM 文档。