关于 firecrawl-knowledge-ingest
firecrawl-knowledge-ingest 是用于从文档门户提取内容的技能,适用于需要浏览器导航、身份验证、分页或 JavaScript 渲染的页面。它提取文章正文和元数据,跟踪进度与失败情况,并可输出结构化 JSON 或 Markdown。
主要功能
- 01通过浏览器导航门户
- 02支持身份验证与分页
- 03以 Markdown 提取文章内容
- 04收集文章元数据
- 05跟踪进度与失败情况
- 06输出 JSON 或 Markdown
适用场景
- 01摄取文档门户内容
- 02提取需身份验证的页面
- 03收集分页中的文章
- 04保留代码示例和表格
安装
复制下面的命令,在终端中运行。
$
npx skills add https:/ / github.com/ firecrawl/ firecrawl-workflows --skill firecrawl-knowledge-ingest安装后在 Claude Code 中输入/firecrawl-knowledge-ingest确认已加载。
详细介绍
Firecrawl 知识采集
当文档门户需要浏览器导航、身份验证、分页或 JS 渲染时使用。
接入访谈
根据上下文推断门户 URL、输出格式、身份验证需求和页面上限。如果门户明确,立即开始。
只有在受阻时才提出最多 1-3 个简短问题,例如门户 URL、是否需要身份验证,或所需的输出格式。
Firecrawl 采集计划
使用 Firecrawl 浏览器来:
- 打开门户并检查导航
- 确定各个版块、类别、侧边栏链接和文章 URL
- 跟随侧边栏导航、下一页链接、分页、加载更多控件或搜索
- 将文章内容抓取为 markdown
- 提取标题、版块、最后更新日期、作者和标签等元数据
尝试将 Firecrawl map 作为公开 URL 的补充,但对于受身份验证保护或大量使用 JS 的内容,请使用浏览器导航。
最终交付物
# Knowledge Ingest: [Portal]
## Summary
[Pages extracted, sections covered, limitations]
## Output
[JSON/markdown/merged file path or content]
## Sections
[Section names and article counts]
## Failed Or Restricted Pages
[Any access/loading issues]
## Sources
[URLs extracted]
## Rerun Inputs
workflow: firecrawl-knowledge-ingest
url: [portal url]
format: [json/markdown/merged]
max_pages: [number]
JSON 结构
使用 source、url、extractedAt、totalArticles 和 sections[],其中包含文章的 title、url、section、content 和 metadata。
质量标准
- 保留代码示例、表格和格式。
- 去除导航界面、页眉和页脚。
- 跟踪提取进度和页面失败情况。
- 遵守身份验证边界。
评论
支持 Markdown