mcpField
U
UI-TARS Desktop

UI-TARS Desktop

github.com/bytedance桌面应用39.4k3 周前更新

关于 UI-TARS Desktop

UI-TARS Desktop 是一款基于 UI-TARS 视觉语言模型的桌面 GUI Agent 应用,可通过自然语言控制计算机。它面向希望以对话方式自动操作桌面与浏览器的用户,并以本地处理为重点。

主要功能

  1. 01基于视觉语言模型的自然语言控制
  2. 02截图与视觉识别支持
  3. 03鼠标与键盘精确操作
  4. 04支持 Windows、macOS 与浏览器环境
  5. 05实时反馈与状态显示

适用场景

  1. 01通过自然语言让 Agent 操作本地应用,例如调整 VS Code 设置
  2. 02远程控制其他计算机或浏览器完成任务

详细介绍

Agent TARS 横幅

简介

English | 简体中文

README 配图

TARS* 是一个多模态 AI Agent 技术栈,目前包含两个项目:Agent TARS 和 UI-TARS-desktop:

Agent TARSUI-TARS-desktop
Agent TARS 是一个通用多模态 AI Agent 技术栈,可将 GUI Agent 和视觉能力带入终端、计算机、浏览器和产品中。

它主要提供 命令行和 Web UI,供用户使用。 它旨在通过前沿的多模态大模型,以及与各种真实世界 MCP 工具的无缝集成,提供更贴近人类完成任务方式的工作流。
UI-TARS Desktop 是一款桌面应用,基于 UI-TARS 模型提供原生 GUI Agent。

它主要提供 本地和 远程计算机操作器,以及浏览器操作器。

目录

新闻

  • [2025-11-05] 🎉 我们很高兴宣布 Agent TARS CLI v0.3.0 正式发布!此版本支持多个工具的流式输出(shell 命令、多文件结构化显示),并新增运行时设置,可查看工具调用和深度思考的耗时统计;还提供 Event Stream Viewer,用于追踪和调试数据流。此外,此版本独家支持 AIO agent Sandbox,作为隔离的一体化工具执行环境。
  • [2025-06-25] 我们发布了 Agent TARS Beta 和 Agent TARS CLI——Agent TARS Beta 介绍。这是一款多模态 AI Agent,旨在通过丰富的多模态能力(如 GUI Agent、视觉)以及与各种现实世界工具的无缝集成,探索一种更接近人类完成任务的工作方式。
  • [2025-06-12] - 🎁 我们很高兴宣布 UI-TARS Desktop v0.2.0 正式发布!本次更新带来了两个强大的新功能:Remote Computer Operator 和 Remote Browser Operator,两者均完全免费。无需配置,只需点击即可远程控制任意电脑或浏览器,体验更便捷、更智能的全新方式。
  • [2025-04-17] - 🎉 我们很高兴宣布全新 UI-TARS Desktop 应用 v0.1.0 正式发布,并带来重新设计的 Agent UI。该应用提升了使用电脑的体验,新增浏览器操作功能,并支持先进的 UI-TARS-1.5 模型,以提升性能并实现精准控制。
  • [2025-02-20] - 📦 推出了 UI TARS SDK,这是一款功能强大的跨平台工具包,可用于构建 GUI 自动化 Agent。
  • [2025-01-23] - 🚀 我们更新了中文版中的 云端部署 部分:GUI 模型部署教程,新增了与 ModelScope 平台相关的信息。现在可以使用 ModelScope 平台进行部署。

## Agent TARS

npm 版本 下载量 Node 版本 Discord 社区 官方 Twitter 飞书交流群 向 DeepWiki 提问

Agent TARS 是一个通用的多模态 AI Agent 技术栈,将 GUI Agent 和视觉能力带到你的终端、计算机、浏览器和产品中。

它主要提供 命令行和 Web UI 供用户使用。 它旨在通过前沿的多模态大模型,并与各种现实世界中的 MCP 工具无缝集成,提供一种更接近人类完成任务的工作流。

展示
Please help me book the earliest flight from San Jose to New York on September 1st and the last return flight on September 6th on Priceline

https://github.com/user-attachments/assets/772b0eef-aef7-4ab9-8cb0-9611820539d8


预订酒店使用额外的 MCP 服务生成图表
指令: 我 9 月 1 日至 9 月 6 日将在洛杉矶,预算为 5,000 美元。请帮我在 booking.com 上预订一家离机场最近的丽思卡尔顿酒店,并为我整理一份交通指南 指令: 为我绘制一张杭州一个月的天气图表

如需了解更多用例,请查看 #842。

核心功能
  • 🖱️ 开箱即用的一键式 CLI - 支持有头 Web UI 和无头 服务 运行。
  • 🌐 混合浏览器 Agent - 使用 GUI Agent、DOM 或混合策略控制浏览器。
  • 🔄 事件流 - 由协议驱动的事件流支持上下文工程和 Agent UI。
  • 🧰 MCP 集成 - 内核基于 MCP 构建,同时支持挂载 MCP 服务以连接现实世界中的工具。
快速入门
Agent TARS CLI
# Launch with `npx`.
npx @agent-tars/cli@latest

# Install globally, required Node.js >= 22
npm install @agent-tars/cli@latest -g

# Run with your preferred model provider
agent-tars --provider volcengine --model doubao-1-5-thinking-vision-pro-250428 --apiKey your-api-key
agent-tars --provider anthropic --model claude-3-7-sonnet-latest --apiKey your-api-key

请参阅完整的快速入门指南,了解详细的设置说明。

文档

🌟 探索 Agent TARS 宇宙 🌟

类别资源链接说明
🏠 中心枢纽 网站 通往 Agent TARS 生态系统的入口
📚 快速入门 快速入门 5 分钟从入门到精通
🚀 最新动态 博客 探索前沿功能与愿景
🛠️ 开发者专区 文档 掌握每条命令和各项功能
🎯 展示案例 示例 查看官方和社区构建的用例
🔧 参考资料 API 完整的技术参考



## UI-TARS Desktop

UI-TARS

UI-TARS Desktop 是一款用于本地计算机的原生图形界面 Agent,由 UI-TARS 和 Seed-1.5-VL/1.6 系列模型驱动。

   📑 论文    | 🤗 Hugging Face 模型   |   🫨 Discord   |   🤖 ModelScope  
🖥️ 桌面应用    |    👓 Midscene(在浏览器中使用)   

演示
指令本地操作远程操作
请帮我在 VS Code 设置中开启自动保存功能,并将 AutoSave 操作延迟 500 毫秒。
可以帮我查看 UI-TARS-Desktop 项目在 GitHub 上最新的未解决问题吗?
功能
  • 🤖 由视觉语言模型驱动的自然语言控制
  • 🖥️ 支持屏幕截图和视觉识别
  • 🎯 精准的鼠标和键盘控制
  • 💻 跨平台支持(Windows/MacOS/浏览器)
  • 🔄 实时反馈和状态显示
  • 🔐 私密且安全——完全在本地处理
快速开始

参见快速开始

贡献

参见 CONTRIBUTING.md。

许可证

本项目采用 Apache License 2.0 许可。

引用

如果您认为我们的论文和代码对您的研究有帮助,请考虑点亮星标 :star: 并引用 :pencil:

@article{qin2025ui,
  title={UI-TARS: Pioneering Automated GUI Interaction with Native Agents},
  author={Qin, Yujia and Ye, Yining and Fang, Junjie and Wang, Haoming and Liang, Shihao and Tian, Shizuo and Zhang, Junda and Li, Jiahao and Li, Yunxin and Huang, Shijue and others},
  journal={arXiv preprint arXiv:2501.12326},
  year={2025}
}

评论

支持 Markdown

第一次接触 MCP?

从协议是什么,到在客户端里装上第一个服务,这几条回答覆盖了大多数入门问题。

一个开放协议,规定了 AI 应用如何以统一方式连接外部工具与数据源。客户端负责与模型对话,MCP 服务负责提供工具、资源和提示模板,两者通过标准消息通信,同一个服务可以被不同客户端复用。