01 / OVERVIEW
What is ManagePrompt?
ManagePrompt 是一款开源的本地大语言模型（LLM）调用调试工具，专为开发者设计，用于在开发阶段全面捕获、可视化和分析每一次 LLM API 调用的细节。它可记录请求与响应体、实时统计输入/输出/缓存读写 token 数量、基于 models.dev 定价数据自动估算调用成本，并测量延迟；所有数据通过 WebSocket 驱动的本地 Web UI 实时呈现，且每个项目目录自动生成独立 SQLite 数据库，零配置即用。支持 OpenAI、Anthropic、Google、Mistral 等任意 LLM API，集成仅需两行代码或一个 capture() 调用。
02 / CAPABILITIES
Key features
完整捕获请求与响应体，并提供可视化调用流程图
实时追踪每次调用的输入 token、输出 token、缓存读取与写入 token
03 / AUDIENCE & USE CASES
Use cases and audience
面向使用LLM API进行开发的工程师与AI应用开发者
- 调试本地大语言模型（LLM）API调用，捕获请求与响应体、令牌用量、成本估算及延迟数据
- 可视化LLM调用链路与数据流，辅助开发过程中的问题定位
- 在项目级SQLite数据库中自动归档LLM调用记录，无需额外配置
Input
LLM API调用的输入参数，包括模型名称（如"gpt-4o-mini"）、消息数组（messages）及底层调用函数
Output
请求与响应体、输入/输出/缓存读写令牌数、实时成本估算、调用延迟、可视化数据流图
Frequently asked questions
是否支持流式（streaming）LLM调用？
支持。自动捕获流式与非流式调用
是否需要全局配置或中心化服务？
不需要。每个项目目录自动生成独立SQLite数据库，零配置
GETTING STARTED
How to use
- 01
运行命令 `manageprompt start` 启动本地Web UI服务
- 02
通过 `pnpm add manageprompt` 安装npm包
- 03
在代码中导入 `devToolsMiddleware` 并用 `wrapLanguageModel` 包裹模型实例，或使用 `capture()` 函数封装任意LLM API调用
- 04
支持OpenAI、Anthropic、Google、Mistral等所有主流LLM API
SOURCES
Official website & sources
Updated on 2026-10-31
RELATED COLLECTIONS
Related topics
NEWS REPORTS
