我的收藏提交工具
AI TOOL

ManagePrompt

访问官网

ManagePrompt 是一款开源的本地大语言模型(LLM)调用调试工具,专为开发者设计,用于在开发阶段全面捕获、可视化和分析每一次 LLM API 调用的细节。

分类其他
认领工具对比工具反馈纠错—
SHARE / FOXAI

分享工具 · ManagePrompt

ManagePrompt 是什么?

ManagePrompt 是一款开源的本地大语言模型(LLM)调用调试工具,专为开发者设计,用于在开发阶段全面捕获、可视化和分析每一次 LLM API 调用的细节。它可记录请求与响应体、实时统计输入/输出/缓存读写 token 数量、基于 models.dev 定价数据自动估算调用成本,并测量延迟;所有数据通过 WebSocket 驱动的本地 Web UI 实时呈现,且每个项目目录自动生成独立 SQLite 数据库,零配置即用。支持 OpenAI、Anthropic、Google、Mistral 等任意 LLM API,集成仅需两行代码或一个 capture() 调用。

主要功能

  • 完整捕获请求与响应体,并提供可视化调用流程图

  • 实时追踪每次调用的输入 token、输出 token、缓存读取与写入 token

适用场景与人群

面向使用LLM API进行开发的工程师与AI应用开发者

  • 调试本地大语言模型(LLM)API调用,捕获请求与响应体、令牌用量、成本估算及延迟数据
  • 可视化LLM调用链路与数据流,辅助开发过程中的问题定位
  • 在项目级SQLite数据库中自动归档LLM调用记录,无需额外配置
输入

LLM API调用的输入参数,包括模型名称(如"gpt-4o-mini")、消息数组(messages)及底层调用函数

输出

请求与响应体、输入/输出/缓存读写令牌数、实时成本估算、调用延迟、可视化数据流图

常见问题

是否支持流式(streaming)LLM调用?

支持。自动捕获流式与非流式调用

是否需要全局配置或中心化服务?

不需要。每个项目目录自动生成独立SQLite数据库,零配置

也可以看看

查看全部

生成式人工智能模型、工具、提示工程、指南和教程的资源中心。

查看详情

AI驱动的MIDI VST/AU插件,用于通过自然语言生成和转录音乐。

查看详情