AI NEWS.cc
ManagePrompt
ManagePrompt 是一款开源的本地大语言模型（LLM）调用调试工具，专为开发者设计，用于在开发阶段全面捕获、可视化和分析每一次 LLM API 调用的细节。
翻訳準備中のため原文を表示しています
ManagePrompt 是一款开源的本地大语言模型（LLM）调用调试工具，专为开发者设计，用于在开发阶段全面捕获、可视化和分析每一次 LLM API 调用的细节。它可记录请求与响应体、实时统计输入/输出/缓存读写 token 数量、基于 models.dev 定价数据自动估算调用成本，并测量延迟；所有数据通过 WebSocket 驱动的本地 Web UI 实时呈现，且每个项目目录自动生成独立 SQLite 数据库，零配置即用。支持 OpenAI、Anthropic、Google、Mistral 等任意 LLM API，集成仅需两行代码或一个 capture() 调用。
主な機能
完整捕获请求与响应体，并提供可视化调用流程图
实时追踪每次调用的输入 token、输出 token、缓存读取与写入 token
利用シーン
调试本地大语言模型（LLM）API调用，捕获请求与响应体、令牌用量、成本估算及延迟数据
可视化LLM调用链路与数据流，辅助开发过程中的问题定位
在项目级SQLite数据库中自动归档LLM调用记录，无需额外配置
使い方
运行命令 `manageprompt start` 启动本地Web UI服务
通过 `pnpm add manageprompt` 安装npm包
在代码中导入 `devToolsMiddleware` 并用 `wrapLanguageModel` 包裹模型实例，或使用 `capture()` 函数封装任意LLM API调用
支持OpenAI、Anthropic、Google、Mistral等所有主流LLM API
アクセスデータ
第三者の推計値です。月・デバイス・情報源を分けて表示します。
検証可能なアクセスデータはありません