What is Modal?
Modal 提供三大核心原语：Functions 实现任意代码的无服务器并行计算；Sandboxes 为代理类长时任务（如 RL rollout、交互式编码）提供安全、可扩展的运行环境；Servers 支持低延迟大语言模型推理。配套 CDN 式分布式文件系统，可全带宽加载模型权重与数据集；自研容器运行时专为大镜像与 GPU 调度优化。
Key features
支持 OpenAI 兼容接口的推理端点，开箱即用高性能，可部署优化模型、按流量特征调优端点、接入完整自定义推理栈
提供 Modal Dojo 库，内置强化学习训练所需构建模块、预调优默认配置与可观测性工具，加速 LLM 生产级训练落地
Use cases and audience
面向开发、训练与部署AI应用的工程团队，包括AI平台工程师、机器学习研究员及AI智能体开发者
- 构建和扩展AI推理应用，支持自定义模型栈与流量调优
- 大规模强化学习与微调训练，从单卡微调到多节点分布式训练
- 为AI智能体（如编码代理、RL rollout）创建安全、可扩展的沙盒环境
用户提供的AI模型权重、训练代码（支持RL、SFT、LoRA等）、推理服务逻辑、沙盒运行脚本及容器镜像
可伸缩的HTTPS推理端点、分布式训练任务结果、百万级并发AI沙盒实例、批量异步计算输出
Frequently asked questions
Modal是否支持OpenAI兼容的推理端点？
支持。Modal提供OpenAI兼容的端点，开箱即用，具备高性能推理能力。
能否按需获取GPU资源而无需配额申请？
可以。Modal提供‘任意GPU，随时可用’能力，数秒内即可获取所需GPU资源，无需配额请求或长期预约。
How to use
- 01
注册Modal账户并创建项目
- 02
使用Modal SDK定义函数、沙盒或推理服务
- 03
部署代码至Modal云基础设施
- 04
通过HTTPS端点或SDK调用运行服务
Pricing and availability
按实际运行时长计费：GPU按秒计费，CPU与内存采用主动资源定价（active-resource pricing），支持基线预留与峰值突发；仅在代码运行时计费，空闲时费用为零。
- Pricing source
- https://modal.com/
- Pricing last updated
- 2026-10-30
Prices and limits may change. Check the official website for current terms.
Official website & sources
Updated on 2026-10-30
