Fireworks AI

Fireworks AI成立于2022年，总部位于美国加州帕洛阿尔托，是一家专注于高性能AI推理服务的创业公司。公司由前Meta/PyTorch团队的核心工程师创立，在模型推理优化、低延迟服务、高并发处理等方面拥有业界领先的技术能力，其推理平台的性能和稳定性在同类产品中首屈一指。Fireworks AI平台支持超过100个大模型（包括Llama、Mistral、Gemma、Phi等开源模型以及多个闭源模型）的一键部署和弹性推理服务。其自研的推理引擎采用了最先进的量化技术（INT4/INT8/AWQ/GPTQ）、连续批处理（Continuous Batching）、投机解码（Speculative Decoding）等优化技术，使得大模型的推理速度比传统方案快3-10倍，成本降低70%以上。Fireworks AI采用按实际tokens使用量计费的模式，无最低消费要求，且提供生成式AI应用的完整开发工具链（包括函数调用、RAG集成、模型微调等），是初创公司和独立开发者部署AI应用的首选推理平台。公司服务超过1万名开发者，每日处理超过1000亿tokens的推理请求。Fireworks AI已完成超过7000万美元融资，投资方包括Benchmark、Sequoia、Andreessen Horowitz等顶级风险投资机构。公司坚持「让AI推理更快、更便宜、更可靠」的使命，在推动AI应用的大规模商业化落地方面发挥着关键的基础设施支撑作用。