api聚合平台解决方案

  1. new-api
  2. lite-llm

2026年进入agent时代,需要源源不断的Token去喂agent,这就需要一些聚合平台将各家厂商的大模型聚合统一管理,防止主平台的token泄露,以及更加细化的管理,就需要这些聚合平台来统一管理模型

new-api

市面上大量的贩卖token的平台都基于new-api

go 编写的 转发

new-api-模型广场

lite-llm

lite-llm 是python编写的请求转发平台,类似转发请求,支持SSE和各种厂商的api风格

2026年3月份出现了重大的泄露危机

安全问题

github