GitHub 上有越来越多项目在模型推理时提供 OpenAI API 格式兼容的接口。 或许,项目维护者,可以考虑打开 OpenAI Client 创建时的 API Base 自定义? https://github.com/openai/openai-python/blob/f1c7d714914e3321ca2e72839fe2d132a8646e7f/src/openai/__init__.py#L106 这样可以让更多的模型,无痛的支持进来。 相关 PR: - https://github.com/OpenBMB/AgentVerse/pull/108 - https://github.com/OpenBMB/AgentVerse/pull/111
GitHub 上有越来越多项目在模型推理时提供 OpenAI API 格式兼容的接口。
或许,项目维护者,可以考虑打开 OpenAI Client 创建时的 API Base 自定义? https://github.com/openai/openai-python/blob/f1c7d714914e3321ca2e72839fe2d132a8646e7f/src/openai/__init__.py#L106
这样可以让更多的模型,无痛的支持进来。
相关 PR: