Home

Jump to bottom

Heo, Sung edited this page Mar 22, 2025 · 14 revisions

OPENAI_API 대신 로컬 PC에서 비용 부담 없이 이용하는 방법

챗지 Release 0.11.1, LM Studio 0.2.16 버전을 기준으로 작성되었습니다.

[ChatGee] 설치 : https://github.com/woensug-choi/ChatGee/releases/tag/v0.11.1
[LM Studio] 설치 : https://lmstudio.ai/

LM Studio에서 Gemma, Mistral, Phi, Llama, llava, Solar 등 다양한 모델 검색하여 다운로드 및 사용 가능(단, GPU VRAM 용량에 따라 제한)

[Local Server] : Start Server

ChatGee-0.11.1/venv_chatgee/lib/python3.10/site-packages/openai/init.py 에서 OPENAI_API_BASE 주소 수정

[OPENAI_API_BASE] : api_base = os.environ.get("OPENAI_API_BASE", "https://api.openai.com/v1") ➡️ api_base = os.environ.get("OPENAI_API_BASE", "http://localhost:1234/v1")

[ChatGee]