Local AI LLM

LocalAI (opens in a new tab)는 HuggingFace에서 GGUF 모델을 다운로드하여 CPU 또는 GPU에서 실행할 수 있는 인기 있는 오픈 소스 (opens in a new tab) API 및 LLM 엔진입니다.

LocalAI는 LLM, 임베딩 모델 및 이미지 생성 모델을 모두 지원합니다.

Local AI 연결

LocalAI는 구성하고 실행해야 하는 Docker 컨테이너 이미지입니다.

설정에서 언제든지 다른 모델로 업데이트할 수 있습니다.