LMStudio LLM

LMStudio (opens in a new tab)는 HuggingFace에서 GGUF 모델을 다운로드하여 CPU 또는 GPU에서 실행할 수 있는 인기 있는 사용자 인터페이스, API 및 LLM 엔진입니다.

LMStudio는 먼저 다운로드하여 연결해야 하는 별도의 애플리케이션입니다.

LMStudio 연결

로컬에서 LMStudio를 실행할 때, 내장된 추론 서버를 먼저 실행하여 LMStudio에 연결해야 합니다.

설정에서 언제든지 다른 모델로 업데이트할 수 있습니다.