LM Studio 임베더
️⚠️
알림!
LMStudio의 추론 서버는 여러 개의 LLM 또는 단일 임베딩 모델만 로드할 수 있으며, 둘 다 동시에 사용할 수는 없습니다. 따라서 LMStudio는 LLM과 임베더를 동시에 수행할 수 없습니다.
LMStudio (opens in a new tab)는 CPU 또는 GPU에서 실행할 수 있는 HuggingFace의 LLM 및 임베딩 GGUF 모델을 지원합니다.
LMStudio는 별도의 애플리케이션으로 먼저 다운로드하여 연결해야 합니다.
LM Studio에 연결하기
LMStudio를 로컬에서 실행할 때, 먼저 내장된 추론 서버를 실행하여 LMStudio에 연결해야 합니다.
추론 서버를 시작하기 전에 임베딩 모델을 명시적으로 로드해야 합니다.
설정에서 언제든지 다른 모델로 업데이트할 수 있습니다.
