Ollama LLM

Ollama (opens in a new tab)는 가장 인기 있는 LLM 채팅 모델의 양자화된 버전을 다운로드할 수 있는 인기 있는 오픈 소스 (opens in a new tab) 명령줄 도구 및 엔진입니다.

Ollama는 별도로 다운로드하여 연결해야 하는 애플리케이션입니다. Ollama는 CPU와 GPU 모두에서 LLM을 실행할 수 있습니다.

Ollama 연결

로컬에서 Ollama를 실행할 때 기본 설정을 사용할 경우 http://127.0.0.1:11434로 Ollama에 연결해야 합니다.

설정에서 언제든지 다른 모델로 업데이트할 수 있습니다.