시스템 요구 사항 ~ TeamplGPT

시스템 요구 사항

TeamplGPT는 모든 면에서 완전히 사용자 정의할 수 있습니다.

이러한 사용자 정의 특성으로 인해 TeamplGPT를 실행하기 위한 정확한 요구 사항은 여러 요소에 따라 다릅니다. 아래 표를 사용하여 TeamplGPT를 실행하는 데 필요한 대략적인 아이디어를 얻을 수 있습니다.

TeamplGPT는 많은 외부 서비스를 래핑할 수 있어 매우 가볍게 작동할 수 있으며, 심지어 Raspberry Pi와 같은 작은 장치에서도 실행할 수 있습니다!

이것은 TeamplGPT를 실행하기 위한 최소값입니다. 이를 통해 일부 문서를 저장하고, 채팅을 보내며, TeamplGPT 기능을 사용할 수 있습니다.

이는 채팅 응답을 받는 방법입니다. OpenAI (opens in a new tab)와 같은 인기 있는 호스팅 솔루션은 거의 오버헤드 없이 최첨단 응답을 제공하는 경향이 있습니다. 그러나 클라우드 기반 LLM 제공자를 사용하려면 API 키가 필요합니다.

️💡

팁: TeamplGPT를 실행하는 장치에 GPU가 없는 경우 GPU가 있는 다른 장치에 로컬 LLM을 호스팅하세요. TeamplGPT는 API를 통해 어디에서나 실행 중인 LLM에 연결할 수 있습니다.

이것은 텍스트를 "임베드" 또는 벡터화하는 데 사용하는 모델입니다. 마찬가지로 TeamplGPT에 연결된 외부 서비스는 오버헤드 영향이 없습니다.

️💡

팁: TeamplGPT를 실행하는 장치에 GPU가 없는 경우 GPU가 있는 다른 장치에 로컬 임베더를 호스팅하세요. TeamplGPT는 API를 통해 제공자에 연결할 수 있습니다.

지원되는 모든 벡터 데이터베이스는 외부에서 호스팅되거나 최소 권장 설정에서 수억 개의 벡터로 확장할 수 있기 때문에 영향을 미치지 않습니다.

기본 LanceDB 벡터 데이터베이스는 어떤 작업도 처리할 수 있습니다.