환경설정
-
[Ollama] 모델 저장위치 변경하기Data & ML & AI/LLM 2024. 7. 26. 19:36
Ollama는 기본적으로 시스템 기본 위치에 설치되고 돌아갑니다.윈도우라면 C드라이브, 리눅스라면 usr 밑에 깔립니다. 그런데 이런 위치에 모델을 깔기엔, 모델의 용량이 너무 무겁습니다.(24년 7월 기준) llama3.1:8b = 4.7GB llama3.1:70b = 40GB llama3.1:405b = 231GB Ollama작동위치와 모델의 설치위치를 D드라이브나 기타 Block으로 변경해봅시다. 1. Ollama 설치 (기존과 동일)curl -fsSL https://ollama.com/install.sh | sh 2. 모델위치 환경설정 (기존엔 없었음)# Environment="OLLAMA_MODELS=/folder/ollama/models"Environment="OLLAMA_MODELS=/h..