llama-index
-
[Llama3] Ollama와 Llama-Index로 Llama3 쉽게 시작하기(ubuntu)Data & ML & AI/LLM 2024. 6. 29. 15:59
1. 사전 세팅1) Ollama 준비# ollama 설치curl -fsSL https://ollama.com/install.sh | sh# ollama app 실행ollama serve# 정상 작동여부 확인 (새 터미널에서)ollama run llama3모델을 처음 돌릴 때는 해당 모델 설치를 진행합니다.8B외, 타 모델을 돌리고 싶다면 ollama run llama3:70b와 같이 입력하면 됩니다. 2) llama-index 설치pip install llama-index 2. Llama3 사용하기Ollama app 실행상태(Ollama serve) 상태여야 합니다.1) 단순 1회성 대화from llama_index.llms.ollama import Ollamallm = Ollama(model="l..