707d99d.js","832","static/chunks/832-433212fc0faa6b60.js","489","static/chunks/489-a5b84db177ed4a3f.js","430","static/chunks/app/%5Blocale%5D/w/%5Bkeyword%5D/page-7e0f5d54d5ece173.js"],"default"] 20:T761,

Ollama

개발사	Ollama
출시일	2023년
유형	로컬 LLM 실행 도구
라이선스	MIT
가격	무료 (오픈소스)
웹사이트	[https://ollama.com ollama.com]

'''Ollama'''(올라마)는 로컬 환경에서 [[대규모 언어 모델]]을 쉽게 실행할 수 있게 해주는 오픈소스 도구입니다. Docker처럼 간단한 명령어로 다양한 LLM을 다운로드하고 실행할 수 있습니다. == 개요 == Ollama는 2023년 출시되어 로컬 LLM 실행의 표준 도구로 자리잡았습니다. [[Llama]], [[Mistral]] 등 다양한 오픈소스 모델을 한 줄의 명령어로 실행할 수 있습니다. == 주요 기능 == === 간편한 설치 === 한 줄 명령어로 모델 다운로드 및 실행. === 다양한 모델 === * [[Llama]] 3 * [[Mistral]] * Gemma * Phi * CodeLlama === API 제공 === OpenAI 호환 API로 다른 앱과 연동. === 커스터마이징 === Modelfile로 모델 설정 커스터마이즈. == 사용 방법 == # ollama pull llama3 (모델 다운로드) # ollama run llama3 (모델 실행) # ollama serve (API 서버 시작) == 하드웨어 요구사항 == {| ! 모델 크기 !! RAM !! GPU VRAM |- | 7B || 8GB+ || 6GB+ |- | 13B || 16GB+ || 10GB+ |- | 70B || 64GB+ || 48GB+ |} == 통합 앱 == * Open WebUI * LM Studio * AnythingLLM * Continue (VS Code) == 관련 문서 == * [[Llama]] * [[Mistral]] * [[대규모 언어 모델]] [[분류:인공지능]] [[