Ollama

Reddit 큐레이션 · Plugin

로컬 LLM 실행 사실상 표준. r/LocalLLaMA 추천 1순위.

LM Studio

Reddit 큐레이션 · Plugin

데스크톱 GUI 로컬 LLM 실행 도구. r/LocalLLaMA 인기.

llama.cpp

Reddit 큐레이션 · Plugin

GGML/GGUF 기반 C/C++ LLM 추론 엔진. Ollama·LM Studio 백엔드.

KoboldCpp

Reddit 큐레이션 · Plugin

llama.cpp 포크. 단일 실행파일 + 스토리텔링·롤플레이 UI.

text-generation-webui (oobabooga)

Reddit 큐레이션 · Plugin

로컬 LLM 풀기능 웹 UI. transformers·llama.cpp·ExLlamaV2 멀티 백엔드.

vLLM

Reddit 큐레이션 · Plugin

PagedAttention 기반 고성능 LLM 서빙 엔진.

llamafile

Reddit 큐레이션 · Plugin

실행파일 + 모델 가중치 단일 파일 LLM. Mozilla.