AI 모델 뒤에 숨은 핵심 인프라: 깃허브 오픈소스 저장소 10선
초거대 AI 모델의 이면에서 대규모 서빙과 로컬 실행, 게이트웨이, 벡터 검색, 분산 오케스트레이션을 지탱하는 10대 핵심 오픈소스 인프라 저장소(vLLM, llama.cpp, SGLang, Ollama, LiteLLM, Milvus, Qdrant, TensorRT-LLM, Ray, K
TAU HOME에서 Ollama 태그로 묶인 글입니다.
초거대 AI 모델의 이면에서 대규모 서빙과 로컬 실행, 게이트웨이, 벡터 검색, 분산 오케스트레이션을 지탱하는 10대 핵심 오픈소스 인프라 저장소(vLLM, llama.cpp, SGLang, Ollama, LiteLLM, Milvus, Qdrant, TensorRT-LLM, Ray, K
Claude Code CLI의 API 트래픽을 DeepSeek, Kimi, NVIDIA NIM, 로컬 Ollama 등으로 리디렉션하여 유료 구독 없이 실행할 수 있도록 중계하는 오픈소스 도구 free-claude-code 핵심 및 특징 정리.
정부·군사용 수백만 달러 관제 대시보드를 오픈소스로 재구현한 World Monitor를 소개합니다. 500개 이상 글로벌 뉴스 실시간 요약, 56개 지도 레이어, 31개국 지정학적 스트레스 지수, Ollama 로컬 LLM 연동을 지원하는 올인원 3D 상황실 대시보드입니다.