GPU 없이도 로컬에서 올인원 AI 구동: OpenAI 호환 오픈소스 런타임 'LocalAI'
API 비용과 데이터 클라우드 전송 걱정 없이 LLM, 음성, 비전, 에이전트를 로컬에서 구동하는 LocalAI. OpenAI·Anthropic 규격 호환 엔드포인트, llama.cpp·vLLM·MLX 스왑형 백엔드, WebUI 및 CPU 지원 기능을 정리합니다.
#SelfHosting
TAU HOME에서 SelfHosting 태그로 묶인 글입니다.
독립된 브라우저와 컴퓨터를 갖춘 오픈소스 AI 동료: CopilotKit 'OpenBot'
각 에이전트마다 전용 브라우저와 파일 환경을 격리 부여하고 사람의 실시간 관전 및 제어권 개입을 지원하는 오픈소스 AI 코워커 플랫폼 OpenBot. Docker Compose 기반 자체 인프라 구동과 AG-UI 프로토콜 연동 핵심을 정리합니다.