구글, 플러터 기반 온디바이스 회의 어시스턴트 'AI Edge Foresight' Mac 앱 출시

구글 AI Edge 팀이 2026년 10월, 클라우드 서버와의 데이터 송수신 없이 사용자 Mac 내부에서 회의 음성 맥락 기반의 실시간 메모 구조화와 멀티모달 지식 검색을 완결하는 온디바이스 회의 어시스턴트 애플리케이션 'Google AI Edge Foresight'를 공식 공개했습니다.

이미지 출처: Google

이번에 공개된 Foresight는 구글의 오픈 모델 제품군인 EmbeddingGemma 2와 Gemma 4를 기반으로 작동하며, 크로스플랫폼 프레임워크인 플러터(Flutter) 데스크톱 환경으로 설계되었습니다. 기업 회의와 개인 업무 환경에서 가장 민감한 자산인 음성 대화와 로컬 문서가 기기 외부로 유출되지 않도록 전 과정을 로컬 하드웨어에서 직접 연산하는 것이 핵심입니다.

플러터(Flutter) 데스크톱과 온디바이스 오디오 파이프라인 결합

Google AI Edge Foresight의 가장 두드러진 아키텍처 특징은 단일 플러터(Flutter) 코드베이스를 기반으로 고성능 데스크톱 앱과 로컬 AI 추론 엔진을 통합했다는 점입니다.

플러터 팀은 공식 채널을 통해 Foresight 출시를 축하하며, 플러터로 구축된 Foresight가 데스크톱 환경에서 EmbeddingGemma 2와 Gemma 4의 성능을 입증하는 대표적인 쇼케이스라고 소개했습니다.

• 완전 로컬 연산 및 제로 클라우드 전송: 마이크 오디오 및 시스템 사운드 입력을 클라우드로 스트리밍하지 않고 기기 내부에서 실시간으로 처리합니다. 대면 및 화상 회의뿐 아니라 오프라인 환경에서도 민감한 데이터의 유출 걱정 없이 동작합니다.
• 실시간 메모 구조화(Shorthand to Full Notes): 회의 도중 사용자가 대충 적어 내려간 축약형 불릿 포인트 메모를 감지하여, 회의 맥락과 결합된 정돈된 포맷의 회의록으로 자동 완성합니다.
• 실시간 음성 질의 감지: 대화 흐름 중 발생한 질문을 실시간으로 포착하고, 로컬 지식 베이스를 바탕으로 관련 답변과 레퍼런스를 화면에 즉각 제시합니다.

EmbeddingGemma 2와 Gemma 4 기반 멀티모달 로컬 RAG

Foresight의 두뇌 역할을 담당하는 핵심 기술은 구글이 이번에 선보인 차세대 온디바이스 임베딩 모델 'EmbeddingGemma 2'와 생성 모델 'Gemma 4'의 결합입니다.

EmbeddingGemma 2는 7억 4,000만(740M) 파라미터 규모로 구축된 경량 멀티모달 모델로, 아파치 2.0(Apache 2.0) 상용 허용 라이선스로 배포되었습니다. 텍스트뿐만 아니라 코드, 이미지, 비디오 프레임, 오디오 데이터를 단일 공유 임베딩 공간(shared embedding space)에서 통합 처리하도록 설계되었습니다.

• 공유 토크나이저 및 오디오 인코더: EmbeddingGemma 2는 Gemma 4 아키텍처를 기반으로 구축되어 Gemma 4와 텍스트 토크나이저 및 오디오 인코더를 직접 공유합니다. 덕분에 서로 다른 인코더 간 변환 오버헤드 없이 온디바이스 검색 증강 생성(RAG) 파이프라인을 초저지연으로 실행할 수 있습니다.
• 다차원 데이터 교차 검색: 음성 메모에서 언급된 특정 비디오 클립을 찾거나, 텍스트 검색어로 수 시간 분량의 로컬 오디오 녹음 데이터를 즉시 역추적하는 고난도 크로스모달 시맨틱 검색이 가능합니다.
• 로컬 문서 및 Google Drive 연동: 프로젝트 폴더, 참조 자료, 다이어그램, 캘린더 등 로컬 파일 및 Google Drive 문서를 온디바이스에서 벡터화하여, 외부 API 호출 없이도 개인화된 맥락 추론을 지원합니다.

온디바이스 데스크톱 어시스턴트의 가치와 하드웨어 고려사항

클라우드 SaaS 기반 회의 요약 봇들이 프라이버시 침해 우려와 지속적인 구독 요금 부담을 유발하는 상황에서, Google AI Edge Foresight는 로컬 하드웨어 자원을 극대화하는 대안적 모델을 제시합니다.

다만 완전한 로컬 환경에서 음성 스트리밍과 고밀도 멀티모달 추론을 동시에 유지하기 위해서는 일정 수준 이상의 하드웨어 사양이 요구됩니다.

• 초기 배포 플랫폼: 현재 Foresight는 애플 실리콘(Apple Silicon) 기반 macOS 환경을 타깃으로 한 Google AI Edge의 실험용 애플리케이션으로 우선 배포되었습니다.
• 컴퓨팅 리소스 점유: 온디바이스에서 구동되는 740M 파라미터 임베딩 엔진과 Gemma 4 모델을 위해 초기 모델 다운로드와 충분한 로컬 하드웨어 리소스가 요구됩니다. 소셜 미디어 상의 일부 개발자 의견에서는 고부하 멀티태스킹 환경에서 플러터의 임펠러(Impeller) 렌더링 레이어와 AI 추론 스레드 간의 자원 경합 및 프레임 유지가 실질적인 과제가 될 수 있다는 점을 지적하기도 했습니다.

구글은 향후 안드로이드 환경에서도 ML Kit과 NPU 하드웨어 가속을 통해 EmbeddingGemma 2를 시스템 서비스 형태로 제공하며, 온디바이스 AI 에지 생태계를 지속해서 확장할 계획입니다.

출처

• Google Developers Blog: Bring multimodal semantic search to the edge with EmbeddingGemma 2
• Google The Keyword: EmbeddingGemma 2 is a best-in-class open model for natively multimodal embeddings
• Flutter 공식 X (@FlutterDev): Google AI Edge Foresight Mac 출시 공지
• Google AI Edge 공식 포털: Google AI Edge Foresight for Mac