#gemma 2

다음 AI 앱 만들기 전에 로컬 AI 모르면 손해다 Kim Jongwook · 2026-05-03 핵심 요약 로컬 AI는 스마트폰에서 오프라인 실행되는 언어 모델이다. 모든 대화가 기기 안에서만 처리되어 프라이버시가 보장된다. Termux와 llama.cpp로 안드로이드에 쉽게 구축할 수 있다. Gemma 2와 Qwen이 스마트폰용 추천 오픈소스 모델이다. 강력한 만큼 법·윤리 기준을 지키며 사용해야 한다. Table of Contents 다음 AI 앱 만들기 전에 로컬 AI 모르면 손해다 핵심 요약 로컬 AI, 스마트폰에서 돌아가는 언어 모델 로컬 AI란 무엇인가: 스마트폰 안에서만 도는 언어 모델 이런 분께 특히 도움이 됩니다 먼저 핵심만 알고 싶다면 이 섹션 핵심만 빠르게 정리하면? 빅테크…

左はRTX A4000搭載のCore i5 13500でGemma 2 9Bモデルを使用、右はCore i5 13400でGemma2 9Bの4bit量子化モデルを使用。 GPU有りの場合が16秒、GPU無しの場合が1分30秒かかりました。 どちらもOllamaサーバーをモデルプロバイダーとし、Difyでチャットボットを作成して実行しています。i5 13500と13400という違いがあるので完全に同じ条件での比較ではありませんが、概ねこんな速度さだと思います。

It’d be hilarious if they ended up with drastically different results

Google has introduced the Gemma 2 AI model, available in 9 billion (9B) and 27 billion (27B) parameter versions. This new model surpasses the previous generation in performance and efficiency while enhancing security features. The 27B model offers performance comparable to mainstream models twice its size and can operate efficiently on a single Nvidia H100 Tensor Core GPU or TPU host,…