مدل‌های هوش مصنوعی محلی معمولاً برای اجرا به حافظه گرافیکی زیادی نیاز دارند و همین موضوع باعث می‌شود کاربران دارای کارت گرافیک با ۸ گیگابایت VRAM نتوانند بسیاری از مدل‌های بزرگ را به‌راحتی اجرا کنند. با این حال، مدل Bonsai 27B با فشرده‌سازی بسیار شدید وزن‌ها تلاش می‌کند قابلیت‌های یک مدل ۲۷ میلیارد پارامتری را به سخت‌افزاری با حافظه محدود بیاورد. نسخه‌ای از این مدل با فایل حدود ۴٫۴ گیگابایتی عرضه شده که حتی فایل‌های مربوط به پردازش تصویر را نیز در خود دارد!

این مدل بر پایه Qwen3.6 27B ساخته شده و برای اجرای محلی طراحی شده است؛ بنابراین برای استفاده از آن لزوماً به سرویس ابری نیاز ندارید. البته حجم کم فایل به این معنی نیست که تمام قابلیت‌های مدل بدون محدودیت اجرا می‌شوند. مقدار حافظه موردنیاز به طول گفتگو، تنظیمات و برنامه اجراکننده بستگی دارد و فشرده‌سازی نیز می‌تواند دقت بعضی وظایف را کاهش دهد.

اگر بیشتر استفاده شما از یک سرویس هوش مصنوعی به نوشتن متن و خلاصه‌سازی و تحلیل فایل‌ها و داده‌ها و کمک در برنامه‌نویسی محدود می‌شود، اجرای Gemma 4 روی کامپیوتر می‌تواند گزینه جذابی برای کاهش هزینه اشتراک‌های ماهانه باشد. Gemma 4 یک خانواده از مدل‌های باز گوگل است که برای اجرای محلی روی سخت‌افزارهای مختلف طراحی شده و نسخه‌های کوچک‌تر آن حتی برای لپ‌تاپ و دستگاه‌های موبایل بهینه شده‌اند.

مزیت مهم اجرای محلی این است که برای استفاده معمول از مدل به حساب کاربری یا اتصال دائمی به سرویس ابری وابسته نیستید. همچنین فایل‌ها و اطلاعاتی که برای تحلیل در اختیار مدل قرار می‌دهید، می‌توانند روی همان دستگاه پردازش شوند. Gemma 4 از ورودی‌های متنی و تصویری پشتیبانی می‌کند و مدل‌های مختلفی با اندازه‌های متفاوت دارد.