مدلهای هوش مصنوعی محلی معمولاً برای اجرا به حافظه گرافیکی زیادی نیاز دارند و همین موضوع باعث میشود کاربران دارای کارت گرافیک با ۸ گیگابایت VRAM نتوانند بسیاری از مدلهای بزرگ را بهراحتی اجرا کنند. با این حال، مدل Bonsai 27B با فشردهسازی بسیار شدید وزنها تلاش میکند قابلیتهای یک مدل ۲۷ میلیارد پارامتری را به سختافزاری با حافظه محدود بیاورد. نسخهای از این مدل با فایل حدود ۴٫۴ گیگابایتی عرضه شده که حتی فایلهای مربوط به پردازش تصویر را نیز در خود دارد!
این مدل بر پایه Qwen3.6 27B ساخته شده و برای اجرای محلی طراحی شده است؛ بنابراین برای استفاده از آن لزوماً به سرویس ابری نیاز ندارید. البته حجم کم فایل به این معنی نیست که تمام قابلیتهای مدل بدون محدودیت اجرا میشوند. مقدار حافظه موردنیاز به طول گفتگو، تنظیمات و برنامه اجراکننده بستگی دارد و فشردهسازی نیز میتواند دقت بعضی وظایف را کاهش دهد.