قابلیت‌های هوش مصنوعی روی گوشی‌های جدید فقط به پردازش ابری وابسته نیستند و بخشی از مدل‌ها و داده‌های موردنیاز می‌توانند روی خود دستگاه ذخیره شوند. به همین دلیل در بعضی گوشی‌ها ممکن است سرویس‌های هوش مصنوعی چند گیگابایت از حافظه داخلی را مصرف کنند.

در آیفون‌های سازگار، Apple Intelligence از مدل‌ها و داده‌های محلی استفاده می‌کند و در اندروید نیز AICore وظیفه مدیریت مدل‌هایی مانند Gemini Nano را بر عهده دارد. گوگل تأیید می‌کند که AICore گاهی هنگام بروزرسانی مدل‌های هوش مصنوعی به‌طور موقت فضای بیشتری مصرف می‌کند و پس از پایدار شدن بروزرسانی، بخشی از این فضا به‌صورت خودکار آزاد می‌شود.