دانشمندان هوش مصنوعی اپل در یک مقاله علمی جدید منتشرشده در آرکایو اعلام کرده‌اند که تکنیکی پیشگامانه برای اجرای مدل‌های زبانی بزرگ (LLM) روی دستگاه‌هایی با حافظه محدود مانند آیفون را توسعه داده‌اند.
چت‌بات‌هایی همچون ChatGPT و برای عملکرد صحیح به حجم قابل‌توجه‌ی داده و حافظه‌ی رم (RAM) نیاز دارند، اما گوشی‌های هوشمند از ظرفیت رم محدودی برخوردارند که اجرای این مدل‌ها را چالش‌برانگیز می‌سازد.
پژوهشگران اپل برای حل این مشکل، روشی نوین پیشن‌هاد کرده‌اند که در آن داده‌های هوش مصنوعی مستقیما روی حافظه فلش ذخیره می‌شود، همان حافظه‌ای که برای نگهداری اپلیکیشن‌ها و تصاویر به کار می‌رود. به گفته آن‌ها، حافظه فلش در دستگاه‌های قابل‌حمل بسیار فرا‌گیر‌تر از رم است.
دو تکنیک کلیدی و
اپل با ترکیب دو روش نوین محدودیت‌های حافظه را دور می‌زند. روش اول با نام (پنجره‌سازی) به‌مانند یک فرآیند بازیافت عمل می‌کند؛ به‌جای بارگذاری داده‌های تازه در هر پردازش، مدل هوش مصنوعی بخشی از داده‌های قبلا پردازش‌شده را مجددا استفاده می‌کند. این کار نیاز مداوم به فرا‌خوانی حافظه را از بین برده و سرعت پردازش را به‌شدت افزایش می‌دهد.
روش دوم با نام (بسته‌بندی ردیف-ستون) داده‌ها را به‌صورت بهینه‌تر گروه‌بندی می‌کند تا خواندن آن‌ها از حافظه فلش تسریع یابد. اپل این روش را تشبیه می‌کند به خواندن حجم زیادی از یک کتاب در هر ثانیه به‌جای پردازش کلمه‌به‌کلمه.
افزایش چشمگیر عملکرد
ترکیب این دو تکنیک باعث می‌شود مدل هوش مصنوعی اپل بتواند معادل دو برابر حافظه در دسترس آیفون را پردازش کند. بر اساس گزارش اپل، شدت پردازش از طریق پردازنده مرکزی (CPU) بین چهار تا پنج برابر و شدت پردازش از طریق پردازنده گرافیکی (GPU) بین بیست تا بیست و پنج برابر افزایش یافته است. همین دلیل است که اپل این پیشرفت را انقلابی خوانده است.
آینده هوش مصنوعی در آیفون ۱۶ و iOS ۱۸
افشاگران معتقدند بخش قابل‌توجه‌ی از قابلیت‌های هوش مصنوعی آیفون روی نسخه جدید دستیار صوتی سیری متمرکز خواهد بود. انتظار می‌رود سیری در iOS ۱۸ مجهز به ترجمه زنده زبان‌ها شود و خود آیفون کیفیت عکس‌ها را به‌مراتب ارتقا دهد. حتی امکان حضور یک چت‌بات بومی در آیفون ۱۶ نیز از بین نمی‌رود.
شایعات تأییدنشده حاکی است اپل روی یک مدل زبانی بزرگ به نام با ۲۰۰ می‌لیارد پارام‌تر کار می‌کند که پایه‌ی ساخت چت‌بات Apple GPT خواهد بود.