Apple обошла ограничения оперативной памяти: новые ИИ-модели AFM 3 будут работать напрямую с флеш-накопителей

На ежегодной конференции WWDC26 компания Apple представила третье поколение своих базовых моделей искусственного интеллекта (Apple Foundation Models, AFM 3), которые призваны решить ключевую проблему локальных нейросетей — дефицит оперативной памяти на пользовательских устройствах. Ранее возможности мобильного ИИ были жестко ограничены объемом DRAM, поскольку системе приходилось удерживать в ней все веса модели. Новое семейство алгоритмов AFM 3 обходит этот барьер, полностью перенося веса во флеш-память NAND.

Архитектура AFM 3 и облачные вычисления

Новая линейка ИИ-моделей разработана в сотрудничестве со специалистами Google и включает в себя пять конфигураций: две локальные и три облачные. Все они функционируют в защищенном контуре Private Cloud Compute. Облачные версии, включая AFM 3 Cloud Pro, предназначенную для работы ИИ-агентов и решения сложных логических задач, развернуты на графических процессорах Nvidia в инфраструктуре Google Cloud. Локальная же часть архитектуры является собственной разработкой Apple.

Ключевым элементом локального ИИ стала модель AFM 3 Core Advanced с 20 миллиардами параметров. Ее главная особенность заключается в том, что веса модели хранятся непосредственно на встроенном накопителе устройства, а не в оперативной памяти.

Как Apple обходит «стену памяти»

Нехватка оперативной памяти на потребительских устройствах долгое время оставалась главным препятствием для разработчиков локального ИИ. По словам экспертов ИТ-индустрии, загрузить модель масштаба 20 миллиардов параметров в ОЗУ смартфона или планшета без критической потери точности вычислений практически невозможно. Для решения этой проблемы инженеры Apple применили нетипичную по современным меркам архитектуру, базирующуюся на трех технологических решениях:

• Постоянное хранение данных во флеш-памяти. Массив весов AFM 3 Core Advanced находится на накопителе NAND, а оперативная память задействуется только в качестве временного буфера под конкретные задачи. Данная технология получила название Instruction-Following Pruning (IFP).
• Маршрутизация на уровне целого запроса, а не отдельных токенов. В классических архитектурах типа «смеси экспертов» (Mixture of Experts, MoE) система выбирает нужные ИИ-модули для каждого генерируемого токена, что требует мгновенного обмена данными между накопителем и ОЗУ. Скорость чтения флеш-памяти не способна обеспечить такую частоту передачи. В AFM 3 Core Advanced выбор необходимых «экспертов» происходит один раз при получении запроса, после чего выбранные сегменты загружаются в оперативную память для генерации всего ответа.
• Динамическое масштабирование. В зависимости от сложности входящего запроса модель задействует разный объем вычислительных ресурсов — от 1 до 4 миллиардов активных параметров из общего 20-миллиардного пула.

Нераскрытые технические детали

Несмотря на подробное описание архитектуры памяти в опубликованном техническом документе, Apple обошла стороной некоторые важные практические аспекты. В обзорах профильных специалистов отмечается, что компания не предоставила данные об энергопотреблении устройств, требованиях к пропускной способности памяти и уровне тепловыделения при работе новых алгоритмов, хотя именно эти параметры определяют реальную производительность на смартфонах.

Кроме того, в документации пока отсутствует четкое описание правил автоматического перенаправления запросов в облако. Разработчики не могут отследить, в какой именно момент локальный запрос прозрачно пересылается на серверную модель AFM 3 Cloud Pro. Для корпоративных клиентов, работающих в регулируемых секторах рынка, отсутствие прозрачности в логировании данных может стать серьезным препятствием с точки зрения комплаенса. Более детальный технический отчет с результатами тестов производительности Apple обещает представить до конца лета.

Значение для корпоративного сектора

Для ИТ-архитекторов и бизнеса появление подобных моделей меняет подход к проектированию систем на базе искусственного интеллекта:

• Смещение аппаратных ограничений. Компании, внедряющие автономных ИИ-агентов без привязки к облачным сервисам, получили в свое распоряжение локальный инструмент мощностью 20 миллиардов параметров. Основным лимитирующим фактором теперь становится не глубина оптимизации софта, а возможности конкретных пользовательских устройств.
• Новая гибридная модель. Разделение задач между локальным процессором и облаком переходит в разряд архитектурных решений разработчика. Простые операции выполняются непосредственно на клиентском устройстве, а ресурсоемкие задачи отправляются на обработку в Private Cloud Compute.
• Инфраструктурная зависимость. Несмотря на высокий уровень конфиденциальности Private Cloud Compute, серверная часть AFM 3 Cloud Pro по-прежнему требует использования вычислительных мощностей Google Cloud и чипов Nvidia, что необходимо учитывать при оценке рисков.