iPhone 18 Pro запустил ИИ-модель на 27 млрд параметров: A20 Pro оказался почти вдвое быстрее

Новый iPhone 18 Pro получил заметный прирост именно в той области, которая постепенно становится одним из главных направлений развития смартфонов, - локальном искусственном интеллекте. Энтузиаст Адриен Грондин продемонстрировал запуск модели Bonsai-27B непосредственно на смартфоне. По его данным, скорость генерации оказалась примерно в два раза выше, чем на iPhone 17 Pro.

«Новый чип A20 Pro - это просто зверь», - так Грондин прокомментировал результаты своего теста.

Главное здесь даже не количество параметров модели. Демонстрация показывает, насколько быстро смартфоны приближаются к устройствам, способным выполнять достаточно сложные ИИ-задачи без постоянного обращения к облачным серверам.

Что именно запустили на iPhone 18 Pro

Bonsai-27B - это модель класса 27 млрд параметров, созданная на базе Qwen3.6-27B. Однако есть важный нюанс: речь идет не о стандартной полноразмерной версии модели.

Разработчики PrismML применили экстремальное низкобитное представление. 1-битная версия Bonsai-27B занимает около 3,9 ГБ вместо примерно 54 ГБ, которые потребовались бы модели такого размера в FP16. Именно это и сделало запуск 27-миллиардной модели на смартфоне практически возможным.

При этом Bonsai-27B рассчитана не только на обычный чат. Модель поддерживает рассуждения, работу с инструментами и мультимодальные сценарии. Для нее заявлен контекст до 262 тыс. токенов, хотя реальные возможности зависят от конкретного устройства и режима работы.

Почему A20 Pro заметно ускоряет локальный ИИ

В iPhone 18 Pro используется A20 Pro - первый мобильный чип Apple, изготовленный по 2-нм техпроцессу. В его состав входят шестиядерный CPU, семиядерный GPU с Neural Accelerators и двойной 16-ядерный Neural Engine. Apple также заявляет увеличение пропускной способности памяти на 50% относительно A19 Pro.

Именно пропускная способность памяти имеет большое значение при локальном запуске языковых моделей. В таких задачах недостаточно просто иметь мощные вычислительные ядра: процессору необходимо постоянно быстро обращаться к большим массивам весов модели.

Поэтому прирост скорости Bonsai-27B нельзя автоматически приписывать только Neural Engine. Здесь работает вся аппаратная платформа - вычислительные блоки, память, оптимизированные низкобитные операции и программное обеспечение для запуска модели.

12 ГБ памяти сами по себе не стали революцией

Интересно, что по объему оперативной памяти iPhone 18 Pro не получил очевидного преимущества перед прошлогодней моделью. Согласно данным, подтвержденным через Xcode 27, в iPhone 18 Pro установлено 12 ГБ RAM - столько же было у iPhone 17 Pro.

Получается важный вывод: скачок возможностей локального ИИ связан не столько с увеличением объема памяти, сколько с архитектурой A20 Pro, повышенной пропускной способностью и оптимизацией самих моделей.

Это особенно хорошо видно на примере Bonsai. Обычная 27B-модель с весами FP16 требует десятки гигабайт памяти, тогда как 1-битная версия занимает лишь несколько гигабайт.

Что это дает обычному владельцу iPhone

Практическое значение таких экспериментов заключается прежде всего в развитии on-device AI - искусственного интеллекта, который работает непосредственно на устройстве.

Локальная обработка потенциально дает несколько преимуществ:

• меньше зависимость от интернет-соединения;
• возможность обрабатывать некоторые запросы без отправки данных на сервер;
• отсутствие задержки на передачу запроса в облако и обратно;
• возможность использовать ИИ там, где нет стабильного доступа к сети;
• снижение нагрузки на серверную инфраструктуру при массовом использовании простых задач.

Apple сама делает заметный акцент на локальных ИИ-возможностях iPhone 18 Pro и указывает A20 Pro и новый Neural Engine как важные компоненты для ускорения Apple Intelligence.

Но говорить о «замене облачного ИИ» пока рано

Есть и обратная сторона. Запуск Bonsai-27B не означает, что любой 27-миллиардный ИИ теперь можно установить на iPhone.

Размер модели критически зависит от способа хранения весов. Например, разработчики Bonsai специально создали 1-битную и тернарную версии, чтобы уменьшить требования к памяти. 1-битная сборка занимает около 3,9 ГБ, а тернарная - около 5,9 ГБ.

Кроме того, скорость генерации в токенах в секунду - далеко не единственный показатель качества работы ИИ. Важны время до первого токена, объем доступной памяти, энергопотребление, нагрев и стабильность производительности при длительной нагрузке.

Поэтому демонстрация Адриена Грондина интересна прежде всего как показатель направления развития мобильных процессоров. Смартфон постепенно превращается не только в терминал для доступа к облачному ИИ, но и в самостоятельную вычислительную платформу.

И именно здесь A20 Pro может оказаться важнее, чем показывают обычные тесты CPU и GPU: способность быстро выполнять локальные ИИ-модели становится отдельным критерием производительности смартфона.