Apple не торопится вступать в гонку чат-ботов, однако это не означает, что североамериканская корпорация не работает в данном направлении. Инженеры технологического гиганта изучают возможность использования флеш-накопителей смартфонов для хранения больших языковых моделей.
Подробности
В Apple считают, что такой подход обеспечит покупателям iPhone лучший пользовательский опыт, нежели онлайн-доступ. Большими языковые модели называют не просто так. Для их работы требуются огромные вычислительные ресурсы и большой объем ОЗУ.
Суть идеи инженеров Apple сводится к использованию для хранения языковых моделей не ОЗУ, а ПЗУ. В своей работе языковые модели пользуются методом Windowing, подразумевающим повторное использование уже обработанных ранее данных. Более эффективная группировка данных обеспечивается с помощью метода Row-Column Bundling. Языковая модель быстрее считывает данные из флеш-накопителя. В результате скорость ее обучения увеличивается.