Компания Nvidia заявила, что её потребительские графические ускорители GeForce RTX демонстрируют куда больше высшую эффективность в задачках ИИ по сопоставлению со спец нейропроцессорами в новейших центральных. Последние, по воззрению Nvidia, годятся разве что для базисных ИИ-задач.
Компания Nvidia не так издавна провела презентацию, в рамках которой показала возможности собственных потребительских графических адаптеров GeForce RTX в задачках искусственного ума. По воззрению Nvidia, её графические микропроцессоры способны обеспечить больше высшую эффективность в приложениях ИИ по сопоставлению с выделенными нейропроцессорами (NPU), которыми оснащаются многие современные мобильные микропроцессоры Интел, AMD, Apple и Qualcomm. Данные интегрированные ИИ-ускорители предлагают эффективность 10–45 TOPS (триллионов операций за секунду). Из слов Nvidia, её видеоплаты способны обеспечить от 100 до 1300 TOPS зависимо от модели.
В доказательство этого тезиса были приведены итоги тестов, в каких видеоплаты GeForce RTX сравнивались с чипом Apple M3 Максимум, установленным на новейших MacBook Проф и владеющим NPU с производительностью 18 TOPS. В тестах оценивалась эффективность в фаворитных приложениях для обработки изображений и видео с внедрением способностей ИИ, таких как Stable Diffusion, Arnold, Blender и других. Тест показал, что портативный компьютер с мобильной видеоплатой GeForce RTX 4090 превосходит MacBook Проф с M3 Максимум больше чем в 5 раз. Больше того, даже мобильная видеоплата среднего уровня RTX 4050 превосходит тот же MacBook Проф больше чем в 2 раза, по данным Nvidia. В среднем мобильная RTX 4090 превосходила M3 Максимум в 5 раз, а мобильная RTX 4050 — на 50–100 %.
В другом показательном тесте замерялась скорость работы с большенными языковыми моделями (LLM). Тут GeForce RTX 4090 также сильно обогнала чип Apple даже при увеличении размера обрабатываемых пакетов данных. GeForce RTX 4090 оказался резвее на 42 %, чем M3 Максимум.
По воззрению Nvidia, итоги тестирования наглядно показывают, что эффективность графических микропроцессоров в задачках ИИ может в разы превосходить спец нейропроцессоры (NPU). Компания даже предложила поделить аппаратные средства для ИИ на 3-и категории — основной ИИ, премиальный ИИ и не легкий ИИ. Последняя категория относится к массивным серверным решениям на базе GPU, способным обеспечить тыщи TOPS. Потребительские видеоплаты, по воззрению Nvidia, способны совладать с премиальным ИИ, а интегрированных NPU хватит только для базисного ИИ.
Но по воззрению профессионалов, пока рано излагать о том, что графические микропроцессоры на сто процентов вытеснят NPU в компьютерах, нацеленных на работу с ИИ. Например, Microsoft в собственном определении к ПК с искусственным умом (AI PC) просит наличия как GPU, так и NPU. Также, не следует забывать про энергоэффективность, потому что массивные графические микропроцессоры потребляют еще больше энергии по сопоставлению с оптимизированными нейропроцессорами.
В целом, по мере развития инструментов на базе ИИ и усложнения решаемых ими задач, вычислительных мощностей специализированных NPU может стать недостаточно. Следовательно, роль массивных графических микропроцессоров будет только возрастать.
В конце отметим, что не упустила Nvidia способности сопоставить свои видеоплаты и с решениями соперника. В тесте генерации изображений с помощью искусственного ума настольная GeForce RTX 4090 показала преимущество практически в 3 раза над флагманским видеоадаптером AMD Radeon RX 7900 XTX. При всем этом все модели линейки GeForce RTX начиная с RTX 4070 Супер затмили по производительности самую сильную видеоплату AMD.
