Генеральный директор Nvidia Дженсен Хуанг утверждает, что производительность чипов компании для искусственного интеллекта растет быстрее, чем предсказывает закон Мура, который долгое время определял прогресс в вычислительной технике.
«Наши системы развиваются гораздо быстрее, чем по закону Мура», — отметил Хуанг в интервью TechCrunch, на следующий день после своего выступления на выставке CES в Лас-Вегасе перед 10 000 зрителей.
Закон Мура, предложенный Гордоном Муром в 1965 году, предсказывал удвоение числа транзисторов на чипах каждый год, что означало удвоение их производительности. Это правило долгое время способствовало быстрому прогрессу и снижению стоимости вычислительных устройств.
Однако в последние годы закон Мура замедлился. Хуанг утверждает, что чипы Nvidia для AI развиваются быстрее. Самый новый суперчип компании для центров обработки данных выполняет задачи AI более чем в 30 раз быстрее, чем предыдущие модели.
«Мы можем одновременно разрабатывать архитектуру, микросхемы, системы, библиотеки и алгоритмы, — сказал Хуанг. — Это позволяет нам двигаться быстрее, чем по закону Мура, благодаря инновациям на всех уровнях».
Заявление Хуанга прозвучало на фоне сомнений о замедлении прогресса в области AI. Ведущие лаборатории, такие как Google и OpenAI, используют чипы Nvidia для обучения своих моделей, и усовершенствование этих чипов может ускорить развитие AI.
Хуанг уже выражал мнение, что Nvidia опережает закон Мура. В ноябрьском подкасте он заявил, что AI движется к «гиперзакону Мура».
Хуанг отвергает идею замедления прогресса AI, утверждая, что сейчас действуют три закона масштабирования: предварительное обучение, последующее обучение и вычисления во время тестирования.
«Закон Мура снизил стоимость вычислений, — заявил Хуанг TechCrunch. — То же самое произойдет с машинным обучением, когда мы повысим его производительность».
Важно отметить, что Nvidia значительно выросла в стоимости благодаря буму AI.
Чипы H100 от Nvidia остаются предпочтительным выбором для обучения моделей AI, но с акцентом на вывод данных возникает вопрос, смогут ли они сохранить лидерство.
Модели AI, использующие вычисления во время тестирования, дороги. Есть опасения, что новая модель OpenAI будет слишком дорогой. Например, OpenAI потратила почти 20 долларов на задачу для достижения результатов на уровне человека в тесте на AGI.
На выставке Хуанг представил новый суперчип Nvidia, который в 30–40 раз быстрее обрабатывает данные AI, чем предыдущие модели. Это может удешевить работу моделей, таких как OpenAI.
Хуанг сосредоточен на создании более эффективных чипов, что приведет к снижению цен в долгосрочной перспективе.
«Решение для вычислений во время тестирования — это увеличение наших мощностей», — сказал он TechCrunch, отметив, что со временем модели AI помогут улучшить данные для обучения.
В прошлом году благодаря прорывам компаний, таких как Nvidia, наблюдалось снижение цен на модели AI. Хуанг ожидает, что эта тенденция продолжится, несмотря на высокую стоимость первых версий OpenAI.
Хуанг также отметил, что чипы Nvidia для AI сегодня в 1000 раз более производительны, чем 10 лет назад, что значительно быстрее темпа, установленного законом Мура. Он не видит признаков замедления этого процесса.
Автор: mefdayy
