Исследователи из Оксфорда предложили принципиально новый способ обучения нейросетей
Абсолютно все нейросети, которые нас окружают, обучены с помощью одного и того же алгоритма – алгоритма обратного распространения ошибки (англ. back-propagation). Его изобрели еще в 80-х годах прошлого века ученые Дэвид Румельхарт, Джеффри Хинтон (ныне нобелевский лауреат) и Рональд Уильямс. Идея back-propagation в том, что мы сначала «прогоняем» входные данные вперёд по сети (forward pass), получаем предсказания и вычисляем их ошибку, а затем прогоняем сигнал ошибки назад по сети (backward pass), чтобы вычислить градиенты и обновить веса. Это работает хорошо и надежно, но есть нюансы
Обратное распространение ошибки… на пальцах… без формул
Все эти игры не для нас....Хотелось быпоказать «суть» метода обратного распространения ошибки (Backpropagation) в нейросетях. Ведь ее сложно увидеть за нагромождением формул. Статья, конечно, не для профессионалов индустрии и математиков... Но знать производные нужно.
Вот уж действительно революция… Нейросети добрались до Minecraft
Совсем недавно, 31 октября 2024 года, миру была представлена новая версия Minecraft. Это та самая песочница из детства, которую все так любят, но только мир генерируется нейросетью в реальном времени.Разработка принадлежит компании Decart, ИИ-модель была названа Oasis. Особенностью игры является отсутствие кода и памяти. Нейросеть не использует привычное нам программирование для создания игры. Вместо этого, она обучается на видеороликах, и пытается прогнозировать следующий кадр. То есть ИИ буквально пытается угадать, что будет видеть игрок после движения мышью или нажатия на клавиатуру.
Как собирать данные: руководство для ИИ-стартапов
В 2016 году я наткнулся на руководство по стратегиям сбора данных для AI-стартапов, многие идеи из которого были визионерскими для своего времени. Автором этого текста был Мориц Мюллер-Фрайтаг, сооснователь компании Twenty Billion Neurons (TwentyBN).
