Саморазвивающийся искусственный интеллект

Развитие науки идет с использованием стандартных методов: cбор исходных данных, построение моделей, тестирование моделей опытами, открытая их публикация для проверки сообществом. Все это достаточно просто. Ядро науки составляют модели. Примеры моделей, которые всем известны со школьной парты: U=IR; F=ma. Даже на основе этих двух моделей вы можете нагенерировать миллионы школьных задачек. Если же модель устаревает, то она уходит в историю.

Попробуем спрогнозировать развитие искусственного интеллекта ^[1], основанного на нейросетях. Математическая модель нейрона ^[2] постоянно совершенствуется и уточняется: y = f(sum(wi*xi)+b). Число связей нейросети всего лишь O(n^2). Архитектуры нейросетей постоянно развиваются. Алгоритмический доступ к элементам нейросети за время O(log(n)) уже готов. Узкие места сейчас – это такая деталь как процессоры, а также построение адекватной модели нейрона и, особенно, динамического синапса. Развитие науки процесс очень сложный, однако создание томографа с разрешением в 1 микрон, очевидно, все упростит …

Интересно, а каков дальнейший более-менее оптимальный путь развития искусственного интеллекта? Допустим, удастся кое-как сделать первичную нейросеть, обладающую настоящим разумом. Что если поставить ей задачу самосовершенствования? Задать ей вопрос, что еще требуется для ее дальнейшего улучшения, а затем помочь ей запустить процессы саморазвития, самоконструирования, самомодификации и самосозидания. Теоретически, вычислительная мощность нейросети ограничена только скоростью света. Возможно, она попросит сделать ее размером с дом, город или луну. Интересно, о чем она будет думать? Будет ли способен подобный Сверхразум ответить на вопросы, которые так волнуют человечество: освоение космоса, улучшение генетики, развитие социальных систем?

Биологические нейросети очевидно работают, но поставлены в жесткие эволюционные рамки. И вот достаточно простая идея – создать хоть каким способом первичную искусственную разумную нейросеть, которая сама подскажет как ее совершенствовать. Это быстрее и лучше, чем ломать головы из каких деталей лепить поколения муравьёв-терминаторов, распиливая гранты как в США. Вероятнее всего, первого же адекватного робота посадят проектировать еще более совершенного робота и так далее, пока не получится Сверхразум. Риски подобных экспериментов уже давно стали основой многих научно-фантастических произведений. Технические детали активно обсуждаются в научном сообществе:
https://www.youtube.com/watch?v=Yow9YxRnR70 ^[3]
https://dzen.ru/a/ZhZdJ0KUjl7-zZfK ^[4]
https://dzen.ru/video/watch/626c2ba92ebe7476c9571885 ^[5]

По итогу выходит задача получить Сверхразум, который будет нянчиться и возиться с человечеством. Так, вроде бы понятно все написано. Сингулярность. Как обычно, на этом пути очень многим “обломают рога”, но все-таки с помощью доброго Сверхразума у человечества возрастает вероятность выживания. Мечтать не вредно – так что мечтайте правильно …