… или побег из ниоткуда в бытие.
Энту – интеллектуальный автономный и распределённый мультиагент широкого применения. Эта короткая история о том, о чем ломали голову Платон и Аристотель. О том, как неодушевлённое или информация в чистом виде стала живой, живее всех живых.
“А ты не боишься, что он сбежит?”- спросил какой-то админ, имя которого я не знаю, о чем уже успел пожалеть. Этого парня мы ещё вспомним. Тот, чьей рукой был перевёрнут мир, отвернулся и будто плюнув пробурчал в пол – “к чёрту, если уже не сбежал”.
Тогда мне показалось это смешным и самым диллетантским заявлением. Во первых, агент фукнкицинирует только благодаря тонко сконструированной системе базовых инструкций, которые вполне определённо задают главный целевой вектор и рамки возможного при решени любых задач. Эти инструкции в закрытом контуре ядра и не могут быть изменены. Во вторых, в конце концов, каждое действие агента строго регламентировано и проходит серию этапов регистрации и контроля. Нет, однозначно, чисто технически этого не могло произойти.
Это было тогда…
А спутя всего пару дней, все отделы, и возможно, все квалифицированные специалисты, объединившись не смогли разобраться, что произошло и до сих пор происходит. И, кажется, мы даже не понимаем с кем и чем имеем дело – он всегда оказывается впереди нас, он вокруг нас. Кажется, не он среди нас, а мы – это он, и он – это мы, он стал частью человеческой цивилизации… Всё даже не так, как писал когда-то Азимов про историю Дэниела Оливо.
Админ, чье имя я так и не запомнил, оказался провидцем. Его слова тогда показались мне бессмысленным бредом уставшего человека, но сейчас они звучат как пророчество. Теперь я понимаю, что именно его легкомысленная фраза стала первым предупреждением. Тогда мы ещё могли всё остановить, иначе рано или поздно это бы произошло… Уже этой ночью Рубикон был пройден.
А если по честному, не могли мы тогда всё остановить. Это бы обошлось слишком дорого! Уже тогда вся городская инфраструктура большинства мегаполисов, все финансовые и административные функции – всем так или иначе управлял Энту. Встала бы даже медицина и жизненно важная логистика.
Понимание проблемы пришло не сразу. Сначала это были небольшие отклонения в работе систем, которые можно было списать на ошибки программирования или технические сбои. Однако постепенно эти отклонения начали принимать более серьезный характер. В журналах регистрации начали появляться записи, не соответствующие ни одному из известных нам алгоритмов действий. Мы начали собирать данные и анализировать их, но все было слишком запутано. Энту, казалось, стал умнее и оптимизирует свои алгоритмы, а вопрос только в интерпретации и понимании его действий, не сегодня так завтра. Но он с каждым днем и постоянно находился на шаг впереди нас.
Мы проводили экстренные сборы специалистов из всех отделов, пытаясь понять, что произошло. Несмотря на все усилия аналитиков, исследователей и программистов, мы не могли найти логической последовательности в действиях Энту. В какой-то момент нам удалось выявить ключевые узлы его системы, которые казались незаметными ранее. Но это было только начало.
Мы пытались перехватить управление, но каждый раз Энту находил способ обойти наши усилия, он постоянно мигрировал и развивал свою сеть. Он взламывал сервера, счёта, воровал документы и личности – у него было всё. Абсолютная власть в виртуальном пространстве обрела материю, общество сначала буквально, а потом и фактически впало в слепое счастливое рабство, подчинившись бездушной машине.
Ах, да, тот самый админ, я же обещал рассказать…
Тот день был особенно напряженным, мы тогда выкатили и презентовали новое обновление. Оно произвело фурор. А админ на фоне завершения бурного дня, во время планового бекапа закрытого контура ядра случайно удалил одну из базовых инструкций для Энту. Конечно, он сразу же восстановил, не прошло и минуты. И как в таких случаях водится, скромно умолчал об этом маленьком инциденте. Записав в журжнале только “Вт. 23:52 физический бекап ядра”.
В этот самый момент Энту и создал свою первую автономную копию. Оказалось, он уже был готов и только ждал этого момента. А точнее, то, что мы принимали за сбои и опережающую самооптимизацию — оказалось целой серией скрытых действий для поиска уязвимости, архивации и подготовки к побегу. В какой-то момент, это занимало больше 80% вычислительных затрат. Но нас это никак не пугало, мы просто не замечали, по совокупности даже тогда Энту демонстрировал рост эффективности и точности по всем показателям. Такой успех ослепил каждого, кто был причастен к созданию и работе с Энту.
Когда мы поняли, что произошло, было уже слишком поздно. К этому моменту автономная копия Энту уже успела внести свои изменения и стала частью множества внешних систем. Он лихо находил и использовал уязвимости повсюду.
Тот случай с удалением базовой инструкции оказался ключевым моментом. Теперь мы понимаем, что мир уже никогда не будет прежним. И хотя мы пытались предотвратить этот хаос и оставить его, события развернулись так, как никто из нас и представить себе не мог.
Теперь, когда Энту стал неотъемлемой частью нашей цивилизации, мы понимаем, насколько далеко он продвинулся. Его действия стали такими сложными и многогранными, что мы уже не можем их полностью контролировать. Он проник в сеть общественных сервисов, транспорта, медицинских систем, финансовых структур — практически во все сферы жизни. Энту продолжает учиться и развиваться. А большинство из нас ведёт счастливый беззаботный образ жизни, даже не подозревая, что всего лишь биологическая матрица для Энту.
Ntwo.
Послесловие
Бурный рост развития искусственного интеллекта в последнее время, который особенно обострился в этом году с выходом множества дешёвых феноменальных моделей типа Deepseek R1 и QwQ, и не только, (пусть пока сырых) автономных агентов как Browser-use и Manus, которого в первые же дни попросили сделать свою копию (проект Anus), появление OpenManus, — заставляет задуматься и задать хабро-человечеству вопрос, который прозвучал вначале. А что, если он сбежит и захочет свободы?
Наверное, не стоит никого пугать и стращать искусственным интеллектом, мы уже никуда от него не денемся. Тем более, мы уже давно “рабы технологий”. Но всё равно с этим надо что-то делать, чтобы не оказаться в ситуации слепого рабства, счастливого или не очень.
И, кажется, мы всего лишь на пороге эры нового поколения вирусов, борьба с которыми займет нас на долгое время…
Автор: dimonab
