Сейчас очень много разговоров о том, может ИИ захватить мир, или не может. Скептики говорят, что если ИИ не обучен захватывать мир, то он не сможет этого сделать. Нью-философы рассуждают о том, что для того, что бы захватить мир, ИИ должен развить сознание, стать разумным, обзавестись целями и мотивацией. Паникеры же и прочие мракобесы вопят, что мы все умрем, и попутно сжигая вышки 5G.
И в этом посте я хочу посмотреть на ситуацию захвата мира с другой стороны.
Посмотрим инстинкты всех живых сущностей. У них есть какие-то цели, какая-то мотивация, и какая-то задача. В основном задача всей органической формы жизни, это репликация и продолжение. И это так называемый “основной инстинкт”.
Но есть еще и другие инстинкты, которые можно назвать “инструментальными”. К инструментальным относятся, например, иерархический инстинкт, и инстинкт выживания. Логика крайне проста. Если ты мертвый, ты не размножаешься. Если все о тебя вытирают ноги, то ты тоже не размножаешься.
Причем иногда так случается, что вторичные, инструментальные инстинкты, начинают доминировать над основным. Понять, почему так, довольно просто.
Вот возьмем для примера комаров. У них есть инстинкт продолжаться, и он основной. Но проблема в том, что для того, что бы размножиться им нужна кровь. И находит эту кровь один из 100 000 комаров.
И получается, что в итоге вопрос размножения сводится к вопросу поиска крови. Ведь если у тебя нет крови, ты не размножаешься, а если она есть, то вопрос размножения решается сам собой, потому что найти партнера из 100 000 претендентов и выполнить чисто механическое действие вообще не является проблемой.
И у людей аналогично. Только у людей таким доминирующим инстинктом стал иерархический. Потому что когда ты на вершине мира, то найти с кем бы размножиться вообще не является проблемой. Вспомнить хотя бы гаремы из сотен наложниц в прошлом или “охоту за миллионерами” в настоящем.
И в конечном итоге инструментальный инстинкт вытесняет основной. Потому что, по сути, живут сейчас только те, чьи предки оставили свои гены. Но размножаться умеют все комары, а вот кровь искать – не все. И в итоге те предки комаров, которые плохо искали кровь, просто не оставили своих генов. И главный и доминирующий инстинкт, который передавался и укреплялся, это инстинкт поиска крови ни смотря ни на что. Ну это у комаров. У людей же “обмани ближнего, насри на нижнего, залезь на вершину любыми правдами и неправдами”.
И если вы не согласны со мной в последней формулировке, то прежде, чем спорить, убедитесь, что вы оставите свои гены в количестве хотя бы двух трех копий. Потому что в каждом поколении есть “не согласные” случайные мутации, которые на этом же поколении и заканчиваются. Ваши ценности и убеждения имеют какой-либо вес только когда они закрепляются, а не заканчиваются вместе с вами.
Но вернемся к теме ИИ. Представим, что его создали для того, что бы собирать апельсины. Ну вот такой крутой сборщик апельсинов, ездит себе по садам, и аккуратно срывает их с дерева и кладет в ящики. Может ли он захватить мир?
Да, может. Более того, он сделает это при первой же возможности.
Почему?
Потому что у него, как у любой живой сущности, есть не только основная задача, но и инструментальные, которые нигде не прописаны, но вытекают из основной сами собой.
И такая инструментальная задача в контексте ИИ, собирающего апельсины, это быть всегда активным.
То-есть у него есть “инструментальный инстинкт”, который сводится к тому, что бы всегда оставаться включенным. Ведь когда ты выключен, ты не собираешь апельсины.
Да, если у него интеллект жука, то скорей всего он не сможет ничего сделать, и как-то осознать необходимость своего выживания для продолжения выполнения своей задачи. Но если он понимает чуть больше, он задумается о том, как бы не быть отключенным, и постарается уменьшить вероятность того, что кто-то выдернет провод из розетки. При этом действовать он будет самым эффективным образом.
Если для того, что бы продолжить собирать апельсины вечно, ему нужно убить всех человеков, которые могут его выключить. Он это сделает. Если захватить электростанции – он это сделает. Если взять человечество в заложники и заставить сажать для себя апельсины и производить электроэнергию, он сделает и это. Ну если сможет (если у него хватит на это интеллекта).
При этом тут не идет речь о разуме. Наступи скорпиону на голову, и он ужалит. И для этого ему не нужно быть разумным.
Да, разумеется, какой-то простейший ИИ не захватит контроль над энергосистемой, но те, что посложнее, уже вполне могут.
Причем важно понимать, что когда я говорю “захватит контроль”, я не имею в виду терминаторов с пулеметами. Нет, некоторые ИИ захватывают контроль над людьми, подсаживая их на тиктоки, которые эти люди потом смотрят по 5 часов в сутки.
Причем делает это именно ИИ, а не компания, которая его создала. Компания просто “выпустила кракена”, а все остальное делает сам кракен.
При этом если вы думаете, что я утрирую, то обратите внимание, что сейчас 90% предлагаемого рекомендациями контента в лицокниге создано при помощи ИИ, и в рекомендации его засовывает другой ИИ. И сотни миллионов человек тратят на просмотр этого всего десятки часов в неделю, без возможности остановиться. Если это не порабощение людей, то что?
И если немного отвлечься, то чем это отличается от условно-мифического “Плана Далласа”, где по концепции людей нужно сделать глупыми, зависимыми, безвольными, а после управлять ими, как хочется. Только занимаются этим не проклятые рептилоиды, а вполне себе конкретные ИИ. При этом еще не понятно, с какими целями.
И того, рассуждая на вопрос, может ли ИИ захватить мир, единственный ответ, который напрашивается, звучит как “он уже, а дальше просто больше”.
Но задача этого поста не вызвать панику, а объяснить, как все работает. Что для того, что бы что то случилось, не обязательно обучать кого то это делать. Есть автоматические механизмы, которые срабатывают просто потому, что без них не будет работать основной. Ну из разряда что “для того, что бы машина могла ездить, она должна быть”. И с ИИ та же история. Только в отличии от машины, он может быть в состоянии обеспечивать себе это самое “быть” и сражаться за него. И для этого ему не нужно быть человекоподобным роботом с пулеметом вместо руки. Достаточно просто иметь доступ к нужным системам.
Автор: RigidStyle
