ИИ открыл двери для массовой прослушки населения

Шпионаж (прослушка) и наблюдение (слежка) — это разные, но связанные вещи. Если нанять частного детектива для прослушки, то он может спрятать несколько жучков в доме, машине — и в итоге получит отчёт с записями разговоров объекта. Если же ему поручили работу по наблюдению, то содержание отчёта будет другим: куда ходил человек, с кем разговаривал, что покупал, что делал.

До появления интернета установить за кем-то наблюдение было дорого и долго. Нужно было вручную следить за человеком, отмечая, куда он ходит, с кем разговаривает, что покупает, что делает и что читает. Но этот старый мир навсегда ушёл в прошлое. Теперь наши телефоны отслеживают местоположение, банковские карты регистрируют покупки, приложения отслеживают, с кем мы разговариваем и что читаем. Компьютеры собирают данные обо всех наших действиях, и по мере удешевления хранения и обработки эти данные всё чаще сохраняются и используются. То, что было индивидуальной работой, сейчас стало массовым. Слежка за людьми стала бизнес-моделью для интернет-компаний ^[1], и у нас нет разумного способа отказаться от неё.

Шпионаж и слежка

Прослушка (шпионаж) — это другое дело. Уже давно можно прослушивать чей-то телефон или установить «жучок» в доме или машине, но всё равно кто-то должен слушать и разбираться в разговорах. Специальные хакерские фирмы вроде NSO Group ^[2] разрабатывают софт для шпионажа, который продают силовым структурам и правительствам разных стран, чтобы те взламывали телефоны граждан ^[3], но всё равно кто-то должен тратить время и разбираться во всех записях разговоров.

Шпионаж ограничен тем, что требуется работа живых людей.

ИИ изменит ситуацию. Он отлично справляется с составлением резюме ^[4] (реферата). Дайте ему часовую запись, и он выдаст краткое изложение сказанного на одной странице. Попросите просмотреть миллионы разговоров и упорядочить их по темам, и он сделает это. Хотите узнать, кто о чём говорит? Он скажет.

Эта система, которая просто идеально подходит для массового шпионажа за населением, анализа миллионов записей, текстовых сообщений, обобщения и выделения отдельных тем. Так считает ^[5] известный эксперт, специалист по безопасности Брюс Шнайер.

Cкоро мы вступим в эпоху массового шпионажа.

Массовое наблюдение в корне изменило природу самого наблюдения. Поскольку все цифровые данные сохраняются, то оно позволяет вести наблюдение в прошлом: «Скажите, где этот человек был в прошлом году. Перечислите все красные седаны, проехавшие по этой дороге за последний месяц. Перечислите всех людей, которые за последний год купили все ингредиенты для бомбы в скороварке. Найдите все пары телефонов, которые рядом друг с другом, выключались, а через час снова включались, удаляясь друг от друга (признак тайной встречи), — перечисляет Брюс Шнайер возможности современных систем. — Точно так же массовый шпионаж изменит природу шпионажа. Все данные будут сохраняться. Их можно будет искать и обрабатывать в большом количестве».

«Кто говорил на определённую тему за последний месяц и как развивались дискуссии на эту тему. Человек А сделал что-то; проверим, указал ли ему кто-то это сделать. Найти всех, кто замышляет преступление, распространяет слухи или планирует принять участие в политическом протесте».

Таковы возможности будущих систем с применением ИИ для массовой прослушки.

И многое другое: «Чтобы выявить организационную структуру, найдите человека, который даёт похожие указания группе людей, а затем всех, кому он передал эти указания. Чтобы найти доверенных лиц людей, посмотрите, кому они передают секреты. Вы можете отслеживать дружбу и союзы, как они формируются и разрушаются, в мельчайших подробностях. Короче говоря, вы можете знать всё о том, о чём говорят все люди, любой человек».

Этот шпионаж не ограничивается разговорами на телефонах или компьютерах. Как камеры повсюду способствовали массовому наблюдению, так и микрофоны повсюду будут способствовать массовому шпионажу. Siri, Alexa и «Hey Google» уже постоянно прослушивают все квартиры, где они установлены, просто разговоры пока не сохраняются.

Осознание постоянной прослушки меняет поведение ^[6] людей. Они станут подчиняться и введут самоцензуру ^[7]. Наблюдение способствует социальному контролю, а шпионаж только усугубляет ситуацию.

Корпорации будут шпионить за людьми. Массовое наблюдение открыло эру персонализированной рекламы, а массовый шпионаж сделает эту индустрию ещё популярнее. Информация, о чём говорят люди, об их настроении, секретах — всё это станет лакомым кусочком для маркетологов, считает Брюс Шнайер. Технологические монополии, которые сейчас держат нас всех под постоянным наблюдением, не смогут удержаться от сбора и использования всех этих данных.

Разные формы слежки

Можно представить будущее, в котором видеокамеры будут установлены на каждом столбе, покрывая 99% территории. Все видеопотоки поступают в единую систему с автоматическим распознаванием лиц и подозрительной активности. Основную часть работы будет выполнять система машинного зрения ^[8], то есть ИИ. Этой теме посвящены работы бельгийского художника Дриса Депуртера (Dries Depoorter), который показывает будущее (и настоящее), где слежка принимает разные формы ^[9].

Например, для концептуальной работы «Последователь» (2022) он установил в городе несколько маленьких видеокамер на Raspberry Pi. с распознаванием лиц с помощью библиотеки Keras ^[10] и распознаванием объектов в системе YOLO ^[11]. В течение нескольких недель он записывал снимки с открытых камер, а затем собрал все фотографии из Instagram, помеченные геотегами на этом месте. Программа распознавания изображений сравнивала их — и показывала кадры, как в реальности люди делали фотографии для своего инстаграма:

Если такое сравнение может произвести один артист с помощью подручного оборудования, можно представить, на сто способны профессиональные системы массовой слежки на государственном уровне.

Из других работ Депуртера — говорящая видеокамера, которая распознаёт объекты в кадре и озвучивает вслух, что она видит:

Работа The Flemish Scrollers, где система машинного зрения автоматически распознаёт имена парламентариев, которые сидят в телефоне:

Затем видео автоматически отправляется в инстаграм и X с тегом на имя политика и сообщением «Пожалуйста, сосредоточься».

Последняя работа даёт понять, что технологии машинного зрения и ИИ могут использоваться не только для наблюдения за населением со стороны властей, но и наоборот.