Homo GPT создан «по образу и подобию» нейросетей и доверяет свою жизнь «умным машинам». Верующий в могущественные нейросети, homo GPT при возникновении любой проблемы делегирует свой запрос большому брату ИИ, чтобы избежать тяготы интеллектуального усилия или дилеммы экзистенциального выбора.
Insolarance, Алексей Соловьев и Ольга Календарева
TL;DL
Меня зовут Никита Шевченко, с 2022 года я активно использую и популяризирую использование AI в личной жизни и рабочих процессах. Постепенно у меня зарождались сомнения (и даже страхи), которые можно сформулировать примерно так: “а что если, блин, я с AI всё-таки тупею? как это понять?”. Я собрал все свои мысли, опасения и способы защиты от риска превращения в Homo GPT.
Важный дисклеймер в эпоху AI
Эта статья – моё личное мнение. Наверное, в нашу пост-AI эпоху важно это было прописать, потому что я не просто прогнал свой страх и вопрос через двадцатиминутный дип ресерч от chatgpt и собрал научные исследования, а какое-то время следил за собой, окружающими, повседневностью, проводил консультации по внедрению AI, читал что про это пишут философы, разработчики, СЕО техногигантов и просто мои знакомые, да и сам писал про это заметки в блоге. Как раз после вот таких наблюдений у меня и появились неутешительные гипотезы:
-
Мы слишком мало говорим про ограничения использования AI: понятно когда оно даёт пользу, а что насчёт вредных сценариев и долгосрочных последствий для нашей когнитивной работы?
-
В обществе много и громко говорят про то, что Mega-super-AGI убьёт кожаных, но, кажется, есть более тихие голоса, идея которых – AI незаметно сделает кожаных довольно глупыми.
-
Это всё масоны/иллюминаты/правительства, которые хотят управлять людьми без критического мышления.
Но, несмотря на эти гипотезы, я не призываю сжигать дата-центры и даже продолжаю оптимистично смотреть на AI, пишу про то, как он помогает в личной жизни и в работе, популяризирую использование AI в базах знаний, в работе и постоянно восхищаюсь продуктами, которые создаются с AI. Цель этой статьи – помочь себе и окружающим найти свою золотую середину.
Эта статья – про ограничения и возможности
Я писал эту статью вместе с AI. Это оказалось довольно важной частью моего личного исследования. И постепенно буду указывать авторство идей от LLM. Например, все предыдущие и следующие предложения я написал своими словами, потому что пришёл к тому, что писать самостоятельно (=думать) важно.
В голове я держу такую схемку, где на стыке возможностей и ограничений располагаются полезные и вредные способы применения AI:
Но вопрос, который я точно не смогу раскрыть в этой статье: а где те самые ограничения AI и, тем более, человека. Мне кажется, мы их только начинаем щупать. Тут я смогу опираться только на свой опыт и наблюдения.
У меня есть три сферы жизни, на которых я хочу иллюстрировать эту статью:
-
AI в работе с людьми (менеджмент)
-
AI в писательской деятельности (статьи, блог)
-
AI в творчестве (написание музыки)
Потому что первые годы использования искусственного интеллекта именно вокруг этих сфер у меня появлялся большой экзистенциальный ужас: казалось, что AI меня заменит примерно везде и скоро. Сейчас уже так не думаю.
А что, реально проблема есть?
Кажется, что да. Не хочется превращаться в саммаризатора научных статей, ведь для поиска исследований можно обратиться в тот же ChatGPT, который накидает вам примерно такие тезисы:
-
Некритическое мышление: частое использование искусственного интеллекта коррелирует с более низкими результатами тестов на критическое мышление. Вот тут источник, например.
-
Плохие навыки принятия решений (см. эпиграф к этой статье): это как следствие предыдущего пункта, тут даже появляется термин “automation bias”. Это когда люди, полагаясь на алгоритмы, снижают свою склонность к независимому, критическому анализу вариантов решения задач (игнорирование явных несостыковок и проблем).
-
Снижение креативности идей. Оно, кажется, связано с первым и вторым пунктом – креативить и придумывать тоже сложно, всегда проще спросить у GPT 10 разных вариантов и получить один неплохой на выходе:)
-
Ухудшение памяти. Говорят, что перекладывание задач по запоминанию на AI снижает нашу память (что для меня самый спорный пункт, кажется, благодаря интернету у нас уже и без того память не очень хорошая)
-
Снижение навыка фокусирования. Это мой любимый пункт, потому что AI для меня – это как тик-ток в сфере знаний. Можно быстро получать информацию, создавать иллюзию понимания и аргументировать свою точку зрения на любой вопрос в комментариях. И тут у меня уже есть сомнения по поводу того, насколько GPT с помощью своих метафор и коротких ответов в духе “расскажи как семилетнему ребёнку” даёт реальное понимание тем.
Мне сложно спорить с тезисами выше, вопрос, скорее, в другом – пора ли бить тревогу? Возможно, говорить про AI всё ещё рано, поэтому мне захотелось посмотреть на исследования появления прошлых технологических инструментов. И это правда похоже на то, что было раньше (и то, что уже давно изучает социология науки и технологий): когда пришли калькуляторы и в среднем снизили навык счёта в уме у людей, GPS-навигаторы понизили активацию гиппокампа или интернет, который вообще изменил то, как мы работаем с фактами.
Все статьи про прошлый опыт говорят примерно про одно: передача умственной работы технологиям, приводит к сочетанию преимуществ (эффективность, точность, снижение рабочей нагрузки) и издержек (снижение практики, зависимость, потеря навыков).
Главный урок этих аналогий в том, что человеческие навыки адаптируются к тому, как их используют. Если какой-то навык постоянно перекладывается на ИИ, люди будут меньше им пользоваться и, скорее всего, станут менее способными в этом самом навыке. Хорошо про это написал Пол Грэм в эссе про навык письма (с чем я очень согласен): “через пару десятилетий не останется людей, умеющих писать”.
Но есть и обратная сторона – если технология используется как инструмент дополняющий человека, а не заменяющий, негативные последствия могут быть сглажены.
А для себя я тут сделал такой вывод: AI действительно влияет на когнитивные способности, но это не оглупление, а перераспределение нагрузки. Мы отказываемся от одних навыков в пользу других. Так что и на что мы меняем?
Возможности AI
Тут есть огромный соблазн написать сильные сферы применения AI простыми словами или вообще скопировать из GPT:
-
Анализ и обработку больших объёмов данных
-
Генерацию идей и помощь в письме
-
Автоматизацию рутины
-
Решение задач с чёткими правилами
-
И так далее
Я же хочу разобрать на моих примерах
-
Написание этой статьи
-
Где помогает AI:
-
Обработал большой массив информации и подготовил для меня список источников, которые стоит прочитать чтобы сформулировать свою точку зрения.
-
Структурировал все мои заметки за разное время в один связанный план статьи
-
Помогал преодолеть эффект чистого листа: когда идея есть, а как написать – не понятно
-
Автоматизировал рутину – проверил грамматику, расставил абзацы
-
Дал фидбэк по статье: выделил сильные аргументы, слабые аргументы, как их можно усилить.
-
-
Как AI мог ухудшить опыт: например, если бы я бездумно приводил аналогии, просил его придумать примеры, аргументы, написать за меня сам текст. Люди распознают механистичность текста (даже не буду искать исследования).
-
-
Менеджмент и управление коммуникацией
-
Где помогает AI:
-
Смотрит на проблемы без разных предвзятостей
-
Выступает в роли медиатора и помогает занять в спорах более нейтральную позицию
-
Помогает подобрать фреймворк для проведения встречи, составить план, даёт фидбэк на то, как я хочу её провести
-
После встречи читает мои заметки и даёт свой фидбэк: какие проблемы я забыл обсудить, что я мог пропустить, чему можно мне поучиться
-
Оформляет постмит на основе моих заметок
-
-
Как AI мог ухудшить опыт: когда слепо беру то, что он рекомендует – я знаю больше контекста, знаю реакцию людей и учитываю её при принятии решений и игнорирую свою интуицию. Часто очевидные фреймворки и решения из-за этого просто не работают :)
-
-
Написание музыки
-
Где помогает AI:
-
Создаёт разные идеи, из которых я выбираю. Если я сажусь за музыку, я слишком склонен использовать то, что у меня раньше получалось. И AI часто с помощью довольно простых инструментов помогает накидать новую барабанную партию, новую мелодию, которую я уже забираю и начинаю развивать.
-
Делает окончательное сведение
-
Делает ремиксы, на основе которых я также забираю какие-то новые идеи
-
Вообще, мне кажется, что тут появляется что-то типа вайб-кодинга, но в музке: вот здесь я писал подробнее про это.
-
-
Как AI мог ухудшить опыт: когда я теряю своё авторство в треках через прогоны через AI, превращая создание музыки в механический перебор того, что звучит приятно. Многие системы позволяют определить насколько сильно нужно менять трек при окончательной AI-доработке – я ставлю не более 5% и результат меня всегда приятно удивляет.
-
Ограничения AI – где я стараюсь возвращать себе агентность
А теперь, думаю, опять же важно отметить – по итогам написания статьи, я провел её через ChatGPT, и он помог мне классно сформулировать главное ограничение при использовании AI:
Ключевая проблема с AI — не то, что он нас делает тупее, а то, что он убирает сопротивление.
В сложных задачах именно сопротивление рождает развитие. Когда ты пишешь статью и не можешь сформулировать мысль, начинает работать глубокое мышление [я писал про это в прошлой статье о базах знаний и подсвечивал похожий риск делегировать мышление своему Obsidian]. Когда ты пишешь музыку и ищешь нужное слово, ты одновременно тренируешь свой вкус и чувство формы. Когда ты проводишь встречу и считываешь людей, ты прокачиваешь интуицию и эмпатию. А это, кажется, важно?
Например, мне было сложно писать эту статью: сначала я долго наблюдал и печалился о том, как я и окружающие люди используют ИИ, проходил стадии сопротивления, читал материалы по теме, обсуждал это с живыми и искусственными интеллектами, и в итоге родил вот какой-то вывод. Формулировать эту статью тоже было сложно, потому что мыслей и идей много, и их хочется упаковать в складный текст. Но именно это сопротивление в итоге при публикации статьи даёт мне чувство удовлетворения от проделанной работы. И понимание того, что я что-то понял по пути.
Пока AI приобретает агентность, нам важно не потерять её самим. И, думаю, нам предстоит переосмыслить клише “AI не заменит людей – но люди, которые правильно его используют, заменят тех, кто не использует AI”. Вижу как эта идея становится опраданием использования его там, где это делать не стоит. Предлагаю что-то типа:
AI не заменит твои навыки, но покажет, какие из них у тебя действительно есть :)
И тогда все риски можно оформить в такой небольшой список. Опасно, когда:
-
Когда AI становится заменой мышления, а не инструментом: написание статьи, письма вместо осмысления, получение быстрых поверхностных ответов.
-
Когда AI снижает чувствительность к деталям и контексту: на любой живой встрече, по разным исследованиям, менее 10% информации передаётся вербально, всё остальное – тон голоса, ударения, невербальные сигналы. Может ли это обработать AI? Да, но есть нюансы в интерпретации :) Может, человек каждую встречу сидит в закрытой позе по привычке или у него холодно?
-
Когда AI включается как инструмент избегания сложностей и сопротивления: ну, правда, можно получить саммари идей из любой лекции и книги и опубликовать на хабре сводку. Но зачем тогда автор?
-
Когда AI просто убивает кайф. Возможно, если вы не любите писать музыку/тексты/картины вручную, без AI, то не стоит вообще заходить в эту тему :) А лучше найти сферу, в которой AI будет нас усилять, а не заменять.
Практики самопомощи в AI век
Звучит красиво, но что делать-то? В этом блоке мне захотелось оставить, в первую очередь, для себя, какую-то надежду, принципы, которым буду следовать, чтобы не упустить тот момент, когда начнётся превращение в homo GPT и когнитивная деградация :)
Забавно, что в этом блоке, по сути, я ничего нового не изобрёл и опираюсь на практики самопомощи для людей с СДВГ и тревожных:
-
AI-детокс
Я стараюсь проводить субботу без когнтитивного труда, а значит, меньше использовать AI, идеально – вообще без него. Рекомендую, очень отрезвляет, возвращает в старый добрый 2021 год.
-
Донастроить так, чтобы AI требовал включать мозг
Мой GPT донастроен кастомными инструкциями так, чтобы в конце задавал мне вопросы для рефлексии, и это, кажется, важная история, потому что даже на фоне помогает мне не забывать включать мозг. Ну и, конечно, просить альтернативные точки зрения и источники информации, не полагаясь на первое мнение AI.
-
Следить за рассуждениями AI
Я уверен, нам есть чему научиться у AI, и, надеюсь, что thinking модели немного исправят ситуацию с осознанным использованием LLM, потому что делают более прозрачным процесс размышления искусственного интеллекта над задачами. Периодически я раскрываю цепочку мыслей AI и пытаюсь увидеть в этом логику – почему ответ именно такой, где могли быть ошибки:
-
Общаться, блин, с людьми
Писать статьи текстом, говорить голосом, формулировать самостоятельно. Эту статью я большую часть времени обсуждал с разными людьми, тестировал идеи об реальность, наблюдал за реакцией. GPT бы точно такого не выдал, а лишь подтверждал какие-то мои идеи.
-
Сначала подумай сам, потом – с AI.
И главное моё правило использования AI, оно же и самое простое. Есть большое постоянное желание забрать какой-нибудь готовый промпт, сформулировать короткий вопрос и получить ответ от AI, делегировать принятие решения, рассуждение по теме.
В 2024 году распространялась идея, что промпт-инжиниринг умирает, и я с этим согласен, потому что для AI промпты уже не так важны – он и так нас хорошо понимает. Но промпты становятся важнее для самого человека: задавая промпт (или, проще говоря, рассуждая о проблеме, собирая контекст и формулируя вопрос) на старте, человек включает мышление вперёд машины, и это уже само по себе полезное занятие.
Ну и напоследок
Я думаю, эта статья – лишь промежуточные мысли в осмыслении этой (на мой взгляд) важной темы. Да и сам я только-только приоткрываю для себя двери в интересный мир социологии науки и технологий.
Поэтому приглашаю к диалогу: что наблюдаете вокруг и у себя? Какие навыки усиляются, какие утрачиваются с появлением LLM в жизни? Что будете делать или делаете?
Больше про построение систем управления знаниями, выстраивание здоровой продуктивности с AI, собой и командами я пишу в своём телеграм-канале – буду рад подписке.
Автор: kitnikita
