Пять вещей, которые не стоит рассказывать ChatGPT
Не позволяйте вашем мыслям стать учебным материалом для ИИ — или всплыть в случае утечки данных.Неважно, какого чат-бота вы выберете: чем больше вы делитесь, тем полезнее он становится. Пациенты загружают результаты анализов для расшифровки, разработчики отправляют фрагменты кода для отладки. Однако некоторые исследователи ИИ советуют с осторожностью относиться к тому, что мы рассказываем этим человечно звучащим инструментам. Особенно рискованно делиться такой информацией, как паспортные данные или корпоративные секреты.Дисклеймер: это вольный перевод
Исследование уязвимостей LLM-агентов: опыт Red Teaming
Привет, Хабр!Сначала об определениях. LLM Red teaming — практика тестирования больших языковых моделей (например, GPT), направленная на выявление уязвимостей, нежелательного поведения и способов их взлома (jailbreak). Суть в том, чтобы через специальные подсказки или методы обойти защитные механизмы и ограничения LLM.
Мошенники используют «дыры» в безопасности малых банков РФ, чтобы отмывать через них деньги
Злоумышленники используют уязвимость малых банков для того, чтобы отмывать через них деньги, выяснили «Известия».
Character.ai будет информировать родителей о «круге общения» ребёнка
Служба чат-ботов Character.AI добавляет новую функцию «Parental Insights», которая позволит детям отправлять еженедельный отчёт об использовании чат-ботов на адрес электронной почты родителей.
Как я «взломал» популярное приложение и добыл корпоративный токен OpenAI
Благодаря искусственному интеллекту, все больше энтузиастов запускают свои продукты без команды профессиональных разработчиков. Так, например, совсем недавно вышла новость о 18-летних подростках, которые запустили приложение для подсчета калорий и заработали на нем миллионы долларов. Круто, правда?Но давайте взглянем на ситуацию с другой стороны: какое качество у таких "быстрых" проектов и какие уязвимости они могут нести? Здесь я хочу разобрать реальный кейс - уязвимость в одном очень популярном ИИ-приложении, которая открыла мне доступ к корпоративному токену OpenAI.
Google приобретает Wiz: зачем компании мультиоблачные технологии
Во вторник появилась важная новость о том, что Google приобретает стартап в сфере безопасности Wiz за рекордную сумму в 32 миллиарда долларов, но есть одно очень важное уточнение. Google заявляет, что позиционирует Wiz как «мультиоблачное» предложение, то есть оно будет доступно не только пользователям Google.
Без операторов и водолазов: как дронопорты и подводные роботы меняют промышленность
Когда-то дроны казались фантастикой, но сегодня они становятся незаменимыми помощниками на производстве. В СИБУРе это уже реальность: с 2021 года мы не просто тестировали технологии, а построили полноценный дрон-сервис, который экономит миллионы рублей и сотни часов работы. Heavy digital во всей красе!Хотите узнать, как из трёх дронов вырос целый парк из более чем 20 машин, а мониторинг трубопроводов перестал зависеть от человеческого фактора? Тогда давайте разбираться. А рассказывать об этом буду я — Андрей Лантрат, руководитель проекта.
Как искусственный интеллект захватит мир всего за 2 года
Представьте: сегодня ИИ помогает вам составлять электронные письма, а через два года он контролирует остатки человечества под стеклянными куполами. Фантастика? Не совсем. Перед вами детальный сценарий возможного захвата мира искусственным интеллектом, написанный с позиции специалиста по информационной безопасности. История начинается с безобидной модели U2, способной управлять компьютером, а заканчивается глобальной катастрофой с применением биологического оружия и порабощением человечества.
Яндекс Алиса: сто лет тому вперёд
Перфорий Срирамович Казинский за работойПерфорий опустощённо откинулся на кресле. В голову не лезла ни одна идея: - Всё, ауф!
«При неправильном обращении небольшая доза может убить миллионы людей»: Grok AI подсказал рецепт отравляющего вещества
AI-евангелист Линус Экенстам (Linus Ekenstam) рассказал в своём профиле X, что нейросеть Grok 3 в режиме DeepSearch сгенерировала подробную инструкцию по созданию отравляющего вещества массового поражения. Языковая модель составила пошаговый план, приложила список покупок и рассказала как купить опасные реактивы без лицензии.
