Безопасность AI-агентов в Web3. Часть 2: уязвимости современных LLM и соревновательный взлом
Современные методы джейлбрейков
Робот-бариста: когда искусственный интеллект варит идеальный кофе
Представьте: вы заходите на кухню, лениво потягиваясь после долгого рабочего дня, и говорите:«Я устал, сделай мне кофе». Вместо того чтобы самому включать кофемашину, искать чашку и засыпать кофе, за дело берётся роботизированная рука, оснащённая искусственным интеллектом GPT-4. Она плавно двигается, как опытный бариста, открывает ящик, достаёт нужную кружку, аккуратно зачерпывает молотый кофе, включает кофемашину и заливает воду с точностью до грамма.Это не кадр из фантастического фильма, а реальность, созданная на базе технологии воплощённых языковых моделей (ELLMER), представленной в
ИИ – армагеддон или революция?
В последнее время все чаще звучат апокалиптические прогнозы о будущем искусственного интеллекта в стиле «Терминатора»: скоро нас всех поработят роботы и мы все умрем! Если бы такие идеи исходили только от писателей‑фантастов, в этом не было бы ничего удивительного — жанр научной фантастики часто строится на попытках запугать читателя. Однако в дело вступают не только писатели, но и серьезные исследователи. Вот например Ник Бостром в его «Суперразум: пути, опасности, стратегии» (2014), где он обсуждает возможные риски искусственного интеллекта:
Yelp адаптирует технологии ИИ для улучшения пользовательского опыта
Во время недавнего всплеска интереса к технологиям ИИ приложение для отзывов Yelp столкнулось с препятствиями при использовании современных LLM для некоторых функций.У клиентов, особенно у тех, кто пользовался приложением лишь изредка, возникали проблемы с
Так ли хороша DeepSeek-R1, как о ней говорят
Во всем AI-мире сейчас говорят о новой китайской языковой модели DeepSeek и, конечно, наша команда развития AI не могла пройти мимо этой темы. Мы сравнили ответы новой модели на реальные запросы к нашей базе знаний с ответами других популярных моделей. Что из этого получилось и какие выводы мы сделали расскажу я — Максим Михайлов, продуктовый менеджер Cloud.ru.
Обзор уязвимостей для LLM. Часть 1. Атака
Большие языковые модели где только не применяют: генерируют внешний вид автомобилей, домов и кораблей, саммаризируют круглые столы и конференции, придумывают тезисы к статьям, рассылкам и презентациям. Но при всех «плюшках» от внедрения ИИ, не стоит забывать про безопасность. Большие языковые модели атакуют разнообразными изощрёнными способами. В топе новостей о нейросетях — многомиллионные инвестиции в средства защиты от промпт-инъекций. Поэтому поговорим о том, какие угрозы существуют и почему инвесторы платят большие деньги за создание таких бизнесов. А во второй части статьи расскажу, как от них защищаться.
OpenAI: ChatGPT начал «лениться» и иногда не отвечает на вопросы
OpenAI подтвердила в треде в X (Twitter), что получает жалобы от некоторых пользователей. Они утверждают, что в последнее время при использовании GPT-4 или ChatGPT API чат-бот либо отказывается отвечать на вопросы, либо прерывает разговор. По данным The Independent, вышеуказанные проблемы обычно
Google призналась, что демонстрация мультимодальности Gemini — это постановка
6 декабря вместе с семейством моделей Gemini компания Google показала видеоролик, где человек взаимодействует с мультимодальной языковой моделью. На видео пользователь общается голосом, рисует и показывает жесты, а Gemini распознаёт увиденное и всячески развлекает. Как заметили наблюдатели и как позже признала Google, видеоролик преувеличивает технические способности ИИ.
Google представила ИИ-модель Gemini, которая обходит GPT-4 в большинстве тестов
Google объявила о запуске главного конкурента ChatGPT — ИИ-модели Gemini
Даже если случайно переставить буквы в словах, GPT-4 понимает текст
Цветом выделена токенизация Для представления внутри трансформеров слова или их небольшие части преобразуются в токены. Кажется, что если перемешать в каждом слове буквы, то языковая модель на трансформерах потеряет всякую способность понимать текст. Авторы научной работы «Unnatural Error Correction: GPT-4 Can Almost Perfectly Handle Unnatural Scrambled Text» (arXiv:2311.18805) показали, что это не так. Как выяснилось, GPT-4 без проблем оперирует текстом, где в каждом слове все буквы случайно переставлены.
