Искусственный интеллект в киберзащите
За последние несколько лет статус технологий искусственного интеллекта меняется от технологической новинки, которой предсказывают покорение и изменение мира, до инструмента обработки данных, повсеместно внедряемого для решения рутинных задач в различных отраслях.
Записи автоответчиков стали использовать для создания дипфейков
Мошенники могут использовать персональные голосовые приветствия на автоответчиках для создания дипфейков — об этом предупредили эксперты. Эти записи позволяют злоумышленникам при помощи нейросетей имитировать голос потенциальной жертвы и в дальнейшем использовать его при атаках на её окружение, пишут «Известия».
Sony удалила с онлайн-платформ более 75 тысяч дипфейк-песен
Sony Music объявила об удалении с онлайн-платформ более 75 тыс. дипфейк-песен, созданных искусственным интеллектом с имитацией реальных исполнителей, включая Гарри Стайлса и Бейонсе. Руководители музыкальных компаний настаивают, что обнаруженные дипфейки, вероятно, составляют лишь малую часть от совокупного объёма подделок, сгенерированных инструментами искусственного интеллекта. Об удалении десятков тысяч фейковых песен Sony сообщила в обращении к правительству Великобритании.
YouTube предупредил авторов контента об использовании дипфейков с гендиректором компании для фишинговых атак
Видеохостинг YouTube предупредил авторов контента о типе фишинговой атаки, в рамках которой мошенники пытаются заманить жертв при помощи сгенерированного искусственным интеллектом дипфейка генерального директора площадки Нила Мохана.
Microsoft назвала имена киберпреступников, стоявших за сетью по созданию дипфейков с помощью ИИ компании
Microsoft назвала имена нескольких преступников, входящих в хакерскую группировку, которую обвиняют в разработке вредоносного программного обеспечения, способного обходить защиту инструментов на базе искусственного интеллекта для создания дипфейков знаменитостей и другого незаконного контента.
Обзор уязвимостей для LLM. Часть 1. Атака
Большие языковые модели где только не применяют: генерируют внешний вид автомобилей, домов и кораблей, саммаризируют круглые столы и конференции, придумывают тезисы к статьям, рассылкам и презентациям. Но при всех «плюшках» от внедрения ИИ, не стоит забывать про безопасность. Большие языковые модели атакуют разнообразными изощрёнными способами. В топе новостей о нейросетях — многомиллионные инвестиции в средства защиты от промпт-инъекций. Поэтому поговорим о том, какие угрозы существуют и почему инвесторы платят большие деньги за создание таких бизнесов. А во второй части статьи расскажу, как от них защищаться.
