Anthropic представила новый метод защиты больших языковых моделей от взломов
Спустя два года после появления ChatGPT на рынке появилось множество больших языковых моделей (LLM), и почти все они по-прежнему уязвимы для взлома — специальных запросов и других обходных путей, которые заставляют их генерировать вредоносный контент.
Почему логика запрещает дальше жить: вызовы ИИ и новая реальность
«Человек – это канат, натянутый между животным и сверхчеловеком, – канат над пропастью. Опасно прохождение, опасно быть в пути, опасен взор, обращенный назад, опасны страх и остановка. В человеке важно то, что он мост, а не цель: в человекеможно любить только то, что он переход и гибель».(Ф. Ницше, «Так говорил Заратустра»). Предел человеческого разума Развитием движет непрерывная конкуренция. Соперничают идеологии, государства, бизнесы и люди. Побеждает тот, чьи решения лучше, т.е. кто лучше управляет своими активами.
ИИ отправился искать жизнь в компьютерных симуляциях
Поиск искусственной жизни (artificial life или A-life) — это область науки, исследующая модели живых систем и их эволюцию в контролируемых условиях, чаще всего — в компьютерных симуляциях. поиски эти раньше часто проводились вручную, а рисерчеры из ИИ-лаборатории Sakana AI предложили новый подход к автоматизации поиска с использованием ИИ моделей, таких как CLIP.
Бесплатный онлайн-тренажер по SQL, телеграм-бот для быстрой подписи PDF-документов – и еще 8 российских стартапов
10 новых российских продуктов для превращения альбомов в VK в онлайн-выставки, проверки и оценки земельных участков в РФ, мониторинга новостей и многого другого. Битва за «Продукт недели» началась!Product Radar — здесь каждую неделю публикуются лучшие онлайн-сервисы и железки от русскоязычных команд.Это площадка, где энтузиасты из мира технологий делятся своими идеями, обсуждают и создают вместе новые продукты, чтобы делать жизнь людей лучше.Победители прошлой недели
Investic
DeepSeek-R1 для чайников
В последние месяцы всё чаще слышим про «reasoning-модели», способные не просто продолжать текст, а действительно шаг за шагом решать сложнейшие задачи цепочкой рассуждений (chain-of-thought). Впервые такой подход эффектно показали в OpenAI o1, но, к сожалению, подробности там остаются секретными. Недавно же команда DeepSeek наделала шуму с открытыми вариантами R1 и R1-Zero, созданными поверх их собственной большой MoE-модели DeepSeek-V3. В этом посте я не стану углубляться в вопрос «чья модель лучше — o1 или R1». Зато разберу, какие главные технические детали
SoftBank и OpenAI укрепляют партнёрство: миллиардные инвестиции и создание нового предприятия
В понедельник SoftBank и OpenAI объявили о крупном партнёрстве, которое предусматривает ежегодные расходы в миллиарды долларов и создание нового совместного предприятия, ориентированного на японский рынок.
Почему Deep Research от OpenAI — это еще один шаг на пути к AGI
Вчера OpenAI представила Deep Research – автономного ИИ-агента, способного самостоятельно проводить многоступенчатые исследования в интернете. Deep Research доступен в тарифе Pro с 100 запросами в месяц.
Cloudflare упрощает отслеживание подлинных изображений в Интернете
Cloudflare запустил новую функцию, которая помогает людям быстро проверять подлинность онлайн-изображений. Поставщик услуг веб-безопасности и хостинга внедрил систему Content Credentials от Adobe, которая применяет к изображениям и видео цифровой тег метаданных, отслеживающий, кому они принадлежат, где они были опубликованы и подвергались ли они редактированию, в том числе с помощью инструментов генеративного искусственного интеллекта.
The Beatles выиграли Грэмми благодаря треку, созданному с помощью AI
The Beatles выиграли свою восьмую конкурсную премию Грэмми благодаря небольшой помощи искусственного интеллекта. Трек 2023 года «Now and Then», который, как сообщает Billboard, является первой песней, сознательно созданной с помощью искусственного интеллекта и получившей номинацию на Грэмми, был отмечен за лучшее рок-исполнение в воскресенье, обойдя конкурентов из Green Day, Pearl Jam, The Black Keys, Idles и St. Vincent.
Все встревожены взлетом DeepSeek — кроме Nvidia, которая этому способствовала
Акции Nvidia просели в цене, а регуляторы ограничивают её продажи чипов, но американский гигант ИИ смотрит в будущее и ведёт долгую игру в Китае.Дисклеймер: это вольный перевод лонгрида
