Triton, Flash-attension, Sage-attension и bitsandbytes с Rocm7 в Windows
В конце января 2026 вышел triton-windows 3.6.0.post25, который позволяет использовать flash-attention, sage-attention (v1) и другие библиотеки, использующие Triton, на картах AMD с поддержкой rocWMMA (то есть начиная с архитектуры gfx1100: RX 7900 XT/XTX и новее) в Windows.Также, несмотря на то что в официальном репозитории bitsandbytes еще не приняли PR для поддержки ROCm 7, его все же можно собрать, внеся небольшие изменения в код. Эти изменения я уже сделал в своем форке.
Морфемы против BPE: как лингвистика ускоряет обучение языковых моделей
Откройте любой BPE-токенизатор и введите слово "paratrooper". Вот что вернёт GPT-5.x (токенизатор o200k_base): . Три бессмысленных слога. Ваш мозг видит para- (около), troop (отряд), -er (деятель) — а токенизатор видит статистический шум.Это не баг, а особенность работы Byte Pair Encoding — алгоритма, который разрезает текст по частоте встречаемости пар символов, полностью игнорируя лингвистическую структуру слов. GPT-5.x, Claude, Gemini, LLaMA — все используют варианты BPE.
Часть мозга, которая предугадывает события. Ценой реорганизации памяти
За последние два года представление о том, как работает мозг и ЦНС поменялось несколько раз. И продолжает меняться. Наука отходит все дальше от принципа: «этот участок отвечает за такую-то функцию». Вместо этого мы получаем: «такой-то участок обладает такими-то свойствами, которые проявляются в таких-то ситуациях». Так и сейчас речь пойдет про центр памяти, который не только постоянно переписывает воспоминания, но и учится предугадывать будущее.
Прибыль Tesla обвалилась вдвое. Маск нашёл выход – и это не автомобили
Производство Model S и Model X прекращается на фоне падения прибыли на 46%. Поворот Маска к роботам – это не инновация. Это отступление.
Выручка AWS продолжает стремительно расти на фоне устойчивого спроса на облака
Amazon Web Services завершила 2025 год с самым сильным квартальным темпом роста более чем за три года.В четверг компания
Я автоматизировал поиск работы, чтобы пройти тест Тьюринга у HR. Открытый эксперимент
Привет, Хабр. Я Вадим, QA-инженер.Все мы знаем, как работает найм. Твое резюме может быть идеальным, но если в нем нет нужного ключевого слова или оно не понравилось алгоритму первичного отсева (ATS) — ты в пролете.Я решил взломать эту систему. Инженерно.Я написал софт, который берет на себя весь цикл: мониторинг вакансий, анализ требований и генерацию сопроводительного письма, которое должно продать меня лучше, чем я сам.Ниже — краткий лог разработки: как мы боролись с «машинным акцентом», почему нейросети врут про опыт и удалось ли мне обмануть рекрутеров.Попытка №1. Скрипты и шаблоны
Революция в ИИ-вычислениях: Детерминированная рациональная арифметика с отложенным делением
Архитектурная схемаАннотацияПредставлена инновационная архитектура вычислений, сочетающая рациональную арифметику с отложенным делением
SOTA-модели из Китая, бесплатный аналог Suno, приложение Codex от OpenAI, реалтайм-аватары Lucy 2.0
Привет, это новый выпуск «Нейро-дайджеста» — коротких и полезных обзоров ключевых событий в мире искусственного интеллекта и технологий. Меня зовут
Почему OpenAI Assistants не подошёл для сложных AI-агентов
О чём статья:Кейс о том, как мы в Soft Skills Lab делали AI‑агенты для EdTech‑продукта:Почему OpenAI Assistants не подошёл для сложных сценариевКакие проблемы возникли со своим бэкендомЗачем понадобилось делать свою платформу для управления агентамиЕсли вы интегрируете AI в продукт и думаете, какой путь выбрать — этот опыт может быть полезен.Запустить AI-агента на OpenAI Assistants — легко. Мы в Soft Skills Lab так и сделали: создали 20 AI-тренажёров для переговоров. Всё работало стабильно, инфраструктура OpenAI — огонь.Но когда мы начали усложнять сценарии — упёрлись в стену.
