Пять элементов Inference-платформы Selectel. Как мы сделали своего Аватара
Когда дело доходит до инференса ML-моделей, на ум приходит стандартный вариант — задеплоить Helm chart с Triton в Kubernetes. А что если добавить магии, как в «Аватаре»? Привет! Я — Антон, DevOps-инженер в команде Data/ML-продуктов Selectel. В статье я продолжу рассказывать о нашем новом продукте — Inference-платформе (для которой все еще доступен бесплатный двухнедельный тест). На этот раз рассмотрим пять новых фичей, которые и отличают ее от стандартного варианта. Прошу под кат — там тест работающих моделей без даунтайма, генерация котят голосом и много другой магии.
Геймификация любви: как соцсети и приложения для знакомств изменили отношения
Давайте начистоту: время от времени приходит мысль, что онлайн-знакомства — это хорошая идея. Вы регистрируетесь в очередном приложении, заполняете данные профиля, подбираете настройки и оплачиваете подписку. А в следующее мгновение начинается игра, в которой сложно победить. Именно игра, потому что онлайн-знакомства — это, простите за тавтологию, не знакомства. Это их геймификация.
Как прокачать бренд IT-компании с помощью уютных фестивалей? Кейс Selectel Day Off
Привет! На связи Дарья, старший ивент-менеджер Selectel. Год назад мы решили провести фестиваль для IT-специалистов. Идея не новая: компании часто проводят подобные мероприятия, поэтому нам было важно от них отстроиться. По исследованию IT-брендов ЭКОПСИ и Хабра за 2023 год главное преимущество Selectel — человекоцентричность. В Day Off мы подсветили эту особенность и сделали акцент на близких компании ценностях: умеренном развитии, спокойном росте и этичном взаимоотношении с коллегами.
Как сократить расходы на инференс LLM? Разберемся на вебинаре
Привет, Хабр! Присоединяйтесь к вебинару 22 августа в 16:00 мск. Особенно ждем ML- и MLOps-инженеров, Data Scientists и NLP-инженеров, CTO и менеджеров ML-проектов. Поделимся опытом команды «Актион», которая сократила расходы на GPU на 60% и увеличила пропускную способность в 36 раз благодаря решению Compressa на инфраструктуре Selectel. Участникам дадим бесплатный двухнедельный тест LLM-платформы Compressa на инфраструктуре Selectel с GPU.Зарегистрироваться →ПрограммаПроблемы внешних API и open-source моделей «из коробки»Способы оптимизации LLM-моделей на своем сервере
