Партнёрство Voltron Data и Accenture: ускорение обработки данных для внедрения генеративного ИИ

По мере того, как искусственный интеллект ^[1] создаёт беспрецедентный спрос на обработку данных, стартап Voltron Data ^[2] из Маунтин-Вью предлагает решение одной из наименее обсуждаемых, но наиболее важных проблем ИИ: перемещение и преобразование больших массивов данных достаточно быстро, чтобы не отставать от темпов развития.

Компания Voltron Data, которая вчера объявила о стратегическом партнёрстве с Accenture ^[3], разработала аналитический движок с ускорением на графическом процессоре, который может помочь предприятиям преодолеть проблемы с подготовкой данных, препятствующие внедрению ИИ. Основной продукт компании Theseus ^[4] позволяет организациям обрабатывать данные в петабайтных масштабах с помощью графических процессоров (GPU) вместо традиционных компьютерных процессоров (CPU).

«Все сосредоточены на ярких новинках, которые можно потрогать и почувствовать, но именно основа в виде набора данных будет иметь ключевое значение, — сказал Майкл Эбботт, возглавляющий в Accenture практику в сфере банковского дела и рынков капитала, в эксклюзивном интервью VentureBeat. — Чтобы ИИ работал, нужно перемещать данные с такой скоростью, с какой раньше никогда не приходилось».

Это партнёрство появилось в то время, когда компании, стремящиеся внедрить генеративный ИИ, обнаруживают, что их существующая инфраструктура данных ^[5] не способна обрабатывать требуемые объёмы и скорость передачи данных. Ожидается, что эта проблема усугубится по мере того, как агенты ИИ будут всё чаще использоваться в корпоративных операциях.

«Агенты, вероятно, будут писать больше SQL-запросов, чем люди, за очень короткий промежуток времени, — сказал Родриго Арамбуру, технический директор и соучредитель Voltron Data. — Если ИТ-директора и технические директора уже говорят, что тратят слишком много на аналитику данных и облачную инфраструктуру, а спрос будет расти, то нам нужно, чтобы стоимость выполнения этих запросов снижалась».

В отличие от традиционных поставщиков баз данных, которые внедряли поддержку графических процессоров в существующие системы, Voltron Data создала свой движок с нуля для ускорения на графических процессорах. 

«Большинство компаний, когда пытались ускорить работу на графических процессорах, встраивали их в существующую систему, — рассказал Арамбуру в интервью VentureBeat. — Создавая с нуля… мы можем добиться 10-кратного, 20-кратного, 100-кратного ускорения в зависимости от профиля производительности конкретной рабочей нагрузки».

Компания позиционирует Theseus ^[4] как дополнение к существующим платформам, таким как Snowflake и Databricks, используя фреймворк Apache Arrow для эффективного перемещения данных. 

«Это скорее ускоритель для всех этих баз данных, а не конкурент, — сказал Эбботт. — Он по-прежнему использует тот же SQL, который был написан для получения того же ответа, но делает это намного быстрее и параллельно».

На начальном этапе внедрение было сосредоточено на отраслях, интенсивно использующих данные, таких как финансовые услуги, где примерами использования являются обнаружение мошенничества, моделирование рисков и соблюдение нормативных требований. По словам Арамбуру, один крупный ритейлер сократил количество своих серверов с 1400 процессоров до 14 серверов с графическими процессорами после внедрения Theseus.

С момента запуска на конференции Nvidia GTC ^[6] в марте прошлого года компания Voltron Data привлекла около 14 корпоративных клиентов, в том числе два крупных государственных учреждения. Компания планирует выпустить «тестовую» версию, которая позволит потенциальным клиентам экспериментировать с запросами, ускоряемыми графическим процессором, на наборах данных терабайтного масштаба.

Текущая нехватка графических процессоров ^[7], вызванная спросом на ИИ, стала одновременно вызовом и преимуществом для Voltron Data. В то время как новые проекты сталкиваются с ограничениями в оборудовании, многие предприятия обладают недоиспользуемой инфраструктурой графических процессоров, изначально приобретенной для рабочих нагрузок ИИ, и могут перепрофилировать ее для обработки данных в периоды простоя.

«На самом деле, мы увидели в этом преимущество, потому что на рынке появилось так много графических процессоров, которых раньше не было», — отметил Арамбуру, добавив, что Theseus может эффективно работать на графических процессорах предыдущих поколений, которые в противном случае могли бы стать устаревшими.

Эта технология может быть особенно полезна для банков, работающих с тем, что Эбботт называет «заблокированными данными» — информацией, хранящейся в таких форматах, как PDF-файлы и документы, которые могут быть полезны для обучения ^[8] ИИ, но к которым трудно получить доступ и обрабатывать их в больших объёмах. 

«Вы видели некоторые данные, которые, как показал бы вам Voltron, потенциально на 90% эффективнее и экономичнее перемещать с помощью этой технологии, чем с помощью стандартных процессоров, — сказал Эбботт. — В этом сила».

По мере того как предприятия сталкиваются с требованиями ИИ к данным, решения, которые могут ускорить обработку данных и сократить расходы на инфраструктуру, вероятно, будут приобретать всё большее значение. Сотрудничество с Accenture может помочь Voltron Data охватить больше организаций, сталкивающихся с этими проблемами, и предоставить клиентам Accenture доступ к технологиям, которые могут значительно повысить производительность и эффективность их инициатив в области ИИ.

Источник ^[9]