- BrainTools - https://www.braintools.ru -

Ollama обновилась до версии 0.5.1

Основные изменения в этой версии следующие

  • Поддержка новой модели Llama 3.3 – 70B [1]. При относительно небольшом размере (может уместиться на одну видеокарту A100/H100, а при большем сжатии даже на A6000 или связку из 4090 с 48 Гб видеопамяти) данная модель сравнима и даже лучше с Llama 3.1 – 405B и догоняет по некоторым показателям GPT-4o

  •  Поддержка структурированного вывода по заданной JSON схеме [2]. Теперь вывод можно упорядочить и сразу получить только необходимые значения, которые легко потом парсить и использовать. Обновлены как Python так и JavaScript библиотеки Ollama и добавлены соответствующие эндпоинты в API.

Автор: akdengi

Источник [3]


Сайт-источник BrainTools: https://www.braintools.ru

Путь до страницы источника: https://www.braintools.ru/article/10713

URLs in this post:

[1] новой модели Llama 3.3 – 70B: https://dzen.ru/away?to=https%3A%2F%2Follama.com%2Flibrary%2Fllama3.3

[2] структурированного вывода по заданной JSON схеме: https://dzen.ru/away?to=https%3A%2F%2Follama.com%2Fblog%2Fstructured-outputs

[3] Источник: https://habr.com/ru/companies/hostkey/news/865280/?utm_source=habrahabr&utm_medium=rss&utm_campaign=865280

www.BrainTools.ru

Рейтинг@Mail.ru
Rambler's Top100