Праздник продолжается: LLM на FreeBSD
Совсем недавно Microsoft выложила в публичный доступ очень интересный проект, позволяющий запускать большие языковые модели на одном только CPU, без использования GPU и CUDA. Разумеется автор не смог пройти мимо такого шанса и запустил это на самом обычном ноутбуке с FreeBSD.
Сложная цель: история одного патча
Питер в последние дни зимы это сплошной мрак, серость и уныние, которые вместе с меняющейся погодой способны вогнать в тоску даже самых стойких обитателей. Именно в такой мрачный февральский день, автор все же решил одну из самых долгоиграющих проблем с оборудованием под FreeBSD.
