Follow
@strizhechenko воск с малой моделью. Не видел, что там другая есть, надо попробовать. Сам войск ресурсов мало берет.
1060 6гб и половинка от нее по скорости дома нашлись. Я не геймер, и эти приблудные были.
Все жду, может кто-то на боксваны сможет модель портировать. Последний кубик Х с рук €200-220 стоит, ГПУ там вроде хороший, в 4к тормозов ни в чем нет.
@zd915 так на ящике же винда обычная. Если там есть доступ к десктопу, то можно попробовать поставить ту же ollama и вперед. Правда непомню чья там видяха. А то могут быть нюансы
@strizhechenko
а, добавлю. Ставил с помощью дипсик , в контейнер проксмокса.
Для дебиана 10 тот подсказывает правильно, а для 11 лажает.
@medvedych