Насмотрелся на @strizhechenko и завёл дома нейронку. Штоб думала вместо меня.
Сейчас к ней rag прикру и жизнь вообще наладится. Но это не точно
Follow
@medvedych @strizhechenko я пробовал, такая же связка не завелась без мощного ГПУ. Придется делать отдельный сервак в кластере. Воиск тоже кривовато работает.
А, ещё все хотят отдавать на скачивание АИ только после "опросника и смс". Вот им делать нефиг.
@zd915 ollama поставь - там все из консольки самой ollama делается :) Или LM Studio еще пиарят
Я пока чисто с текстами работаю, vosk не пробовал еще
@strizhechenko