@lina @rf Я под llama.cpp запускал general purpose языковые модели 7-13b и просил переводить между русским и английским, получалось неплохо. Наверняка на huggingface можно и специализированное нечто найти.
@lina @rf https://huggingface.co/LoneStriker/TowerInstruct-13B-v0.1-GGUF например выглядит интересно
QOTO: Question Others to Teach Ourselves An inclusive, Academic Freedom, instance All cultures welcome. Hate speech and harassment strictly forbidden.
@lina @rf https://huggingface.co/LoneStriker/TowerInstruct-13B-v0.1-GGUF например выглядит интересно