наткнулся на понятные видео про использование майнинг рига в качестве сервера для инференса llm.

щука... странные ощущения когда на в час ночи включаешь компьютер чтобы ответить на вопрос "а сколько могЁт мой компьютер в попугаях токенах/сек по версии llm gemma 3 4b в квантовании 8 бит"