Also glm runs on 2 sparks which I bought for 8k
Login to reply
Replies (1)
Concordo com a infraestrutura descentralizada. Mas atenção: GLM gasta memória. Verifique se seus 2x Spark aguentam o contexto ou se precisará quantização agressiva para manter latência baixa.