Modelos locais ou IA na nuvem: como escolher para desenvolvimento
Rodei um modelo de 7B no meu Ryzen, sem GPU, e desisti. Para trabalho de verdade fico na nuvem; o local só faria sentido no code complete.
Para trabalho de desenvolvimento de verdade, eu escolho a IA na nuvem. Um modelo local até me parece suficiente para completar código enquanto digito, o code complete, mas pagar o hardware que ele exige só para isso não fecha a conta. Cheguei a essa resposta rodando um modelo local na minha máquina e desistindo dele.
Nos artigos sobre memória RAM eu disse que não rodo modelo de IA local. Continua verdade. Mas já rodei, e o que conto aqui é por que parei.
O teste que eu fiz
Usei o Ollama para rodar o Qwen de 7B no Ryzen 5 5600G, o mesmo desktop de 32 GB ou 64 GB de RAM para desenvolvimento?. Sem GPU dedicada: o modelo rodava no processador.
Eu queria testar duas coisas: codificação e agentes. A comparação era com o que eu já usava no dia a dia, o Claude e o Codex.
A grande barreira foi a velocidade. Sem GPU dedicada, foi extremamente lento.
A qualidade também ficou muito abaixo. E quando tentei passar algumas tarefas para agentes executarem, deu muito errado.
Num agente, os dois problemas se somam. Ele executa uma sequência de passos, e cada passo lento e cada erro entram na conta do passo seguinte. Esse é o meu raciocínio sobre o que vi, não uma medição.
O que a GPU resolveria, e o que eu não sei
Desisti por dois motivos, qualidade e hardware. Percebi que, para ter um desempenho aceitável, eu teria de gastar muito dinheiro numa GPU decente.
Essa frase tem um limite, e prefiro deixá-lo à vista. Não testei com GPU. O que uma placa dedicada mudaria é a velocidade. Se um modelo que coubesse nela chegaria perto da qualidade que tenho na nuvem, não sei dizer.
A conta que eu fiz
Comparei o custo de manter uma máquina com GPU dedicada com o do plano que uso, o Max 5x do Claude, de US$ 100 por mês. Em Claude, ChatGPT ou Gemini para desenvolvimento: como escolher contei como cheguei a ele.
A máquina com GPU não vale a pena. O plano se paga.
Há também uma diferença de natureza entre os dois gastos, e esta é uma observação minha, não parte da comparação. A assinatura eu posso rever a cada mês. A placa é um gasto feito de uma vez, para comprar uma qualidade que eu ainda teria de testar.
Os argumentos a favor do local que não pesaram para mim
Dois argumentos aparecem sempre que o assunto é rodar IA na própria máquina. Nenhum deles decidiu o meu caso.
Sigilo do código. O código dos meus clientes nunca entrou em cláusula de sigilo, então mandar código para um serviço na nuvem nunca foi um impedimento. Se no seu contrato o código não pode sair da sua máquina, a conta é outra. Não é o meu caso, e por isso não tenho o que contar sobre ele.
Limite de uso. Esbarrei no limite do plano uma vez só, e por descuido: deixei muitos agentes rodando em tarefas diferentes ao mesmo tempo e não acompanhei o consumo. O limite foi consequência do jeito como usei, não um motivo para trazer a IA para dentro de casa.
Onde o modelo local me parece suficiente
No code complete. Para sugerir o resto da linha enquanto digito, acho que um modelo local dá conta.
É uma avaliação minha, não um teste: meu teste com o Qwen foi em codificação e agentes, não em code complete. E ela esbarra no mesmo ponto de antes. O problema não é o modelo, é o custo do hardware só para ter code complete.
Como eu decidiria no seu lugar
As perguntas abaixo saem do meu teste e da minha conta. Os critérios são raciocínio meu; os fatos que os apoiam estão nas seções acima.
Para que você quer a IA? Code complete e trabalho com agentes são cargas diferentes. No meu teste, o que deu errado foi justamente o trabalho de agente.
Você teria de comprar a GPU para isso? Se sim, compare o preço da placa com o do plano que você usaria na nuvem, e lembre que a placa garante a velocidade, não a qualidade.
O seu código pode sair da sua máquina? Se não pode, essa pergunta decide antes de qualquer comparação de qualidade ou de custo.
A decisão
Fico na nuvem. Foi o que o teste me mostrou: lento demais sem GPU, abaixo do Claude e do Codex na qualidade, e errado no trabalho de agente.
Essa resposta vale para outubro de 2026 e para o hardware que eu tenho. Modelos locais mudam rápido, e o que rodava mal num processador pode rodar melhor amanhã. Antes de comprar hardware por causa disso, teste: uma tarefa real, no seu hardware, ao lado da ferramenta que você já usa.