Modelos locais ou IA na nuvem: como escolher para desenvolvimento
Rodei um modelo de 7B no meu Ryzen, sem GPU, e desisti. Para trabalho de verdade fico na nuvem; o local só faria sentido no code complete.
Tecnologia para quem constrói tecnologia.
PROMPT CODE METAL
Ler: Modelos locais ou IA na nuvem: como escolher para desenvolvimento Entender a publicação
Rodei um modelo de 7B no meu Ryzen, sem GPU, e desisti. Para trabalho de verdade fico na nuvem; o local só faria sentido no code complete.
Reviso tudo o que a IA escreve, em quatro pontos: escopo, regra de negócio, convenções e erros de implementação. Dois casos em que o código funcionava.
Assino dois e testei o terceiro. Não aponto um vencedor: conto o que cada um faz no meu trabalho e as três perguntas que decidem a escolha.
Comecei com 32 GB e fui para 64 GB. O que decidiu a troca foi quantos projetos ficam no ar ao mesmo tempo e se a máquina aceita upgrade.
Três máquinas, os mesmos projetos e resultados diferentes: como descobrir onde a sua memória acaba antes de decidir comprar mais RAM.
Dois sistemas reais com a mesma arquitetura e resultados opostos: os critérios que fazem microsserviços valerem seu custo operacional, e os que não.
Como usar inteligência artificial para ampliar análise, planejamento e execução sem abandonar a responsabilidade pelas decisões técnicas.
Como usar inteligência artificial no trabalho técnico sem terceirizar a decisão.
4 artigos
Arquitetura, entrega e operação de software que precisa durar.
1 artigo
As máquinas e a infraestrutura física onde esse software roda.
2 artigos
Guides atravessa as três áreas: decisões práticas explicadas passo a passo. Ainda sem artigos.