A nova ferramenta de interpretabilidade mecanicista desta startup permite depurar LLMs | NeuralNet IA

🇧🇷 O Que Isso Significa para o Brasil?

Com o crescimento do ecossistema de IA no país e discussões sobre regulação (PL 2338/2023), avanços em inteligência artificial, machine learning e automação impactam diretamente profissionais, startups e empresas brasileiras. Fique atento a:

• 🎓 Capacitação profissional: Demanda por habilidades em IA cresce 3x ao ano no mercado brasileiro
• ⚖️ Marco Regulatório: Proposta de lei sobre IA pode afetar desenvolvimento e uso de ferramentas
• 🏢 Adoção empresarial: Setores como saúde, jurídico e financeiro lideram implementação de IA no Brasil

A empresa afirma que sua missão é tornar a construção de modelos de IA menos parecida com alquimia e mais como ciência. Claro, LLMs como ChatGPT e Gemini podem fazer coisas incríveis. Mas ninguém sabe exatamente como ou por que funcionam, e isso pode dificultar a correção de suas falhas ou o bloqueio de comportamentos indesejados.

“Vimos essa lacuna cada vez maior entre o quão bem os modelos eram compreendidos e o quão amplamente eles estavam sendo implantados”, disse o CEO da Goodfire, Eric Ho. Revisão de tecnologia do MIT em um bate-papo exclusivo antes do lançamento de Silico. “Acho que o sentimento dominante em todos os grandes laboratórios de fronteira hoje é que você só precisa de mais escala, mais computação, mais dados e então terá AGI [artificial general intelligence] e nada mais importa. E estamos dizendo não, há uma maneira melhor.”

A Goodfire é uma das poucas empresas, incluindo as líderes do setor Anthropic, OpenAI e Google DeepMind, pioneiras em uma técnica conhecida como interpretabilidade mecanicista, que visa entenda o que acontece dentro de um modelo de IA quando realiza uma tarefa mapeando seus neurônios e os caminhos entre eles. (Revisão de tecnologia do MIT escolhido interpretabilidade mecanicista como uma de suas 10 tecnologias inovadoras de 2026.)

Goodfire quer usar esta abordagem não apenas para auditar modelos – isto é, estudar aqueles que já foram treinados – mas para ajudar a projetá-los em primeiro lugar.

“Queremos eliminar a tentativa e erro e transformar modelos de treinamento em engenharia de precisão”, diz Ho. “E isso significa expor os botões e mostradores para que você possa realmente usá-los durante o processo de treinamento.”

Goodfire já usou suas técnicas e ferramentas para ajustar o comportamento dos LLMs – por exemplo, reduzindo o número de alucinações que produzem. Com a Silico, a empresa agora está empacotando muitas dessas técnicas internas e enviando-as como um produto.

A ferramenta usa agentes para automatizar grande parte do trabalho complexo. “Os agentes agora são fortes o suficiente para realizar grande parte do trabalho de interpretabilidade que fazíamos usando humanos”, diz Ho. “Essa era uma espécie de lacuna que precisava ser preenchida antes que esta se tornasse realmente uma plataforma viável que os próprios clientes pudessem usar.”

Leonard Bereska, pesquisador da Universidade de Amsterdã que trabalhou na interpretabilidade mecanicista, acha que o Silico parece uma ferramenta útil. Mas ele rejeita as aspirações mais elevadas de Goodfire. “Na realidade, eles estão acrescentando precisão à alquimia”, diz ele. “Chamar isso de engenharia faz com que pareça mais íntegro do que realmente é.”

📚 Leia Também no NeuralNet:

• 👉 Guia de Inteligência Artificial para Iniciantes
• 👉 Melhores Ferramentas de IA para Aumentar sua Produtividade
• 👉 Ética e Regulação de IA no Brasil: O Que Você Precisa Saber

⚠️ Aviso Importante: Este conteúdo é apenas para fins educacionais e informativos. Não constitui aconselhamento técnico, jurídico ou profissional. Tecnologias de IA evoluem rapidamente e podem apresentar limitações, vieses ou riscos. Sempre valide informações em fontes oficiais e use ferramentas de IA com responsabilidade e crítica.