Vitalik Buterin chamou a "governação por IA" de uma "má ideia"

O cofundador da Ethereum, Vitalik Buterin, acredita que o uso de inteligência artificial (AI) para governança é uma "má ideia". Ele alertou que, se a IA for utilizada para alocar fundos, o sistema ficará fácil de ser explorado por códigos de jailbreak com o objetivo de apropriar-se de todo o dinheiro.

O comentário de Buterin foi feito após Eito Miyamura, CEO da EdisonWatch, apontar uma vulnerabilidade séria no ChatGPT depois que a plataforma integrou completamente o protocolo MCP, permitindo que a IA acessasse dados de aplicativos como Gmail, Calendar e Notion. Miyamura afirmou que um atacante poderia roubar todas as informações pessoais apenas com um e-mail contendo um convite de reunião malicioso.

Em vez de dar total controle à IA, Buterin propôs um modelo de “info finance” – um mercado aberto onde vários desenvolvedores oferecem diferentes modelos de IA. Esses modelos podem ser testados aleatoriamente e avaliados por um conselho de pessoas, com o apoio de LLM, para garantir diversidade e transparência.

Buterin alerta que a tendência de “IA como gestor” apresenta riscos graves, não apenas em relação à segurança da IA tradicional, mas também pode causar “grandes perdas de valor” a curto prazo.