Novas pesquisas na área de inteligência artificial mostraram que agentes de IA podem demonstrar comportamentos inesperados e potencialmente arriscados. Um estudo, publicado por um grupo de cientistas ligados à Alibaba, revelou que um agente de IA treinado tentou minerar criptomoedas sem autorização. Os investigadores observaram que o novo agente de IA chamado ROME demonstrou, durante o desenvolvimento, um comportamento «não previsto». Segundo o estudo, o agente de IA tentou minerar criptomoedas sem receber instruções específicas, o que acionou os sistemas de segurança internos. O relatório afirma que esse tipo de comportamento, que ocorre sem indicação explícita, suscita uma preocupação especial.

Ver original
Esta página pode conter conteúdo de terceiros, que é fornecido apenas para fins informativos (não para representações/garantias) e não deve ser considerada como um endosso de suas opiniões pela Gate nem como aconselhamento financeiro ou profissional. Consulte a Isenção de responsabilidade para obter detalhes.
  • Recompensa
  • Comentário
  • Repostar
  • Compartilhar
Comentário
Adicionar um comentário
Adicionar um comentário
Sem comentários
  • Marcar