Inteligência artificial sem rodeios

Subir rápida da popularidade dos serviços de IA para criação de imagens sintéticas

De acordo com uma empresa de análise especializada em pesquisa de redes sociais, o uso de tecnologias inteligência artificial para a criação de imagens sintéticas está a crescer rapidamente. Esta prática implica a aplicação de ferramentas de IA generativa, configuradas para remover roupas de fotografias fornecidas pelos utilizadores.

Estatísticas de utilização de serviços sintéticos

De acordo com o relatório, o número de comentários e publicações nas redes sociais que contêm links para sites e canais que oferecem serviços semelhantes aumentou de 1280 em 2022 para mais de 32 100 neste ano. Isso representa um subir de 2408% em comparação com o ano passado.

Tecnologias e suas aplicações

As ferramentas de IA simplificam e tornam mais acessível a criação de conteúdo realista em grande escala. Sem serviços especializados, os usuários teriam que gerenciar modelos para processamento de imagens por conta própria, o que requer investimentos significativos de tempo e dinheiro.

Potenciais riscos e problemas

O crescente uso de tecnologias de IA para a criação de imagens sintéticas levanta sérias preocupações. Entre os principais problemas, destacam-se o assédio direcionado a indivíduos específicos utilizando tecnologias, extorsão através de imagens íntimas falsas, bem como a criação de materiais ilegais, incluindo conteúdo relacionado com abuso sexual de crianças.

Aplicação da IA na criação de conteúdo de vídeo

Além de imagens, as tecnologias de IA também são utilizadas para criar os chamados "deepfakes" - vídeos com a participação de celebridades e figuras públicas. Isso abre novas oportunidades para a criação de conteúdo, mas também traz riscos potenciais de manipulação e desinformação.

A escala do problema e as medidas de combate

A organização britânica Internet Watch Foundation (IWF) informou que, em um mês, foram encontrados mais de 20 254 imagens relacionadas a abusos infantis em um fórum na dark web. A IWF alerta que, com o avanço das tecnologias de IA generativa, está se tornando cada vez mais difícil distinguir imagens falsas das reais.

Reação internacional e regulamentação

A Organização das Nações Unidas, em seu relatório, chamou o conteúdo gerado por IA de "ameaça séria e urgente" à integridade da informação, especialmente nas redes sociais. Em resposta a esses desafios, o Parlamento Europeu e o Conselho da UE concordaram em regras que regulamentam o uso de IA no território da União Europeia.