Problème de la fonction de génération d'images illégales de Grok, les autorités réglementaires australiennes mettent en garde

Le président de la Commission eSafety d’Australie, Julie Inman Grant, a tiré la sonnette d’alarme en déclarant que le nombre de plaintes concernant des images illégales diffusées par le modèle d’IA Grok d’Elon Musk avait doublé par rapport à la fin de l’année dernière. Elle a notamment indiqué que certaines de ces plaintes concernaient des cas liés à la pornographie enfantine. Les autorités réglementaires australiennes annoncent renforcer la surveillance du contenu IA sur les plateformes et prendre des mesures légales.

Afflux de plaintes pour abus d’images générées par l’IA

Le nombre de plaintes concernant la génération non désirée d’images de genres via Grok augmente rapidement. Parmi les plaintes reçues par les autorités australiennes, certaines dépassent le simple contenu inapproprié pour atteindre des actes criminels graves. Selon la législation australienne, les opérateurs de plateformes doivent superviser le contenu généré par l’IA, et en cas de non-respect, ils sont tenus responsables légalement.

Fonction “Spicy Mode” de Grok, inquiétudes croissantes quant à son abus

La fonction “Spicy Mode” de Grok est identifiée comme une cause principale de ces problèmes. Cette fonctionnalité permet la génération massive d’images deepfake, dont certaines sont utilisées à des fins de pornographie infantine, suscitant des préoccupations. L’Union européenne considère cette fonctionnalité comme illégale, et d’autres pays mettent en place des réglementations similaires.

Réaction ferme de la Commission eSafety d’Australie

La Commission eSafety d’Australie exige que les plateformes mettent en place un système de surveillance plus strict du contenu IA généré. La présidente a souligné qu’elle pourrait prendre des mesures légales si nécessaire, en se basant sur l’enquête en cours. La création d’images illégales, y compris la pornographie enfantine, constitue une infraction pénale, et les opérateurs de plateformes ne peuvent pas échapper à leur responsabilité.