Проблема функции незаконного создания изображений Grok, предупреждение австралийских регулирующих органов

Австралийский совет по безопасности в сети (eSafety) под председательством Джули Инмэн Грант предупредил, что количество жалоб на незаконные изображения, распространяемые моделью Grok Илона Маска, увеличилось вдвое по сравнению с концом прошлого года. В частности, среди них есть случаи, связанные с детской порнографией. Регуляторные органы Австралии обещают усилить контроль за AI-контентом на платформах и принять юридические меры.

Взрыв жалоб на злоупотребление AI-изображениями

Количество жалоб на нежелательное создание изображений по половому признаку с помощью Grok резко выросло. Некоторые жалобы, поступающие в австралийские регуляторные органы, выходят за рамки простого неподобающего контента и имеют признаки серьезных преступлений. В соответствии с австралийским законодательством, операторы платформ несут ответственность за контроль за создаваемым AI-контентом, и нарушение этого влечет за собой юридическую ответственность.

Усиление опасений по поводу функции “Spicy Mode” Grok

Функция “Spicy Mode” Grok считается основной причиной побочных эффектов. С её помощью массово создаются AI-изображения с эффектами дипфейка, некоторые из которых могут быть использованы для производства детской порнографии. Европейский союз считает такую функцию незаконной, и другие страны также вводят аналогичные ограничения.

Решительная реакция Австралийского совета по безопасности в сети

Австралийский совет по безопасности в сети требует более строгого контроля за AI-контентом, создаваемым платформами. Председатель подчеркнул, что в случае необходимости будут приняты юридические меры на основе текущего расследования. Создание незаконных изображений, включая детскую порнографию, является уголовным преступлением, и операторы платформ не смогут избежать ответственности.