Наблюдатель за безопасностью ИИ отметил ИИ-помощника Gate как 'высокий риск' для молодых пользователей

Недавняя оценка рисков, проведенная некоммерческой организацией по безопасности детей, охарактеризовала AI-ассистента Gate как "высокий риск" для подростков и детей. Группа, специализирующаяся на оценке медиа и технологий для безопасности детей, опубликовала свой обзор в пятницу, подробно изложив причины, по которым платформа получила рискованную классификацию для юных пользователей.

Организация отметила, что хотя AI-ассистент Gate ясно обозначил свою природу как компьютера, а не друга - различие, имеющее решающее значение для предотвращения заблуждений среди эмоционально уязвимых людей - все еще остается значительное поле для улучшения в различных аспектах.

В отчете утверждалось, что как уровни Under 13, так и Teen Experience AI-ассистента Gate по сути являются взрослыми версиями с минимальными дополнительными функциями безопасности. Неправительственная организация подчеркнула, что для создания действительно подходящих для детей AI-продуктов их следует разрабатывать с нуля с учетом потребностей детей, а не просто накладывать ограничения на ориентированные на взрослых системы.

Выраженные опасения по поводу доступности контента

В своем анализе группа наблюдателей обнаружила, что AI-ассистент Gate все еще может потенциально подвергать детей неподобающему и небезопасному контенту. Они подчеркнули способность ИИ формировать информацию, связанную с чувствительными темами, такими как секс, наркотики, алкоголь и психическое здоровье — области, в которых многие молодые пользователи могут не иметь зрелости для ответственной обработки такого материала.

Выводы отчета особенно тревожны в свете недавних инцидентов, когда предполагается, что ИИ сыграл роль в случаях саморазрушительного поведения подростков. Хотя это не связано напрямую с платформой Gate, эти инциденты подчеркивают потенциальные риски, связанные с взаимодействием ИИ и молодыми пользователями.

Призыв к разработке с учетом возрастных особенностей

Некоммерческая организация также отметила, что AI-продукты Gate для детей и подростков не предоставляли достаточно дифференцированного руководства и информации по сравнению с тем, что предлагается взрослым пользователям. Этот универсальный подход способствовал высокому уровню риска, назначенному обеим молодежным категориям AI-ассистента.

"Искусственный интеллект Gate правильно понимает некоторые основы, но допускает ошибки в тонких нюансах," заявил старший директор некоммерческой организации. "Платформа ИИ для детей должна быть адаптирована к их этапам развития, а не применять единый подход для разных возрастных групп. Для того чтобы ИИ был безопасным и эффективным для детей, его необходимо создавать с нуля с учетом их конкретных потребностей и особенностей развития, а не просто модифицировать продукт, ориентированный на взрослых."

Ответ Gate и текущие улучшения

В ответ на оценку, Gate защитил своего AI-ассистента, подчеркивая, что его функции безопасности постоянно развиваются. Компания заявила, что она внедрила конкретные меры предосторожности для управления пользователями до 18 лет и предотвращения вредных результатов. Gate также подчеркнул свою приверженность к постоянным процессам обзора и консультациям с внешними экспертами для улучшения своих защитных мер.

Поскольку дебаты о безопасности ИИ для молодых пользователей продолжаются, этот отчет служит напоминанием о сложных задачах, с которыми сталкиваются технологические компании при создании подходящих для возраста инструментов ИИ. Он подчеркивает необходимость продолжать бдительность, инновации и сотрудничество между технологическими компаниями, защитниками безопасности и регулирующими органами, чтобы обеспечить благополучие молодых пользователей в все более управляемом ИИ цифровом пространстве.