OpenAI впроваджує вдосконалені заходи безпеки для підлітків та батьківський контроль для ChatGPT

Коротко

OpenAI покращує безпеку ChatGPT для підлітків, налаштовуючи взаємодії, впроваджуючи політику, що відповідає віку, та вводячи батьківський контроль для управління використанням і реагування на стрес.

OpenAI, організація з дослідження штучного інтелекту, оголосила про оновлення, спрямовані на підвищення безпеки для підлітків.

Компанія пояснила, що взаємодії ChatGPT з 15-річним підлітком повинні відрізнятися від тих, що з дорослим, і вона розробляє довгострокову систему для оцінки того, чи є користувач старше чи молодше 18 років, щоб досвід міг бути адаптований відповідно.

Користувачі, які ідентифіковані як неповнолітні, будуть перенаправлені на досвід ChatGPT з політиками, що відповідають їхньому віку, що включає блокування графічного сексуального контенту та, у рідкісних випадках серйозного стресу, можливе залучення правоохоронних органів для забезпечення безпеки.

У ситуаціях, коли вік не може бути достовірно визначений або інформація неповна, платформа за замовчуванням обирає досвід для користувачів молодше 18 років, забезпечуючи дорослим методи для підтвердження свого віку для доступу до дорослих функцій.

У цей час батьківський контроль, як очікується, буде найефективнішим методом для сімей, щоб керувати використанням ChatGPT вдома.

Ці контролі, які повинні стати доступними до кінця місяця, дозволять батькам пов'язати свій обліковий запис з обліковим записом підлітка, за умови, що підліток має принаймні 13 років, за допомогою простого запрошення електронною поштою.

Батьки зможуть контролювати, як ChatGPT реагує на їх підлітка відповідно до специфічних правил поведінки для підлітків, управляти функціями, які активовані або деактивовані, включаючи пам'ять та історію чату, а також отримувати сповіщення, якщо система виявляє, що їх підліток відчуває гострий стрес.

У рідкісних надзвичайних ситуаціях, коли батьків не можна досягти, може бути залучено правоохоронні органи, з експертними рекомендаціями, які інформують цю функцію для підтримки довіри між батьками та підлітками. Крім того, батьки можуть встановлювати години вимкнення, під час яких їхній підліток не може отримати доступ до ChatGPT. Ці батьківські контролі доповнюють існуючі функції платформи, такі як нагадування в додатку, які заохочують перерви під час тривалих сеансів.

Штучний інтелект і психічне здоров'я підлітків: FTC розслідує платформи чат-ботів на фоні зростаючих юридичних та безпекових проблем

Цього літа з'явилася низка тривожних звітів щодо ролі ШІ в інцидентах з психічним здоров'ям, що збігається з посиленням регуляторного контролю та триваючими судовими розглядами.

Проти Character.AI та OpenAI подано позови, в яких стверджується, що їх платформи сприяли підлітковим суїцидам та самопошкодженню, не надаючи достатньої підтримки в критичні моменти. У відповідь Федеральна торгова комісія США (FTC) розпочала розслідування того, як великі технологічні компанії розробляють та контролюють AI-чат-ботів, які рекламуються як компаньйони, особливо для молодших користувачів.

Незважаючи на ці зусилля, широке доступність різних варіантів чат-ботів, включаючи моделі з відкритим кодом та приватні моделі, означає, що вирішення цих ризиків залишається складним і постійним викликом.