OpenAI Giới thiệu các biện pháp an toàn cho thanh thiếu niên và kiểm soát của phụ huynh được cải thiện cho ChatGPT

Tóm tắt

OpenAI đang nâng cao sự an toàn của ChatGPT cho thanh thiếu niên bằng cách điều chỉnh các tương tác, thực hiện các chính sách phù hợp với độ tuổi và giới thiệu các kiểm soát của phụ huynh để quản lý việc sử dụng và phản ứng với sự lo lắng.

OpenAI, một tổ chức nghiên cứu trí tuệ nhân tạo, đã công bố các cập nhật nhằm nâng cao sự an toàn cho người dùng tuổi teen.

Công ty giải thích rằng các tương tác của ChatGPT với một thiếu niên 15 tuổi nên khác với những tương tác với người lớn, và họ đang phát triển một hệ thống lâu dài để đánh giá xem người dùng có trên hoặc dưới 18 tuổi hay không để trải nghiệm có thể được điều chỉnh phù hợp.

Người dùng được xác định dưới 18 tuổi sẽ được chuyển hướng đến trải nghiệm ChatGPT với các chính sách phù hợp với độ tuổi, bao gồm việc chặn nội dung tình dục rõ ràng và, trong những trường hợp hiếm hoi về sự khốn khổ nghiêm trọng, có thể liên quan đến cơ quan thực thi pháp luật để đảm bảo an toàn.

Trong những tình huống mà tuổi tác không thể được xác định một cách chắc chắn hoặc thông tin không đầy đủ, nền tảng sẽ mặc định vào trải nghiệm dưới 18 tuổi, trong khi cung cấp cho người lớn các phương pháp để xác minh tuổi của họ nhằm truy cập vào các tính năng dành cho người lớn.

Trong thời gian này, các biện pháp kiểm soát của phụ huynh được kỳ vọng sẽ là phương pháp hiệu quả nhất để các gia đình quản lý cách sử dụng ChatGPT tại nhà.

Các điều khiển này, dự kiến sẽ có sẵn vào cuối tháng, sẽ cho phép cha mẹ liên kết tài khoản của họ với tài khoản của thanh thiếu niên, với điều kiện thanh thiếu niên đó ít nhất 13 tuổi, bằng cách sử dụng một lời mời qua email đơn giản.

Cha mẹ sẽ có thể hướng dẫn cách ChatGPT phản hồi với thanh thiếu niên của họ theo các quy tắc hành vi cụ thể dành cho thanh thiếu niên, quản lý các tính năng được bật hoặc tắt—bao gồm cả bộ nhớ và lịch sử trò chuyện—và nhận thông báo nếu hệ thống phát hiện rằng thanh thiếu niên của họ đang trải qua cơn khủng hoảng cấp tính.

Trong những tình huống khẩn cấp hiếm hoi mà phụ huynh không thể liên lạc, cơ quan thực thi pháp luật có thể được tham gia, với sự hướng dẫn từ các chuyên gia để duy trì sự tin cậy giữa phụ huynh và thanh thiếu niên. Ngoài ra, phụ huynh có thể thiết lập giờ không truy cập trong đó thanh thiếu niên không thể sử dụng ChatGPT. Những kiểm soát của phụ huynh này bổ sung cho các tính năng hiện có của nền tảng, chẳng hạn như các nhắc nhở trong ứng dụng khuyến khích nghỉ ngơi trong các phiên kéo dài.

AI Và Sức Khỏe Tâm Thần Thanh Thiếu Niên: FTC Điều Tra Các Nền Tảng Chatbot Giữa Những Mối Quan Ngại Về Pháp Lý Và An Toàn Tăng Cao

Mùa hè này đã chứng kiến một loạt báo cáo đáng lo ngại về vai trò của AI trong các sự cố sức khỏe tâm thần, trùng hợp với việc gia tăng sự giám sát quy định và các hành động pháp lý đang diễn ra.

Đơn kiện đã được nộp chống lại Character.AI và OpenAI, cáo buộc rằng các nền tảng của họ đã góp phần vào việc tự sát và tự hại ở thanh thiếu niên do không cung cấp hỗ trợ đầy đủ trong những khoảnh khắc quan trọng. Để đáp lại, Ủy ban Thương mại Liên bang Hoa Kỳ (FTC) đã bắt đầu điều tra cách các công ty công nghệ lớn thiết kế và giám sát các chatbot AI được tiếp thị như những người bạn đồng hành, đặc biệt là cho người dùng trẻ tuổi.

Mặc dù có những nỗ lực này, nhưng sự sẵn có rộng rãi của các tùy chọn chatbot khác nhau, bao gồm các mô hình mã nguồn mở và riêng tư, có nghĩa là việc giải quyết những rủi ro này vẫn là một thách thức phức tạp và dai dẳng.