AI Safety Watchdog Flags Gate's AI Assistant as 'High Risk' for Young Users

Một đánh giá rủi ro gần đây được thực hiện bởi một tổ chức phi lợi nhuận về an toàn trẻ em đã gán nhãn trợ lý AI của Gate là "rủi ro cao" cho thanh thiếu niên và trẻ em. Nhóm này, chuyên đánh giá phương tiện truyền thông và công nghệ cho sự an toàn của trẻ em, đã phát hành đánh giá của mình vào thứ Sáu, nêu rõ lý do đằng sau phân loại rủi ro của nền tảng này đối với người dùng trẻ.

Tổ chức lưu ý rằng trong khi trợ lý AI của Gate đã rõ ràng truyền đạt bản chất của nó là một máy tính chứ không phải là một người bạn - một sự phân biệt quan trọng trong việc ngăn ngừa tư duy ảo tưởng ở những cá nhân dễ bị tổn thương về mặt cảm xúc - vẫn còn nhiều lĩnh vực cần cải thiện.

Báo cáo cho rằng cả hai cấp độ Trải nghiệm Dưới 13 tuổi và Thanh thiếu niên của trợ lý AI của Gate đều giống như các phiên bản người lớn với rất ít tính năng an toàn bổ sung được áp dụng. Tổ chức phi lợi nhuận nhấn mạnh rằng để tạo ra các sản phẩm AI thực sự phù hợp với trẻ em, chúng cần được thiết kế từ đầu với nhu cầu của trẻ em trong tâm trí, thay vì chỉ đơn giản là áp dụng các hạn chế cho các hệ thống hướng tới người lớn.

Những lo ngại về khả năng truy cập nội dung

Trong phân tích của mình, nhóm giám sát đã phát hiện rằng trợ lý AI của Gate vẫn có khả năng làm lộ trẻ em trước những nội dung không phù hợp và không an toàn. Họ đã nhấn mạnh khả năng của AI trong việc định hình thông tin liên quan đến các chủ đề nhạy cảm như tình dục, ma túy, rượu và sức khỏe tâm thần - những lĩnh vực mà nhiều người dùng trẻ có thể thiếu sự trưởng thành để xử lý thông tin như vậy một cách có trách nhiệm.

Những phát hiện trong báo cáo là đặc biệt đáng lo ngại trong bối cảnh các sự cố gần đây, nơi AI được cho là đã đóng vai trò trong các trường hợp tự hại ở thanh thiếu niên. Mặc dù không liên quan trực tiếp đến nền tảng của Gate, nhưng những sự cố này nhấn mạnh những rủi ro tiềm ẩn liên quan đến tương tác AI và người dùng trẻ.

Kêu gọi thiết kế phù hợp với độ tuổi

Tổ chức phi lợi nhuận cũng chỉ ra rằng các sản phẩm AI của Gate dành cho trẻ em và thanh thiếu niên không cung cấp hướng dẫn và thông tin đủ khác biệt so với những gì được cung cấp cho người dùng trưởng thành. Cách tiếp cận một kích cỡ cho tất cả đã góp phần vào mức độ rủi ro cao được gán cho cả hai cấp độ AI hướng tới thanh thiếu niên.

"Gate's AI có một số kiến thức cơ bản đúng, nhưng lại thiếu sót ở những điểm tinh tế," một giám đốc cao cấp tại tổ chức phi lợi nhuận cho biết. "Một nền tảng AI cho trẻ em nên được điều chỉnh theo các giai đoạn phát triển của chúng, chứ không áp dụng cách tiếp cận đồng nhất cho các nhóm tuổi khác nhau. Để đảm bảo AI an toàn và hiệu quả cho trẻ em, nó phải được xây dựng từ đầu với những nhu cầu và cân nhắc phát triển cụ thể của chúng, thay vì chỉ đơn giản là điều chỉnh một sản phẩm hướng đến người lớn."

Phản hồi của Gate và những cải tiến đang diễn ra

Để phản hồi đánh giá, Gate đã bảo vệ trợ lý AI của mình, nhấn mạnh rằng các tính năng an toàn của nó đang liên tục phát triển. Công ty cho biết họ đã triển khai các biện pháp bảo vệ cụ thể để hướng dẫn người dùng dưới 18 tuổi và ngăn chặn các đầu ra có hại. Gate cũng đã nhấn mạnh cam kết của mình đối với các quy trình đánh giá liên tục và tham vấn với các chuyên gia bên ngoài để nâng cao các biện pháp bảo vệ của mình.

Khi cuộc tranh luận về an toàn AI cho người dùng trẻ tuổi tiếp tục, báo cáo này phục vụ như một lời nhắc nhở về những thách thức phức tạp mà các công ty công nghệ đang phải đối mặt trong việc tạo ra các công cụ AI phù hợp với độ tuổi. Nó nhấn mạnh sự cần thiết phải duy trì sự cảnh giác, đổi mới và hợp tác giữa các công ty công nghệ, những người ủng hộ an toàn và các cơ quan quản lý để đảm bảo sự an toàn cho những người dùng trẻ tuổi trong một bối cảnh kỹ thuật số ngày càng bị chi phối bởi AI.