AI安全監督機構將Gate的AI助手標記爲對年輕用戶的'高風險'

最近，一家兒童安全非營利組織進行的風險評估將Gate的AI助手標記爲青少年和兒童的"高風險"。該組織專門評估媒體和技術在兒童安全方面的影響，於周五發布了其評審，詳細說明了該平台對年輕用戶的風險分類原因。

該組織指出，盡管Gate的AI助手清楚地傳達了其作爲計算機而非朋友的性質——這一區分對於防止情感脆弱個體的妄想思維至關重要——但在各個方面仍然有顯著的改進空間。

報告聲稱，Gate的AI助手的13歲以下和青少年體驗層實際上是成人版本，只有極少的額外安全功能。該非營利組織強調，要創造真正適合兒童的AI產品，應該從根本上根據兒童的需求進行設計，而不是僅僅對成人導向的系統施加限制。

關於內容可訪問性的擔憂

在其分析中，監督機構發現Gate的AI助手仍可能使兒童接觸不當和不安全的內容。他們強調了AI在處理與性、毒品、酒精和心理健康等敏感話題相關的信息方面的能力——在這些領域，許多年輕用戶可能缺乏負責任地處理此類材料的成熟度。

報告的發現尤其令人擔憂，因爲最近發生的事件中，AI allegedly 在青少年自殘案例中發揮了作用。雖然與 Gate 的平台沒有直接關係，但這些事件凸顯了 AI 互動和年輕用戶之間潛在風險。

呼籲適齡設計

該非營利組織還指出，Gate針對兒童和青少年的AI產品未能提供與成人用戶所提供的信息和指導有明顯區別。這種一刀切的方法導致了對這兩個面向青少年的AI助手層級的高風險評級。

"Gate的AI在一些基本方面做得不錯，但在更細致的地方表現不佳，"一位非營利組織的高級董事表示。"針對兒童的AI平台應該根據他們的發展階段量身定制，而不是在不同年齡組之間採用統一的方法。爲了確保AI對兒童是安全和有效的，它必須從根本上考慮他們的特定需求和發展因素，而不是簡單地修改面向成人的產品。"

Gate的回應與持續改進

針對評估，Gate爲其AI助手辯護，強調其安全功能在不斷發展。該公司表示，已實施特定的保護措施，以指導18歲以下用戶並防止有害輸出。Gate還強調了其對持續審查流程和與外部專家諮詢的承諾，以增強保護措施。

隨着關於年輕用戶的人工智能安全性辯論的持續進行，這份報告提醒人們科技公司在創建適合年齡的人工智能工具時所面臨的復雜挑戰。它強調了科技公司、安全倡導者和監管機構之間需要繼續保持警惕、創新和合作，以確保年輕用戶在日益以人工智能驅動的數字環境中的福祉。