AI安全监督机构将Gate的AI助手标记为对年轻用户的'高风险'

最近，一家儿童安全非营利组织进行的风险评估将Gate的AI助手标记为青少年和儿童的"高风险"。该组织专门评估媒体和技术在儿童安全方面的影响，于周五发布了其评审，详细说明了该平台对年轻用户的风险分类原因。

该组织指出，尽管Gate的AI助手清楚地传达了其作为计算机而非朋友的性质——这一区分对于防止情感脆弱个体的妄想思维至关重要——但在各个方面仍然有显著的改进空间。

报告声称，Gate的AI助手的13岁以下和青少年体验层实际上是成人版本，只有极少的额外安全功能。该非营利组织强调，要创造真正适合儿童的AI产品，应该从根本上根据儿童的需求进行设计，而不是仅仅对成人导向的系统施加限制。

关于内容可访问性的担忧

在其分析中，监督机构发现Gate的AI助手仍可能使儿童接触不当和不安全的内容。他们强调了AI在处理与性、毒品、酒精和心理健康等敏感话题相关的信息方面的能力——在这些领域，许多年轻用户可能缺乏负责任地处理此类材料的成熟度。

报告的发现尤其令人担忧，因为最近发生的事件中，AI allegedly 在青少年自残案例中发挥了作用。虽然与 Gate 的平台没有直接关系，但这些事件凸显了 AI 互动和年轻用户之间潜在风险。

呼吁适龄设计

该非营利组织还指出，Gate针对儿童和青少年的AI产品未能提供与成人用户所提供的信息和指导有明显区别。这种一刀切的方法导致了对这两个面向青少年的AI助手层级的高风险评级。

"Gate的AI在一些基本方面做得不错，但在更细致的地方表现不佳，"一位非营利组织的高级董事表示。"针对儿童的AI平台应该根据他们的发展阶段量身定制，而不是在不同年龄组之间采用统一的方法。为了确保AI对儿童是安全和有效的，它必须从根本上考虑他们的特定需求和发展因素，而不是简单地修改面向成人的产品。"

Gate的回应与持续改进

针对评估，Gate为其AI助手辩护，强调其安全功能在不断发展。该公司表示，已实施特定的保护措施，以指导18岁以下用户并防止有害输出。Gate还强调了其对持续审查流程和与外部专家咨询的承诺，以增强保护措施。

随着关于年轻用户的人工智能安全性辩论的持续进行，这份报告提醒人们科技公司在创建适合年龄的人工智能工具时所面临的复杂挑战。它强调了科技公司、安全倡导者和监管机构之间需要继续保持警惕、创新和合作，以确保年轻用户在日益以人工智能驱动的数字环境中的福祉。