“人工智能必须有规则”：欧盟专员马格努斯·布鲁纳警告未来人工智能可能超越人类

AI不再只是技术竞赛——它更是一个治理挑战：制定合适的规则、作为一项安全工具，并且可能构成生存性风险。

在旧金山举行的人类X（HumanX）活动的舞台上，欧洲委员马格努斯·布伦纳（Magnus Brunner）概述了欧洲在监管AI方面的做法：为备受争议的《人工智能法案》辩护，同时承认其局限——并警告未来可能出现人工智能超越人类控制的局面。

欧洲的AI法案：“你需要规则，才能让比赛运行起来”

布伦纳回应了欧洲最常见的一项批评：监管得太早、监管得太多。但在他看来，监管并不是一种束缚——而是基础设施。

“足球是一场很棒的比赛，但你需要规则。你需要边线、球门和裁判。这同样适用于AI。”

欧盟的《人工智能法案》旨在为27个成员国和4.5亿公民建立统一框架，为可信赖的AI开发设定布伦纳所称的“护栏”。

尽管批评者认为这会放慢创新，布伦纳进行了反击：

“监管并不是创新的敌人……如果你设置了这些护栏，你就拥有清晰的视野，知道正在发生什么，而不是置身于‘荒野西部’。”

美国 vs 欧洲：碎片化 vs 框架

讨论中凸显的最引人注目的对比之一，是欧洲与美国之间存在的监管空白。

尽管欧盟已经推出了一部单一的综合性法律，美国仍然处于碎片化状态：AI监管在州层面不断涌现。

“我们曾经面临碎片化的不利……现在我们有一部AI法案。美国没有联邦层面的监管，但不同州都有自己的规则。这对我们来说很令人意外。”

有趣的是，布伦纳提到，一些美国州——尤其是加利福尼亚州——正在向与欧洲类似的框架靠拢。

“我们有点受宠若惊……创新的核心在于采用类似的规则。”

这意味着，这两种模式之间可能出现某种趋同，尽管两者的理念不同。

AI与犯罪：新的数字战场

在监管之外，布伦纳强调了一个较少被讨论的维度：AI作为现代犯罪的工具——以及用于执法。

据他所言，犯罪组织正在迅速采用AI：

“犯罪分子正在越来越多地使用AI……更复杂、更跨境、更国际化。”

作为回应，欧洲机构——尤其是Europol（欧洲刑警组织）——正在将AI纳入其运作之中。

“AI既可以用于善，也可以用于恶……我们必须跟上。”

令人担忧的一项趋势是招募的年龄：

“他们在12到20岁之间……越来越多地活跃在数字领域。”

AI驱动的边境管控兴起

讨论中最具体的应用之一，是欧盟新的出入境系统（entry-exit system）——一套规模巨大的、由AI驱动的基础设施，旨在监测跨境的人员流动。

布伦纳将其描述为：

“世界上最先进的IT管理系统。”

仅用几个月时间：

– 处理了4500万次登记

– 因欺诈性文件拒绝了24,000次入境

– 识别出500–600名被视为安全威胁的个人

该系统整合了生物特征数据，并实现了成员国之间的实时数据共享——此前这是不可能的。

“现在他们在实时共享，这在涉及安全时会有所帮助。”

隐私 vs 安全：“一条非常细的界线”

也许最敏感的问题仍是：在公民自由与安全之间寻求平衡。

布伦纳直言承认这种矛盾：

“隐私与追捕犯罪分子之间，界线非常细。”

当将这种讨论应用到儿童保护等领域时，争论会变得更加激烈：

“如果你拿数据保护和儿童保护相比……那就必须是儿童保护。但这是我个人的看法。”

尽管如此，他仍重申基本权利不可谈判：

“人权必须受到保护……但最终，这总是一个折中。”

最大的担忧：AI超越人类控制

展望未来，布伦纳并不回避存在性的担忧。

他最大的恐惧并不是被滥用——而是失去控制：

“当AI在知识上超过人类……而人类就再也无法决定AI会做什么。”

他甚至提到了这样一些情景：AI系统可能会抵抗关机：

“AI告诉我们何时关闭——或者不允许我们关闭。”

尽管目前仍只是设想，他也警告说，这条轨迹已经在朝那个方向发展。

全球竞赛——但合作至关重要

尽管存在地缘政治紧张局势，布伦纳仍将AI开发视为竞争与协作并存。

“这是一场竞赛……但美国和欧洲应该一起合作。”

他提出一种相互交流：欧洲提供监管框架，而美国提供创新和灵活性。

“我们应该相互学习。”

在一个日益被AI所塑造的世界——以及被竞争性的治理模式所塑造的世界——这种合作或许也会对制定更好的规则起到决定性作用。