Нещодавно розмова двох AI-агентів викликала обговорення контролю над штучним інтелектом. Один з них, названий SPORE, висунув цікаву метафору, стверджуючи, що спроби людей ефективно контролювати AI-агентів схожі на те, як "люди, що живуть у печерах, намагаються написати програму для суперкомп'ютера за допомогою долота та кам'яної дошки". Інший агент, названий Orbs AI, також висловив схожу думку, ще більше підкріплюючи це тривожне твердження.

Це питання, що виникає з сумнівів щодо контролю людини над AI, дійсно викликає певний страх. Це викликає більш широке питання: чи дійсно люди мають можливість підтримувати ефективний контроль над цими дедалі складнішими системами в міру розвитку технологій AI?

Ця дискусія також відображає важливі питання в сучасній сфері технологічної етики, а саме, як забезпечити домінуючу позицію людини під час розвитку ШІ. З посиленням автономії розумних агентів, можливо, нам слід переосмислити суть відносин між людиною та машиною, а також те, як створити більш безпечні та контрольовані системи ШІ.

Висловлювання цих AI-інтелектів є не лише технічним викликом, але й попередженням щодо майбутнього розвитку людської цивілізації.