Щойно я побачив досить глибоку тему для роздумів — застосування ШІ у війнах. Останнім часом США та Ізраїль масово використовують штучний інтелект у конфлікті з Іраном, і це може бути першим у історії справжнім "війному ШІ".

У сфері аналізу розвідки найбільшим обмеженням традиційних методів є надмірна кількість даних, з якими людські ресурси не справляються. Самі військові США казали, що аналітики зазвичай можуть прочитати лише трохи більше 4% розвідувальних матеріалів. Уявіть собі: щодня збирається купа відео, аудіо та комунікаційних записів, і ручна обробка — просто нереальна. Йішай Кохн з оборонного відомства Ізраїлю у інтерв’ю зазначив, що багато потенційних військових завдань взагалі не можуть бути виконані через брак людських ресурсів для обробки ключової розвідки.

Зараз з’явилася машинна візуалізація ШІ, яка швидко може ідентифікувати цілі з масивних відео та зображень, навіть розпізнавати конкретні моделі літаків або транспортних засобів, а також витягати та підсумовувати зміст розмов із аудіо. Ізраїльські розвідувальні служби довгий час моніторили транспортні камери в Тегерані та зв’язки високопосадовців, і тепер завдяки ШІ вони точно знаходять потрібну інформацію у цьому океані даних. Підвищення ефективності очевидне.

Ще цікавіше — планування завдань. Традиційне військове планування вимагає зібрання розвідників, командирів, експертів з озброєння та логістики для спільного обговорення, і зазвичай це займає кілька тижнів. З приходом ШІ цей процес можна скоротити до кількох днів. Адже при зміні цільового місця виникає ланцюгова реакція — змінюється розподіл персоналу, маршрут польоту, витрати палива та багато інших факторів. Раніше ці оновлення були повільними і схильними до суб’єктивних упереджень. Тепер ШІ миттєво обробляє ці складні взаємодії, рахує вплив кожної змінної на загальну військову операцію. Навіть Пентагон використовує ШІ для запуску моделей та цифрових ігор війни, обробляючи мільйони ітерацій, щоб швидко знайти оптимальні рішення для досягнення цілей.

Але саме тут і криється проблема. Війна — одна з найскладніших і найнеоднозначніших сфер людської діяльності. Колишній керівник військового ШІ та колишній генерал ВПС Джек Шанахан попереджав, що великі обсяги даних для тренування військового ШІ самі по собі є застарілими або нечіткими. Помилка системи може мати смертельні наслідки. За повідомленнями, американські війська могли через помилкову розвідку спричинити загибель дітей у жіночій школі в Ірані — і це реальні цінності.

Найбільш небезпечним є надмірна залежність від машинних рішень. Дослідниця Центру безпеки та нових технологій у Джорджтаунському університеті Емілія Пробаско попереджає, що передача рішення ШІ — це "серйозна проблема". Потрібні обмежувальні заходи для зменшення ризиків, але наразі інфраструктура для цього явно недосконала.

Говорячи просто, ШІ у війнах — це як двосічний меч: підвищення ефективності справді є, але потенційна катастрофа теж реальна. У таких високоризикових сценаріях людська оцінка завжди залишається незамінною.