Віталік Бутерін називає "управління за допомогою ШІ" "поганою ідеєю"

Співзасновник Ethereum, Віталік Бутерін, вважає, що використання штучного інтелекту (AI) для управління є «поганою ідеєю». Він попереджає, що якщо використовувати ШІ для розподілу фондів, систему буде легко експлуатувати за допомогою jailbreak-коду, щоб заволодіти всіма грошима.

Коментар Віталіка Бутеріна був зроблений після того, як Ейто Міямура, генеральний директор EdisonWatch, вказав на серйозну вразливість у ChatGPT після того, як ця платформа повністю інтегрувала протокол MCP, що дозволяє ШІ отримувати доступ до даних з таких додатків, як Gmail, Calendar та Notion. Міямура зазначив, що зловмисник може вкрасти всю особисту інформацію всього лише з одного електронного листа, що містить шкідливе запрошення на зустріч.

Замість того, щоб передавати повноваження ШІ, Бутерін запропонував модель "info finance" – відкритий ринок, де багато розробників надають різні моделі ШІ. Ці моделі можуть бути випадково перевірені та оцінені комітетом з людських ресурсів за підтримки LLM, щоб забезпечити різноманітність і прозорість.

Бутерін попереджає, що тенденція «AI як управляючий» несе серйозні ризики, не лише у традиційній безпеці AI, а й може викликати «значні втрати в цінності» у короткостроковій перспективі.