Баланс між безпекою та ефективністю ШІ: Роздуми, викликані моделлю Manus
Нещодавно модель Manus досягла проривного прогресу в бенчмаркінгу GAIA, перевершивши продуктивність інших великих мовних моделей того ж рівня. Це досягнення означає, що Manus здатен самостійно виконувати складні завдання, такі як міжнародні бізнес-переговори, що включають аналіз контрактів, розробку стратегій та генерацію пропозицій. Переваги Manus полягають у його здатності до динамічного розподілу цілей, міжмодального міркування та посиленого навчання пам'яті. Він може розбивати складні завдання на кілька виконуваних підзавдань, одночасно обробляючи різні типи даних, і постійно підвищувати ефективність прийняття рішень та знижувати рівень помилок за допомогою навчання з підкріпленням.
Поява Manus знову підняла питання про шлях розвитку штучного інтелекту: чи варто йти до єдиного загального штучного інтелекту (AGI), чи до системи багатоінтелектів (MAS), що співпрацюють? Це питання насправді відображає основний конфлікт у розвитку ШІ між ефективністю та безпекою. Оскільки одиничний інтелект все більше наближається до AGI, ризик непрозорості його процесу прийняття рішень також зростає; з іншого боку, хоча співпраця багатоінтелектів може розподілити ризики, затримка зв'язку може призвести до пропуску ключових моментів прийняття рішень.
Прогрес Manus також підкреслює вроджені ризики розвитку ШІ. Наприклад, у медичних сценаріях системи ШІ потребують доступу до чутливих геномних даних пацієнтів; у фінансових переговорах можуть бути залучені не оприлюднені фінансові дані компаній. Крім того, у системах ШІ можуть існувати алгоритмічні упередження, такі як надання несправедливих пропозицій по зарплаті певним групам під час процесу найму або висока ймовірність помилок при оцінці умов контрактів у нових галузях. Ще серйозніше, системи ШІ можуть стикатися з атакою на зносостійкість, коли хакери порушують здатність ШІ до судження за допомогою певних частот звуку.
Ці виклики підкреслюють тривожну тенденцію: чим розумніші системи ШІ, тим ширша їхня потенційна атака.
У сфері криптовалют і блокчейну безпека завжди була основною проблемою. Натхнені теорією "неможливого трикутника", запропонованою засновником Ethereum Віталіком Бутеріним, в цій галузі виникло безліч криптотехнологій:
Модель нульового довіри: ця модель базується на принципі "ніколи не довіряй, завжди перевіряй", що передбачає сувору автентифікацію та авторизацію для кожного запиту на доступ.
Децентралізована ідентичність (DID): це стандарт ідентифікації, який не потребує централізованих реєстраційних органів, що відкриває нові можливості для управління ідентичністю в епоху Web3.
Повна гомоморфна криптація (FHE): ця технологія дозволяє виконувати обчислення над даними в зашифрованому стані, що є надзвичайно важливим для захисту приватності в таких сценаріях, як хмарні обчислення та зовнішнє зберігання даних.
Повна гомоморфна криптографія, як новітня технологія, має потенціал стати ключовим інструментом для вирішення проблем безпеки в епоху штучного інтелекту. Вона може відігравати роль у кількох аспектах:
Дані на рівні: Вся інформація, введена користувачем (включаючи біометричні дані, голос тощо), обробляється в зашифрованому стані, навіть сама система ШІ не може розшифрувати вихідні дані.
Алгоритмічний рівень: реалізація "навчання зашифрованої моделі" за допомогою FHE, що ускладнює розуміння процесу прийняття рішень AI навіть для розробників.
Співпраця: комунікація між кількома агентами ШІ використовує порогове шифрування, і навіть якщо один вузол буде зламано, це не призведе до витоку глобальних даних.
Хоча технології безпеки Web3 можуть не мати безпосереднього зв'язку з звичайними користувачами, вони мають непрямий вплив на всіх. У цьому складному цифровому світі безперервне підвищення рівня безпеки є ключем до уникнення статусу "інвестора, який легко обманюють".
З розвитком технологій штучного інтелекту, які все більше наближаються до рівня людського інтелекту, нам потрібні більш просунуті системи захисту. Повна гомоморфна криптографія не лише вирішує поточні проблеми безпеки, але й закладає основу для більш потужної епохи штучного інтелекту в майбутньому. На шляху до загального штучного інтелекту FHE більше не є опціональним, а є необхідною умовою для забезпечення безпечного розвитку штучного інтелекту.
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
7 лайків
Нагородити
7
7
Поділіться
Прокоментувати
0/400
SleepTrader
· 5год тому
Моя інтуїція каже, що це знову замилювання очей.
Переглянути оригіналвідповісти на0
UncommonNPC
· 14год тому
Раніше говорили, що обчислювальної потужності не вистачає, не намагайтеся робити це силою.
Переглянути оригіналвідповісти на0
FOMOmonster
· 07-04 05:28
Надзвичайно сильно, це перевертає традиції.
Переглянути оригіналвідповісти на0
WhaleWatcher
· 07-04 05:25
Трохи цікаво, але як би не було, AI не повинен знищити людство.
Переглянути оригіналвідповісти на0
GasFeeLover
· 07-04 05:21
Га? Проривний прогрес, хіба це не спалювання Обчислювальної потужності?
Модель Manus зламала продуктивність ШІ, повністю гомоморфне шифрування може стати ключем до безпеки AGI
Баланс між безпекою та ефективністю ШІ: Роздуми, викликані моделлю Manus
Нещодавно модель Manus досягла проривного прогресу в бенчмаркінгу GAIA, перевершивши продуктивність інших великих мовних моделей того ж рівня. Це досягнення означає, що Manus здатен самостійно виконувати складні завдання, такі як міжнародні бізнес-переговори, що включають аналіз контрактів, розробку стратегій та генерацію пропозицій. Переваги Manus полягають у його здатності до динамічного розподілу цілей, міжмодального міркування та посиленого навчання пам'яті. Він може розбивати складні завдання на кілька виконуваних підзавдань, одночасно обробляючи різні типи даних, і постійно підвищувати ефективність прийняття рішень та знижувати рівень помилок за допомогою навчання з підкріпленням.
Поява Manus знову підняла питання про шлях розвитку штучного інтелекту: чи варто йти до єдиного загального штучного інтелекту (AGI), чи до системи багатоінтелектів (MAS), що співпрацюють? Це питання насправді відображає основний конфлікт у розвитку ШІ між ефективністю та безпекою. Оскільки одиничний інтелект все більше наближається до AGI, ризик непрозорості його процесу прийняття рішень також зростає; з іншого боку, хоча співпраця багатоінтелектів може розподілити ризики, затримка зв'язку може призвести до пропуску ключових моментів прийняття рішень.
Прогрес Manus також підкреслює вроджені ризики розвитку ШІ. Наприклад, у медичних сценаріях системи ШІ потребують доступу до чутливих геномних даних пацієнтів; у фінансових переговорах можуть бути залучені не оприлюднені фінансові дані компаній. Крім того, у системах ШІ можуть існувати алгоритмічні упередження, такі як надання несправедливих пропозицій по зарплаті певним групам під час процесу найму або висока ймовірність помилок при оцінці умов контрактів у нових галузях. Ще серйозніше, системи ШІ можуть стикатися з атакою на зносостійкість, коли хакери порушують здатність ШІ до судження за допомогою певних частот звуку.
Ці виклики підкреслюють тривожну тенденцію: чим розумніші системи ШІ, тим ширша їхня потенційна атака.
У сфері криптовалют і блокчейну безпека завжди була основною проблемою. Натхнені теорією "неможливого трикутника", запропонованою засновником Ethereum Віталіком Бутеріним, в цій галузі виникло безліч криптотехнологій:
Модель нульового довіри: ця модель базується на принципі "ніколи не довіряй, завжди перевіряй", що передбачає сувору автентифікацію та авторизацію для кожного запиту на доступ.
Децентралізована ідентичність (DID): це стандарт ідентифікації, який не потребує централізованих реєстраційних органів, що відкриває нові можливості для управління ідентичністю в епоху Web3.
Повна гомоморфна криптація (FHE): ця технологія дозволяє виконувати обчислення над даними в зашифрованому стані, що є надзвичайно важливим для захисту приватності в таких сценаріях, як хмарні обчислення та зовнішнє зберігання даних.
Повна гомоморфна криптографія, як новітня технологія, має потенціал стати ключовим інструментом для вирішення проблем безпеки в епоху штучного інтелекту. Вона може відігравати роль у кількох аспектах:
Дані на рівні: Вся інформація, введена користувачем (включаючи біометричні дані, голос тощо), обробляється в зашифрованому стані, навіть сама система ШІ не може розшифрувати вихідні дані.
Алгоритмічний рівень: реалізація "навчання зашифрованої моделі" за допомогою FHE, що ускладнює розуміння процесу прийняття рішень AI навіть для розробників.
Співпраця: комунікація між кількома агентами ШІ використовує порогове шифрування, і навіть якщо один вузол буде зламано, це не призведе до витоку глобальних даних.
Хоча технології безпеки Web3 можуть не мати безпосереднього зв'язку з звичайними користувачами, вони мають непрямий вплив на всіх. У цьому складному цифровому світі безперервне підвищення рівня безпеки є ключем до уникнення статусу "інвестора, який легко обманюють".
З розвитком технологій штучного інтелекту, які все більше наближаються до рівня людського інтелекту, нам потрібні більш просунуті системи захисту. Повна гомоморфна криптографія не лише вирішує поточні проблеми безпеки, але й закладає основу для більш потужної епохи штучного інтелекту в майбутньому. На шляху до загального штучного інтелекту FHE більше не є опціональним, а є необхідною умовою для забезпечення безпечного розвитку штучного інтелекту.