Інтерв'ю | Великі технології навчають ШІ на непотрібних даних: Інтуїція

Моделі ШІ стають дедалі потужнішими, але дані, на яких їх навчають, стають гіршими, каже засновник Intuition Біллі Людтке. Резюме

• ШІ такий хороший, як дані, які ми йому надаємо, говорить Біллі Людтке, засновник Intuition
• Ми живемо в еру “вливай, виливай”, оскільки ШІ стає рекурсивним
• Децентралізовані моделі мають перевагу з точки зору технологій та користувацького досвіду

Оскільки системи штучного інтелекту стають все більш поширеними, користувачі все частіше стикаються з обмеженнями, які важко виправити. Хоча моделі покращуються, базові дані, на яких ці моделі навчені, залишаються незмінними. Більш того, рекурсія, або моделі штучного інтелекту, які навчаються на даних, згенерованих іншими ШІ, можуть насправді погіршити ситуацію.

Щоб поговорити про майбутнє ШІ, crypto.news поспілкувався з Біллі Луетдке, засновником Intuition, децентралізованого протоколу, спрямованого на забезпечення підтверджуваної атрибуції, репутації та власності на дані для ШІ. Луетдке пояснює, чому поточні набори даних для ШІ є фундаментально недосконалими і що можна зробити, щоб виправити це.

Crypto.news: Усі зараз зосереджені на інфраструктурі ШІ — GPU, енергія, дата-центри. Чи недооцінюють люди важливість шару довіри в ШІ? Чому це важливо?

Біллі Людтке: 100%. Люди дійсно недооцінюють це — і це важливо з кількох причин.

По-перше, ми вступаємо в те, що я називаю ерою “слів у, слів з”. ШІ є таким добрим, яким є дані, які він споживає. Але ці дані — особливо з відкритої мережі — в значній мірі забруднені. Вони не чисті. Вони не відображають людських намірів. Багато з них походить з ігрофікованої поведінки в Інтернеті: лайки, відгуки, хакі залучення — все це пропущено через алгоритми, оптимізовані для уваги.

Отже, коли ШІ сканує Інтернет, те, що він бачить, не є цілісною картиною того, ким ми є. Він бачить людей, які грають на платформі. Я не поводжуся так само в Twitter, як у реальному житті. Ніхто з нас не робить цього. Ми оптимізуємо для алгоритму — а не виражаємо справжні думки.

Це також рекурсивно. Платформи навчають нас, а ми повертаємо назад ще більш спотворену поведінку. Це створює замкнене коло — спіраль — яка ще більше спотворює сприйняття людства штучним інтелектом. Ми не вчимо його тому, що думаємо; ми вчимо його тому, що, на нашу думку, отримає лайки.

Середній користувач не гуглить, не порівнює джерела і не мислить критично. Він просто запитує ChatGPT або іншу модель і приймає відповідь за чисту монету.

Це небезпечно. Якщо модель непрозора — чорна скринька — і компанія, яка її контролює, також контролює, яку інформацію вам показують або не показують, тоді це повний контроль над наративом. Це централізовано, безвідповідально і надзвичайно потужно.

Уявіть, що ви запитуєте Grok про найкращий подкаст, а відповідь - це той, хто заплатив Елонові найбільше. Це не інтелект - це просто реклама під маскою.

CN: Як ми можемо це виправити? Як ми можемо створити системи, які ставлять істину та цінність на перше місце замість залучення?

BL: Нам потрібно змінити стимули. Ці системи повинні служити людям — не інституціям, не акціонерам, не рекламодавцям. Це означає побудову нового шару для інтернету: елементи ідентичності та репутації. Ось що ми робимо в Intuition.

Нам потрібна перевірна атрибуція: хто що сказав, коли і в якому контексті. І нам потрібна портативна, децентралізована репутація, яка допомагає визначити, наскільки ми можемо довіряти будь-якому даному джерелу даних — не на основі відчуттів, а на основі фактичної контекстуальної історії.

Reddit є ідеальним прикладом. Це одне з найбільших джерел навчальних даних для моделей. Але якщо користувач саркастично скаже: “Просто k*** себе”, це може бути зібрано і з'явитися в рекомендації моделі для когось, хто запитує медичну пораду.

Це жахливо — і це те, що відбувається, коли моделі не мають контексту, атрибуції або ваги репутації. Нам потрібно знати: чи є ця особа надійною в медицині? Чи є вона авторитетною у фінансах? Чи є це надійне джерело, чи просто ще один випадковий коментар?

UA: Коли ви говорите про атрибуцію та репутацію, ці дані потрібно зберігати десь. Як ви думаєте про це з точки зору інфраструктури — особливо з такими питаннями, як авторське право та компенсація?

BL: Це саме те, що ми вирішуємо в Intuition. Коли у вас є перевіряємi атрибутивнi примітиви, ви знаєте, хто створив які дані. Це дозволяє токенізовану власність на знання — і з цим, компенсацію.

Отже, замість того, щоб ваші дані зберігалися на серверах Google або API OpenAI, вони зберігаються на децентралізованій графі знань. Кожен володіє тим, що він вносить. Коли ваші дані використовуються або проходять в результатах AI, ви отримуєте частку вартості, яку вони генерують.

Це важливо, тому що зараз ми цифрові кріпаки. Ми витрачаємо наші найцінніші ресурси — час, увагу та креативність — на створення даних, які хтось інший монетизує. YouTube не є цінним через те, що він хостить відео; він цінний, тому що люди його кураторять. Без лайків, коментарів або підписок YouTube не має жодної цінності.

Отже, ми хочемо світ, де кожен може заробляти на цінності, яку він генерує — навіть якщо ви не є впливовою особою або екстравертом. Якщо ви постійно рано знаходите нових артистів, наприклад, ваш смак має цінність. Ви повинні мати можливість побудувати репутацію навколо цього і монетизувати її.

CN: Але навіть якщо ми отримаємо прозорість, ці моделі все ще дуже важко інтерпретувати. Сам OpenAI не може повністю пояснити, як його моделі приймають рішення. Що тоді відбувається?

BL: Чудовий пункт. Ми не можемо повністю інтерпретувати поведінку моделі — вони просто занадто складні. Але те, що ми можемо контролювати, це навчальні дані. Це наш важіль.

Я наведу приклад: я чув про дослідницьку роботу, де один ШІ був одержимий совами, а інший був чудовим у математиці. Вони лише тренувалися разом на завданнях, пов'язаних з математикою. Але в кінці, математичний ШІ також почав любити сов, просто спостерігаючи за шаблоном від іншого.

Це божевільно, якими підсвідомими та тонкими є ці патерни. Тож єдиний справжній захист – це намір. Нам потрібно свідомо підходити до того, які дані ми надаємо цим моделям. Нам потрібно “зцілити себе”, певним чином, щоб з'явитися в мережі більш автентичним, конструктивним чином. Тому що ШІ завжди відображатиме цінності та спотворення своїх творців.

CN: Давайте поговоримо про бізнес. OpenAI витрачає гроші. Їхня інфраструктура надзвичайно дорога. Як децентралізована система, така як Intuition, може змагатися — фінансово та технічно?

BL: У нас є дві основні переваги: композабельність та координація.

Децентралізовані екосистеми — особливо в криптовалюті — надзвичайно ефективні в координації. У нас є глобальні, розподілені команди, які працюють над різними компонентами однієї більшої проблеми. Замість того, щоб одна компанія витрачала мільярди на боротьбу з світом, у нас є сотні узгоджених учасників, які створюють взаємодіючі інструменти.

Це як мозаїка. Одна команда працює над репутацією агентів, інша — над децентралізованим зберіганням, ще одна — над ідентифікаційними примітивами — і ми можемо зшити це разом.

Це суперсила.

Другою перевагою є досвід користувача. OpenAI застрягла у своїй захисній стратегії. Вони не можуть дозволити вам переносити ваш контекст з ChatGPT до Grok або Anthropic — це підриває їхню обороноздатність. Але нам не важливий прив'язаний до постачальника.

У нашій системі ви зможете володіти своїм контекстом, брати його з собою та підключати до будь-якого агента, який ви хочете. Це забезпечує кращий досвід. Люди обиратимуть це.

****CN:Що з витратами на інфраструктуру? Запуск великих моделей є надзвичайно дорогим. Чи бачите ви світ, де менші моделі працюють локально?

BL: Так, на 100%. Я насправді вважаю, що ми рухаємось у цьому напрямку — до багатьох малих моделей, які працюють локально, з’єднаних як нейрони в розподіленому рої.

Замість одного великого монолітного дата-центру у вас є мільярди споживчих пристроїв, які вносять свій вклад у обчислення. Якщо ми зможемо їх скоординувати — а саме в цьому і полягає перевага криптовалют — це стане кращою архітектурою.

І саме тому ми також створюємо шари репутації агентів. Запити можуть бути перенаправлені до правильного спеціалізованого агента для виконання завдання. Вам не потрібна одна велика модель для виконання всього. Вам просто потрібна розумна система для маршрутизації завдань — як API-інтерфейс для мільйонів агентів.

CN: Що з детермінізмом? LLM не підходять для таких завдань, як математика, де потрібні точні відповіді. Чи можемо ми поєднати детермінований код з ШІ?

BL: Ось що я хочу. Нам потрібно повернути детермінізм у цикл.

Ми почали з символічного мислення — повністю детермінованого — а потім різко перейшли до глибокого навчання, яке є недетермінованим. Це дало нам вибух, який ми бачимо зараз. Але майбутнє є нейросимволічним — поєднуючи найкраще з обох.

Нехай ШІ займається нечітким міркуванням. Але також нехай він запускає детерміновані модулі — скрипти, функції, логічні двигуни — там, де потрібна точність. Подумайте: “Хто з моїх друзів любить цей ресторан?” Це повинно бути 100% детерміновано.

****CN:Віддаляючись: ми бачили, як компанії інтегрують ШІ в свої операції. Але результати були змішаними. Як ви вважаєте, чи дійсно нинішнє покоління LLM підвищує продуктивність?

BL: Абсолютно. Сингулярність вже тут — вона просто нерівномірно розподілена.

Якщо ви не використовуєте ШІ у своєму робочому процесі, особливо для коду або контенту, ви працюєте з часткою швидкості інших. Технологія реальна, і вигоди в ефективності величезні. Порушення вже сталося. Люди просто ще не повністю усвідомили це.

CN: Останнє питання. Багато людей кажуть, що це бульбашка. Венчурний капітал висихає. OpenAI спалює гроші. Nvidia фінансує своїх власних клієнтів. Як це закінчиться?

BL: Так, є бульбашка — але технологія реальна. Кожна бульбашка лопається, але те, що залишається після цього, - це основні технології. Штучний інтелект стане однією з них. Дурні гроші — всі ці обгортки додатків без справжніх інновацій — зникнуть. Але команди з глибокої інфраструктури? Вони виживуть.

Насправді, це може піти одним із двох шляхів: ми отримуємо м'яку корекцію і повертаємося до реальності, але прогрес триває. Або ж приріст продуктивності настільки величезний, що ШІ стає дефляційною силою в економіці. ВВП може зрости в 10 або 100 разів за обсягом. Якщо це станеться, витрати були виправдані — ми піднімаємося на новий рівень як суспільство.

У будь-якому випадку, я оптимістично налаштований. Буде хаос і втрата робочих місць, так — але також є потенціал для багатого світу без нестачі, якщо ми закладемо правильний фундамент.