Про що попереджає CEO Microsoft
Сатья Наделла попереджає, що користувачі ШІ (або «покупці», як він їх називає) платять двічі. Вони цілком свідомо витрачають гроші на використання ШІ-токенів, але при цьому, самі того не усвідомлюючи, віддають свої цінні дані, пише TechCrunch.
«Ви по суті платите за інтелект двічі: один раз грошима, а інший — чимось ще ціннішим: власними знаннями, які ви повинні розкрити, щоб зробити цей інтелект корисним. І що кращих результатів ви очікуєте від моделі, то більше таких знань вам доводиться в неї закладати!» — пише він.
Найнебезпечніше, на його думку, те, що компанії буквально вчать моделі тонкощам свого бізнесу.
«Моделі вчаться на „викидах“ — промптах, які пишуть люди, інструментах, які використовують ШІ-агенти, і особливо на виправленнях, які роблять користувачі, коли модель помиляється. Кожне таке виправлення перетворюється на інституційне ноу-хау», — пише він.
Це саме «ті знання, які конкурент ніколи не зміг би купити», і попри це підприємства власноруч їх віддають.
Наделла стверджує: якщо ШІ-компанії мають право вільно скрейпити інтернет для навчання своїх моделей, то буде цілком справедливо, якщо підприємства натомість отримають можливість досліджувати — або ж «дистилювати» — ці моделі.
«Дистиляція» — це практика використання результатів роботи моделі для розуміння принципів її функціонування та навчання нової, зазвичай дешевшої моделі на основі отриманих даних.
У лютому Anthropic звинуватила китайських розробників моделей із відкритим кодом у надсиланні мільйонів промптів до Claude з метою вдосконалення власних систем, і закликала уряд США посилити експортний контроль.
На думку Наделли, розробники моделей не можуть всидіти на двох стільцях. З їхнього боку лицемірно вільно навчати свої системи на світових даних і водночас забороняти іншим робити те саме з їхніми власними моделями.
«Хоча нам і потрібні великі інновації, які з’являються завдяки праву розробників на добросовісне використання публічних даних для навчання моделей, мені здається іронічним, що нинішня практика полягає в тому, щоб потім розвернутися й запровадити суворі обмеження на дистиляцію», — пише Наделла.
Особливе занепокоєння в Наделли викликає те, коли творці моделей «залишають за собою право вчитися на даних про використання та взаємодію з клієнтами».
Яке можливе рішення
Рішення, яке пропонує Наделла, — це якраз те, що порадив би генеральний директор гігантського хмарного провайдера. Він хоче, щоб компанії «зберігали право власності» на свої дані, включно з промптами, відгуками тощо. Тому він закликає їх створювати власні «середовища навчання» у хмарі (де їхні дані, швидше за все, і так уже зберігаються і, що дуже зручно, це цілком може бути хмара від Microsoft — Azure).
Крім того, він прагне, щоб компанії впроваджували те, що він називає «оркестраційними шарами» — по суті, спосіб легко перемикатися між ШІ-моделями від різних постачальників, а не ставати заручниками одного з них. Інструменти на кшталт ШІ-шлюзів, які дозволяють компаніям робити саме це, стають дедалі популярнішими.
Хоча Наделла жодного разу не вживає словосполучення «відкритий код» як спосіб збереження права власності на дані, це очевидний підтекст. Проте тут є й інший підтекст.
Великі компанії, чимало з яких досі мають власні дата-центри на додачу до використання хмари, уже переходять на моделі з відкритим кодом, встановлюючи їх на власних локальних потужностях.
Враховуючи, що навіть генеральний директор Microsoft — компанії, яка інвестувала як в OpenAI, так і в Anthropic — тепер відкрито закликає підприємства з обережністю ставитися до використання закритих моделей, можна з упевненістю прогнозувати, що цей тренд лише зростатиме. «Споживаючи інтелект, ви створюєте інтелект. І те, що ви створюєте, має належати вам», — зазначає Наделла.
/
У Кремнієвій долині шириться побоювання, що великі ШІ-лабораторії, які продають закриті комерційні моделі, у певному сенсі діють як троянські коні. Такі компанії, як OpenAI та Anthropic, отримують дедалі більший доступ до найконфіденційнішої бізнес-інформації своїх клієнтів. Згодом вони можуть використати ці знання у власних інтересах і потенційно стати конкурентами для тих, кого самі ж і обслуговують.
Серед тих, хто б’є на сполох із цього приводу, є як венчурні інвестори на кшталт Джейсона Калаканіса, так і генеральний директор Palantir Алекс Карп. До них нещодавно приєднався й генеральний директор Microsoft Сатья Наделла.