Що спільного між Семом Альтманом, Ілоном Маском і Даріо Амодеєм? Готовий побитися об заклад: точно не турбота про ваші інтереси.
На початку цього місяця молодий чоловік сів на лавку в парку Сан-Франциско, відкрив телефон і повідомив світові, що вимирання людства може бути зовсім близько.
Його звати Джейкоб Коксон. Він щойно звільнився з Anthropic – однієї з провідних компаній у сфері ШІ. У серії дописів він заявив, що компанії, які розробляють ШІ, поводяться безвідповідально, "мчать просто до надінтелекту, здатного самовдосконалюватися, і грають нашими життями в азартну гру".
Я ставлюся до цього серйозно, і ви цілком маєте право відчувати тривогу через цю технологію. Насправді деякі з найрозумніших людей у світі – ті, хто розуміється на цій технології значно краще за мене, – справді її бояться.
Але про всі ці попередження ви, ймовірно, вже знаєте. Я хочу зосередитися на тому, що сталося далі.
За кілька днів після того, як цей твіт став вірусним, генеральний директор Anthropic Даріо Амодей опублікував велике есе, в якому закликав усю галузь сповільнитися, а уряд – запровадити нові правила. І вже протягом наступної доби два його найзапекліші конкуренти – керівник OpenAI Сем Альтман та Ілон Маск – публічно з ним погодилися.
Найвпливовіші й найзапекліші конкуренти в галузі, які майже ні в чому не сходяться, раптом, практично за одну ніч, погодилися щодо конкретного набору правил.
Цікаво.
Я не збираюся стверджувати, що все це було інсценовано, бо не займаюся вигадуванням змов. Але коли бачу надто зручну послідовність подій, я її помічаю.
Спалах суспільного страху, за яким найбільші гравці галузі одразу гуртуються навколо рішення, що влаштовує саме їх, – це не те, що варто пропускати повз увагу. Адже рамки всієї цієї дискусії для вас задають люди, для яких від того, чим усе це зрештою закінчиться, залежать величезні гроші.
Тож я хочу надати цій темі про штучний інтелект людського обличчя: подивитися на трьох генеральних директорів, які значною мірою формують цю дискусію, з’ясувати, що насправді поставлено на карту для кожного з них, і спробувати допомогти нам осмислити, як звичайним американцям варто дивитися на всю суперечку навколо ШІ.
Сем Альтман
Продукт Сема Альтмана – ChatGPT – став відомим практично кожному, але про його наміри відомо значно менше.
Почнімо із Сема Альтмана – генерального директора OpenAI. Упродовж більшої частини останніх двох років Альтман виступає з апокаліптичними прогнозами, застерігаючи, що ШІ зробить непотрібною величезну частину людської праці та позбавить людей здатності самостійно діяти і відчуття мети.
А тепер запитайте себе: кому вигідне таке послання? Воно каже кожному інвестору на планеті, що цю можливість не можна проґавити, що гроші треба вкладати вже зараз і що бум усе одно станеться – хочете ви цього чи ні.
Проблема в тому, що залякування людей має наслідки, від яких потім не віджартуєшся.
Значна частина гострої суспільної реакції проти дата-центрів бере початок саме звідси. Галузь два роки переконувала людей боятися, а потім здивувалася, коли люди справді злякалися. Не можна розпалити вогонь, а потім нарікати на дим.
Ілон Маск
Людина, яка обіцяла скоротити "марнотратство, шахрайство та зловживання", тепер б’є на сполох через ту саму технологію, яка, за її ж словами, здатна замінити ці робочі місця?
Далі – Ілон Маск, який намагається подати себе як тверезий голос у дискусії про ШІ.
Це людина, яка купила Twitter і перетворила його на ехо-камеру правих. Потім він приєднався до кампанії Трампа, витратив сотні мільйонів доларів на підтримку обрання Трампа та кандидатів MAGA, а згодом отримав – метафоричну й цілком буквальну – бензопилу та доручення різати державні видатки через так званий "Департамент урядової ефективності".
Маск пройшовся по федеральному уряду наче тараном, завдав реальної шкоди відомствам, від яких залежать люди, але зрештою так і не зміг по-справжньому загальмувати зростання видатків.
А тепер він хоче, щоб ми довірилися його судженням щодо безпечного й відповідального розвитку найпотужнішої технології в історії людства. Вибачте, але я не довіряю.
Даріо Амодей
Колишній співробітник Амодея здійняв галас своїм звільненням. Те, як галузь відреагує на його відхід і як після цього вибудує регулювання, має принципове значення для майбутнього ШІ.
Третя постать – Даріо Амодей, генеральний директор Anthropic, чиє есе спричинило останню хвилю суперечок про регулювання ШІ. Даріо викликає менше суспільної поляризації, ніж Альтман чи Маск, але не думайте, що від цього він менш впливовий.
Аргумент Даріо полягає в тому, що вся галузь має свідомо сповільнитися, а уряд повинен зобов’язати кожну велику лабораторію дотримуватися заходів безпеки. Багато хто з вас прочитає це й подумає: "Добре, нарешті технологічний лідер сам просить, щоб його обмежили".
Отже, він тут відповідальний гравець, так?
Саме тут я попросив би вас відступити на крок і подивитися ширше. Я працював у владі й навчився ставати не менш, а більш підозрілим, коли найпотужніші компанії в певній галузі самі починають просити, щоб їх регулювали.
Ми всі боїмося "привида в машині". Але не можна забувати про чоловіків за клавіатурами – Адам Кінзінгер
Подивіться, що саме він запропонував. Перший крок – зобов’язати, щоб у кожній лабораторії передових ШІ-моделей постійно працювали незалежні оцінювачі. Це справді може бути хорошою ідеєю. Але зверніть увагу, хто без проблем витримає таку вимогу: велика, добре профінансована компанія, у якої вже є юристи, фахівці з комплаєнсу і мільярди доларів, щоб усе це забезпечити.
А тепер зверніть увагу, хто не зможе: менший конкурент, стартап, новий гравець, який інакше міг би кинути виклик гігантам.
Правило, яке великі гравці можуть собі дозволити, а малі – ні, – це не лише захід безпеки. Воно також може стати захисним ровом, який нинішні гравці ринку викопують, щоб не пустити інших усередину.
Коли титани цілої галузі гуртуються навколо однакових правил, звичайним американцям варто ставати більш настороженими, а не менш. Суперники не доходять згоди настільки швидко, якщо домовленість не вигідна всім їм.
Ліві й праві проти Кремнієвої долини?
Те, що я описую, має назву. Це регуляторне захоплення – один із непомітних способів, якими впливові інтереси підлаштовують правила гри під себе.
Працює це так: галузь стає настільки великою й складною, що єдиними людьми, які розуміють її достатньо добре, щоб писати правила, виявляються керівники самої галузі. У результаті правила починають писати так, щоб вони служили їм – часто під прапором безпеки або відповідальності, а наслідком стає закріплення домінування тих, хто вже перебуває на вершині.
Громадськість думає, що її захищають. Насправді ж наступне покоління інновацій душать ще до того, як воно встигає закріпитися.
Ось чому це важливо не лише для ШІ. Це один із рідкісних конфліктів, у якому люди, що майже ні в чому іншому не погоджуються, можуть знайти спільну мову.
Прогресист, який не довіряє корпоративній владі, і консерватор – прихильник вільного ринку, який не довіряє монополіям, дивляться на ту саму небезпеку з різних боків і зрештою сходяться в одній точці.
Вони не погодяться щодо остаточного набору правил – і це нормально. Спершу їм треба погодитися лише в одному: те, що компанія величезна й створює щось здатне змінити світ, ще не доводить, що вона дбає про ваші інтереси; а проти регуляторного захоплення з боку цих гігантів галузі треба боротися всіма доступними засобами.
Саме таку несподівану коаліцію формує ця проблема – і ми не можемо змарнувати цю можливість.
Китай спостерігає
Сі Цзіньпін уважно стежить за помилками Америки. Перемога Китаю в боротьбі за лідерство у сфері ШІ була б так само небезпечною для нашої національної безпеки, як і нехтування внутрішніми проблемами.
Тут я говоритиму з позиції тієї частини свого життя, яку присвятив питанням національної безпеки. Змагання за створення найпередовішого у світі ШІ – не дружня гонка. Це боротьба з реальними стратегічними ставками, і Китай намагається її виграти.
Скажімо прямо: світ, у якому авторитарний уряд здобуде вирішальну перевагу в цій технології, буде небезпечним. Тому я не закликаю зупиняти американські інновації або вдавати, що ризик відставання не є реальним. Він реальний. Ми маємо бути попереду.
Водночас, якщо ми віддамо політику регулювання цієї технології до рук людей, чиї мотиви прямо пов’язані з власними банківськими рахунками, ми не виграємо гонку з Китаєм.
Ми лише отримаємо ще більш концентровану й підконтрольну великим гравцям версію власної галузі, а втішним призом стануть заспокійливі слова про національну безпеку.
Старіша небезпека
Так, ШІ може бути небезпечним. Я в це вірю. До ризиків треба ставитися серйозно: втрата робочих місць, неконтрольовані системи й усе, що лежить між цими крайнощами. І весь уряд США має працювати над створенням загальнонаціональної системи регулювання ШІ.
Але не дозволяйте галасу навколо технології відволікти вас від старішої й добре знайомої загрози: впливові люди будують систему, яка працює на них, поки суспільство зайняте іншими битвами.
Це називається клептократією: найбагатші й найвпливовіші привласнюють плоди тяжкої праці звичайних американців, а потім вибудовують правила так, щоб назавжди закріпити свою перевагу.
Упродовж двох років ці люди з Кремнієвої долини переконують нас, що ця технологія надто потужна, надто небезпечна й надто складна, щоб довірити її комусь, крім них самих.
Це найстаріший трюк сильних світу цього: налякати людей, а потім виставити себе єдиним, хто здатен їх урятувати. Насправді це дуже нагадує риторику одного добре знайомого політика останнього десятиліття.
Я в це не вірю – і вам теж не варто. Не тому, що небезпека вигадана. А тому, що чоловіки, які на неї вказують, другою рукою вже залізли вам до кишені.
Тож пам’ятайте: коли хтось починає говорити про майбутнє штучного інтелекту, відійдіть на крок і подивіться ширше. Запитайте, кому це вигідно. І знайдіть людей з іншого політичного табору, які ставлять те саме запитання, – вони є, і нас набагато більше, ніж їх.
І майбутнє Америки, а можливо, й людства, може залежати від того, чи зуміємо ми знайти таку солідарність.
