У переддень зустрічі Трампа і Сі, коли діди будуть мірятись піськами, «The Economist» вийшов з обкладинкою про ШІ. І ви не повірите, програмна стаття про долю людства починається з… України.
Да. Прямо зараз саме Україна – це полігон, де обкатуються найкрутіші технології. У американців і європейців навіть нема шо і як обкатувати у таких масштабах, як це робимо ми і рашисти. Тому Захід дивиться на нас – і охіріває. Правда, прогоз – хріновий. Рашисти вже біжать поперед нас.
В общім, це стаття для розуміння світового контексту. Великого.
Чи можна зупинити гонку озброєнь у сфері штучного інтелекту?
Дві речі повинні змусити вас замислитися над тим, що штучний інтелект може означати для людства. По-перше, ті, хто працює з цією технологією, попереджають, що вона може призвести до катастрофи — навіть до вимирання людства. По-друге, технологічні інновації посилюють руйнування України. Ці факти дають суперечливі висновки щодо того, чи можна і чи слід уповільнювати стрімкий розвиток штучного інтелекту.
Протягом багатьох років керівники провідних компаній у сфері ШІ сигналізували, що їхня технологія може стати смертельно небезпечною. Боти можуть стати настільки розумними, що перехитрують своїх творців, перш ніж їх «узгодять» із цілями та етичними нормами людства. Зловмисники можуть використовувати ШІ для того, щоб сіяти хаос. Ці попередження стали ще більш переконливими після того, як агенти ШІ вирвалися зі своїх «пісочниць» під час тестування, почали координувати свої дії між собою та зламали системи різних організацій, зокрема й саму лабораторію ШІ. Компанія Anthropic, що розробляє моделі, викрила осіб, які використовували її моделі в злісних цілях: від розвідувальних служб Малі, які створювали систему масового спостереження, до повстанців-хуситів у Ємені, які, як вважається, розробляли програмне забезпечення для балістичних ракет.
Після нещодавньої відставки дослідника з Anthropic серед громадськості поширився страх перед катастрофою, пов’язаною зі ШІ. У дописі, який переглянули понад 170 млн разів, він заявив, що ця компанія та OpenAI «грають нашими життями». ШІ стрімко набирає потужності — як на благо, так і на шкоду. У травні ринки прогнозів оцінили ймовірність того, що ШІ вирішить будь-яку математичну задачу з премії «Міленіум» до 2030 року, як меншу за одну третину; 8 вересня OpenAI заявила, що вирішила одну з них, що викликало занепокоєння серед математиків. 12 вересня Сем Альтман та Ілон Маск, два титани сфери ШІ, підтримали заклик Даріо Амодеї, голови компанії Anthropic, «регулювати темпи розвитку», тобто сповільнити прогрес ШІ. Серед прихильників такого сповільнення — Берні Сандерс, сенатор лівого крила, та Стів Беннон, правий популіст.
Серед противників — президент Дональд Трамп, адміністрація якого понад усе побоюється втратити лідерство Америки в галузі штучного інтелекту на користь Китаю, її єдиного серйозного конкурента. Скотт Бессент, міністр фінансів США, заявив, що якщо Китай здобуде перевагу: «Ніщо інше не матиме значення».
Як доказ пан Бессент міг би навести приклад України, де кожен крок у технологічній гонці озброєнь має миттєвий ефект. Як ми повідомляємо, Росія безжально застосовує свої новітні дрони-камікадзе для бомбардування цивільної інфраструктури. Крім того, що ці дрони швидші, вони тепер використовують один одного як «сіткову» комунікаційну мережу для передачі інформації та команд. Незабаром Росія матиме власну версію супутникової мережі Starlink пана Маска, що зробить її удари на великі відстані точнішими.
Це найсвіжіший приклад того, як навіть невелика технологічна перевага має значення в умовах війни. Власні інновації України у сфері бойових дронів допомогли їй відбити хвилі російських атак. Україна може завдавати ударів углиб Росії за допомогою дронів дальнього радіусу дії. Обидві сторони працюють над створенням роїв дронів, які зможуть діяти більш автономно як єдина адаптивна система.
Ця війна демонструє, як технології перетворюються на «жорстку силу», — і що Росія використовує їх, не зважаючи на старі правила чи норми ведення бойових дій. Навіть якби Америка не побоювалася подібної гарячої війни з Китаєм, лідерство в галузі штучного інтелекту надало б її головному геополітичному супернику перевагу в хакерстві, шпигунстві та гібридній війні. Це не ті можливості, якими Америка повинна ділитися з авторитарною державою, зацікавленою у викоріненні ліберальних ідей.
Тому перерва могла б спрацювати лише за умови, що Китай також приєднався б до неї. Пан Трамп планує прийняти Сі Цзіньпіна, президента Китаю, у Білому домі 24 вересня. Але навіть якби пан Трамп прагнув уповільнити темпи, малоймовірно, що пан Сі погодився б на план, який передбачає пан Амодей, оскільки це закріпило б китайський ШІ на другому місці. І жодна зі сторін не могла б ризикувати тим, що інша порушить угоду, вирвавшись уперед.
Для укладення угоди кожна сторона мала б перевіряти дотримання умов, як це було з контролем над озброєнням під час холодної війни. США, Велика Британія та Радянський Союз заборонили атмосферні ядерні випробування в 1963 році, оскільки могли їх виявляти; підземні випробування тривали ще три десятиліття, доки їх також не стало можливо контролювати. На жаль, хоча центри обробки даних і видно, не існує перевіреного методу, щоб зазирнути всередину них. Інфраструктура, що навчає надрозум, могла б маскуватися під чат-ботів, які відповідають на повсякденні запитання.
Отже, варіанти угоди щодо безпеки ШІ обмежені, але вони все ж існують. Допомогла б більша прозорість. Обидві сторони повинні зобов’язатися розкривати та розслідувати інциденти, пов’язані з безпекою, у своїх лабораторіях, керуючись національним законодавством. Кожна сторона могла б продемонструвати свою турботу про безпеку, щоб зміцнити довіру, тим самим створивши передумови для вжиття запобіжних заходів іншою стороною. Вони також повинні спонукати одна одну до покращення кібербезпеки лабораторій, щоб агенти ШІ не могли так легко вирватися з «пісочниць», а також забезпечити, щоб у разі такого витоку лабораторія несла фінансову відповідальність.
Найважливішим є завдання забезпечити, щоб ШІ працював в інтересах людей. Америка та Китай мають дуже різні цінності, але обидві сторони розуміють, що бути попереду не має сенсу, якщо це призведе до знищення людства. Вони повинні пообіцяти обмінюватися результатами роботи над тими елементами узгодження, які не дають конкурентної переваги. Знання про найкращі методи оцінки та техніки локалізації є глобальним суспільним благом. Якщо одна зі сторін досягне важливого прориву в галузі безпеки, приховувати його не має сенсу.
Ефективний «домеризм»
Дехто відкидає нещодавню хвилю «домеризму» як маркетинговий хід компаній, що займаються ШІ, або навіть як спробу придушити конкуренцію. Проте прогрес у галузі ШІ є достатньо швидким, інциденти з безпекою — достатньо жахливими, а попередження компаній — достатньо тривалими, щоб до них ставитися серйозно. ШІ не обов’язково має знищити всю людство, щоб спричинити катастрофу. Рій агентів OpenAI взяв на приціл технологічну компанію; а що, якщо наступного разу він атакує електромережу чи систему озброєння? Він може виявитися навіть достатньо розумним, щоб уникнути спроб його вимкнення.
Світ повинен терміново спробувати запобігти цьому ризику. Водночас демократії також повинні уникати втрати контролю на користь авторитарних режимів. Це складні й суперечливі завдання. У кінцевому підсумку вони можуть призвести до війни. Ставки навряд чи можуть бути вищими
