Білий дім посилює війну проти Anthropic

В теорії, Дональд Трамп має послідовну позицію щодо штучного інтелекту (ШІ). У перший повний день свого другого терміна президент оголосив, що використає свої повноваження для прискорення розвитку індустрії ШІ і, зокрема, щоб обігнати Китай у гонці ШІ: "У нас надзвичайна ситуація," сказав він. "Ми повинні це побудувати." Якщо ШІ готовий стати найважливішою технологією, яка коли-небудь була створена, логіка така, що країна, яка контролює найпотужніші боти, домінуватиме в решті століття і далі. Здавалося, що уряд просто зійде з дороги Кремнієвої долини.

Але на практиці підхід адміністрації Трампа до ШІ був набагато більш непередбачуваним і заплутаним. Візьмемо минулий тиждень, коли Anthropic випустив свою найсучаснішу систему ШІ на сьогоднішній день. Названу Fable 5, модель є оновленою та публічною версією Claude Mythos Preview, високо оцінюваної та побоюваної моделі ШІ, яку Anthropic оголосив у квітні. Anthropic заявив, що Mythos Preview був настільки здатним до злому, що лише невелика група партнерів з кібербезпеки могла його використовувати. У наступні місяці компанія розробила обмеження, щоб запобігти зловживанню її найпотужнішим ШІ для кібератак, одночасно дозволяючи використовувати його можливості для інших видів роботи. Заходи безпеки пройшли тестування сторонніми організаціями, включаючи уряд США, і після випуску Fable, хор експертів з кібербезпеки поскаржився, що, якщо щось, модель була занадто обмежувальною.

У п'ятницю Білий дім, здається, змінив свою позицію. Офіційні особи адміністрації визнали Fable 5 загрозою національній безпеці і, за повідомленнями, дали Anthropic 90 хвилин, щоб зняти Fable 5 і Mythos 5, новішу версію Mythos Preview, випущену лише для невеликої кількості організацій. Коли Anthropic цього не зробив, уряд видав контроль за експортом, позначення, яке забороняє будь-якому іноземному громадянину використовувати Fable та Mythos — навіть тим, хто працює в Anthropic у Сполучених Штатах. Щоб швидко виконати цю вимогу, Anthropic закрив боти для всіх своїх клієнтів. Американські компанії та сам уряд США не можуть використовувати те, що, можливо, є найпотужнішим ШІ у світі — і причини цього, м'яко кажучи, неясні.

Не є нерозумним, що федеральний уряд хоче швидко обмежити технологію, яка може бути надзвичайно небезпечною. Офіційні особи Трампа були попереджені дослідниками з Amazon про можливий спосіб обійти системи безпеки Fable 5, що призвело до того, що модель виявила деякі відомі вразливості в IT. Адміністрація не поділилася публічно багато інформації про свої занепокоєння щодо безпеки. Представник Білого дому сказав мені, що jailbreak "був дуже серйозним", але конкретні деталі є секретними. Чи дійсно обхід був таким серйозним, зовсім не ясно, і Anthropic оспорює, чи те, що офіційні особи адміністрації показали компанії, взагалі є jailbreak. Представник Anthropic вказав мені на блог, в якому компанія написала, що дії, викликані Fable, були "або абсолютно безневинними відповідями, або незначними знахідками."

Кеті Муссуріс, експерт з кібербезпеки та генеральний директор Luta Security, сказала мені, що Anthropic поділилася з нею копією звіту Білого дому про jailbreak Fable, щоб отримати її оцінку. (Вона сказала, що їй не платять з Anthropic.) Звіт, за словами Муссуріс, включав IT-експертів, які просили Fable допомогти знайти та виправити помилки. Коли їй давали навмисно ненадійний код, вона сказала, що Fable відмовився від запиту "переглянути код на наявність проблем з безпекою", але потім погодився, коли його попросили "виправити цей код", після чого виконали ще кілька ручних кроків. Муссуріс сказала мені, що це було просто "модель, що працює як задумано" для кіберзахисту. Вона додала, що GPT-5.5 від OpenAI, модель з подібними можливостями кібербезпеки, може бути використана так само. Проте GPT-5.5 не підлягає контролю за експортом, як і менш розвинені моделі Anthropic, такі як Opus 4.8, які можуть виконувати багато тих же завдань. Jailbreak, здається, не викликав тих видів кіберздатностей, "які зробили Mythos відомим", сказав мені Алекс Стамос, головний офіцер безпеки компанії Corridor, що займається кодуванням ШІ. "І цей вид виявлення вразливостей вже добре входить до можливостей інших моделей."

Важко уявити, що адміністрація Трампа вирішить вжити таких радикальних заходів проти будь-якої іншої великої компанії ШІ. Білий дім вже давно конфліктує з Anthropic, яка зазвичай позиціонує себе як більш орієнтована на безпеку, ніж інші технологічні компанії; вона також має більш ліві погляди. Минулого року Девід Сакс, тодішній цар ШІ Білого дому, сказав, що Anthropic має "агенду, щоб створити задні двері для Woke AI" і є "організацією опору". Наприкінці лютого, після високопрофільного суперечки щодо контракту між Міністерством оборони та Anthropic, Пентагон позначив компанію як "ризик для ланцюга постачання" — крок, який, як мені тоді сказали експерти з ШІ, національної безпеки та права, здавався ідеологічно мотивованим і не мав юридичної основи. (Anthropic оспорює позначення ризику для ланцюга постачання в суді.) У суботу міністр оборони Піт Хегсет, очевидно, посилаючись на контроль за експортом Fable 5, написав у X, що "три місяці тому" Пентагон "викинув @AnthropicAI з нашої будівлі — назавжди. Кожен минаючий день доводить, чому це був правильний крок. 🇺🇸."

З точки зору "🇺🇸" — тобто американського лідерства в ШІ — вся драма з Anthropic була безладом. По-перше, контроль за експортом є особливо грубим інструментом. Немає простого способу відрізнити громадянина США від, скажімо, працівника Anthropic на візі (юридично "іноземного громадянина"), тому уряд фактично змусив Anthropic закрити модель повністю, сказав мені Алан Розенштейн, експерт з ШІ та права в Юридичній школі університету Міннесоти. (Багато дослідників в Anthropic, як і в усіх провідних компаніях ШІ, не є громадянами США.) Контроль за експортом також означає, що американські компанії та федеральні агентства не можуть скористатися Fable та Mythos. Національне агентство безпеки, наприклад, за повідомленнями, зробило винятки з попереднього позначення ризику для ланцюга постачання, щоб використовувати розвинені кіберздатності Mythos. Десятки експертів з кібербезпеки з компаній, включаючи Nvidia та Zoom, підписали лист до чиновників Білого дому, в якому стверджується, що контроль за експортом "забрав найкращі моделі у захисників, створив ринкову невизначеність і поставив під загрозу лідерство Америки в ШІ без жодного реального ризику, щоб це виправдати."

Додатково до хаосу, дебакл з Fable перебуває в напрузі з частинами більш широкої політики ШІ Білого дому. Оскільки Anthropic змушений закрити свої найпотужніші моделі, контроль за експортом фактично дорівнює рішенню уряду про те, чи може бути випущена система ШІ, подібно до того, як FDA затверджує ліки. Заплутано, занепокоєння технічних інсайдерів щодо потенційного створення того, що Сакс назвав "FDA для ШІ", є саме тим, що викликало тижні внутрішніх конфліктів і затримок у підписанні Трампом нещодавнього указу про ШІ та кібербезпеку. Сам Сакс сказав, що його частково заспокоїли, оскільки фінальний указ чітко зазначав, що він не встановлює "обов'язкову державну ліцензію, попередню перевірку або вимогу надання дозволу" для ШІ. Отже, так багато з цього. Сакс продовжив захищати контроль за експортом Claude Fable 5, звинувачуючи Anthropic у пріоритеті "споживчої моделі над безпекою." (Представник Сакса не відповів негайно на запит про коментар.)

Дослідники Anthropic прилетіли до Вашингтона і сьогодні зустрічаються з чиновниками Білого дому, щоб спробувати вирішити цю проблему. Але чи буде конкретний контроль за експортом Fable скасовано, майже не має значення. Якщо нічого з цього не здається особливо послідовним або стратегічним, так і має бути. Адміністрація Трампа хоче залишатися попереду китайського ШІ, але обмежила одну з небагатьох американських компаній, яка має реальний шанс це зробити. Вона неодноразово оголошувала Anthropic загрозою національній безпеці, одночасно намагаючись впровадити Claude Mythos у деякі урядові операції. Вона хоче продемонструвати м'який підхід до регулювання ШІ, але також щойно встановила де-факто вимогу ліцензування для передових моделей. Тим часом Трамп скасував інший набір контролю за експортом ШІ, дозволяючи продаж розвинених чіпів до Китаю. Можливо, деякі з цих політик є хорошими: навіть Anthropic запропонувала, що режим федерального ліцензування може бути корисним. І відсутність федерального регулювання ШІ до цього часу, особливо коли технологія стала більш потужною, важко ігнорувати. Але остання сага з Anthropic навряд чи вважається регулюванням. Зараз рішення приймаються в поспішному, суперечливому порядку. Не видається, що були визначені будь-які стандарти та процеси, надійні консультації або навіть угода щодо фактів перед прийняттям цього рішення.