Каким будет ии-лидерство? Два сценария от Anthropic

Изображение сгенерировано ИИ

Аналитики американской компании Anthropic рассматривают ИИ как главный фактор будущего глобального баланса сил между США и Китаем к 2028 году. Лидерство зависит, прежде всего, от контроля над вычислительными мощностями — чипами и дата-центрами. Китайские ИИ-лаборатории, по мнению авторов доклада, отстают не из-за нехватки талантов, а из-за дефицита передовых чипов и экспортных ограничений США. В докладе особое внимание уделяется «дистилляционным атакам*» — копированию возможностей американских моделей через массовый сбор их ответов. Это трактуется как форма промышленного шпионажа. Эксперты считают, что ИИ станет не только экономическим, но и военным инструментом: от кибератак до управления автономными системами и ускорения научных разработок. В то же время авторы предупреждают, что «гонка ноздря в ноздрю» между США и КНР снизит внимание к безопасности ИИ: компании будут быстрее выпускать модели без достаточных проверок. В оптимистичном для США сценарии Вашингтон сохраняет преимущество в 12-24 месяца по самым мощным моделям, а американский ИИ становится основой мировой экономики. В негативном сценарии Китай догоняет США благодаря обходу санкций и быстрому внедрению ИИ в экономику и силовой аппарат, после чего мировые стандарты ИИ начинают формироваться под влиянием авторитарных режимов. Отчёт был опубликован накануне встречи Дональда Трампа и Си Цзиньпина в Пекине.

*Дистилляционные атаки — это способ копирования возможностей большой ИИ-модели без прямого доступа к её внутреннему коду и параметрам. Термин происходит от метода model distillation («дистилляция моделей»), который изначально был легальным и широко применяемым инструментом в машинном обучении.

Крайне важно, чтобы США и их союзники опережали авторитарные правительства, такие как Коммунистическая партия Китая (КПК), подчёркивают авторы доклада. По их словам, ИИ вскоре станет достаточно мощным, чтобы его можно было использовать для подавления граждан в беспрецедентных масштабах и даже для изменения баланса сил между государствами. И поскольку ИИ совершенствуется с каждым днём всё быстрее, остаётся лишь ограниченный период времени, чтобы задать условия этой конкуренции — и определить, материализуются ли эти угрозы и каким образом.

Именно с учётом этого мы описываем то, что необходимо для обеспечения лидерства Америки. Самым важным компонентом для разработки ИИ является доступ к компьютерным чипам, на которых обучаются модели (или к «вычислительным мощностям»). Поскольку наиболее эффективные чипы разрабатываются американскими компаниями, правительство США в настоящее время ограничивает их поставки в Китай, применяя жёсткий экспортный контроль. Новейшая история показывает, что эти меры контроля оказались невероятно успешными. Фактически, лаборатории ИИ в Китае смогли создать модели, близкие по уровню интеллекта к американским, только благодаря своим талантам, умению использовать лазейки в обход этого экспортного контроля и крупномасштабным дистилляционным атакам, которые незаконно извлекают инновации американских компаний, — отметили авторы доклада.

Аналитики представили два своих сценария того, как может выглядеть мир в 2028 году, когда, как ожидается, появятся трансформирующие системы ИИ.

В первом сценарии США успешно защитили своё преимущество в вычислительных мощностях. Политики предприняли шаги по дальнейшему ужесточению экспортного контроля, пресечению дистилляционных атак со стороны Китая и ускорению внедрения ИИ в демократических странах.

В таком мире правила и нормы вокруг ИИ устанавливают демократии. Кроме того, именно при этом сценарии мы с наибольшей вероятностью сможем успешно взаимодействовать с Китаем по вопросам безопасности, что мы поддерживаем в той мере, в какой это возможно, — считают аналитики.

Во втором сценарии США предпочли не действовать. Политики не закрыли лазейки для доступа КПК к вычислительным мощностям, и фирмы, занимающиеся ИИ в Китае, быстро этим воспользовались — догнав передовой рубеж и даже обогнав Америку.

В этом мире нормы и правила ИИ формируются авторитарными режимами, а лучшие модели позволяют осуществлять автоматизированное подавление в промышленных масштабах. И то, что этот авторитарный триумф произошёл за счёт американских вычислительных мощностей, не принесёт никакого утешения, — утверждают представители американской компании. — Наш прошлый успех означает, что наша нынешняя задача в значительной степени состоит в том, чтобы не растратить своё преимущество: принять решение не облегчать КПК задачу по сокращению отставания.

Два сценария глобального лидерства в области ИИ

Демократии в настоящее время обладают существенным преимуществом в вычислительных мощностях — важнейшем компоненте для разработки передовых моделей ИИ, пишут аналитики. Это лидерство существует благодаря инновациям США и их союзников, а также благодаря двухпартийному экспортному контролю США, который защищает эти инновации, считают в Anthropic. Но по уровню интеллекта моделей лаборатории ИИ в КНР, находящиеся под юрисдикцией и контролем КПК, отстают не сильно.

Мы фокусируемся на КПК, поскольку именно этот режим наиболее способен использовать передовой ИИ для укрепления авторитаризма; мы не стремимся ущемить интересы или изобретательность китайского народа. КПК уже использует ИИ для цензуры речи, подавления диссидентов, взлома правительств и корпораций по всему миру, а также для укрепления Народно-освободительной армии Китая (НОАК).

Лаборатории ИИ в Китае обладают талантами мирового уровня, отмечается в докладе. Именно ограничения в вычислительных мощностях сдерживают их способность идти в ногу со временем. Лаборатории в Китае удерживают позиции, используя лазейки в политике экспортного контроля США и проводя крупномасштабные дистилляционные атаки, которые собирают инновации американских моделей для имитации их возможностей.

Поскольку предложение вычислительных мощностей стремительно расширяется, а ИИ всё чаще используется для ускорения обучения новых моделей ИИ, мы вступаем в период колоссального ускорения возможностей ИИ. Уровень интеллекта, который мы связываем с трансформирующим ИИ — «целая страна гениев в одном дата-центре», — возможно, уже не за горами. Это ускорение делает политические действия более неотложными. До сих пор, допуская обход экспортного контроля и дистилляционные атаки, мы позволяли усилиям КПК в области ИИ следовать вплотную за передовым краем прогресса. Но если США и их союзники начнут действовать сейчас, чтобы решить обе проблемы, появится возможность закрепить лидерство в передовых возможностях на 12-24 месяца.

Столь значительный отрыв к 2028 году был бы чрезвычайно выгодным, считают американские разработчики. Такой отрыв также усилил бы усилия по взаимодействию с экспертами по ИИ в Китае по вопросам безопасности и управления ИИ. Но окно возможностей для закрепления этого лидерства не обязательно будет оставаться открытым долго.

Первый сценарий — это сценарий, при котором демократии обеспечили себе прочное лидерство в интеллекте моделей, их внедрении и глобальном распространении. Этого сценария можно достичь, если политики начнут действовать прямо сейчас: ужесточат контроль над передовыми вычислительными мощностями для лабораторий КНР, сорвут их попытки дистиллировать лучшие американские модели ИИ и ускорят внедрение ИИ в демократических странах.

Америка и её союзники обладают прочным и увеличивающимся лидерством. США успешно защищают своё преимущество в полупроводниках, блокируя доступ КНР к передовому оборудованию, закрывая лазейки для контрабанды чипов и пресекая использование облачных дата-центров за рубежом. Как следствие, американские модели опережают китайские по уровню интеллекта на 12-24 месяца. Технологический отрыв позволяет демократическим странам устанавливать глобальные правила игры. Мощный американский ИИ становится становым хребтом мировой экономики и надёжным кибероружием для сдерживания агрессии, формируя самоусиливающийся цикл доминирования западных ценностей.

Второй сценарий — это сценарий, при котором КПК конкурентоспособна практически на самом передовом рубеже. Этот сценарий реализуется, если политики не будут развивать существующее лидерство США или если они ослабят ограничения на доступ к вычислительным мощностям для фирм из КНР.

Контролируемая КПК экосистема ИИ идёт ноздря в ноздрю. Из-за слабого экспортного контроля, непрекращающихся дистилляционных атак и утечки американских технологий китайские лаборатории приближаются к паритету с США, отставая всего на несколько месяцев. Пекин развёртывает агрессивную общенациональную программу «ИИ+», выгодно интегрируя технологии в экономику и военную сферу. Усиленные искусственным интеллектом кибервойска НОАК получают доступ к критической инфраструктуре по всему миру, полностью лишая демократические страны преимуществ в сфере безопасности. На внешних рынках, особенно на Глобальном Юге, Пекин побеждает за счёт дешёвых дата-центров Huawei и Alibaba, что даёт КПК колоссальное геополитическое влияние.

Чтобы гарантировать реализацию первого, благоприятного сценария, авторы доклада призывают незамедлительно заблокировать каналы незаконного получения вычислительных мощностей. Ужесточение мер контроля и увеличение бюджетов правоохранительных органов помогут перекрыть контрабанду чипов и удалённый доступ к зарубежным серверам. Это радикально снизит вычислительный потолок Китая, замедлит его собственные разработки и лишит КНР минимально необходимой технической базы для проведения эффективных дистилляционных атак. Вторым важнейшим шагом должна стать защита американских инноваций от копирования и сдерживание дистилляционных атак. Законодателям в Конгрессе необходимо официально признать такую практику незаконной и ввести жёсткие санкции против лабораторий КНР. Параллельно требуется наладить оперативный обмен данными об угрозах между ведущими американскими ИИ-лабораториями и правительством США. Это позволит своевременно фиксировать мошеннические действия со стороны азиатских коллег и защитить интеллектуальную собственность. Наконец, администрации Трампа необходимо активно продвигать экспорт доверенного американского ИИ по всему миру. Поскольку коммерческий и государственный секторы на всех континентах стремительно цифровизируются, США должны форсировать экспансию своих моделей и оборудования, созданных на основе демократических принципов. Закрепление американской технологической инфраструктуры на внешних рынках прямо сейчас лишит экосистему КПК глобальных плацдармов, необходимых ей для ценовой конкуренции в будущем.

Угроза авторитарного ИИ

Политические системы, в которых создаётся наиболее продвинутый ИИ, будут формировать правила и нормы того, как эта технология разрабатывается и развёртывается. В свою очередь, эти правила и нормы помогут определить, является ли технология безопасной, чью безопасность она защищает и чьим интересам она, в конечном счете, служит.

Если передовой рубеж будет определяться режимами, которые рассматривают ИИ как инструмент подавления, получения военного преимущества и внутреннего контроля, переход с меньшей вероятностью пройдёт успешно — как для граждан самих этих режимов, так и для всех остальных.

Исторически масштабы авторитарного правления были ограничены его зависимостью от людей-исполнителей, осуществляющих слежку и подавление. Мощные системы ИИ могут устранить эту зависимость, сделав возможным автоматизированное подавление в гораздо более широких масштабах. По этой причине перспектива лидерства КПК в сфере ИИ является одной из величайших угроз для успешного перехода.

КПК обладает огромной властью и влиянием, находясь у руля экономики Китая, его вооружённых сил и крупнейшей авторитарной государственной структуры на Земле, подчёркивают авторы отчёта. Кроме того, это единственная страна, помимо США, располагающая хорошо финансируемыми и высокоталантливыми лабораториями ИИ, штурмующими передовой рубеж. Более того, КПК крайне мотивирована сделать Китай ведущей державой в области ИИ. Пекин влил десятки миллиардов долларов в секторы ИИ и полупроводников Китая.

КПК уже использует системы ИИ для цензуры речи, проведения драконовской политики в отношении этнических меньшинств и взлома крупных корпораций и правительственных учреждений. Видение КПК в отношении техноавторитаризма на базе ИИ было подробно задокументировано в Синьцзяне, где органы государственной безопасности систематически развёртывали технологии распознавания лиц, сбор биометрических данных и слежку за коммуникациями, что позволило осуществлять подавление в таких масштабах, которых одни только люди достичь не могли бы. Передовые системы ИИ сделают поддержание этих возможностей более дешёвым, гораздо более повсеместным и изощрённым. Экспорт этих технологий со стороны КПК позволил автократам в других странах более эффективно подавлять инакомыслие, укрепляя авторитаризм. Передовой рубеж ИИ под руководством КПК может резко усилить репрессии по всему миру, — считают аналитики Anthropic.

ИИ — технология двойного назначения

Передовой ИИ сформирует будущий военный баланс.

Руководство КПК уже действует исходя из этой предпосылки и строит свои вооружённые силы для поля боя, усиленного ИИ. Стратеги НОАК рассматривают «интеллектуализацию» своих вооружённых сил как средство, с помощью которого можно догнать и в конечном счёте превзойти армию США. НОАК уже закупает коммерчески разработанные китайские системы ИИ для военного использования, включая модели DeepSeek, развёрнутые для координации роев беспилотных летательных аппаратов и обеспечения возможностей для кибернападения.

Эти возможности не будут распространяться медленно. Например, когда новая модель достигает нового уровня возможностей в автономном целеуказании, обнаружении уязвимостей или координации роя, контролирующий её режим может направить её на поле боя за считанные недели, а не годы.

Риск усугубляется тем, что передовой ИИ станет ускорителем для других критически важных технологий. Продвинутые модели ИИ смогут сократить циклы исследований и разработок (НИОКР) в области полупроводников, биотехнологий и передовых материалов. Лидерство в области передового ИИ позволит увеличить отрыв по всему спектру технологий национальной безопасности.

Хотя всё большее число исследователей в китайских лабораториях ИИ и политическом сообществе обеспокоены рисками безопасности ИИ, эта тенденция не трансформировалась в практику безопасности, сопоставимую с лабораториями в США.

По состоянию на прошлый год только 3 из 13 ведущих китайских лабораторий ИИ опубликовали какие-либо результаты оценки безопасности, и ни одна не раскрыла оценки химических, биологических, радиологических и ядерных (ХБРЯ) рисков. Центр стандартов и инноваций в области ИИ (CAISI) обнаружил, что модель R1-0528 от DeepSeek выполняла 94 % явно вредоносных запросов при использовании распространённой техники джейлбрейка, по сравнению с 8 % для американских эталонных моделей. Эта тенденция продолжилась и в более свежих релизах. Например, независимая оценка модели Kimi K2.5 от Moonshot, опубликованная в апреле, показала, что эта модель не справлялась с отказом на ХБРЯ-запросы с гораздо более высокой частотой, чем американские передовые модели. Усугубляет проблему то, что лаборатории в Китае часто выпускают модели, пригодные для двойного назначения, в формате с открытыми весами. Как только модель получает открытые веса, существующие защитные барьеры могут быть удалены, что делает модель доступной для любого государственного или негосударственного субъекта для использования в злонамеренных целях, включая неправомерное использование в киберсфере и ХБРЯ, для предотвращения которого эти барьеры и создавались.

Американские лаборатории обладают самыми продвинутыми моделями ИИ, огромным отрывом как в количестве, так и в качестве передовых чипов ИИ, необходимых для продвижения передового рубежа, и колоссальным капитальным преимуществом за счёт доходов и финансирования для поддержки необходимых инвестиций для достижения этой цели, продолжают авторы доклада. Лаборатории КНР обладают реальными сильными сторонами: инновационными талантами мирового уровня, изобильной и дешёвой энергией и большим количеством данных. Всё это необходимо для развития передового интеллекта. Но у них просто нет достаточных внутренних вычислительных мощностей для конкуренции, как нет и доходов и капитала для их финансирования.

Четыре фронта конкуренции

• Интеллект: какие страны разрабатывают наиболее способные модели ИИ.
• Внутреннее внедрение: какие страны наиболее эффективно интегрируют ИИ в коммерческий и государственный секторы.
• Глобальное распространение: какие страны развёртывают глобальный стек ИИ, на котором работает мировая экономика.
• Устойчивость: какие страны сохраняют политическую стабильность в период экономического перехода.

Интеллект — самый важный из четырёх фронтов. Мы ожидаем, что возможности передовых моделей повлекут за собой самые серьёзные изменения в геополитической конкуренции. Возможности моделей также являются основным фактором рыночного внедрения и глобального распространения.

Однако одного лишь интеллекта недостаточно. Если КПК быстрее и эффективнее интегрирует системы ИИ близкого к передовому уровня в экономику Китая и аппарат безопасности КПК, а также простимулирует глобальное внедрение субсидируемого недорогого ИИ, то она сможет обеспечить себе преимущества над демократиями, которые компенсируют дефицит интеллекта.

Анализ планов развития Huawei и NVIDIA показал, что в 2026 году Huawei произведёт всего 4 % от совокупной вычислительной мощности NVIDIA по общей производительности процессоров, а в 2027 году — 2 %. Более того, NVIDIA представляет лишь часть вычислительной экосистемы США и их союзников: Google и Amazon наращивают производство собственных чипов (TPU и Trainium соответственно), чтобы удовлетворить спрос со стороны американских передовых лабораторий ИИ и их клиентов.

Ещё больше усугубляет дефицит вычислительных мощностей то, что Китай добился незначительного прогресса во многих наиболее технологически сложных сегментах цепочки поставок полупроводников. Без доступа к технологии экстремального ультрафиолета (EUV), и тем более если политики смогут закрыть лазейки в отношении технологии глубокого ультрафиолета (DUV), а также её обслуживания и ремонта, производители чипов в Китае по-прежнему не смогут производить чипы в достаточном количестве или качестве, чтобы бросить вызов лидерству США в вычислительных мощностях. Способность Китая производить память с высокой пропускной способностью в промышленных масштабах ещё сильнее усугубляет этот разрыв. Если США ужесточат ограничения на способность КПК получать доступ к американским вычислительным мощностям, то, по оценкам одного из исследований, Америка будет иметь доступ примерно в 11 раз к большему объёму вычислительных мощностей, чем сектор ИИ Китая.