Две ИИ-сверхдержавы, один вопрос: как не потерять управление над собственными изобретениями

АВТОР: Константин Трофимов

Организация по безопасности искусственного интеллекта, базирующаяся в Китае, провела серию встреч с американскими ИИ-лабораториями. Об этом пишет POLITICO. Группа называется Concordia AI, офисы у неё в Пекине и Сингапуре.

По словам трёх осведомлённых источников издания, 2 октября представители группы побывали в штаб-квартире OpenAI. Они рассказали техническим специалистам и другим сотрудникам, как устроена экосистема ИИ-безопасности в Китае. Представитель организации (в публикации он фигурирует как Ng) подтвердил, что делегация посетила лаборатории в районе залива Сан-Франциско. Обсуждали состояние безопасности ИИ в Китае, типы исследований и идеи международной координации. По его словам, американские исследователи проявляют заметный интерес к китайскому подходу.

То есть люди из Китая приехали в Калифорнию с докладами, а вовсе не с чем-то более зловещим.

Кто эти гости

Concordia AI не новичок. Ещё в 2023 году организация выпустила отчёт на 150+ страниц о состоянии безопасности ИИ в Китае, запустила рассылку AI Safety in China и входила в рабочие группы китайского Альянса индустрии ИИ. Тогда же она провела форум по безопасности на китайской конференции, куда, по её словам, удалось привлечь Сэма Альтмана и Криса Ола из Anthropic.

Сама группа заявляет, что не берёт денег у правительств и политических организаций. Финансирование, по её словам, идёт от благотворительных фондов в Китае, Европе и Сингапуре, и права вето на публикации у них нет. Это самоописание, проверить его независимо из публикации нельзя. Стоит помнить и о том, что в Китае есть и другие исследовательские группы по безопасности ИИ, многие из них связаны с государственными университетами.

Зачем это американцам

Американские лаборатории хотят понять, насколько всерьёз в разных частях китайской ИИ-индустрии воспринимают риски. Это, пожалуй, главный интерес сторон. Бриан Цзэ, основатель Concordia AI, считает, что китайские и американские эксперты в целом согласны в оценке рисков, а расходятся в том, как эти риски формулируют и расставляют по приоритетам.

Заметим, что обмен разговорами при закрытых дверях не новость. В 2024 году журналисты писали о неформальных встречах американских компаний и китайских экспертов в Женеве, которые организовала частная посредническая структура Shaikh Group.

Почему это выглядит странно

На политическом уровне картина куда менее дружелюбная.

  • США ограничивают экспорт передовых чипов в Китай. OpenAI и Anthropic, как пишут со ссылкой на Tom’s Hardware, призывали ограничить доступ Китая к таким чипам. Критики, например исследовательница Кристи Локе из Королевского колледжа Лондона, считают, что в этих призывах искренние опасения смешаны с коммерческой тревогой: дешёвые китайские модели с открытыми весами теснят американские.
  • Сама OpenAI, по данным POLITICO, в последнее время стала тише в лоббировании жёстких ограничений на чипы. В компании ответили, что эффективный экспортный контроль остаётся частью их стратегии.
  • Глава китайского Министерства государственной безопасности Чэнь Ийсинь предупреждал об угрозах от ИИ, включая использование мощных моделей Anthropic и OpenAI для эксплуатации уязвимостей в критической инфраструктуре Китая.

Получается занятная картина: на одном этаже спорят о чипах и угрозах, а на другом специалисты пьют чай и обсуждают, как не потерять управление над собственными изобретениями.

Что говорят скептики, а что оптимисты

Оптимисты напоминают, что риски ИИ не знают границ, а значит, без китайских участников разговор о безопасности неполон. Об этом в разное время говорили и представители американских лабораторий. Кроме того, в сентябре, по данным Reuters, США и Китай готовили первый после возвращения Дональда Трампа в Белый дом официальный диалог, посвящённый исключительно ИИ.

Скептики замечают две вещи. Во-первых, подобные контакты «второго трека» редко меняют жёсткую политику. Аналитики Newsquawk отмечают, что технический диалог обычно идёт отдельно от торговли и экспортного контроля и сам по себе траекторию ограничений не меняет. Во-вторых, такие встречи могут вызвать вопросы у политиков в Вашингтоне, которые следят за любыми связями с Китаем.

Отдельно напомним, что критика бывает и в адрес самих «безопасников». Американские лаборатории упрекают в сочетании искренней заботы и коммерческого интереса. Для китайских организаций, в свою очередь, вопрос независимости остаётся предметом обсуждения: заявления группы о финансировании пока подтверждены лишь её словами.

А при чём тут мы

Россия в этой истории скорее наблюдатель, но не совсем посторонний. В июле Китай создал Всемирную организацию по сотрудничеству в области ИИ. В числе 29 стран-основателей есть и Россия. Некоторые наблюдатели увидели в этом ответ на американскую инициативу Pax Silica. Так что разговор об общих правилах для ИИ идёт на нескольких площадках сразу, и у каждой свои приоритеты.

Итог

Никакого «секретного заговора» и никакой «великой дружбы» здесь нет. Есть рабочий обмен мнениями между исследователями, которые понимают, что риски продвинутого ИИ не зависят от паспорта разработчика. И есть политическая реальность, где те же стороны соперничают за чипы, модели и влияние. Обе правды сосуществуют, и это, пожалуй, главная особенность нынешней ИИ-гонки.

По материалам китайских СМИ


Автор — журналист, публицист, историк IT, китаевед, специалист по международным отношениям

Специально для discred.net

Надо читать