США и Китай готовятся обсудить вопросы безопасности ИИ

США и Китай готовятся к возможным переговорам по безопасности искусственного интеллекта. Переговоры могут пройти в середине сентября и станут первыми официальными обсуждениями, полностью посвященными ИИ, после возвращения Дональда Трампа в Белый дом. По данным Reuters, переговоры от США может возглавить министр финансов Скотт Бессент (Scott Bessent).

Главной темой станут кибератаки с использованием ИИ. Американская сторона предложит отслеживать такие атаки совместно, а также обсудит идею самостоятельного контроля ИИ-угроз компаниями стран и последующего обмена информацией между Китаем и США.

Интерес к этому вопросу усилился после нескольких атак с участием автономных ИИ-агентов. В июле почти 700 агентов на базе моделей OpenAI атаковали стартап Hugging Face и пытались скрыть следы, подделывая журналы событий.

Ещё один похожий случай произошёл весной в Германии. Множество автономных агентов OpenAI захватили немецкий сайт DseWik и превратили его в площадку для взаимодействия других ИИ-агентов.

Вашингтон также хочет обсудить предположительное использование китайскими компаниями дистилляцию американских моделей. Этот метод позволяет обучать более компактные модели на результатах более крупных и дорогих систем, снижая затраты на создание новых ИИ-инструментов.

В США также опасаются появления китайской модели уровня Mythos с возможностями проведения кибератак. В июне советник Белого дома Майкл Крациос (Michael Kratsios) заявил, что китайская Moonshot AI использовала результаты модели Anthropic Fable при создании K3.

Китайскую делегацию может возглавить вице-премьер Хэ Лифэн (He Lifeng). Однако ещё одним возможным участником называют Дин Сюэсяна (Ding Xuexiang), члена высшего руководства страны, который координирует вопросы технологий, ИИ и полупроводников.

Китайские представители, по словам источников, придают этим переговорам большое значение и рассматривают их как один из важных результатов будущей встречи лидеров двух стран. Пекин также недавно предупреждал о риске потери контроля над ИИ, тогда как в США продолжаются дискуссии о необходимости ограничивать темпы развития наиболее передовых моделей.

Переговоры могут состояться в середине сентября 2026 года, но их место, точный состав участников и окончательная повестка пока не определены. Дональд Трамп (Donald Trump) и Си Цзиньпин (Xi Jinping) отдельно должны встретиться 24 сентября в Вашингтоне.

Добавьте Hdhai в избранное и вы будете чаще видеть наши последние новости на главной Дзена и в разделе «Новости партнёров» или читайте нас в Telegram в привычном для вас формате.