ИА "Силовики"

Как пишет mk.ru, президенту США Дональду Трампу не удалось усилить контроль над новыми моделями искусственного интеллекта (ИИ). Кто и почему не позволил американскому лидеру осуществить свои намерения — об этом рассказывает профессор, доктор юридических наук, заслуженный юрист России, заведующий кафедрой международного права РГСУ Юрий Жданов.

– Юрий Николаевич, как Дональд Трамп намеревался контролировать новые модели ИИ?

– Был подготовлен указ об усилении государственного контроля за новыми моделями ИИ. Ожидалось, что подписание этого указа произойдет на особом мероприятии и были даже разосланы приглашения руководителям ведущих технологических компаний, в том числе - генеральному директору Anthropic Дарио Амодею, который в этом году конфликтовал с администрацией Трампа из-за ограничений на использование Пентагоном программного обеспечения его компании. Но в один прекрасный момент Трамп заявил, что решил отложить подписание документа на неопределенный срок.

– Что понималось под «усилением государственного контроля»?

– Об этом пишет The Washington Post: «Указ президента США должен был создать систему, позволяющую федеральному правительству проверять новые мощные модели ИИ до их публичного выпуска, в попытке укрепить компьютерные сети в условиях, когда чиновники спешат противостоять возникающим киберугрозам. Это ознаменовало бы изменение стратегии администрации, которая выступала за невмешательство в эту технологию.

Комментарии Трампа создают неопределенность относительно того, как администрация отреагирует на новое поколение моделей ИИ, таких как Mythos от Anthropic, которые, как было показано, умеют находить уязвимости в компьютерном коде и придумывать способы их использования. Некоторые из политических сторонников Трампа добиваются еще более жесткого, обязательного процесса проверки на фоне растущего недовольства ИИ, которое разделило администрацию».

– Дональд Трамп как-то прокомментировал свое решение?

– Да, в своей обычной манере – сумбурно и противоречиво. Трамп сказал журналистам: «Мне не нравились некоторые аспекты этого, поэтому я отложил это. Я думаю, это помешает нам лидировать в отношениях с Китаем, мы лидируем во всех остальных странах, и я не хочу делать ничего, что могло бы помешать этому лидерству. У нас очень существенный вклад в развитие ИИ, он приносит огромную пользу, а также создает множество рабочих мест, огромное количество рабочих мест. Опять же, сейчас у нас работает больше людей, чем когда-либо. Я действительно думал, что это могло стать препятствием. И я хочу убедиться, что этого не произойдет».

Вот и пойми его.

– Каков предполагался механизм контроля?

– Как пишет The Washington Post, согласно планируемому указу, компании должны были добровольно предоставлять правительству предварительную информацию о передовых системах ИИ за 90 дней до их публичного выпуска, чтобы ведомства могли проверить модели на наличие опасных возможностей, выявить уязвимости и подготовить средства защиты до того, как хакеры или иностранные противники смогут их использовать.

Мэтт Перл, бывший чиновник в администрации президента Джо Байдена, занимавшийся вопросами новых технологий, заявил, что проект документа свидетельствует о том, что администрация относится к угрозам со стороны ИИ гораздо серьезнее, чем раньше: «Они предоставляют основу, в рамках которой правительство США будет более тщательно проверять модели ИИ».

Сторонники усиления регулирования надеются, что указ Трампа может послужить образцом для Конгресса в создании обязательной процедуры.

– Надо полагать, проект указа должен был повысить и роль разведывательного сообщества в оценке систем ИИ?

– По сути, да. Подготовлено резюме, согласно которому Агентство национальной безопасности (АНБ) должно играть ключевую роль в определении того, какие новые модели потребуют государственной проверки. Администрация предполагает, что Министерство финансов тоже будет сотрудничать с индустрией ИИ, выступая в качестве центра для выявления уязвимостей и распространения исправлений.

Ожидалось также, что указ обяжет правительство резко увеличить набор специалистов по кибербезопасности и ИИ в связи со значительным сокращением финансирования Агентства по кибербезопасности и защите инфраструктуры, миссия которого заключается в обеспечении защиты критической инфраструктуры страны от растущих киберугроз.

Мэтт Перл рассказал: «Резкий рост найма специалистов по кибербезопасности в лучшем случае станет лишь временной мерой, пытающейся залечить кровоизлияние, нанесенное самим себе. Это, в лучшем случае, частично решит проблему текучести кадров, которую испытывают ключевые ведомства после сокращений и потери сотрудников из-за проблем с моральным духом. Тем не менее, это демонстрирует, что администрация теперь понимает, насколько важно иметь квалифицированных специалистов в этой области».

С ним соглашается Винь Нгуен, бывший эксперт АНБ по кибербезопасности и ИИ: «Оценка этих систем на предмет киберрисков не является тривиальной задачей. Для этого требуются глубокие знания в области передового ИИ, высококвалифицированные специалисты по кибербезопасности и способность корректировать критерии оценки по мере развития технологий. А талантов для этой работы крайне мало».

– Почему же подписание такого полезного указа отложено?

– Разработка нового указа вызвала раскол в администрации. Некоторые чиновники Белого дома и компании сопротивляются согласованию сроков, которые могут замедлить внедрение технологии. Например, предлагалось, чтобы компании предоставляли правительству предварительный доступ к моделям не за 90 дней, а, примерно, в двухнедельный срок.

Опять же, чиновники стремились передать больше ответственности за надзор за ИИ разведывательным агентствам и оттеснить на второй план институт, занимающийся этой технологией и входящий в состав Министерства торговли.

Другие эксперты в области политики в сфере ИИ заявили, что этот указ, хотя и является долгожданным первым шагом, не дотягивает до необходимого уровня в одном ключевом аспекте.

Крис Макгуайр, бывший помощник Белого дома по вопросам технологической политики в администрации Байдена, заявляет: «Необходимы реальные правила, которые обеспечат ясность в отношении того, какие риски США проверяют и с кем можно делиться результатами моделирования. Это очень рискованная стратегия, которая зависит от того, насколько добровольно компании будут предоставлять информацию правительству».

– Но ведь Байден тоже издавал подобный указ?

– В этом и ирония ситуации. Возвращение Трампа в Белый дом в значительной степени финансировалось лидерами технологической индустрии, которые утверждали, что подход администрации Байдена к регулированию ИИ был слишком жестким. В первые недели своего пребывания в должности Трамп отменил знаковый указ администрации Байдена об ИИ, который тоже обязывал технологические компании уведомлять правительство о разработке передовых моделей и делиться результатами оценки безопасности с Министерством торговли.

– Как администрация объяснялась с лидерами Кремниевой долины?

– Белый дом проинформировал представителей компаний Anthropic, OpenAI, Google, xAI и отраслевых торговых групп о содержании указа. Вице-президент Джей Ди Вэнс заявил, что Белый дом пытается найти баланс, реагируя на новые риски.

Нил Чилсон, специалист по политике в области ИИ, который выступает за добровольный подход к государственной оценке ИИ, пояснил: «Администрация, похоже, нашла подходящий, целенаправленный ответ. Это направлено на борьбу с очень специфическим видом вреда. Это довольно умеренный подход. Это не система контроля или лицензирования, похожая на режим, применяемый Управлением по санитарному надзору за качеством пищевых продуктов и медикаментов США (FDA)».

– Судя по тому, что подписание указа отложено, эти доводы показались лидерам Кремниевой долины не слишком убедительными?

– Именно давление со стороны Кремниевой долины помогло заблокировать указ Трампа по ИИ. The Washington Post утверждает: «В ходе телефонных разговоров с Трампом представители отрасли ИИ предупредили, что предлагаемая система проверки безопасности может затормозить развитие ключевой технологии.

В последний момент состоялись телефонные разговоры с лидерами отрасли и бывшим экспертом по ИИ и криптовалютам Дэвидом Саксом, которые помогли убедить президента Дональда Трампа не подписывать указ об ИИ.

Сакс предупредил Трампа, что проверки ИИ могут замедлить инновации и привести к тому, что США проиграют гонку в области ИИ Китаю, сообщил высокопоставленный чиновник администрации, говоривший на условиях анонимности.

По словам трех человек, знакомых с ситуацией и говоривших на условиях анонимности, руководители технологических компаний, которые общались с Трампом, включая генерального директора SpaceX Илона Маска и основателя Meta* (эта компания признана в России экстремистской и запрещена – «МК») Марка Цукерберга, предупредили, что новая система проверки, введенная администрацией, может затормозить развитие технологии, лежащей в основе американской экономики.

Сакс и руководители технологических компаний предупредили Трампа, что, хотя предлагаемая система и является добровольной на бумаге, она может привести к фактическому введению обязательного режима, в рамках которого компаниям придется получать разрешение от правительства на выпуск таких систем, сообщили источники.

Дэвид Сакс также заявил, что этот указ может замедлить выпуск компаниями поэтапных обновлений моделей ИИ, сообщил высокопоставленный чиновник администрации.

Аргументы Сакса и других деятелей технологической отрасли возобладали, и за несколько часов до начала церемонии подписания в Овальном кабинете Белый дом уведомил участников о переносе мероприятия на более позднюю дату.

Этот эпизод подчеркнул огромное влияние, которое лидеры Силиконовой долины сохраняют в администрации Трампа, даже после того, как Сакс и Маск покинули свои официальные должности в Белом доме».

– Для Трампа конкуренция с Китаем стала главным аргументом?

– Именно так прокомментировал ситуацию китайский разработчик ИИ Deep Seak: «Трамп прямо сказал, что боится помешать лидерству США. Для него ИИ — это в первую очередь гонка вооружений и экономическое доминирование, а не безопасность. Любой надзор, который может замедлить инновации, воспринимается как угроза».

– Даже среди сторонников Трампа уже нет единства?

– По крайней мере, в вопросе об указе в администрации наблюдается внутренний раскол: одни хотят жесткого контроля (по аналогии с FDA), другие (как вице-президент Вэнс) ищут баланс, а третьи (тех-миллиардеры, финансировавшие президентскую кампанию) вообще против регулирования.

Да, Трамп отменил указ Байдена о безопасности ИИ, а теперь его команда пытается создать добровольную систему проверок. Но добровольность — это слабое место. Как справедливо замечает эксперт Макгуайр: что мешает компаниям просто не делиться опасными разработками? Особенно если речь идет о кибербезопасности?

– Что происходит на самом деле? Трамп теряет бразды правления?

– Как минимум, некоторые из них.

Трамп не любит сложных компромиссов — ему проще все отложить и потом подписать что-то более «победное». The Washington Post резюмирует: «Сам указ (в том виде, как он описан) — разумная, умеренная мера. Но ее судьба сейчас под вопросом. Трамп хочет показать, что он «за дерегуляцию и против Китая», но при этом не может игнорировать реальные киберриски от мощных моделей вроде Mythos. Пока что побеждает желание не ссориться с технологическими донорами».

По мнению издания, произошла явная демонстрация растущего политического веса Кремниевой долины. Этот случай наглядно показывает, насколько глубоко технологические лидеры интегрированы в процесс принятия политических решений. Илон Маск, Марк Цукерберг и Дэвид Сакс использовали свои прямые каналы связи с президентом, чтобы в последний момент изменить его позицию.

Вся история выглядит как столкновение двух векторов влияния внутри администрации Трампа: один из них — это идейные сторонники дерегулирования и рыночного фундаментализма, а другой — чиновники, обеспокоенные национальной безопасностью и технологическими рисками. Очевидно, что на данный момент Кремниевая долина выиграла этот раунд. Наверняка будут и другие. По их исходу станет понятно, кто кем управляет.

Автор: Андрей Яшлавский

Фото // "Ветеранские вести"/ Виталий Рагулин ©