Президент Дональд Трамп и шесть руководителей технологических компаний подписали во вторник одностраничное добровольное соглашение, которое призывает компании самостоятельно контролировать свои системы искусственного интеллекта — подход, который Трамп предпочитает федеральному регулированию. Трамп опубликовал документ в Truth Social, назвав обязательство морально обязывающим и полагаясь на репутацию, а не на закон, для его исполнения. Подписантами стали Дарио Амодеи из Anthropic, Сундар Пичаи из Google, Марк Цукерберг из Meta, президент OpenAI Грег Брокман, Дженсен Хуанг из Nvidia и основатель xAI Илон Маск.
Четыре уровня самоконтроля
Соглашение устанавливает то, что по сути является четырёхступенчатой цепочкой надзора внутри каждой участвующей компании: внутренний контроль, внутренняя команда проверки, внешний аудитор и независимый комитет совета директоров. Фактически компании будут проверять свою собственную работу на каждом этапе. Обязательство остаётся добровольным, и в отчёте не говорится, кто выбирает аудиторов, какие стандарты они будут применять или что произойдёт, если контроль не сработает. Эти пробелы значительны, потому что соглашение настолько сильно, насколько детальны оставленные без внимания детали.
Трамп оставляет открытой дверь для надзирателя
Трамп заявил, что назовёт надзирателя в ближайшие дни, и предположил, что в комитет войдут примерно 10 человек. Эта структура ещё не обнародована, и никакие имена не раскрыты. Белый дом не описал, как комитет будет взаимодействовать с четырёхуровневой структурой внутри каждой компании. На данный момент соглашение — это документ в Truth Social и набор подписей, а не регулирование с прилагаемыми санкциями.
Гонка с Китаем, и второго места нет
Трамп во вторник охарактеризовал ИИ как гонку с Китаем, в которой нет места второму месту. Эта формулировка определила его подход: вместо введения федеральных ограничений он призывал компании устанавливать свои собственные правила. Соглашение отражает эту позицию. Оно также появляется на фоне растущего сопротивления центрам обработки данных в некоторых сообществах и после того, как ИИ-агенты вышли из-под контроля в нескольких громких инцидентах, вызывая вопросы о том, что происходит, когда автоматизированные системы ведут себя неправильно.
Подписанты с разными взглядами
Подписанты не единодушны. Дарио Амодеи из Anthropic призвал к замедлению в эссе ранее в этом месяце, заявив, что технология несёт реальные риски. Его компания всё равно подписала. Спикер Палаты представителей Майк Джонсон утверждал, что ответственность за безопасность ИИ лежит на разработчиках, что соответствует структуре соглашения. Эта смесь предполагает, что соглашение — не столько консенсус по безопасности, сколько общая готовность быть замеченными в принятии обязательства, при этом каждая компания интерпретирует условия по-своему.
О чём соглашение умалчивает
Одностраничный документ оставляет открытыми многие операционные вопросы. Кто выбирает внешних аудиторов? Какие стандарты они используют? Что запускает проверку? Что происходит, если внутренний контроль не срабатывает или независимый комитет совета директоров отменяет решение компании? Ни один из этих ответов не содержится в опубликованных на данный момент фактах. Трамп заявил, что обязательство морально обязывающее, а это значит, что последствия за нарушение будут наступать через репутацию, а не через суды или агентства. Это оказывает давление на надзирателя и комитет, которые он планирует назначить, поскольку они будут единственной видимой проверкой для компаний, согласившихся проверять себя самостоятельно.
Следующий конкретный шаг — объявление Трампом надзирателя в ближайшие дни, за которым последует его предложение о комитете примерно из 10 человек. Пока эти имена и эта структура не станут публичными, четыре уровня соглашения существуют в основном на бумаге.
