Дональд Трамп поддержал независимый аудит безопасности ИИ в рамках знакового соглашения с Кремниевой долиной, отдав предпочтение саморегулированию вместо нового законодательства. Соглашение, объявленное на этой неделе, знаменует сдвиг в подходе США к управлению искусственным интеллектом: президент высказался за добровольные проверки, а не за законодательные нормы.
Соглашение не создает новых агентств или правоприменительных полномочий. Вместо этого оно предлагает компаниям согласиться на внешний аудит их систем ИИ и следовать руководствам по безопасности, которые они помогают разрабатывать. Такой подход получил поддержку лидеров отрасли, опасающихся жесткого регулирования, но оставляет открытыми вопросы о том, кто проводит аудит и что произойдет, если компания его не пройдет.
Призыв к саморегулированию
Трамп высказался в поддержку во время встречи с технологическими руководителями в Кремниевой долине, по словам людей, знакомых с обсуждениями. Президент неоднократно предупреждал, что строгие правила в области ИИ могут вытеснить инновации за рубеж, особенно в Китай. Поддерживая аудит вместо законодательства, он присоединяется к популярной в отрасли точке зрения: пусть компании сами себя контролируют, но с внешней проверкой.
Соглашение подчеркивает, что разработчики ИИ должны добровольно принимать стандарты безопасности и открывать свои системы для независимой проверки. В нем не указаны санкции за несоблюдение или обязательное участие. Это отличается от предложений в Конгрессе и Европейском союзе, где настаивают на обязательных требованиях и штрафах.
Что на самом деле говорится в соглашении
Детали остаются скудными. Соглашение, описываемое как набор принципов, а не обязывающий контракт, призывает к независимым аудитам для оценки таких рисков, как предвзятость, уязвимости безопасности и потенциальное неправомерное использование. Оно также поощряет компании обмениваться лучшими практиками и создавать внутренние команды по безопасности.
Но неясно, кто будет проводить аудиты. Независимые фирмы существуют, но они сами не регулируются. И без юридической силы компании могут игнорировать соглашение без последствий. Сторонники утверждают, что общественное давление и репутационный риск удержат фирмы в рамках. Критики говорят, что этого недостаточно для технологии, которая уже меняет экономику и вооруженные силы.
Соглашение может создать прецедент для управления технологиями далеко за пределами ИИ. Если саморегулирование сработает здесь, оно может стать моделью для других новых технологий, от квантовых вычислений до биотехнологий. Если оно провалится, это может усилить призывы к более жестким законам.
Участие Трампа также сигнализирует, что политика в области ИИ станет политическим вопросом на предстоящих выборах. Он делает ставку на то, что мягкий подход понравится как технологическим донорам, так и избирателям, обеспокоенным чрезмерным вмешательством государства. Оправдается ли эта ставка, зависит от того, дадут ли аудиты достоверные результаты — и доверится ли им общественность.
На данный момент соглашение — это заявление о намерениях. Компании, которые его подпишут, столкнутся с первой проверкой, когда независимые аудиторы начнут свою работу, вероятно, в течение следующего года. Белый дом не сообщил, как он будет отслеживать соблюдение или публиковать результаты аудита.
Конгресс, тем временем, все еще рассматривает свои собственные законопроекты об ИИ. Некоторые законодатели раскритиковали подход саморегулирования как слишком слабый, и они могут настаивать на законодательстве, если аудиты не дадут результатов. Технологическая индустрия, со своей стороны, внимательно следит — многие фирмы предпочитают соглашение альтернативе в виде новых законов, но они также знают, что громкий провал может спровоцировать именно это.
Следующий конкретный шаг? Следите за первым раундом аудитов и за тем, откажется ли какая-либо крупная компания в области ИИ от участия. Это покажет, есть ли у этого соглашения зубы или это просто очередной пресс-релиз.
