Дональд Трамп схвалив незалежні аудити безпеки ШІ в рамках знакової угоди з Кремнієвою долиною, віддаючи перевагу саморегулюванню над новим законодавством. Угода, оголошена цього тижня, знаменує зміну в підході США до управління штучним інтелектом, оскільки президент підтримує добровільні перевірки, а не законодавчі правила.
Угода не створює нових агенцій чи правоохоронних повноважень. Замість цього вона просить компанії погодитися на зовнішні аудити їхніх систем ШІ та дотримуватися інструкцій з безпеки, які вони допомагають розробляти. Такий підхід отримав підтримку лідерів галузі, які побоюються надмірного регулювання, але залишає відкритими питання про те, хто проводить аудити і що станеться, якщо компанія не пройде його.
Поштовх до саморегулювання
Підтримка Трампа прозвучала під час зустрічі з керівниками технологічних компаній у Кремнієвій долині, за словами людей, знайомих з обговореннями. Президент неодноразово попереджав, що жорсткі правила щодо ШІ можуть витіснити інновації за кордон, особливо до Китаю. Підтримуючи аудити замість законодавства, він узгоджується з поглядом, популярним у галузі: дозволити компаніям самим контролювати себе, але із зовнішньою перевіркою.
Угода наголошує, що розробники ШІ повинні добровільно приймати стандарти безпеки та відкривати свої системи для незалежного огляду. Вона не визначає покарань за недотримання або обов'язкову участь. Це відхід від пропозицій у Конгресі та Європейському Союзі, які наполягали на обов'язкових вимогах і штрафах.
Що насправді говорить угода
Деталі залишаються нечіткими. Угода, описана як набір принципів, а не обов'язковий контракт, закликає до незалежних аудитів для оцінки ризиків, таких як упередженість, вразливості безпеки та потенційне зловживання. Вона також заохочує компанії ділитися найкращими практиками та створювати внутрішні команди з безпеки.
Але незрозуміло, хто виконуватиме аудити. Незалежні фірми існують, але вони самі не регулюються. І без юридичної сили компанії могли б ігнорувати угоду без наслідків. Прихильники стверджують, що громадський тиск і репутаційний ризик утримають фірми в рамках. Критики кажуть, що цього недостатньо для технології, яка вже змінює економіки та армії.
Угода може створити прецедент для управління технологіями далеко за межами ШІ. Якщо саморегулювання спрацює тут, воно може стати моделлю для інших нових технологій, від квантових обчислень до біотехнологій. Якщо воно провалиться, це може посилити заклики до жорсткіших законів.
Участь Трампа також сигналізує, що політика щодо ШІ стане політичним питанням на майбутніх виборах. Він робить ставку на те, що легкий підхід сподобається як технологічним донорам, так і виборцям, стурбованим надмірним втручанням уряду. Чи виправдається ця ставка, залежить від того, чи дадуть аудити надійні результати — і чи довірятиме їм громадськість.
Наразі угода є заявою про наміри. Компанії, які підпишуть її, зіткнуться з першим випробуванням, коли незалежні аудитори розпочнуть свою роботу, ймовірно, протягом наступного року. Білий дім не повідомив, як він відстежуватиме дотримання або чи публікуватиме результати аудитів.
Конгрес, тим часом, все ще розглядає власні законопроєкти щодо ШІ. Деякі законодавці критикували підхід саморегулювання як занадто слабкий, і вони могли б наполягати на законодавстві, якщо аудити не дадуть результатів. Технологічна індустрія, зі свого боку, уважно стежить — багато фірм віддають перевагу угоді перед альтернативою нових законів, але вони також знають, що гучний провал може спровокувати саме це.
Наступний конкретний крок? Слідкуйте за першим раундом аудитів і за тим, чи відмовиться якась велика компанія з ШІ від участі. Це покаже, чи має ця угода силу, чи це просто ще один прес-реліз.
