Тестування Financial Times показало, що контроль безпеки ШІ у Meta та Google можна обійти за лічені хвилини. Результати ставлять під сумнів твердження про надійність поточних запобіжних заходів.
Методологія тестування
Журналісти використовували стандартні вхідні дані, щоб змусити моделі генерувати шкідливий вміст. Вони тестували публічні інструменти ШІ обох компаній у звичайних умовах. Обхід вдалося здійснити без спеціалізованих технічних навичок.
Відповіді платформ
Meta заявила, що постійно оновлює свої системи та впровадила нові обмеження після тестування. Google заявила, що використовує кілька рівнів безпеки та швидко вирішує проблеми, коли їх виявляють. Жодна з компаній не оскаржила висновки FT.
Регуляторний тиск
Кінцевий термін виконання закону ЄС про ШІ – жовтень 2024 року – наближається. Регулятори тепер вказують на ці тести як доказ того, що поточне саморегулювання галузі не працює. Законодавці в Брюсселі вивчають звіт для можливих заходів примусу.
Ризики для користувачів
Нефільтровані результати включали шкідливі поради та неправдиву інформацію. Постраждалі інструменти широко використовуються споживачами та розробниками. Компанії стверджують, що більшість користувачів не стикнуться з цими проблемами під час звичайного використання.
Тест Financial Times показує, як легко ламаються поточні захисти ШІ. Тепер компанії мають усунути ці прогалини до жовтневого дедлайну ЄС.
