ШІ-чат-боти ненавмисно поширюють російську пропаганду та дезінформацію, що підкреслює вразливість великих мовних моделей до маніпуляцій. Ця проблема викликає заклики до посиленого аудиту даних та чіткіших регуляторних рамок, щоб запобігти перетворенню цих систем на канали впливу іноземних держав.
Як поширюється пропаганда
Чат-боти, які генерують відповіді на основі величезних масивів даних з інтернету, можуть відтворювати неправдиві наративи, закладені в їхні навчальні матеріали. Російський контент, включаючи матеріали державних ЗМІ та скоординовані дезінформаційні кампанії, як було виявлено, з'являється у відповідях чат-ботів. Оскільки моделі не мають можливості перевіряти факти в реальному часі та не можуть відрізнити правдиві джерела від фальшивих, вони можуть ненавмисно посилювати кремлівські наративи на теми від війни в Україні до втручання у вибори.
Це не гіпотетичний ризик. Дослідники зафіксували випадки, коли чат-боти генерували відповіді, що віддзеркалювали відомі теми російської дезінформації. Проблема охоплює кілька платформ і постачальників чат-ботів, що свідчить про системний недолік у тому, як ці моделі навчаються та використовуються.
Аудит даних як перший крок
Одним із найбільш негайних рішень є ретельний аудит даних. Розробники чат-ботів покладаються на величезні текстові корпуси, які рідко перевіряються на наявність державної пропаганди. Без систематичних перевірок шкідливий контент проникає всередину. Інструменти аудиту можуть виявляти та відфільтровувати відомі джерела дезінформації, але вони ще не стали стандартною практикою в галузі. Відсутність таких запобіжників означає, що пропаганда може бути вбудована в базу знань моделі з самого початку.
Проблема полягає в масштабі. Набори даних, які використовуються для навчання чат-ботів, можуть містити мільярди документів. Виявлення кожного фрагмента російської пропаганди серед цього шуму потребує автоматизованих фільтрів та ручної перевірки — ресурсомістке завдання, яке багато компаній не хочуть фінансувати. Тим не менш, наслідки бездіяльності очевидні: кожен непомічений фальшивий факт може бути повторений користувачам тисячі разів.
Регуляторні рамки відстають
Чинні закони та нормативні акти не готові до боротьби з дезінформацією, поширюваною ШІ. У Сполучених Штатах немає федерального закону, який би спеціально регулював, як чат-боти мають поводитися з пропагандою. Закон ЄС про штучний інтелект запровадить деякі вимоги щодо прозорості, але він ще не набрав чинності. В інших регіонах запобіжників ще менше. Ця регуляторна прогалина залишає громадськість вразливою до маніпульованого контенту без можливості захисту.
Прихильники посиленого нагляду стверджують, що уряди повинні запровадити стандарти походження даних — вимагати від компаній розкривати, звідки беруться їхні навчальні дані та як вони фільтруються. Деякі пропонують створити незалежні аудиторські органи, які можуть тестувати чат-ботів на схильність до дезінформації перед їхнім випуском. Але ці ідеї залишаються пропозиціями, а не політикою.
Поширення пропаганди через ШІ-чат-ботів — це не помилка, яку можна виправити швидким патчем. Це відображає глибші проблеми в тому, як дані збираються, куруються та регулюються. Без системних змін — включаючи обов'язковий аудит та забезпечувані правила — проблема, ймовірно, зростатиме, оскільки чат-боти стають більш інтегрованими в повсякденне життя.
Залишається невирішеним, хто зробить перший крок. Компанії могли б діяти добровільно, але досвід саморегулювання неоднозначний. Регулятори все ще вивчають проблему. Однак вікно для дій звужується з кожним новим розгортанням чат-бота.
