Термін «джейлбрейк» раніше означав злам iPhone для встановлення несанкціонованих додатків. Тепер він описує інший вид злому: обман AI-чатботів, щоб вони ігнорували власні захисні механізми. Для розробників великих мовних моделей, як-от ChatGPT, ця гра в кішки-мишки є постійним головним болем.
Від телефонів до запитів
Слово «джейлбрейк» походить з епохи iPhone, коли користувачі обходили обмеження Apple за допомогою інструментів на кшталт Cydia. Та сама ідея була переосмислена для систем штучного інтелекту. Як і джейлбрейкери iPhone хотіли запускати програмне забезпечення, не схвалене Apple, так і джейлбрейкери AI прагнуть змусити чат-ботів говорити те, що їм заборонено. Мета не завжди зловмисна — іноді це цікавість, іноді перевірка меж. Але ефект той самий: обмеження моделі обходяться.
Як працює гра
Гра в кішки-мишки розгортається через промпти. Користувачі створюють повідомлення, які просять модель зіграти роль персонажа без обмежень, або формулюють запити як гіпотетичні сценарії. Деякі намагаються змусити модель ігнорувати власне навчання, удаючи, що розмова — це гра чи історія. Розробники, у свою чергу, оновлюють фільтри безпеки, щоб виявити ці хитрощі. Але щойно одна лазівка закривається, з'являється інша. Це безперервний процес, який не має ознак сповільнення.
Чому розробники хвилюються
AI-лабораторії стурбовані, оскільки успішні джейлбрейки можуть призвести до шкідливих результатів. Чат-бот, який зазвичай відмовляється давати інструкції для небезпечних дій, може, будучи обманутим, надати покрокові вказівки. Те саме стосується генерування мови ненависті, дезінформації або відвертого контенту. Розробники витрачають значні ресурси на налаштування моделей, щоб вони були безпечними та корисними. Джейлбрейк підриває цю роботу та ставить під сумнів, наскільки ці системи насправді заслуговують довіри. Ставки високі, оскільки великі мовні моделі інтегруються в дедалі більше продуктів щодня.
Ознак того, що битва скоро закінчиться, немає. Поки розробники закривають одну лазівку, користувачі знаходять іншу. Питання в тому, чи зможуть майбутні моделі бути достатньо стійкими, щоб витримувати ці атаки, чи джейлбрейк залишиться постійною рисою AI-ландшафту.
