Компанія OpenAI цього тижня підтвердила, що збільшила стандартний розмір контекстного вікна моделі GPT-6.1 Sol до 500 000 токенів. Цей крок більш ніж удвічі розширює ефективну робочу пам'ять флагманської моделі, дозволяючи їй обробляти цілі книги, об'ємні юридичні договори або масштабні кодові бази за один сеанс без розбиття на фрагменти чи донавчання.
Оновлення поширюється на всіх користувачів, а не лише на корпоративних клієнтів, і набуває чинності негайно. Це суттєвий стрибок порівняно з попереднім стандартним значенням, який виводить GPT-6.1 Sol на якісно новий рівень для виконання завдань, що вимагають утримання великих обсягів тексту в контексті.
Що насправді означають 500 000 токенів на практиці
Пів мільйона токенів — це приблизно обсяг роману на 375 000 слів; уявіть собі всю трилогію Lord of the Rings разом із книгою The Hobbit, та ще й із запасом. У професійному контексті це може бути пакет матеріалів судового провадження на 1200 сторінок, річна історія повідомлень у Slack для команди середнього розміру або повний вихідний код невеликого програмного проєкту.
Попередні стандартні ліміти контексту для моделей OpenAI коливалися в межах 128 000 токенів. Стрибок до 500 000 — це не просто більша цифра; він змінює економіку побудови промптів для розробників і фахівців розумової праці. Замість того щоб розбивати документ на частини та зшивати стислі підсумки (процес, під час якого часто втрачаються нюанси та витрачається час), користувачі тепер можуть завантажити весь матеріал за один раз.
Чому OpenAI пішла на цей крок саме зараз
Конкуренція майже напевно відіграє тут ключову роль. Моделі суперників від Anthropic та Google активно нарощують контекстні вікна, а корпоративні замовники зробили роботу з довгим контекстом одним із головних критеріїв вибору. Втім, формулювання OpenAI значно простіше: у компанії стверджують, що більше вікно розширює можливості GPT-6.1 Sol у вирішенні складних завдань, зокрема таких, що потребують зіставлення інформації, розпорошеної по сотнях сторінок.
Є й суто практичний бік. Більші контекстні вікна знижують потребу в пайплайнах генерації з доповненим пошуком (retrieval-augmented generation, RAG), які є потужними, але часто ненадійними. Коли модель здатна просто прочитати весь корпус текстів, відпадає потреба вгадувати, які саме фрагменти є дійсно важливими.
Зміна робочих процесів, масштаб якої ще ніхто повністю не усвідомив
Професійні робочі процеси можуть трансформуватися у спосіб, неочевидний на перший погляд. Фінансовий аналітик, який раніше витрачав години на вибірку показників із квартальних звітів, тепер може поставити одне запитання й отримати відповідь із посиланнями на номери сторінок у звітах за формою 10-K за ціле десятиліття. Юрист, що аналізує угоду про злиття, може завантажити всі пов'язані електронні листи, контракти та меморандуми в одну сесію й одразу виявити всі невідповідності.
Проте більший контекст не означає автоматично якісніших відповідей. Моделі все ще можуть втрачати фокус уваги у дуже довгих вхідних даних — феномен, який дослідники називають «lost in the middle» (втрата інформації всередині контексту). OpenAI ще не оприлюднила детальних бенчмарків щодо продуктивності GPT-6.1 Sol за умови використання повного ліміту у 500 000 токенів, тож користувачам доведеться тестувати систему на власних кейсах.
Вартість — ще одне невідоме питання. OpenAI не уточнила, чи змінить розширений контекст ціноутворення для клієнтів API. Історично довший контекст тягнув за собою вищі тарифи за токен через обчислювальні ресурси, необхідні для одночасної обробки більшого обсягу тексту.
На що звернути увагу далі
Розробникам, які створюють рішення на базі GPT-6.1 Sol, варто перевірити новий ліміт на своїх чинних пайплайнах. Компанія ще не оголосила офіційних термінів виведення з експлуатації режимів із коротшим контекстом, проте значення за замовчуванням уже змінилося. Командам, які покладаються на стратегії розбиття тексту на фрагменти (chunking), настав час переглянути, чи мають такі обхідні шляхи сенс і надалі.
Очікується, що найближчими днями OpenAI опублікує оновлену документацію API та деталі ціноутворення. До того часу практичною межею для більшості користувачів залишається те, що дозволяє їхній бюджет — відтепер 500 000 токенів є нижньою планкою, а не верхньою межею.
