OpenAI zwiększyło domyślną długość kontekstu modelu GPT-6.1 Sol do 500 000 tokenów, potwierdziła firma w tym tygodniu. Posunięcie to ponad dwukrotnie powiększa efektywną pamięć roboczą jej flagowego modelu, umożliwiając mu przetwarzanie całych książek, obszernych umów prawnych czy rozbudowanych baz kodu w ramach jednej sesji, bez konieczności dzielenia tekstu na fragmenty (chunkingu) czy dotrenowywania.
Aktualizacja dotyczy wszystkich użytkowników, a nie tylko klientów korporacyjnych, i wchodzi w życie natychmiastowo. To znaczący skok w porównaniu z poprzednią wartością domyślną, stawiający GPT-6.1 Sol w zupełnie innej lidze pod kątem zadań wymagających utrzymywania dużych ilości tekstu w kontekście.
Co 500 000 tokenów oznacza w praktyce
Pół miliona tokenów to w przybliżeniu objętość powieści liczącej 375 000 słów — można to porównać do całej trylogii Władcy Pierścieni wraz z Hobbitem, i to z zapasem miejsca. W ujęciu biznesowym może to odpowiadać 1200-stronicowemu pakietowi dokumentacji procesowej, rocznemu archiwum wiadomości ze Slacka średniej wielkości zespołu lub kompletnemu kodowi źródłowemu mniejszego projektu programistycznego.
Wcześniejsze domyślne długości kontekstu w modelach OpenAI oscylowały wokół 128 000 tokenów. Przeskok do 500 000 to nie tylko większa liczba — zmienia to ekonomię sposobu, w jaki deweloperzy i pracownicy umysłowi konstruują swoje prompty. Zamiast dzielić dokument na części i łączyć ze sobą podsumowania — co często prowadzi do utraty niuansów i pochłania czas — użytkownicy mogą teraz wprowadzić całość za jednym razem.
Dlaczego OpenAI wprowadza tę zmianę właśnie teraz
Konkurencja jest tu niemal na pewno istotnym czynnikiem. Rywalizujące modele od Anthropic i Google sukcesywnie zwiększają okna kontekstowe, a klienci korporacyjni uznali wydajność długiego kontekstu za priorytetowy punkt na liście wymagań. Jednak narracja OpenAI jest prostsza: firma twierdzi, że większe okno zwiększa zdolność GPT-6.1 Sol do radzenia sobie ze złożonymi zadaniami, zwłaszcza wymagającymi porównywania i łączenia informacji rozproszonych na setkach stron.
Istnieje także aspekt praktyczny. Większe okna kontekstowe zmniejszają zapotrzebowanie na potoki RAG (retrieval-augmented generation), które choć potężne, bywają zawodne i podatne na błędy. Gdy model może po prostu przeczytać cały korpus tekstów, nie trzeba już zgadywać, które fragmenty mają kluczowe znaczenie.
Zmiana procesów pracy, której nikt jeszcze w pełni nie nakreślił
Przebieg pracy w wielu zawodach może ulec transformacji w sposób, który nie jest oczywisty na pierwszy rzut oka. Analityk finansowy, który dotąd spędzał godziny na wyciąganiu danych z raportów kwartalnych, może teraz zadać jedno pytanie i otrzymać odpowiedź wskazującą numery stron z raportów rocznych 10-K z całej dekady. Prawnik analizujący umowę fuzji może załadować do jednej sesji wszystkie powiązane e-maile, umowy oraz notatki i poprosić o wskazanie niespójności.
Większy kontekst nie oznacza jednak automatycznie lepszych odpowiedzi. Modele nadal mogą tracić skupienie przy bardzo długich danych wejściowych — zjawisko to badacze określają mianem „zagubienia pośrodku” (lost in the middle). OpenAI nie opublikowało jeszcze szczegółowych testów porównawczych dotyczących działania GPT-6.1 Sol przy pełnym limicie 500 000 tokenów, więc użytkownicy będą musieli przetestować własne scenariusze użycia.
Kolejną niewiadomą pozostają koszty. OpenAI nie podało, czy rozszerzony kontekst wpłynie na cennik dla klientów API. Historycznie dłuższe konteksty wiązały się z wyższymi stawkami za token ze względu na moc obliczeniową wymaganą do jednoczesnego przetwarzania większej ilości tekstu.
Na co warto zwrócić uwagę w najbliższym czasie
Deweloperzy tworzący rozwiązania w oparciu o GPT-6.1 Sol będą chcieli przetestować nowy limit w swoich dotychczasowych potokach przetwarzania. Firma nie ogłosiła formalnego harmonogramu wygaszania trybów z krótszym kontekstem, jednak wartość domyślna uległa już zmianie. Dla zespołów polegających na strategiach podziału tekstu nadszedł czas, by ponownie ocenić, czy te obejścia są nadal uzasadnione.
W najbliższych dniach OpenAI ma opublikować zaktualizowaną dokumentację API oraz szczegóły dotyczące cen. Do tego czasu praktycznym limitem dla większości użytkowników pozostaje budżet — 500 000 tokenów stanowi teraz punkt wyjścia, a nie górną granicę.
