OpenAI har økt standard kontekstlengde for GPT-6.1 Sol til 500 000 tokens, bekreftet selskapet denne uken. Grepet mer enn dobler det effektive arbeidsminnet til flaggskipmodellen, slik at den kan behandle hele bøker, omfattende juridiske kontrakter eller store kodebaser i én enkelt økt uten oppdeling eller videre opplæring.
Oppdateringen gjelder for alle brukere, ikke bare bedriftskunder, og trer i kraft umiddelbart. Det er et betydelig hopp fra det forrige standardnivået og plasserer GPT-6.1 Sol i en egen klasse for oppgaver som krever at store mengder tekst holdes i kontekst.
Hva 500 000 tokens faktisk betyr i praksis
En halv million tokens tilsvarer omtrent lengden på en roman på 375 000 ord – se for deg hele Ringenes herre-trilogien pluss Hobbiten, med plass til overs. I profesjonell sammenheng kan dette tilsvare en bevismaterialepakke på 1 200 sider i en rettssak, et helt års Slack-meldinger for et mellomstort team, eller den fullstendige kildekoden til et mindre programvareprosjekt.
Tidligere standard kontekstlengder på tvers av OpenAIs modeller har ligget i sjiktet rundt 128 000 tokens. Hoppet til 500 000 er ikke bare et større tall; det endrer den økonomiske dynamikken rundt hvordan utviklere og kunnskapsarbeidere strukturerer ledetekstene sine. I stedet for å dele opp et dokument i biter og sy sammen oppsummeringer – en prosess der nyanser ofte går tapt og som koster tid – kan brukere nå mate inn hele dokumentet på én gang.
Hvorfor OpenAI gjør endringen nå
Konkurranse er nesten helt sikkert en faktor. Rivaliserende modeller fra Anthropic og Google har presset kontekstvinduene oppover, og bedriftskunder har gjort ytelse over lang kontekst til et prioritert krav. Men OpenAIs egen begrunnelse er enklere: Selskapet opplyser at det større vinduet forbedrer GPT-6.1 Sols evne til å håndtere komplekse oppgaver, særlig de som krever kryssreferering av informasjon spredt over hundrevis av sider.
Det er også en praktisk vinkel. Større kontekstvinduer reduserer behovet for RAG-arbeidsflyter (Retrieval-Augmented Generation), som er kraftige, men sårbare. Når en modell ganske enkelt kan lese hele datasettet, trenger man ikke å gjette hvilke deler som er relevante.
Arbeidsflytendringen ingen har full oversikt over ennå
Profesjonelle arbeidsflyter kan bli forandret på måter som ikke er umiddelbart åpenbare. En finansanalytiker som tidligere brukte timevis på å hente tall fra kvartalsrapporter, kan nå stille et enkelt spørsmål og få et svar som oppgir sidetall fra ti år med 10-K-rapporter. En advokat som vurderer en fusjonsavtale, kan laste inn hver relaterte e-post, kontrakt og notat i én enkelt økt og be om å få avdekket uoverensstemmelser.
Men større kontekst betyr ikke automatisk bedre svar. Modeller kan fremdeles miste fokus i svært lange inndata – et fenomen forskere kaller «lost in the middle». OpenAI har ikke publisert detaljerte ytelsestester for hvordan GPT-6.1 Sol presterer ved den fulle grensen på 500 000 tokens, så brukere må selv teste sine egne bruksområder.
Kostnad er en annen ukjent faktor. OpenAI har ikke uttalt om den utvidede konteksten endrer prisene for API-kunder. Historisk har lengre kontekst betydd høyere priser per token på grunn av regnekraften som kreves for å håndtere mer tekst samtidig.
Hva man bør følge med på fremover
Utviklere som bygger på GPT-6.1 Sol vil ønske å teste den nye grensen mot sine eksisterende systemer. Selskapet har ikke lagt frem en formell tidslinje for utfasing av moduser med kortere kontekst, men standarden er allerede endret. For team som baserer seg på oppdelingsstrategier (chunking), er tiden nå inne for å revurdere om disse reserveløsningene fremdeles gir mening.
Det forventes at OpenAI publiserer oppdatert API-dokumentasjon og prisdetaljer i løpet av de kommende dagene. Frem til da er det praktiske taket for de fleste brukere det budsjettet tillater – 500 000 tokens er nå gulvet, ikke taket.
