OpenAI telah meningkatkan panjang konteks default GPT-6.1 Sol menjadi 500.000 token, demikian konfirmasi perusahaan tersebut minggu ini. Langkah ini lebih dari dua kali lipat melipatgandakan memori kerja efektif dari model unggulannya, memungkinkan model memproses seluruh buku, kontrak hukum yang panjang, atau basis kode yang luas dalam satu sesi tanpa pemotongan teks (chunking) maupun pelatihan ulang.
Pembaruan ini berlaku untuk semua pengguna, bukan hanya pelanggan enterprise, dan langsung berlaku efektif. Ini merupakan lonjakan signifikan dari standar default sebelumnya serta menempatkan GPT-6.1 Sol di kelas tersendiri untuk tugas-tugas yang bergantung pada pemrosesan teks dalam jumlah besar dalam konteksnya.
Arti sebenarnya dari 500.000 token dalam praktiknya
Setengah juta token kira-kira setara dengan novel sepanjang 375.000 kata — bayangkan seluruh trilogi Lord of the Rings ditambah The Hobbit, dengan ruang yang masih tersisa. Dalam konteks profesional, itu setara dengan bundel penemuan hukum setebal 1.200 halaman, pesan Slack selama setahun penuh untuk tim berukuran sedang, atau kode sumber lengkap untuk proyek perangkat lunak kecil.
Panjang konteks default sebelumnya di seluruh model OpenAI berkisar di angka 128.000 token. Lonjakan ke 500.000 bukan sekadar angka yang lebih besar; ini mengubah keekonomisan cara pengembang dan pekerja pengetahuan menyusun prompt mereka. Alih-alih memecah dokumen menjadi potongan-potongan kecil lalu menggabungkan ringkasannya — proses yang sering kali menghilangkan nuansa serta memakan waktu — pengguna kini dapat memasukkan seluruh dokumen sekaligus dalam satu proses.
Alasan OpenAI melakukan perubahan sekarang
Persaingan hampir pasti menjadi salah satu faktor. Model-model pesaing dari Anthropic dan Google terus memperluas jendela konteks, dan pembeli dari kalangan enterprise telah menjadikan performa konteks panjang sebagai prioritas utama. Namun, penjelasan OpenAI lebih sederhana: perusahaan menyatakan bahwa jendela konteks yang lebih besar meningkatkan kemampuan GPT-6.1 Sol dalam menangani tugas-tugas rumit, khususnya yang membutuhkan rujukan silang informasi yang tersebar di ratusan halaman.
Ada pula sudut pandang praktis. Jendela konteks yang lebih besar mengurangi ketergantungan pada alur kerja retrieval-augmented generation (RAG), yang kuat namun rentan terhadap kesalahan. Ketika sebuah model dapat membaca keseluruhan korpus secara langsung, Anda tidak perlu lagi menebak potongan teks mana yang relevan.
Pergeseran alur kerja yang belum dipetakan sepenuhnya
Alur kerja profesional dapat bertransformasi dengan cara yang tidak langsung terlihat pada pandangan pertama. Seorang analis keuangan yang terbiasa menghabiskan waktu berjam-jam mengumpulkan angka dari laporan keuangan kuartalan kini dapat mengajukan satu pertanyaan dan memperoleh jawaban lengkap dengan kutipan nomor halaman dari laporan 10-K selama satu dekade. Seorang pengacara yang meninjau perjanjian merger dapat memuat setiap email, kontrak, dan memo terkait ke dalam satu sesi untuk mencari potensi inkonsistensi.
Namun, konteks yang lebih besar tidak otomatis menghasilkan jawaban yang lebih baik. Model tetap dapat kehilangan fokus pada input yang sangat panjang — fenomena yang oleh para peneliti disebut sebagai "lost in the middle". OpenAI belum merilis tolok ukur terperinci mengenai performa GPT-6.1 Sol pada batas maksimal 500.000 token, sehingga pengguna harus mengujinya sendiri sesuai kebutuhan masing-masing.
Biaya juga masih menjadi tanda tanya. OpenAI belum mengungkapkan apakah perluasan konteks ini memengaruhi penetapan harga untuk pelanggan API. Secara historis, konteks yang lebih panjang membutuhkan tarif per token yang lebih tinggi karena besarnya komputasi yang dibutuhkan untuk memproses lebih banyak teks sekaligus.
Hal-hal yang patut diperhatikan selanjutnya
Para pengembang yang membangun solusi berbasis GPT-6.1 Sol perlu menguji batas baru ini terhadap pipeline yang sudah ada. Perusahaan belum merilis jadwal penghentian resmi untuk mode berkonteks lebih pendek, namun batas default-nya telah diubah. Bagi tim yang selama ini mengandalkan strategi pemotongan teks (chunking), sekarang adalah saatnya mengevaluasi kembali apakah solusi alternatif tersebut masih relevan.
OpenAI diperkirakan akan menerbitkan dokumentasi API yang diperbarui beserta rincian harga dalam beberapa hari ke depan. Hingga saat itu tiba, batas praktis bagi sebagian besar pengguna bergantung pada anggaran yang mereka miliki — 500.000 token kini menjadi batas bawah, bukan batas atas.
