OpenAI telah meningkatkan kepanjangan konteks lalai GPT-6.1 Sol kepada 500,000 token, menurut pengesahan syarikat itu minggu ini. Langkah ini menggandakan lebih daripada dua kali ganda memori kerja efektif bagi model perdananya, membolehkannya memproses seluruh buku, dokumen kontrak undang-undang yang panjang, atau pangkalan kod yang luas dalam satu sesi tunggal tanpa perlu memecahkan teks (chunking) atau melatih semula model.
Kemas kini ini terpakai kepada semua pengguna, bukan sekadar pelanggan perusahaan, dan berkuat kuasa serta-merta. Ini merupakan lonjakan ketara berbanding had lalai terdahulu dan meletakkan GPT-6.1 Sol dalam kelas tersendiri bagi tugasan yang bergantung pada pemprosesan teks berskala besar dalam satu konteks.
Maksud sebenar 500,000 token dalam amalan
Setengah juta token secara kasarnya menyamai panjang sebuah novel dengan 375,000 patah perkataan — bayangkan keseluruhan trilogi Lord of the Rings bersama The Hobbit, dan masih mempunyai ruang berbaki. Dari sudut profesional, jumlah tersebut bersamaan dengan berkas penemuan undang-undang setebal 1,200 halaman, arkib mesej Slack selama setahun penuh bagi organisasi bersaiz sederhana, atau keseluruhan kod sumber untuk sesuatu projek perisian kecil.
Sebelum ini, kepanjangan konteks lalai merentasi model-model OpenAI berlegar sekitar 128,000 token. Peningkatan kepada 500,000 bukan sekadar pertambahan angka; ia mengubah kaedah ekonomi tentang bagaimana para pembangun dan pekerja berpengetahuan menyusun gesaan (prompt) mereka. Daripada memecahkan dokumen kepada bahagian-bahagian kecil dan mencantumkan semula ringkasannya — proses yang sering melenyapkan nuansa dan memakan masa — pengguna kini boleh memuatkan keseluruhan dokumen sekaligus.
Mengapa OpenAI melakukan perubahan sekarang
Faktor persaingan hampir pasti memainkan peranan penting. Model-model pesaing daripada Anthropic dan Google kian memperluas saiz tetingkap konteks masing-masing, dan pelanggan perusahaan telah meletakkan keupayaan pemprosesan konteks panjang sebagai syarat utama. Namun, penjelasan OpenAI lebih ringkas: syarikat itu menyatakan tetingkap yang lebih besar mempertingkat keupayaan GPT-6.1 Sol dalam mengendalikan tugas-tugas rumit, terutamanya tugasan yang memerlukan rujukan silang maklumat yang berselerak di ratusan halaman berbeza.
Terdapat juga pertimbangan dari sudut praktikal. Tetingkap konteks yang lebih besar mengurangkan kebergantungan terhadap saluran paip penjanaan diperkukuh dapatan semula (retrieval-augmented generation atau RAG), yang meskipun berkuasa, kadangkala rapuh dan rumit diselenggara. Apabila sesuatu model berupaya meneliti keseluruhan korpus secara langsung, pembangun tidak perlu lagi meramal bahagian mana yang paling relevan.
Peralihan aliran kerja yang belum dipetakan sepenuhnya
Aliran kerja profesional berpotensi mengalami perubahan drastik yang mungkin tidak disedari pada awalnya. Seorang penganalisis kewangan yang lazimnya menghabiskan masa berjam-jam meneliti angka daripada penyata suku tahunan kini boleh mengemukakan satu pertanyaan ringkas dan memperoleh jawapan yang memetik nombor halaman daripada laporan 10-K selama sedekad. Seorang peguam yang menyemak perjanjian penggabungan boleh memasukkan semua e-mel, kontrak, dan memo berkaitan ke dalam satu sesi untuk mengenal pasti percanggahan fakta.
Walau bagaimanapun, konteks yang lebih besar tidak semestinya menjamin kualiti jawapan yang lebih tepat. Model AI masih boleh kehilangan tumpuan apabila memproses teks input yang terlampau panjang — fenomena yang diistilahkan oleh para penyelidik sebagai "lost in the middle". OpenAI masih belum menerbitkan penanda aras terperinci mengenai prestasi GPT-6.1 Sol pada had maksimum 500,000 token, justeru pengguna perlu menguji kes penggunaan mereka sendiri.
Aspek kos juga masih menjadi tanda tanya. OpenAI belum memperincikan sama ada peluasan konteks ini akan mengubah struktur harga bagi pelanggan API. Secara tradisinya, konteks yang lebih panjang memerlukan kos setiap token yang lebih tinggi disebabkan keperluan pengkomputeran intensif untuk memproses volum data yang besar secara serentak.
Perkara yang perlu diperhatikan seterusnya
Para pembangun yang membina sistem berasaskan GPT-6.1 Sol disarankan untuk menguji had baharu ini pada saluran paip sedia ada mereka. Pihak syarikat masih belum mengeluarkan garis masa rasmi bagi penamatan mod konteks yang lebih pendek, namun konfigurasi lalai telah pun dikemas kini. Bagi pasukan yang bergantung pada strategi pemecahan dokumen, kini adalah waktu yang tepat untuk menilai semula sama ada kaedah tersebut masih diperlukan.
OpenAI dijangka menerbitkan dokumentasi API dan perincian harga terkini dalam beberapa hari akan datang. Buat masa ini, had praktikal bagi kebanyakan pengguna ditentukan oleh kemampuan bajet masing-masing — kapasiti 500,000 token kini berfungsi sebagai asas permulaan, bukan lagi had siling.
