Lab AI Jane Street tidak bermula dengan skala besar. Pasukan penyelidikan firma perdagangan tersebut pernah menjalankan beban kerja mereka pada enam pelayan Dell. Kini, susun atur tersebut telah digantikan dengan pusat data GPU berpemadam cecair — peralihan yang menunjukkan sejauh mana syarikat itu telah mendorong infrastrukturnya untuk mengikuti permintaan komputasi.
Dari enam buah pelayan kepada kemudahan khusus
Lab tersebut pada mulanya bergantung pada beberapa buah mesin Dell standard. Pelayan-pelayan tersebut menangani eksperimen pembelajaran mesin awal, tetapi pasukan itu dengan cepat menghadapi had. Apabila model menjadi lebih kompleks dan set data berkembang, perkakasan lama tidak mampu mengejar.
Alih-alih hanya menambah lebih banyak rak, Jane Street menyusun semula seluruh pendekatan. Pusat data baharu menggunakan pemadam cecair untuk menguruskan haba yang dihasilkan oleh GPU berprestasi tinggi. Penyejukan udara sahaja tidak mencukupi untuk ketumpatan cip yang dipadatkan dalam ruang tersebut.
Mengapa pemadam cecair penting
GPU menjadi panas. Apabila dikumpulkan untuk latihan AI, suhu meningkat tajam. Kipas standard dan penangani udara sukar mengekalkan komponen stabil, terutamanya dalam susun atur yang kompak. Peralihan Jane Street kepada pemadam cecair membolehkan lab tersebut mendorong perkakasan lebih kuat tanpa penghadan haba atau kegagalan kerap.
Pemadam cecair juga mengurangkan penggunaan tenaga. Memindahkan haba melalui cecair adalah lebih cekap berbanding meniup udara sejuk di dalam bilik. Bagi firma yang menjalankan algoritma perdagangan sepanjang masa, bil kuasa yang lebih rendah dan kurang penggantian perkakasan adalah penting.
Pengagihan sumber sebagai langkah strategik
Perkembangan dari enam buah pelayan Dell kepada pusat berpemadam cecair yang dibina khusus bukan sekadar mengenai kelajuan. Ia mengenai cara syarikat tersebut memikirkan pengagihan sumber. Setiap watt dan setiap kaki persegi kini digunakan dengan lebih sengaja.
Jane Street tidak mendedahkan kos pusat data baharu atau kapasiti sebenarnya. Namun, langkah ini menandakan bahawa firma tersebut memandang infrastruktur AI sebagai kelebihan persaingan — bukan sekadar perbelanjaan IT. Pengagihan yang cekap terhadap komputasi, penyejukan, dan ruang membebaskan belanjawan untuk penyelidikan lebih banyak dan pengulangan yang lebih pantas.
Peralihan lab dari beberapa mesin komoditi kepada kemudahan terkini menekankan peranan infrastruktur yang semakin meningkat dalam penyelidikan AI. Ini mengingatkan bahawa model yang paling pintar sekalipun tidak dapat beroperasi dengan baik tanpa perkakasan yang sesuai di bawahnya.
