Phòng thí nghiệm AI của Jane Street không khởi đầu lớn. Nhóm nghiên cứu của công ty giao dịch từng chạy khối lượng công việc trên sáu máy chủ Dell. Ngày nay, thiết lập đó đã được thay thế bằng một trung tâm dữ liệu GPU làm mát bằng chất lỏng — một sự chuyển đổi cho thấy công ty đã đẩy mạnh cơ sở hạ tầng đến mức nào để đáp ứng nhu cầu tính toán.
Từ sáu hộp máy đến một cơ sở chuyên dụng
Phòng thí nghiệm ban đầu chỉ dựa vào một số máy Dell tiêu chuẩn. Những máy chủ đó xử lý các thử nghiệm học máy ban đầu, nhưng nhóm nhanh chóng gặp phải giới hạn. Khi các mô hình trở nên phức tạp hơn và tập dữ liệu mở rộng, phần cứng cũ không thể theo kịp.
Thay vì chỉ thêm nhiều rack hơn, Jane Street đã thiết kế lại toàn bộ cách tiếp cận. Trung tâm dữ liệu mới sử dụng làm mát bằng chất lỏng để xử lý nhiệt lượng sinh ra từ các GPU hiệu suất cao. Chỉ làm mát bằng không khí là không đủ cho mật độ chip được đóng gói trong không gian này.
Tại sao làm mát bằng chất lỏng lại quan trọng
GPU hoạt động nóng. Khi bạn cụm chúng lại để huấn luyện AI, nhiệt độ tăng vọt. Quạt tiêu chuẩn và bộ xử lý không khí gặp khó khăn trong việc giữ ổn định các linh kiện, đặc biệt trong bố trí nhỏ gọn. Việc chuyển sang làm mát bằng chất lỏng của Jane Street cho phép phòng thí nghiệm đẩy phần cứng mạnh hơn mà không bị hạn chế nhiệt hoặc hỏng hóc thường xuyên.
Làm mát bằng chất lỏng cũng giảm tiêu thụ năng lượng. Di chuyển nhiệt qua chất lỏng hiệu quả hơn so với thổi khí lạnh qua phòng. Đối với một công ty chạy các thuật toán giao dịch suốt ngày đêm, hóa đơn điện thấp hơn và ít phải thay thế phần cứng hơn là điều quan trọng.
Phân bổ tài nguyên như một động thái chiến lược
Sự tiến hóa từ sáu hộp Dell đến một trung tâm làm mát bằng chất lỏng được xây dựng có mục đích không chỉ là về tốc độ. Nó liên quan đến cách công ty nghĩ về phân bổ tài nguyên. Mỗi watt và mỗi foot vuông giờ đây được sử dụng có chủ đích hơn.
Jane Street không tiết lộ chi phí của trung tâm dữ liệu mới hoặc công suất chính xác. Nhưng động thái này cho thấy công ty coi hạ tầng AI như một lợi thế cạnh tranh — không chỉ là một khoản chi phí CNTT. Phân bổ hiệu quả tính toán, làm mát và không gian giải phóng ngân sách cho nhiều nghiên cứu hơn và lặp lại nhanh hơn.
Sự chuyển đổi của phòng thí nghiệm từ một số máy hàng hóa sang một cơ sở hiện đại nhấn mạnh vai trò ngày càng tăng của hạ tầng trong nghiên cứu AI. Đây là lời nhắc nhở rằng ngay cả những mô hình thông minh nhất cũng không thể chạy tốt nếu không có phần cứng phù hợp bên dưới.
