Pse topologjia ka rëndësi për AI
Planifikuesi i Slurm merr parasysh paraqitjen fizike të nyjeve llogaritëse dhe lidhjeve të rrjetit. Për një sistem të dendur GPU si GB200 NVL72, kjo do të thotë se punët vendosen për të minimizuar vonesën e komunikimit midis GPU-ve. Planifikimi i ndërgjegjshëm për topologjinë redukton pengesat kur modelet trajnohen në qindra ose mijëra përshpejtues. Qasja ndihmon në shmangien e situatave ku GPU-të e një pune janë të shpërndara nëpër çelsa të ndryshëm ose nyje të largëta, të cilat mund të ngecin transferimet e të dhënave.
Zhbllokimi i xhiros ekzashkallë
Duke kombinuar planifikimin e Slurm me arkitekturën e GB200 NVL72, NVIDIA thotë se sistemi mund të arrijë performancë ekzashkallë—duke funksionuar në 10^18 operacione me pikë lundruese për sekondë. Kjo shkallë zak
