Sådan fungerer tile-baseret programmering
Tile-baseret programmering opdeler en beregning i små, faste blokke kaldet tiles. Disse tiles matcher GPU'ens interne dataflowmønstre, hvilket gør det lettere at holde hardwaren beskæftiget. I tidligere versioner af CUDA skulle udviklere selv håndtere den tilknytning. Nu klarer compileren det, i hvert fald for mange almindelige mønstre.
Tensor Cores er specialiseret hardware i NVIDIA GPU'er, der accelererer matrix-multiplikation-akkumuleringsoperationer. De er centrale for AI-træning og inferens. Men at opnå maksimal ydeevne fra dem krævede ofte indviklet manuel tuning. CUDA 13.3's tile-abstraktion opdeler automatisk matrixoperationer i tiles, så de rammer
