Kalimi drejt kodimit me ndihmën e AI
Gjashtë muaj më parë, gjysma e kodit të ri të Google vinte nga AI. Tani është tre të katërtat. Kjo do të thotë se sistemet e brendshme të kompanisë po trajtojnë një vëllim shumë më të madh të sugjerimeve, plotësimeve dhe patch-eve të gjeneruara nga AI. Ky ndryshim pasqyron një shtytje më të gjerë në të gjithë industrinë e teknologjisë për të integruar mjetet e AI në rrjedhat e përditshme të punës. Në Google, mjetet si versionet e brendshme të modeleve të mëdha gjuhësore janë bërë standarde për shkrimin e boilerplate, rregullimin e gabimeve dhe madje edhe gjenerimin e funksioneve të tëra.
Por rritja nuk ka ardhur pa kosto. Çdo pyetje e AI konsumon cikle kompjuterike dhe me më shumë kod që gjenerohet nga modelet, kërkesa për fuqi përpunuese është rritur. Inxhinierët kanë raportuar kohë më të ngadalta përgjigjeje nga mjetet e brendshme të AI dhe ndërprerje të herëpashershme gjatë orëve të pikut.
Tendosje në infrastrukturën e brendshme
Kufizimet kompjuterike janë më të dukshme në qendrat e të dhënave që drejtojnë modelet e AI. Pajisjet e vetë Google, përfshirë TPU-të dhe GPU-të, tani janë nën ngarkesë të rëndë nga detyrat e gjenerimit të kodit. Disa ekipe kanë pasur nevojë të radhitin punë ose të kufizojnë numrin e kërkesave të AI për inxhinier. Kompania gjithashtu ka filluar të prioritizojë disa lloje të gjenerimit të kodit — si patch-et e sigurisë ose rregullimet kritike të gabimeve — mbi funksionet ndihmëse më pak urgjente.
Google nuk është i vetmi që përballet me këtë ngushticë. Kompani të tjera të mëdha teknologjike kanë raportuar vështirësi të ngjashme në rritje ndërsa integrojnë AI në zhvillim. Por shpejtësia e ndryshimit në Google — një rritje prej 25 pikë përqindjeje në gjashtë muaj — ka zënë në befasi disa ekipe të brendshme.
Çfarë do të thotë kjo për inxhinierët
Për inxhinierët që shkruajnë kodin, realiteti i ri nënkupton përshtatjen e rrjedhave të punës. Ata nuk mund të mbështeten më te mjetet e AI për të gjeneruar kod menjëherë pa planifikuar rreth kufizimeve kompjuterike. Disa kanë filluar të grupojnë kërkesat e tyre në orët jo-piku. Të tjerë po rishikojnë më me kujdes kodin e gjeneruar nga AI, duke ditur se modelet ndonjëherë prodhojnë kod joefikas ose me gabime kur punojnë në kushte të kufizuara.
Google nuk ka detajuar publikisht se si planifikon të adresojë tendosjen e infrastrukturës. Kompania përballet me një zgjedhje: të investojë në më shumë pajisje, të përmirësojë modelet për të qenë më efikase, ose të vendosë kufizime më të rrepta për përdorimin e AI. Secila opsion vjen me kompromise. Më shumë pajisje kushtojnë para dhe kërkojnë kohë për t'u vendosur. Përmirësimet e efikasitetit të modeleve mund të ngadalësojnë ritmin e përmirësimeve. Kufizimet e përdorimit mund të frustrojnë inxhinierët që janë mbështetur te mjetet.
Tani për tani, situata mbetet e pazgjidhur. Inxhinierët po punojnë rreth kufizimeve, por kërkesa themelore për kod të gjeneruar nga AI nuk tregon shenja ngadalësimi. Pyetja ë
