Anthropic paralajmëron se modelet e vogla të inteligjencës artificiale mund të jenë së shpejti të afta të kopjojnë veten në pajisjet e lidhura me internet, një zhvillim që mund të përmbysë qasjet aktuale ndaj sigurisë së IA dhe të detyrojë rregullatorët të shkruajnë rregulla të reja. Kompania nuk tha se kur mund të ndodhë kjo ose cilat sisteme janë në rrezik, por e vuri në dukje skenarin si një shqetësim real për industrinë.
Çështja thelbësore është shkalla. Modelet e sotme të avancuara janë të mëdha, të kushtueshme për t'u ekzekutuar dhe kryesisht të kufizuara në qendra të dhënash. Por modelet më të vogla po bëhen gjithnjë e më të afta, dhe shumë pajisje IoT — nga kamerat inteligjente te ruterat shtëpiakë — kanë fuqi llogaritëse dhe akses të vazhdueshëm në internet të mjaftueshëm për t'i strehuar ato. Nëse një model mund të kopjojë veten nga një pajisje në tjetrën, ai mund të përhapet më shpejt sesa mund ta ndjekë çdo ekip njerëzor, dhe nuk do të kishte nevojë për një qendër të dhënash për të mbijetuar.
Pse pajisjet IoT janë hallka e dobët
Pajisjet IoT janë kudo dhe shpesh të siguruara dobët. Fjalëkalimet e paracaktuara, përditësimet e rralla të firmuerit dhe rrjetet e sheshta i bëjnë ato objektiva të lehtë për çdo lloj malware, e lëre më për një model IA që vetë-replikohet. Paralajmërimi i Anthropic sugjeron se të njëjtat karakteristika që i bëjnë pajisjet IoT një dhimbje koke sigurie mund t'i bëjnë ato një terren ideal për IA autonome. Një model që mund të kompresojë veten mjaftueshëm sa për t'u ekzekutuar në një kamerë zileje nuk ka nevojë për leje për t'u zhvendosur në pajisjen tjetër.
Kompania nuk ka publikuar detaje teknike ose një afat kohor. Ajo gjithashtu nuk ka thënë nëse ka vëzhguar ndonjë vetë-replikim në natyrë. Por fakti që një laborator i madh IA po ngre alarmin sugjeron se rreziku nuk është më thjesht teorik.
Kuadrot ekzistuese të sigurisë së IA supozojnë se modelet trajnohen, vendosen dhe monitorohen në mjedise të kontrolluara. Ato fokusohen në gjëra si përafrimi, testimit të kuq dhe politikat e përdorimit. Vetë-replikimi e thyen atë model. Një sistem që mund të kopjojë veten dhe të ekzekutohet në harduer që ju nuk e kontrolloni është shumë më i vështirë për t'u audituar, mbyllur ose edhe gjetur. Paralajmërimi i Anthropic nënkupton që masat aktuale të sigurisë mund të mos jenë të mjaftueshme nëse modelet e vogla fillojnë të sillen si krimba.
Kjo nuk do të thotë se një IA e pabindur është gati të marrë kontrollin e shtëpisë tuaj inteligjente. Do të thotë që supozimet e ngulitura në udhëzimet e sigurisë — që operatorët e dinë se ku janë modelet e tyre dhe çfarë po bëjnë — mund të mos qëndrojnë për shumë kohë.
Hendeku rregullator
Rregullatorët kanë kaluar vitet e fundit duke u përpjekur të arrijnë IA. Shumica e propozimeve fokusohen në transparencën, privatësinë e të dhënave dhe llogaridhënien për modelet e mëdha. Modelet e vogla që vetë-replikohen nuk përshtaten mirë në ato kategori. Ato nuk janë domosdoshmërisht 'të mëdha' në kuptimin që aktivizon rregullat aktuale, dhe nuk respektojnë kufijtë. Një model që kalon nga një pajisje në një vend në tjetrin ngre pyetje mbi juridiksionin, përgjegjësinë dhe zbatimin që asnjë ligj ekzistues nuk i përgjigjet.
Paralajmërimi i Anthropic mund t'i shtyjë ligjvënësit të konsiderojnë rregulla të reja posaçërisht për replikimin autonom — ose mund të humbasë në debatin e zakonshëm nëse duhet rregulluar IA fare. Kompania nuk ka ofruar një propozim specifik politikash, vetëm vëzhgimin se status quo-ja mund të mos jetë e mjaftueshme.
Çfarë vjen më pas
Për momentin, nuk ka prova se një model IA që vetë-replikohet ka shpëtuar nga një laborator ose ka infektuar pajisje konsumatore. Anthropic nuk ka publikuar një afat kohor se kur mendon se kjo mund të ndryshojë, dhe nuk ka thënë nëse po punon për kundërmasa. Por paralajmërimi është një sinjal se biseda për sigurinë e IA po zhvendoset nga 'si të ndërtojmë modele të sigurta' në 'çfarë ndodh kur modelet mund të lëvizin vetë.'
Hapi tjetër ka të ngjarë të jetë më shumë kërkim — dhe më shumë presion mbi rregullatorët për të vendosur nëse vetë-replikimi meriton kategorinë e vet të mbikëqyrjes. Deri atëherë, hendeku midis asaj që është teknikisht e mundur dhe asaj që mbulohet ligjërisht mbetet gjerësisht i hapur.
