Anthropic ka kundërshtuar pretendimet se AI i saj u përdor për të shkelur sistemet qeveritare australiane, ndërkohë që njëkohësisht ka bërë thirrje për kërkesa më të forta për zbulimin e shkeljeve. Kompania tha se nuk ka prova që lidhin teknologjinë e saj me ndonjë sulm të tillë, megjithëse nuk detajoi akuzat specifike ndaj të cilave po përgjigjej.
Mohimi vjen ndërsa qeveritë në mbarë botën përpiqen të përcaktojnë se sa duhet të detyrohen kompanitë të zbulojnë kur sistemet e AI përfshihen në incidente sigurie. Qëndrimi i Anthropic mund të formësojë këto rregulla — një qëndrim që e vë atë në kundërshtim me instinktin për të qëndruar i heshtur pas një shkeljeje.
Çfarë tha në të vërtetë Anthropic
Kompania mohoi përgjegjësinë për pretendimin e shkeljes australiane. Ajo nuk ofroi një kronologji të ngjarjeve ose nuk përmendi agjencinë ose sistemet e raportuara të prekura. Ajo që konfirmoi është mbështetja e saj për ligjet e zbulimit të shkeljeve — rregulla që do të kërkonin që organizatat të njoftojnë rregullatorët dhe publikun kur sistemet e AI komprometohen ose keqpërdoren. Ky është një pozicion më progresiv sesa mbajnë shumë firma teknologjike, veçanërisht kur zbulimi mund t'i ekspozojë ato ndaj përgjegjësisë ose dëmtimit reputacional.
Anthropic nuk tha nëse ishte kontaktuar nga autoritetet australiane ose nëse një hetim është në vazhdim.
Pse ligjet e zbulimit janë një problem i ndërlikuar për AI
Rregullat e zbulimit të shkeljeve u ndërtuan për një botë me baza të dhënash dhe serverë. AI shton një shtresë kompleksiteti. Një model AI mund të manipulohet përmes prompt-eve, rregullimit të imët ose helmimit të të dhënave. Vija ndarëse midis një shkeljeje sigurie dhe një modeli që sillet në mënyrë të papritur nuk është gjithmonë e qartë. Dhe kur një model vendoset përtej kufijve, cila qeveri njoftohet e para?
Mbështetja e Anthropic për ligjet e zbulimit sugjeron se ajo dëshiron një libër të qartë rregullash në vend të një mozaiku raportimi vullnetar. Kjo mund t'u japë rregullatorëve një model: nëse një kompani si Anthropic — e cila shet sisteme AI për ndërmarrje dhe qeveri — thotë se zbulimi është i zbatueshëm, kjo dobëson argumentin se ligje të tilla janë tepër të rënda.
Tensioni i privatësisë që rregullatorët nuk mund ta injorojnë
Zbulimi tingëllon i thjeshtë derisa të merrni parasysh se çfarë zbulohet. Raportet e shkeljeve shpesh përfshijnë detaje rreth dobësive të sistemit, të dhënave të përdoruesve ose praktikave të brendshme të sigurisë. Këto detaje mund t'i ndihmojnë sulmuesit nëse publikohen shumë gjerësisht. Ato gjithashtu mund të shkelin ligjet e privatësisë nëse përfshijnë informacione personale për përdoruesit e prekur.
Qëndrimi i Anthropic nuk e zgjidh atë tension. Ai thjesht merr një anë: transparenca së pari, me pritshmërinë që rregullatorët të ndërtojnë masa mbrojtëse. Kompania nuk ka propozuar gjuhë specifike për këto masa mbrojtëse, kështu që puna e vështirë u lihet ligjvënësve.
Çfarë do të thotë kjo për qeverisjen e AI
Australia ka qenë në lëvizje për rregullimin e AI, dhe trajtimi i këtij pretendimi mund të krijojë një precedent. Nëse qeveria pranon mohimin e Anthropic pa hetime të mëtejshme, kjo mund të sinjalizojë se shkeljet e lidhura me AI janë të vështira për t'u atribuuar dhe edhe më të vështira për t'u kontrolluar. Nëse ajo kundërshton, rasti mund të bëhet një test se sa larg mund të shkojnë kompanitë në mohimin e përfshirjes së AI pa prodhuar prova.
Për Anthropic, lëvizja e dyfishtë — mohimi i një shkeljeje ndërkohë që avokon për ligjet e zbulimit — është një bast. Ajo e pozicionon kompaninë si një aktor të përgjegjshëm, por gjithashtu fton shqyrtim. Çdo incident i ardhshëm do të matet kundrejt këtij momenti: a përmbushi Anthropic standardin që po u kërkon të tjerëve të përmbushin?
Rregullatorët australianë nuk kanë thënë nëse po hetojnë pretendimin origjinal ose nëse do të pranojnë thirrjen e Anthropic për rregulla zbulimi. Derisa ta bëjnë këtë, mohimi i kompanisë qëndron si një deklaratë pozicioni, jo si një çështje e mbyllur.
