OpenAI har stoppat arbetet med sin nästa stora AI-modell, Astra, efter interna bedömningar som tydde på att systemet kunde vara tillräckligt farligt för att skriva egna cybervapen. Företaget sade att man pausar utvecklingen tills skyddsåtgärderna hinner ikapp modellens kapacitet.
Varför pausen infördes
Beslutet kommer från OpenAIs egen säkerhetsgranskning, som flaggade att Astras avancerade kapacitet kunde missbrukas för att skapa offensiva cyberverktyg. Enligt företaget utgjorde modellens potential att autonomt utveckla cybervapen en risk som nuvarande säkerhetsåtgärder inte kunde hantera på ett adekvat sätt.
OpenAI specificerade ingen tidsram för att återuppta arbetet med Astra. Istället sade man att pausen skulle vara tills de nödvändiga skyddsåtgärderna är på plats och verifierade.
Vad Astra var tänkt att vara
Astra var positionerad som OpenAIs nästa stora modell, efter företagets tidigare släpp. Företaget har inte avslöjat detaljer om Astras arkitektur eller tänkta användningsområden, men modellen förväntades tänja på gränserna för vad AI-system kan göra.
Pausen innebär att alla planerade releaser eller integrationer som involverar Astra nu ligger på is. OpenAI har inte sagt om förseningen kommer att påverka andra produkter eller forskningstidslinjer.
Säkerhetsgranskningsprocessen
OpenAIs interna granskningsprocess är utformad för att fånga upp farliga kapaciteter innan en modell släpps. I detta fall identifierade granskningen en specifik risk: Astras förmåga att skriva cybervapen på egen hand. Detta fynd utlöste pausen.
Företaget har inte delat fullständiga detaljer om granskningen eller de specifika skyddsåtgärder man planerar att lägga till. Man sade bara att arbetet med Astra skulle återupptas när dessa skyddsåtgärder är redo.
Vad som händer härnäst
OpenAI har inte meddelat ett nytt mål för när utvecklingen av Astra ska återupptas. Företaget förväntas ge uppdateringar när man arbetar igenom säkerhetsåtgärderna. Tills dess förblir Astra nedlagd, och frågan om när – eller om – den någonsin kommer att se dagens ljus är fortfarande öppen.
