Waarom de pauze is uitgevaardigd
Het besluit komt uit OpenAI's eigen veiligheidsbeoordeling, die aangaf dat de geavanceerde mogelijkheden van Astra misbruikt zouden kunnen worden om offensieve cyberhulpmiddelen te creëren. Volgens het bedrijf vormde het potentieel van het model om autonoom cyberwapens te ontwikkelen een risico dat de huidige veiligheidsmaatregelen niet adequaat konden inperken.
OpenAI heeft geen termijn gegeven voor het hervatten van het werk aan Astra. In plaats daarvan zei het dat de pauze zou duren totdat de noodzakelijke beveiligingsmaatregelen zijn getroffen en geverifieerd.
Wat Astra had moeten worden
Astra was gepositioneerd als OpenAI's volgende grote model, na de eerdere releases van het bedrijf. Het bedrijf heeft geen details bekendgemaakt over de architectuur of beoogde toepassingen van Astra, maar het model zou de grenzen van wat AI-systemen kunnen doen verleggen.
De pauze betekent dat geplande releases of integraties met Astra nu in de wacht staan. OpenAI heeft niet gezegd of de vertraging gevolgen heeft voor andere producten of onderzoekstijdlijnen.
Het veiligheidsbeoordelingsproces
OpenAI's interne beoordelingsproces is bedoeld om gevaarlijke mogelijkheden te ontdekken voordat een model wordt ingezet. In dit geval identificeerde de beoordeling een specifiek risico: het vermogen van Astra om zelf cyberwapens te schrijven. Die bevinding leidde tot de pauze.
Het bedrijf heeft de volledige details van de beoordeling of de specifieke beveiligingsmaatregelen die het van
