OpenAI pozastavila práci na svém dalším velkém modelu umělé inteligence Astra poté, co interní hodnocení naznačila, že by systém mohl být natolik nebezpečný, že by si mohl sám psát kybernetické zbraně. Společnost uvedla, že pozastavuje vývoj, dokud bezpečnostní opatření nedohoní schopnosti modelu.
Proč bylo vydáno pozastavení
Rozhodnutí vychází z vlastního bezpečnostního přezkumu OpenAI, který upozornil, že pokročilé schopnosti modelu Astra by mohly být zneužity k vytváření útočných kybernetických nástrojů. Podle společnosti představoval potenciál modelu autonomně vyvíjet kybernetické zbraně riziko, které současná bezpečnostní opatření nedokázala adekvátně omezit.
OpenAI neuvedla časový harmonogram pro obnovení práce na modelu Astra. Místo toho uvedla, že pozastavení potrvá, dokud nebudou zavedena a ověřena potřebná bezpečnostní opatření.
Čím měl být model Astra
Astra byla prezentována jako další velký model OpenAI, následující po předchozích vydáních společnosti. Společnost nezveřejnila podrobnosti o architektuře modelu Astra ani o zamýšleném použití, ale očekávalo se, že model posune hranice toho, co systémy umělé inteligence dokážou.
Pozastavení znamená, že všechna plánovaná vydání nebo integrace zahrnující model Astra jsou nyní pozastavena. OpenAI neuvedla, zda zpoždění ovlivní další produkty nebo výzkumné plány.
Proces bezpečnostního přezkumu
Interní přezkumný proces OpenAI je navržen tak, aby zachytil nebezpečné schopnosti dříve, než je model nasazen. V tomto případě přezkum identifikoval konkrétní riziko: schopnost modelu Astra psát kybernetické zbraně samostatně. Toto zjištění spustilo pozastavení.
Společnost nezveřejnila úplné podrobnosti přezkumu ani konkrétní bezpečnostní opatření, která plánuje přidat. Uvedla pouze, že práce na modelu Astra bude obnovena, jakmile budou tato opatření připravena.
Co bude dál
OpenAI neoznámila nový cílový termín pro obnovení vývoje modelu Astra. Očekává se, že společnost bude poskytovat aktualizace, jak bude pracovat na bezpečnostních opatřeních. Do té doby zůstává Astra odložena a otázka, kdy – nebo zda – vůbec spatří světlo světa, zůstává otevřená.
