Bílý dům přestal zveřejňovat veřejné zprávy ze své jednotky pro testování umělé inteligence s odvoláním na obavy o národní bezpečnost. Toto rozhodnutí odstraňuje klíčové okno do toho, jak federální vláda vyhodnocuje bezpečnost a spolehlivost systémů AI před jejich nasazením.
Bezpečnostní zdůvodnění rozhodnutí
Představitelé uvedli, že zprávy obsahovaly informace, které by mohly být zneužity protivníky nebo zneužity k podkopání integrity technologie. Tento krok účinně omezuje tok technických podrobností o zranitelnostech a výsledcích testů, které byly dříve pravidelně sdíleny s veřejností. Nebyl stanoven žádný časový rámec pro obnovení zpráv.
Co jednotka dělá
Testovací jednotka byla vytvořena k hodnocení modelů AI z hlediska rizik, jako je zaujatost, dezinformace a bezpečnostní chyby. Její veřejné zprávy se staly vzácným zdrojem neproprietárních dat o tom, jak si přední systémy AI vedou pod tlakem. Výzkumníci a občanské organizace se na tyto dokumenty spoléhali při vyvozování odpovědnosti firem a při informování širších politických debat.
Kritici pozastavení tvrdí, že transparentnost je nezbytná pro budování důvěry ve správu AI. Bez pravidelných veřejných hodnocení ztrácejí externí odborníci přímou metodu, jak ověřovat vlastní bezpečnostní závěry vlády. Bílý dům neuvedl, zda nahradí veřejné zprávy utajovaným briefováním nebo jiným formátem, který by stále umožňoval nezávislou kontrolu.
Rozhodnutí ponechává nezodpovězenou přímou otázku: jak se veřejnost dozví, co vláda ví o rizicích, která představují systémy AI, které testuje?
