Dlaczego lokalne AI ma znaczenie
Uruchamianie AI lokalnie oznacza, że dane konwersacji nigdy nie opuszczają maszyny. Zmniejsza to ryzyko ujawnienia przez zewnętrzne usługi w chmurze, które mogłyby zaalarmować obrońców lub pozostawić logi. Grupa zebrała również biblioteki i frameworki do integracji AI, w tym LLaMaSharp, Microsoft Semantic Kernel i Microsoft Agents AI. Znaleziono także pliki związane z Whisper i faster-whisper, obydwa narzędzia do zamiany mowy na tekst — narzędzia, które mogą być wykorzystywane do przetwarzania skradzionych lub zebranych danych audio.
