Anthropic i OpenAI rzekomo dążą do kontroli publikacji ewaluatorów, według źródeł zbliżonych do sprawy. Obie wiodące firmy AI chcą mieć wpływ na to, co niezależni ewaluatorzy mogą publikować o ich modelach. Posunięcie to wzbudziło obawy, że może podważyć przejrzystość i zaufanie w branży AI oraz rodzi trudne pytania dotyczące tajemnic handlowych.
Dążenie do kontroli nad publikacjami ewaluatorów
Ewaluatorzy – często zewnętrzni badacze lub organizacje – testują systemy AI pod kątem bezpieczeństwa, uprzedzeń i wydajności. Ich wyniki są zazwyczaj publikowane otwarcie, co pozwala opinii publicznej, regulatorom i innym firmom ocenić technologię. Jednak Anthropic i OpenAI rzekomo dążą teraz do większej kontroli nad tym, co jest ujawniane. Dokładny mechanizm nie jest jasny: może obejmować umowy, procesy przeglądu lub ograniczenia w publikowaniu określonych szczegółów. Obie firmy podkreśliły potrzebę ochrony tajemnic handlowych, argumentując, że nieograniczone ujawnianie mogłoby dać przewagę konkurentom lub ujawnić wrażliwe metody. Jednak ta sama tajemnica może również ukrywać wady.
Dlaczego przejrzystość ma znaczenie dla zaufania i innowacji w AI
Przejrzystość była kamieniem węgielnym badań nad AI. Kiedy ewaluatorzy publikują swoje metody i wyniki, inni mogą odtworzyć testy, dostrzec słabości i budować na sukcesach. Ten cykl napędza innowacje i buduje zaufanie publiczne. Jeśli firmy mogą zawetować lub kształtować publikacje ewaluatorów, ten cykl się załamuje. Niezależni badacze mogą wahać się przed zgłaszaniem problemów, jeśli obawiają się odwetu. Użytkownicy mogą nie dowiedzieć się o ryzykach, dopóki nie będzie za późno. A regulatorzy, już zmagający się z nadążaniem za AI, mieliby mniej materiałów do pracy. Strony dotknięte tym problemem to nie tylko firmy i ewaluatorzy; obejmują one każdego, kto polega na systemach AI – czyli coraz częściej wszystkich.
Dylemat tajemnicy handlowej
Istnieje tu realne napięcie. Modele AI są drogie w budowie, a firmy mają uzasadnione interesy w ochronie zastrzeżonych technik. Prawo tajemnicy handlowej pozwala przedsiębiorstwom zachować pewne informacje w poufności, pod warunkiem podjęcia rozsądnych kroków w tym celu. Jednak zastosowanie tych ram do publikacji ewaluatorów jest trudne. Ewaluatorzy potrzebują wystarczającego dostępu, aby wykonywać swoją pracę, a opinia publiczna potrzebuje wystarczających informacji, aby zaufać wynikom. Zbyt szerokie roszczenia o tajemnicę mogą stłumić właśnie tę kontrolę, która czyni AI bezpieczniejszą. Anthropic i OpenAI nie ujawniły publicznie swoich propozycji, więc nie jest jasne, gdzie wyznaczyłyby granicę. Co liczy się jako tajemnica handlowa, a co jako troska o bezpieczeństwo publiczne? To pytanie prawdopodobnie będzie przedmiotem sporów w umowach, sądach i debatach politycznych.
Co jest stawką dla branży AI
Branża AI uważnie obserwuje. Jeśli Anthropic i OpenAI odniosą sukces w kontrolowaniu publikacji ewaluatorów, inne firmy mogą pójść w ich ślady. Mogłoby to ustanowić precedens dla sposobu, w jaki firmy AI współpracują z niezależnymi testerami. Startupy i mniejsi gracze mogą czuć presję, aby przyjąć podobne polityki, by pozostać konkurencyjnymi. Tymczasem akademiccy i non-profitowi ewaluatorzy mogą odkryć, że ich praca jest ograniczona. Niektórzy mogą odmówić podpisania restrykcyjnych umów, zmniejszając pulę niezależnej wiedzy specjalistycznej. Inni mogą się dostosować, ale stosować autocenzurę. Tak czy inaczej, jakość i ilość publicznych ewaluacji mogą ucierpieć. Wynik ukształtuje nie tylko to, co wiemy o systemach AI, ale także kto decyduje o tym, co jest bezpieczne.
Brak jasnego rozstrzygnięcia
Anthropic ani OpenAI nie ogłosiły formalnej polityki ani harmonogramu. Dyskusje rzekomo trwają, a żadne umowy nie zostały podane do publicznej wiadomości. Na razie sytuacja pozostaje płynna. Ewaluatorzy, badacze i grupy strażnicze prawdopodobnie będą się sprzeciwiać, jeśli pojawią się konkretne ograniczenia. Regulatorzy w USA i za granicą, już tworzący przepisy dotyczące AI, mogą się tym zainteresować. Podstawowy konflikt – między ochroną tajemnic handlowych a zachowaniem przejrzystości – nie będzie łatwy do rozwiązania. Sposób, w jaki Anthropic i OpenAI będą postępować, będzie testem dla branży. A dla każdego, kto korzysta z AI, stawka jest wysoka: mniejsza przejrzystość może oznaczać większe ryzyko, którego nie widać.
