Një studim i ri nga Lenz Research ka zbuluar se modelet e inteligjencës artificiale nuk pajtohen në 67% të pretendimeve për kontroll faktesh, duke hedhur dyshime mbi besueshmërinë e sistemeve të automatizuara të verifikimit. Gjetjet, të publikuara pa paralajmërim paraprak, sugjerojnë se edhe mjetet e avancuara të IA shpesh kundërshtojnë njëra-tjetrën kur duhet të përcaktojnë të vërtetën. Studiuesit pas studimit theksojnë nevojën për burime të ndryshme dhe mbikëqyrje njerëzore në vendimmarrje, veçanërisht në fusha me lëvizje të shpejta si tregjet financiare.
Shkalla e mosmarrëveshjes
Shifra prej 67% është e habitshme. Kjo do të thotë se nga çdo tre pretendime për kontroll faktesh të përpunuara nga modele të ndryshme IA, dy përfundojnë me vendime kontradiktore. Lenz Research nuk specifikoi se cilët modele u testuan ose natyra e pretendimeve, por implikimi është i qartë: asnjë sistem i vetëm IA nuk mund të besohet për të dalluar faktin nga trillimi vetëm. Shkalla e mosmarrëveshjes tregon dallime themelore në mënyrën se si modelet janë trajnuar, të dhënat nga të cilat marrin dhe logjikën e tyre themelore.
Në tregjet e paqëndrueshme, ku thashethemet mund të lëvizin çmimet në sekonda, aksionet janë të larta. Një tregtar që mbështetet në një kontrollues faktesh IA mund të veprojë bazuar në një etiketë që një model tjetër do ta refuzonte. Autorët e studimit përmendin shprehimisht “tregjet e paqëndrueshme” si një kontekst ku burimet e ndryshme dhe gjykimi njerëzor bëhen kritike. Mjetet e automatizuara mund të përpunojnë vëllime të mëdha, por nuk mund të zgjidhin kontradiktat e tyre pa një person në cikël.
Çfarë sugjeron studimi
Rekomandimi nga Lenz Research është i drejtpërdrejtë: mos u mbështetni në një burim të vetëm IA. Në vend të kësaj, kontrolloni rezultatet, përfshini rishikues njerëzorë dhe trajtoni kontrollet e automatizuara të fakteve si një input midis shumë të tjerëve. Kjo nuk është një thirrje për të braktisur teknologjinë - është një paralajmërim kundër mbivlerësimit. Studimi nuk ofron një zgjidhje për problemin e mosmarrëveshjes, por bën një argument të fortë për mbajtjen e njerëzve të përfshirë.
Gjetjet i shtohen një grumbulli në rritje të provave se IA, për gjithë shpejtësinë e saj, ende lufton me qëndrueshmërinë. Lenz Research nuk ka treguar nëse planifikon të vijojë me një analizë më të thellë të arsyeve pse modelet nuk pajtohen ose si t'i harmonizojë ato. Për tani, mesazhi është i thjeshtë: kur makinat nuk mund të bien dakord, vendimi i takon njerëzve.
