Si përhapet propaganda
Chatbot-et, të cilët gjenerojnë përgjigje bazuar në grupe të dhënash të mëdha të mbledhura nga interneti, mund të riprodhojnë narrativa të rreme të ngulitura në materialin e tyre të trajnimit. Përmbajtja e lidhur me Rusinë, duke përfshirë mediat e sponsorizuara nga shteti dhe fushatat e koordinuara të dezinformatës, është treguar se shfaqet në përgjigjet e chatbot-eve. Për shkak se modeleve u mungon verifikimi i fakteve në kohë reale dhe nuk mund të dallojnë midis burimeve të vërteta dhe të fabrikuara, ato mund të përforcojnë pa dashje pikat e bisedës së Kremlinit në tema që variojnë nga lufta në Ukrainë deri te ndërhyrjet në zgjedhje.
Ky nuk është një rrezik hipotetik. Studiuesit kanë dokumentuar raste kur chatbot-et kanë gjeneruar përgjigje që pasqyronin tema të njohura të dezinformatës ruse. Problemi përshkon platforma të shumta dhe ofrues chatbot-esh, duke sugjeruar një defekt sistematik në mënyrën se si këto modele trajnohen dhe vendosen.
Auditimi i të dhënave si hap i parë
Një nga zgjidhjet më të menjëhershme qëndron në auditimin rigoroz të të dhënave. Zhvilluesit e chatbot-eve mbështeten në korpusa të mëdha teksti që rrallë pastrohen nga propaganda e lidhur me shtetin. Pa kontrolle sistematike, përmbajtja e dëmshme kalon pa u vënë re. Mjetet e auditimit mund të identifikojnë dhe filtrojnë burimet e njohura të dezinformatës, por ato nuk janë ende praktikë standarde në industri. Mungesa e këtyre masave mbrojtëse do të thotë se propaganda mund të ngulitet në bazën e njohurive të modelit që në fillim.
Sfida është shkalla. Grupet e të dhënave të përdorura për trajnimin e chatbot-eve mund të përmbajnë miliarda dokumente. Identifikimi i çdo pjese të propagandës ruse në mes të këtij zhurme kërkon filtra të automatizuar dhe rishikim njerëzor — një detyrë intensive për burime që shumë kompani hezitojnë ta financojnë. Megjithatë, pasojat e mosveprimit janë të qarta: çdo pjesë e pazbuluar e gënjeshtrës mund të përsëritet për përdoruesit mijëra herë.
Kuadret rregullatore mbeten prapa
Ligjet dhe rregulloret aktuale janë të papërshtatshme për të trajtuar dezinformatën e nxitur nga AI. Në Shtetet e Bashkuara, nuk ka asnjë statut federal që trajton në mënyrë specifike se si chatbot-et duhet të trajtojnë propagandën. Akti i BE-së për AI do të vendosë disa kërkesa për transparencë, por nuk është ende në fuqi. Rajonet e tjera kanë edhe më pak masa mbrojtëse. Ky vakum rregullator e lë publikun të ekspozuar ndaj përmbajtjes së manipuluar me pak mundësi për të kërkuar drejtësi.
Avokatët për mbikëqyrje më të fortë argumentojnë se qeveritë duhet të mandatojnë standarde të proveniencës së të dhënave — duke kërkuar që kompanitë të zbulojnë se nga vijnë të dhënat e tyre të trajnimit dhe si filtrohen. Disa kanë propozuar krijimin e organeve të pavarura auditimi që mund të testojnë chatbot-et për ndjeshmëri ndaj dezinformatës përpara se ato të lëshohen. Por këto ide mbeten propozime, jo politika.
Përhapja e propagandës përmes chatbot-eve të AI nuk
