Oštro
_

Nova vrsta chatbota nazvana »The Check« pridonijet će razumijevanju načina na koji generativna umjetna inteligencija može pomoći fact-checkerima i učiniti provjerene informacije dostupnije javnosti.

The Check je razvio Oštro Slovenija u suradnji s neovisnim i fact-checking portalima Newtral (Španjolska), Delfi (Litva), Lakmusz (Mađarska) i Faktoje (Albanija), a zamišljen je kao vodeći primjer sljedeće generacije chatbotova.

Temelji se na računalnom modelu generiranje s proširenim dohvaćanjem (retrieval-augmented generation tj. RAG), koji kombinira generativnu umjetnu inteligenciju s odabranom bazom provjerenih činjenica. Korisnicima omogućuje postavljanje pitanja, a odgovore potkrjepljuje izvorima.

Tehnički razvoj sustava vodio je Newtral, španjolski fact-checking portal, koji je osigurao da chatbot koristi relevantne informacije iz baze provjerenih, ažurnih tvrdnji, uz održavanje točnosti i razumljivosti. Chatbot je treniran ne samo da pronalazi točne informacije, već i da navodi izvore – što ga razlikuje od drugih alata temeljenih na umjetnoj inteligenciji.

Ostali partneri u konzorciju – vodeći litavski portal na engleskom jeziku Delfi, te fact-checking portali Lakmusz i Faktoje – imali su važnu ulogu u oblikovanju višejezičnosti robota. Fact-checkeri su označavali i pregledavali stotine odgovora koje je stvorila umjetna inteligencija te ocjenjivali njihovu točnost, jasnoću i ispravnost izvora. Taj sustav povratnih informacija bio je ključan za poboljšavanje sustava.

Jedan od izazova za chatbota bilo je pronalaženje odgovarajućeg odgovora na pitanje na temelju postojećih provjerenih činjenica. To je istaknulo temeljno ograničenje umjetne inteligencije: ona može koristiti samo informacije koje već postoje u njezinoj bazi podataka. Ako tvrdnja još nije provjerena i objavljena, The Check nije imao odgovor, ili bi upotrijebio sadržaj koji je tematski srodan, ali ne odgovara izravno na pitanje. To naglašava potrebu za širenjem strukturiranih baza provjerenih činjenica i njihovim preciznijim označavanjem metapodacima.

Čak i kada je chatbot dao točan odgovor, ponekad su se javljali problemi zbog neadekvatnih ili nerelevantnih izvora, pogrešnog jezika ili izmišljenog sadržaja. Ti su primjeri pokazali da za kvalitetan odgovor nije dovoljna samo činjenična točnost – potrebna je i usklađenost između preuzetog sadržaja, jezika pitanja i strukture odgovora. Ključni koraci za smanjenje takvih pogrešaka uključivali su poboljšanje filtriranja izvora unutar RAG-arhitekture, prepoznavanje jezika te provjeru relevantnosti odgovora.

Osim testiranja jezičnih sposobnosti robota, projekt je pružio vrijedne uvide u to kako umjetna inteligencija može nadopuniti rad fact-checkera i omogućiti im da dosegnu širu publiku. Prepoznavanjem slučajeva u kojima tehnologija uspješno funkcionira, te njihovim razlikovanjem od situacija u kojima nailazi na probleme, partneri su postavili temelje za buduće alate koji će biti fleksibilniji i pouzdaniji.

The Check je dio sve većeg trenda inicijativa koje umjetnu inteligenciju ne vide samo kao izazov u borbi protiv dezinformacija, već i kao dio rješenja koje ljudima omogućuje brže prepoznavanje lažnih vijesti.

The Check: Razvoj chatbota za borbu protiv dezinformacija