Mākslīgā intelekta (MI) radītie teksti kļūst arvien izplatītāki, radot pamatotas bažas redakcijās, universitātēs un pat reliģiskajās institūcijās. Lai cīnītos pret šo parādību, tirgū parādās MI tekstu detektori, kas sola droši atpazīt, vai tekstu radījis cilvēks vai algoritms. Viens no šādiem rīkiem ir Pangram, kura jaunākā versija - Pangram 4.0 - nesen tika palaista ar drosmīgiem paziņojumiem par tās precizitāti. Taču vai šiem solījumiem var uzticēties?
Kas ir Pangram 4.0 un ko tas sola?
Pangram ir MI tekstu detektors, ko izstrādājis ASV uzņēmums, un tas ir paredzēts, lai identificētu MI ģenerētu saturu. Jaunākā versija, Pangram 4.0, tika izlaista jūlija beigās, tieši laikā, kad Eiropas Savienība gatavojas ieviest jaunas MI satura apzīmēšanas prasības, kas stāsies spēkā 2026. gada augustā. Izstrādātāji apgalvo, ka Pangram 4.0 ir ārkārtīgi precīzs, lepojoties ar kļūdainu atpazīšanu (False Positives) rādītāju tikai 0,0041 procentu. Tas nozīmē, ka tikai viens no 24 000 tekstu tiktu kļūdaini atzīts par MI radītu, kaut patiesībā to rakstījis cilvēks.
Realitāte praksē: Testu rezultāti
Pirms tam mēs jau testējām Pangram 3.3.2 versiju, un rezultāti nebija pārliecinoši. Diemžēl arī jaunākā Pangram 4.0 versija neatšķiras. Mūsu veiktajās pārbaudēs tika konstatēts, ka Pangram 4.0 nespēj konsekventi un ticami noteikt MI tekstu klātbūtni. Tāpat tika novērotas nopietnas problēmas ar tekstu klasifikāciju - pat cilvēka rakstīti teksti bieži vien tika nepareizi atzīti par MI veidotiem vai rediģētiem. Tas liecina, ka rīka algoritmi nav pietiekami attīstīti, lai uzticami analizētu tekstu smalkās nianses un atšķirtu mašīnas un cilvēka radīto saturu, pat ja MI ir tikai veicis nelielas korekcijas.
Kāpēc tas ir bīstami?
Neuzticami MI detektori rada nopietnus riskus. Iedomājieties studentu, kura diplomdarbs vai referāts tiek kļūdaini atzīts par MI radītu. Sekas var būt dramatiskas - darbs tiek noraidīts, akūtā reputācija sabojāta, un karjera apdraudēta. Līdzīgi, žurnālistam var atņemt balvu, ja viņa raksts, ko viņš rūpīgi izpētījis un uzrakstījis, tiek nepatiesi apsūdzēts par MI ģenerāciju. Zinātniekiem tas var graut gadiem veidotu reputāciju un apdraudēt pētniecības projektus. Tādējādi, neraugoties uz Pangram izstrādātāju apgalvojumiem par zemu kļūdu līmeni, pat viena kļūda no 24 000 var radīt neatgriezeniskus zaudējumus.
Ko tas nozīmē mums?
Ņemot vērā šos rezultātus, ir skaidrs, ka pašreizējā MI detektoru paaudze, ieskaitot Pangram 4.0, nav uzticams instruments satura autentiskuma noteikšanai. Lai arī cenšanās cīnīties pret MI radītu saturu ir apsveicama, mēs nedrīkstam paļauties uz rīkiem, kas rada vairāk jautājumu nekā atbilžu un apdraud cilvēku godīgumu. Šobrīd, šķiet, cilvēka spēja izvērtēt tekstu un kritiski domāt ir daudz efektīvāka par jebkuru algoritmu.
Kā Tu vērtē MI detektoru nākotni? Vai mēs kādreiz iegūsim patiesi uzticamus rīkus?
Iezīmē tekstu un spied ziņot par kļūdu.
