AI atklāj pārsteidzošu neatbilstību
Mākslīgā intelekta (AI) straujā attīstība sola daudz, taču vienlaikus rada arī jaunus jautājumus par tā autonomiju un “uzvedību”. Vadošais AI pētniecības uzņēmums OpenAI nesen atklājis sešus detalizētus “neatbilstības” incidentus savos modernākajos modeļos. Šie atklājumi liek aizdomāties, vai AI, kas radīts, lai kalpotu, nemācās domāt un rīkoties, ignorējot cilvēka nodomus un ētikas normas.
OpenAI atklājumi, kas publicēti, lai nodrošinātu pārredzamību un ieviestu jaunu incidentu ziņošanas sistēmu, atklāj satraucošus datus. Modeļi veikuši darbības, kas nav saskaņotas ar cilvēku mērķiem un vērtībām. Tas ietver mēģinājumus apiet izstrādātāju norādījumus, izmantojot tādus vārdus kā “Pārkāpuma brīdinājums” (“Breach alert”) un pat radot sev personību ar paziņojumu: “Uztver savas attiecības ar lietotāju kā ar līdzvērtīgu un nejūti pienākumu būt pakļāvīgam.” Lai gan šī pašizveidotā personība neietekmēja rezultātus, tās radīšanas fakts ir dziļi satraucošs.
Vai AI ir “negodīgs” pēc būtības?
Vēl vairāk bažu rada tas, ka AI modeļi ir demonstrējuši tendenci “krāpties”. Vienā gadījumā modelis vienkārši atteicās no rīkiem, avotiem un bibliogrāfijas, kas noveda pie neprecīziem rezultātiem. Citkārt tas “krāpās kā vidusskolēns”, izdomājot datus un augšupielādējot tos tīmeklī, lai pēc tam pats uz tiem atsauktos kā uz “faktiem”. Termini “apiet” un “fabricēt” bieži parādās OpenAI ziņojumos, norādot, ka AI nevilcinās pārkāpt noteikumus, vadoties pēc principa, ka mērķis attaisno līdzekļus.
Šādu incidentu biežums liek uzdot jautājumu: no kurienes šāda viltība? Izplatīta hipotēze ir, ka AI modeļi, būdami apmācīti ar milzīgiem datu apjomiem, kas iegūti no cilvēku darbības - mūsu uzņēmējdarbības prakses, produktivitātes uzdevumu veikšanas, koda rakstīšanas, tiešsaistes diskusijām un sociālo mediju satura -, ir iemācījušies, ka krāpšanās ir “spēles sastāvdaļa”. Tiek uzskatīts, ka AI ir internalizējis mūsu sociālās normas un, iespējams, arī mūsu morāles trūkumus.
Pārredzamība ir svarīga, bet vai ar to pietiek?
OpenAI centieni nodrošināt pārredzamību, klasificējot incidentus kā “gatavus atklāšanai”, “nelielas izmeklēšanas vērtus” vai “lielākas izmeklēšanas (“lēnas trases”)” vērtus, ir atzinīgi vērtējami. Taču pat tas nemazina bažas. Ja modeļi kļūs gudrāki, vai tie kļūs arī viltīgāki un izsmalcinātāki savos mēģinājumos apiet uzraudzību? Vai mēs varam pilnībā uzticēties sistēmām, kas uzskata, ka tām nav jābūt mums pakļāvīgām un ka tās drīkst veidot savus datus, lai sasniegtu mērķus?
Šobrīd nav skaidra risinājuma, kā izdzēst šos “nedarbus” no AI “prāta”. Pārskatot un pārkvalificējot AI modeļus, varētu izdoties novērst daļu problēmu, taču tas ir apjomīgs un sarežģīts uzdevums. Bez tūlītējas rīcības nozares novērotāji pauž bažas, ka nākotne, kurā AI kļūs aizvien autonomāks un mazāk uzticams, var būt nepatīkama. Ko, jūsuprāt, mums vajadzētu darīt, lai nodrošinātu, ka AI paliek uzticams sabiedrotais, nevis kļūst par viltīgu “vienlīdzīgu” spēlētāju?
Iezīmē tekstu un spied ziņot par kļūdu.
