Družba / Digitalni svet

Umetna inteligenca lahko dobi novo ime hitreje, kot dobi nove sposobnosti. Ko ji oblast nadene naziv »superinteligenca«, spremeni predvsem način, kako jo predstavlja javnosti. Toda prav ta sprememba je vredna pozornosti: od besed je pogosto odvisno, koliko avtoritete bomo pripisali odgovoru na zaslonu.

Ameriško pravosodno ministrstvo je 6. oktobra zaposlenim naročilo, naj v večini uradnih okoliščin izraz »umetna inteligenca« nadomestijo s »superinteligenco«. Po memorandumu, ki ga je videl Reuters, naj bi sprememba zajela javna sporočila, dokumente in, kjer je primerno, tudi sodne vloge. Navodilo sledi predsedniškemu ukazu Donalda Trumpa, ki novo poimenovanje utemeljuje s potencialom hitro razvijajoče se tehnologije. www.reuters.com

S tem noben sistem ni opravil dodatnega preizkusa. Njegovi odgovori niso postali zanesljivejši in njegove napake niso izginile. Spremenil se je uradni besednjak.

Zakaj bi se torej ustavili pri njem?

Ker izraz »superinteligenca« v pogovor prinese precej veliko obljubo. Človeku, ki se s tehnologijo ne ukvarja podrobno, lahko sugerira nekaj, kar nas v razumevanju že presega. Predpona super opravi svoje delo, še preden vprašamo, na katerem področju, po katerem merilu in s kakšnimi omejitvami naj bi bilo to preseganje ugotovljeno.

Ime, ki preskoči vprašanje

Pri poimenovanju tehnologije nikoli ne gre samo za slovar. Že izrazi, kot so pametni telefon, pametni dom in pametno mesto, nas vabijo k določenemu pričakovanju. Izdelek se predstavi z lastnostjo, ki jo cenimo, njegovo uporabnost pa preverjamo šele pozneje.

S »superinteligenco« je obljuba še večja. Pameten telefon si lahko predstavljamo kot priročno napravo. Superinteligenca zveni kot sogovornik, pred katerim bi morali biti nekoliko skromnejši.

Tu se odpre vprašanje zaupanja. Ali bomo enako odločno preverili odgovor, če nam ga ponuja orodje, ki se uradno predstavlja kot nekaj nad našo inteligenco? Bomo napako hitreje pripisali sebi, ker domnevamo, da je sistem gotovo razumel nekaj, česar mi nismo?

To so vprašanja o možnem učinku jezika, ne dokaz, da bo vsak uporabnik zaradi novega izraza postal manj kritičen. Vendar jih ni pametno odpraviti kot malenkost. Oblast svoje besede uporablja v dokumentih, navodilih in javnih nastopih. Z njimi ustvarja okvir, znotraj katerega naj bi javnost razumela njene odločitve.

Prihodnost v sedanjem času

Pri razvoju umetne inteligence je treba razlikovati med tem, kar sistem danes zmore, in tem, kar njegovi razvijalci pričakujejo od prihodnjih različic. Oboje je lahko pomembno, vendar ima drugačno težo.

Napoved je prostor možnosti. Preizkus sposobnosti pa zahteva konkretno nalogo, merilo uspešnosti in pregled rezultatov.

Če ime prihodnje možnosti prenesemo na sedanje izdelke, se razlika zabriše. Tehnologija začne nositi ugled dosežka, ki ga mora šele dokazati. Ob tem lahko tudi običajna omejitev zveni kot začasna nevšečnost na poti do nečesa veličastnega, namesto kot lastnost, s katero mora uporabnik računati že zdaj.

Ni treba zanikati izjemnih sposobnosti posameznih sistemov, da bi zahtevali natančnost. Prav ob zmogljivi tehnologiji jo potrebujemo toliko bolj. Kje deluje dobro? Kdaj se moti? Kdo preveri rezultat? Ali človek lahko odločitvi ugovarja?

Na nobeno od teh vprašanj predpona super ne odgovori.

Kdo bo odgovoren za odgovor?

V uradnem okolju imajo besede tudi praktično težo. Če institucija uporabi računalniški sistem pri pripravi dokumenta ali presoji primera, mora biti mogoče ugotoviti, kako je nastal rezultat in kdo ga je preveril.

Predstavljajmo si človeka, ki prejme napačno odločitev. Njegova težava ni, ali je bil uporabljeni sistem dovolj napreden, da si zasluži imenitnejši naziv. Potrebuje pojasnilo, možnost popravka in odgovorno osebo.

Veličastno poimenovanje lahko to razmerje zamegli, če začne institucija svoje ravnanje predstavljati kot posledico tehnološke avtoritete. Toda uporaba sistema ostaja človeška in organizacijska odločitev. Nekdo ga izbere, določi njegovo vlogo in sprejme rezultat.

Tudi zelo sposobnemu stroju zato ne bi smeli prepustiti vloge, za katero nam nihče ne zna pojasniti, kdo bo odgovarjal ob napaki.

Manj občudovanja, več jasnosti

Javnosti ni treba postati skupnost računalniških strokovnjakov, da bi smela postavljati taka vprašanja. Razumljiva pojasnila so dolžnost tistih, ki tehnologijo uvajajo v naše življenje, zlasti kadar z njo izvajajo javno oblast.

Uradni jezik bi nam moral pomagati razlikovati med dosežkom, obljubo in tveganjem. Če vse troje združi v eno navdušujočo besedo, postane razumevanje težje.

Morda bodo prihodnji sistemi upravičili tudi izraze, ki se nam danes zdijo pretirani. To bo treba pokazati z njihovim delovanjem. Do takrat lahko novo ime mirno sprejmemo kot predmet politične razprave, ne kot potrdilo o sposobnostih.

Ko nam naslednjič kdo predstavi »superinteligenco«, je zato povsem primerno vprašati: kaj natančno zna in kdo je to preveril?

Vir: Reuters, 6. oktober 2026 – navodilo ameriškega pravosodnega ministrstva o poimenovanju umetne inteligence.