Večina vprašanih Američanov meni, da podjetja ne storijo dovolj za preprečevanje nevarnih posledic umetne inteligence. To ni nujno glas proti tehnologiji. Je predvsem sporočilo, da družba noče prepustiti odločanja o sprejemljivem tveganju tistim, ki od hitrega razvoja največ pričakujejo.

Strah ni enak zavračanju

V raziskavi Reuters/Ipsos je 73 odstotkov vprašanih odgovorilo, da podjetja, ki razvijajo umetno inteligenco, ne storijo dovolj za preprečevanje morebitnih katastrofalnih posledic. Več kot polovica, 55 odstotkov, bi podprla upočasnitev razvoja, dokler varnostni ukrepi ne dohitijo zmogljivosti novih sistemov.

Na prvi pogled bi lahko rezultate razložili kot odpor do nove tehnologije. Toda takšna razlaga bi bila preprosta in verjetno napačna. Ljudje že uporabljajo umetno inteligenco pri pisanju, prevajanju, učenju, načrtovanju potovanj, programiranju in delu. Težava ni nujno v tem, da ne bi videli koristi. Težava je, da ne vedo, kdo varuje njihove interese, ko se koristi spremenijo v tveganje.

V isti raziskavi je 73 odstotkov vprašanih dalo prednost varnemu in odgovornemu razvoju, le 23 odstotkov pa hitremu napredovanju zaradi tekmovanja z drugimi državami. Javnost torej ne sporoča, naj se razvoj ustavi. Sprašuje, zakaj bi morala sprejeti neomejeno hitrost samo zato, ker podjetja in države drug drugega opozarjajo, da bo sicer nekdo drug prvi.

Podjetje ne more biti hkrati tekmovalec in sodnik

Razvijalci umetne inteligence pogosto zagotavljajo, da nevarnosti razumejo najbolje, ker poznajo svoje modele, njihove zmogljivosti in slabosti. To je deloma res. Nihče nima boljšega vpogleda v notranjost sistema kakor podjetje, ki ga je izdelalo.

Toda isto podjetje želi model tudi čim prej ponuditi uporabnikom, pritegniti vlagatelje in prehiteti tekmece. Od njega zato pričakujemo nekaj skoraj nemogočega: da bo samo določilo mejo, pri kateri bi moralo zaradi javne varnosti upočasniti lasten poslovni uspeh.

Samoregulacija deluje, dokler previdnost ne postane konkurenčna slabost. Če eno podjetje več mesecev preverja nov model, drugo pa ga medtem pošlje na trg, je odgovornost prvega lahko nagrajena z izgubljenimi uporabniki. V takšnem okolju tudi razumen direktor težko ravna, kot da tekme ni.

Prav zato nezaupanje javnosti ni nujno nerazumevanje tehnologije. Lahko je povsem razumna presoja navzkrižja interesov.

Beseda »katastrofa« zamegli vsakdanje posledice

Razpravo o umetni inteligenci pogosto obvladujejo najbolj dramatične napovedi: sistem naj bi ušel človeškemu nadzoru, samostojno izvajal kibernetske napade ali nekoč celo ogrozil obstoj človeštva. Takšni scenariji so sporni, njihove verjetnosti pa ni mogoče zanesljivo izračunati.

Medtem se manj filmske posledice dogajajo že zdaj.

Zaposleni ne vedo, ali delodajalec z umetno inteligenco nadzira njihovo delo. Ustvarjalci ne vedo vedno, ali so bila njihova besedila in podobe uporabljeni za učenje modelov. Starši ne vedo, kakšne pogovore lahko klepetalnik vodi z otrokom. Uporabnik težko ugotovi, ali je odgovor nastal iz preverljivih podatkov, ugibanja ali pristranskosti, skrite v učnem gradivu.

Za družbo je zato morda nevarno, če se pogovor o varnosti omeji na vprašanje, ali nas bo nekoč uničil izjemno zmogljiv stroj. Preden bi se uresničil takšen scenarij, lahko precej običajni sistemi neopazno spremenijo zaposlovanje, izobraževanje, dostop do informacij in razmerje med državljanom ter institucijo.

Zaupanje ni gumb v uporabniških nastavitvah

Tehnološka podjetja poskušajo zaupanje pogosto graditi z varnostnimi filtri, opozorili in možnostjo prijave neprimernega odgovora. Vse to je potrebno, vendar ne zadostuje.

Zaupanje ne nastane zato, ker se uporabniku prikaže novo okence s pogoji uporabe. Nastane, ko so pravila jasna tudi takrat, ko podjetju niso v korist. Ko neodvisni strokovnjaki lahko preverijo varnostne trditve. Ko je večji incident razkrit, preden ga odkrijejo novinarji. Ko človek ve, kdo odgovarja za škodo in kam se lahko obrne.

Umetna inteligenca je pri tem poseben primer. Njeno delovanje je tudi razvijalcem včasih težko v celoti razložiti, modeli pa se uporabljajo na načine, ki jih njihovi ustvarjalci niso predvideli. Podjetje zato ne more zagotoviti, da ne bo nikoli prišlo do napake. Lahko pa pokaže, kako jo bo odkrilo, o njej poročalo in jo odpravilo.

Prav odnos do napake pove več kakor še tako uglajena predstavitev odgovornega razvoja.

Pravila niso sovražnik inovacije

Nasprotniki strožjega urejanja opozarjajo, da bi lahko predpisi zavrli razvoj, utrdili položaj največjih podjetij in Evropo še bolj oddaljili od ameriških ter kitajskih tekmecev. To opozorilo ni neutemeljeno. Zapletena pravila lažje izpolni korporacija z oddelkom pravnikov kakor majhno raziskovalno podjetje.

Toda iz tega ne sledi, da pravil ne potrebujemo. Pomeni le, da morajo biti dovolj jasna, sorazmerna in usmerjena v dejanska tveganja.

Tudi avtomobilska varnost, zdravila in gradbeni standardi omejujejo, kaj sme proizvajalec poslati na trg. Njihov namen ni preprečiti avtomobilov, zdravil ali stavb, temveč zagotoviti, da cene napredka ne plača človek, ki pri odločanju ni sodeloval.

Pri umetni inteligenci je to še pomembnejše, ker se posledicam težko izognemo. Človek se lahko odloči, da klepetalnika ne bo uporabljal, ne more pa vedeti, ali ga bo z njim ocenjeval delodajalec, zavarovalnica, šola ali državni organ. Osebna previdnost ne pomaga veliko, kadar sistem uporablja nekdo drug.

Kdo ima pravico do dvoma?

V razpravi o tehnološkem napredku se previdnost pogosto predstavlja kot strah pred prihodnostjo. Kdor zahteva počasnejši razvoj, naj bi ne razumel inovacij ali želel ohraniti stari svet.

Toda dvom ni vedno nasprotje napredka. Včasih je njegov nujni nadzor.

Ko javnost podjetjem ne zaupa, odgovor ne more biti samo boljša predstavitev koristi umetne inteligence. Ljudje morda prednosti že poznajo. Prepričati jih je treba, da bodo smeli sodelovati tudi pri določanju meja.

Umetna inteligenca lahko pomaga pri odkrivanju zdravil, dostopnejšem izobraževanju, znanstvenem raziskovanju in opravilih, ki ljudem jemljejo čas. Toda prav velika obljuba zahteva več odgovornosti, ne manj. Čim globlje tehnologija vstopa v življenje, tem manj je lahko njena varnost zasebna stvar razvijalca.

Pravo vprašanje zato ni, ali umetni inteligenci zaupamo. Stroj sam po sebi ne sklepa pogodb z družbo in ne nosi pravne odgovornosti. Vprašanje je, ali zaupamo ljudem in ustanovam, ki odločajo, kako hitro bo napredoval, kje bo uporabljen ter kdo bo nosil posledice njegovih napak.

Če tega zaupanja ni, težave ne bo rešila še zmogljivejša različica istega sistema.

Rubrika: Digitalni svet
Vir: Reuters/Ipsos, 22. septembra 2026