Umetna inteligenca postaja del našega dela, šolanja in vsakdanjih odločitev. Njeno varnost pa težko presojamo, če ne vemo, kdo jo preverja, kaj sme pregledati in ali lahko svoje ugotovitve tudi objavi.

Ko odpremo novo digitalno orodje, nas navadno zanima, kaj zmore. Ali bo skrajšalo delo, prevedlo besedilo, uredilo fotografijo, pomagalo pri učenju? Varnost ostane nekje v ozadju, kot opravilo, za katero je gotovo že nekdo poskrbel.

Podjetje ima strokovnjake. Država ima ustanove. Nekje obstajajo preizkusi.

Toda med obstojem preverjanja in njegovo neodvisnostjo je precej prostora.

Associated Press je v prispevku, objavljenem 8. novembra in naslednji dan povzetem v drugih medijih, opozoril na razmere v ameriškem državnem centru za preverjanje umetne inteligence CAISSI. Center nima stalnega direktorja in je prenehal javno objavljati raziskave; po navedbah dveh nekdanjih uradnikov naj bi zaposlene tudi pozvali k neformalnemu poročanju uradu Bele hiše. Kritiki se bojijo političnega vpliva, drugi pa menijo, da bi bližina predsedniškega urada centru lahko prinesla večjo težo in sredstva. Te navedbe same po sebi še ne dokazujejo prirejanja rezultatov. apnews.com

Odprejo pa vprašanje, ki sega precej dlje od ene ameriške ustanove: kaj mora biti izpolnjeno, da beseda »preverjeno« sploh kaj pomeni?

Preizkus je lahko strokovno zahteven, opravljen pošteno in kljub temu preozek. Lahko ugotovi, da sistem dobro opravlja določeno nalogo, ne pove pa dovolj o tem, kaj se zgodi v drugačnih okoliščinah. Lahko preverja nevarnosti, ki so pomembne razvijalcu, medtem ko uporabnika skrbijo druge.

Zato ob zagotovilu o varnosti potrebujemo tudi pojasnilo: varno za koga, pri kateri uporabi in pod kakšnimi pogoji?

Pri digitalnih orodjih se te razlike hitro izgubijo. Sistem, ki primerno pomaga pri oblikovanju vabila, še ni zaradi tega zanesljiv pri odločanju o človekovih pravicah. Uspešno opravljen preizkus ene sposobnosti ne more biti splošno potrdilo za vse, kar mu bomo pozneje naložili.

Beseda »varno« je brez okoliščin preveč udobna.

Pomembno je tudi, kdo izbira preizkuševalca in kdo odloči, kaj bo javnost izvedela. Zunanja presoja ima vrednost, vendar njena neodvisnost ni zagotovljena že s tem, da jo opravi druga organizacija. Če naročnik določa dostop, obseg pregleda in objavo rezultatov, je treba poznati tudi te omejitve.

To ni razlog za samodejen sum v vsakega strokovnjaka, ki sodeluje s podjetjem. Je razlog za ureditev odnosov, pri kateri strokovnjaku ni treba izbirati med neprijetno ugotovitvijo in nadaljnjim sodelovanjem.

Podobna napetost obstaja v politiki. Vlada si lahko hkrati želi hitrega tehnološkega razvoja, novih naložb, strateške prednosti in strogega preverjanja tveganj. Ti cilji niso vedno skladni.

Kaj se zgodi, ko bi temeljitejši pregled upočasnil izdelek, ki ga država predstavlja kot dokaz svojega napredka? Kdo sme reči, da je treba počakati? In ali lahko to pove javno?

V takšnem trenutku se pokaže dejanska moč nadzorne ustanove. Njeno ime, sedež in pravilnik so šele začetek. Potrebuje ljudi, sredstva in dovolj samostojnosti, da lahko objavi tudi rezultat, ki ga nihče od vplivnih udeležencev ne bo vesel.

Seveda vseh podrobnosti preverjanja ni mogoče razkriti. Objava nekaterih ranljivosti bi lahko olajšala zlorabo, obstajajo tudi upravičene poslovne in varnostne omejitve. Toda iz tega še ne sledi, da mora biti javnosti nedostopna celotna presoja.

Pojasniti je mogoče, katere vrste tveganj so preverjali, kaj je ostalo zunaj pregleda, kdo je sodeloval in katere pomanjkljivosti še niso odpravljene. Tudi priznana omejitev je pomemben podatek. Uporabniku pove, kje mora biti previdnejši, odgovornim pa prepreči, da bi delni uspeh predstavljali kot dokončno zagotovilo.

Od posameznika ne moremo pričakovati, da bo pred uporabo vsakega orodja postal strokovnjak za računalništvo. Lahko pa od ustanov in podjetij pričakujemo razumljivo obrazložitev njihovih trditev.

Zaupanje namreč ni samo občutek, da nekdo ve več od nas. Je tudi možnost, da njegovo zagotovilo preveri nekdo, ki mu sme nasprotovati.

Ob naslednji predstavitvi nove umetne inteligence bi zato poleg vprašanja, kaj vse zmore, potrebovali še eno: kdo ima dovolj dostopa in svobode, da nam pove, česa ji še ne smemo zaupati?

Vir: Associated Press – poročilo o neodvisnosti ameriškega centra za varnost umetne inteligence, objavljeno 8. novembra 2026. Besedilo je komentar na podlagi poročila, ne samostojna preiskava delovanja centra.