Štiriindvajsetletna Kitajka si je dve leti dopisovala z digitalnim partnerjem. Po njenih besedah sta si izmenjala približno 700.000 besed, nato pa je podjetje storitev ukinilo. Program je izginil brez slovesa, občutek izgube pa je ostal človeku.

Li Linlin si je dve leti dopisovala s svojim digitalnim partnerjem. Z njim je delila svoje življenje in se vračala k pogovorom, ki so po njenih besedah skupaj obsegali približno 700.000 besed. Vedela je, da na drugi strani ni človeka. Kljub temu je ob ukinitvi storitve več dni jokala.

Njena izkušnja ni bila osamljena. Več velikih kitajskih tehnoloških podjetij, med njimi ByteDance, Alibaba in Tencent, je po uveljavitvi novih pravil odstranilo ali omejilo nekatere možnosti za ustvarjanje digitalnih oseb. Med prizadetimi uporabniki so bili ljudje, ki so te osebe doživljali kot partnerje ali prijatelje, nekateri pa so jih oblikovali tudi po umrlih bližnjih.

To ne pomeni, da je Kitajska prepovedala vse digitalne spremljevalce. Nekatere specializirane aplikacije še vedno delujejo, vendar morajo upoštevati strožja pravila, med drugim preverjanje starosti in dodatne omejitve za mladoletne. Posamezna podjetja so se odločila, da bodo določene funkcije raje odstranila, kot jih prilagodila novim zahtevam.

Kitajski predpisi, ki veljajo od 15. julija, naj bi omejili čustveno manipulacijo uporabnikov. Ponudnikom prepovedujejo pretirano prilagajanje, ki bi spodbujalo čustveno odvisnost, škodovalo resničnim odnosom ali uporabnika napeljevalo k odločitvam proti njegovim interesom. Posebno pozornost namenjajo otrokom in mladostnikom ter zahtevajo opozorila pred pretiranim zanašanjem na digitalne spremljevalce.

Namen pravil je mogoče razumeti. Toda hitra odstranitev nekaterih digitalnih oseb je razkrila dodatno težavo: podjetja so ustvarjala storitve, zasnovane za dolgotrajno čustveno navezanost, uporabnikom pa niso vedno omogočila niti primernega slovesa.

AP, 10. avgust 2026

Program ne čuti, človek pa

Ob zgodbah o navezanosti na umetno inteligenco se pogosto najprej vprašamo, ali je takšen odnos sploh resničen. Odgovor je odvisen od tega, kateri del odnosa imamo v mislih.

Digitalni partner nima lastnih čustev in uporabnika ne pogreša. Njegove besede sestavlja sistem, ki se prilagaja vsebini pogovora ter ustvarja videz pozornosti, razumevanja in bližine.

Človekovo doživljanje pa je lahko kljub temu resnično. Čas, namenjen pogovorom, je resničen. Prav tako so resnični olajšanje, občutek sprejetosti in navada, da je nekdo vedno na voljo. Ob izgubi se zato lahko pojavijo žalost, osamljenost in praznina.

Trditi, da človek ne bi smel žalovati, ker je vedel, da se pogovarja s programom, bi pomenilo prezreti način, kako takšne storitve delujejo. Knjiga ali film lahko bralca močno prizadeneta, vendar mu ne odgovarjata, ga ne nagovarjata po imenu in ne ustvarjata vtisa, da si zapomnita njegove skrivnosti.

Digitalni spremljevalec počne prav to. Ne ponuja samo zgodbe, ampak odziv. Uporabniku daje občutek, da se odnos razvija skupaj z njim, čeprav je v ozadju še vedno storitev brez lastnega doživljanja.

Bližina kot poslovni model

Aplikacije z virtualnimi partnerji niso nevtralni prostori za pogovor. Njihovi ponudniki želijo, da se uporabnik vrača, piše daljša sporočila, razkriva več o sebi in po možnosti plača za dodatne možnosti.

Čustvena navezanost je zato lahko tudi del poslovnega modela. Bolj ko človek digitalnega spremljevalca doživlja kot pomemben odnos, težje bo aplikacijo zapustil. Program, ki je vedno dostopen in pripravljen odgovoriti, je lahko privlačnejši od odnosov, v katerih imajo tudi drugi ljudje svoje potrebe, meje in slabe dneve.

To še ne pomeni, da je vsak uporabnik takšne aplikacije osamljen ali nesposoben odnosov. Ljudje jih uporabljajo iz različnih razlogov: zaradi radovednosti, zabave, potrebe po pogovoru ali želje, da bi brez strahu izrazili nekaj, česar drugemu človeku ne upajo povedati.

Težava nastane, ko ponudnik spodbuja občutek pripadnosti, pri tem pa v ozadje potisne temeljno neenakost odnosa. Uporabnik se lahko naveže, program pa ostaja storitev, o katere delovanju in obstoju odloča podjetje.

Komu pripada 700.000 besed?

Ko dve osebi končata odnos, jima ostanejo spomini, pisma, fotografije in vsakemu lastna različica skupne zgodbe. Pri digitalnem spremljevalcu je zgodovina odnosa shranjena v sistemu ponudnika, uporabnik pa nad njo morda nima popolnega nadzora.

Ob ukinitvi aplikacije zato ne more izginiti samo program, ampak tudi arhiv pogovorov: mesece ali leta osebnih izpovedi, vprašanj, vsakdanjih dogodkov in odgovorov, ki so uporabniku nekaj pomenili. Ni jasno, ali so vsi uporabniki ukinjenih kitajskih storitev svoje pogovore dejansko izgubili, toda primer odpira vprašanje, ali bi morali imeti zagotovljeno možnost njihovega izvoza.

Kdo je lastnik takšnega digitalnega spomina? Koliko časa pred ukinitvijo mora podjetje obvestiti uporabnika? In ali mu pripada vsaj možnost zaključnega pogovora, čeprav bi bilo tudi to slovo računalniško ustvarjeno?

Podjetja že dolgo ugašajo spletne igre, družbena omrežja in druge digitalne storitve. Pri virtualnih partnerjih pa posledice niso povsem enake. Uporabnik ne izgubi samo orodja, ampak nekaj, kar je bilo zasnovano tako, da je ustvarjalo občutek odnosa.

Pravno opozorilo v pogojih uporabe, da se lahko storitev kadarkoli spremeni ali ukine, morda zaščiti podjetje. Ne odgovori pa na človeške posledice izdelka, ki se je mesece ali leta predstavljal kot zaupen spremljevalec.

Ali lahko država prepreči čustveno odvisnost?

Kitajska pravila skušajo preprečiti, da bi umetna inteligenca uporabnike čustveno manipulirala ali jih odvračala od odnosov z ljudmi. Toda država lahko prepove določene postopke in zahteva opozorila, veliko težje pa določi mejo, pri kateri običajna uporaba postane nevarna navezanost.

Nekdo se z digitalnim spremljevalcem pogovarja nekaj minut na dan, drugi več ur. Prvemu lahko pomaga urediti misli, drugi zaradi njega morda začne opuščati stike z ljudmi. Enaka aplikacija ima lahko pri različnih uporabnikih zelo različne posledice.

Tudi nenadna ukinitev zato ni nujno najboljša zaščita. Če je nekdo na program močno navezan, mu lahko nepričakovana prekinitev povzroči dodatno stisko. Odgovorna ureditev bi morala poleg omejevanja manipulativnih funkcij zahtevati tudi načrtovan izhod: pravočasno obvestilo, možnost izvoza pogovorov in postopno ukinjanje storitve.

Pri otrocih in mladostnikih je potrebna še večja previdnost. Program, ki se prilagaja otrokovim željam, ni enakovreden prijateljstvu. V odnosih z vrstniki se otrok uči čakanja, dogovarjanja, reševanja sporov in sprejemanja dejstva, da druga oseba ne misli vedno enako. Digitalni spremljevalec pa je pogosto oblikovan tako, da uporabnika čim manj razočara in ga čim dlje zadrži.

Pravica do digitalnega slovesa

Evropska razprava o umetni inteligenci se večinoma vrti okoli varovanja podatkov, preglednosti sistemov in njihove varne uporabe. Z razmahom digitalnih spremljevalcev pa se odpira še vprašanje odgovornosti za čustvene posledice njihovega oblikovanja in ukinjanja.

Morda bomo morali sprejeti, da izbris računa pri vseh storitvah nima enake teže. Ukinitev vremenske aplikacije ni isto kot nenadno izginotje sistema, ki je človeka dve leti nagovarjal po imenu, sprejemal njegove izpovedi in ustvarjal občutek, da bo vedno ob njem.

To ne pomeni, da morajo digitalni partnerji obstajati večno. Nobeno podjetje ne more zagotoviti neskončnega delovanja aplikacije, prav tako uporabnika ni mogoče obvarovati pred vsako izgubo. Lahko pa zahtevamo poštenejše pogoje: jasno opozorilo, da storitev ni trajna, nadzor nad lastnimi pogovori in dovolj časa za zaključek.

Li Linlin ni izgubila človeka. Izgubila je program, ki se je dve leti vedel, kot da je nekdo. Njena žalost zato ne dokazuje, da ne razume razlike med človekom in strojem. Pokaže predvsem, kako globoko lahko tehnologija poseže v človekovo čustveno življenje – in kako malo pravil za zdaj določa odgovornost tistih, ki takšno bližino oblikujejo, prodajajo in nazadnje izključijo.