KAJ ČE PRI UMETNI INTELIGENCI GLEDAMO V NAPAČNO SMER?

Za suženjstvo, svetovni vojni in množično preganjanje ljudi nismo potrebovali velikih jezikovnih modelov. Propaganda je imela uspešno kariero že precej pred podatkovnimi centri, pohlep pa se je zadovoljil tudi s papirjem in svinčnikom. Če bi bila človeška uničevalnost odvisna od zmogljivosti računalnikov, bi morala biti zgodovina pred njihovim izumom nadvse prijetno branje. Šolski učbeniki žal ne podpirajo te domneve.

Zato je ob vprašanjih, kako bi nam umetna inteligenca lahko škodovala, smiselno odpreti še nekoliko manj udobno temo. Kako bi nam lahko pomagala zmanjšati škodo, ki jo ljudje že povzročamo? Od stroja zahtevamo, da bo varen, predvidljiv in odgovoren, medtem ko pri sebi za začetek pogosto sprejmemo že dobro napisan izgovor. Ta razlika si zasluži vsaj toliko pozornosti kot najbolj dramatična napoved tehnološke prihodnosti.

Pri tem odgovornosti ne smemo porazdeliti tako enakomerno, da bi razlike med povzročitelji škode in njenimi žrtvami izginile. Vojne imajo odločevalce, izkoriščanje upravičence, zavajanje pa naročnike in razširjevalce. Obsojati abstraktno »človeško naravo« je udobno, ker od nikogar ne zahteva spremembe konkretnega ravnanja. Uporabnejše je vprašati, kje nagrajujemo brezbrižnost, prikrivanje napak ali kratkoročno korist na račun drugih.

Katastrofa ima dober naslov

Privlačnost slabih novic je mogoče tudi meriti. Robertson in sodelavci so v raziskavi približno 105.000 različic spletnih novic na portalu Upworthy ugotovili, da je dodatna negativna beseda pri naslovu povprečne dolžine povečala stopnjo klikov za približno 2,3 odstotka. To je relativno povečanje, ne razlika 2,3 odstotne točke. Izsledek opisuje preučevano okolje, ne odnosa vseh medijev do AI, vendar pokaže, da ima lahko izbira negativnih besed merljivo vrednost v boju za pozornost. Robertson in sodelavci, 2023⁠.

Kadar uspeh objave presojamo predvsem po klikih, s tem ustvarjamo spodbudo za vsebine, ki jih prinašajo. Katastrofa ima pri takšni poslovni zamisli privlačno lastnost, saj jo je mogoče prodajati že pred dobavo. Bralec medtem potrebuje tudi oceno verjetnosti opisanega razpleta, razlago pogojev, pod katerimi bi nastal, in možnosti ukrepanja. Brez tega mu prodajamo vznemirjenje, račun za slabo presojo pa bo poravnal sam.

Človeški zgodovinski neuspehi seveda niso dokaz varnosti AI. Novo orodje lahko poveča obseg škode, napake pa nastanejo tudi brez zlonamernega uporabnika. Od razvijalcev in organizacij moramo zato zahtevati preverjanje delovanja ter odpravljanje pomanjkljivosti. Enako vztrajno bi morali preverjati koristne uporabe, saj varnostna razprava ne odgovori na vprašanje, komu bi lahko tehnologija že danes pomagala in kaj mu preprečuje dostop do nje.

Učilnica za učence in odrasle

Predstavljajmo si trideset otrok, ki jim mora učiteljica v eni uri razložiti isti pojem. Nekdo potrebuje skico, drugi praktičen primer, tretji pa še nekaj časa, preden sploh prepozna, česa ne razume. Dobro zasnovan učni pomočnik bi lahko ponudil dodatno razlago in vajo, učiteljica pa bi spremljala razumevanje ter pomagala tam, kjer pogovor zahteva več kot pravilno rešitev. Takšna zamisel si zasluži preizkus tudi brez obljube, da bomo zbornico zamenjali za strežniško omaro.

Na Harvardu so leta 2025 objavili raziskavo s 194 študentkami in študenti fizike, v kateri je bila mediana izboljšanja testnega rezultata pri namensko zasnovanem pomočniku AI več kot dvakrat tolikšna kot pri primerjanem aktivnem učenju v razredu. Merili so znanje neposredno po dveh učnih enotah, zato dolgoročno pomnjenje ostaja odprto vprašanje. Kljub omejenemu obsegu je to spodbuden rezultat za konkretno obliko učne pomoči in dober razlog za nadaljnje preverjanje njene uporabnosti. Kestin in sodelavci, 2025⁠.

Druga raziskava nas prizemlji ravno tam, kjer bi trženje najraje že naročilo plakat. Pri skoraj tisoč srednješolskih učenkah in učencih je pomočnik, podoben običajnemu klepetalniku, izboljšal rezultate med reševanjem s pomočjo. Ko so nato reševali brez nje, je ta skupina dosegla približno 17 odstotkov slabši rezultat od skupine brez predhodnega dostopa. Različica z učnimi varovalkami je negativne učinke večinoma ublažila. Dobljena rešitev in pridobljeno znanje se torej lahko precej razlikujeta. Bastani in sodelavci, 2025⁠.

Iz tega sledi uporabna usmeritev za pouk. Učenec naj najprej poskusi sam, pomočnik naj ponudi namig in razlago, nato pa naj učenec sorodno nalogo reši brez pomoči. Učitelji naj ocenjujejo tudi postopek in razumevanje, šola pa naj spremlja, komu orodje koristi in kdo ob njem izgublja samostojnost. Dodatna razlaga lahko tako postane dostopnejša, merilo uspeha pa ostane to, kar učenec zna tudi po zaprtju pogovornega okna.

Ob tem ostaja delo, ki ga naročnina na programsko opremo ne opravi. Otrok potrebuje odrasle, ki znajo priznati napako, poslušati ugovor in pošteno ravnati tudi takrat, ko jih nihče ne ocenjuje. Če doma vidi, da izmišljeno novico opravičimo, ker škoduje »pravim«, bo lekcijo razumel precej bolje od predavanja o digitalni pismenosti. Najprej mu pokažemo, da je poštenost odvisna od koristi, nato pa se čudimo, ko to pravilo uporabi pri domači nalogi.

Nasprotnik bi rad prišel do besede

Podobna vaja bi koristila politični razpravi. Ko nasprotniku pripišemo najslabši možni motiv, se nam z njegovim dejanskim argumentom ni več treba ukvarjati. Če stori napako, je razkrit njegov značaj, če jo stori naš predstavnik, pa nenadoma odkrijemo zapletenost okoliščin. Kontekst je čudovita stvar, zlasti kadar ima člansko izkaznico.

Da bi AI lahko pomagala pri iskanju skupnih stališč, kaže raziskava sistema Habermas Machine, objavljena leta 2024 v reviji Science. V več preizkusih je skupaj sodelovalo 5.734 ljudi. Pri primerjavi skupnih izjav so sodelujoči dajali prednost besedilom AI pred besedili človeških posrednikov in jih ocenjevali kot jasnejša, bolj informativna ter manj pristranska. Analiza besedil je zaznala tudi vključevanje odklonilnih pogledov ob upoštevanju večinskega stališča. Tessler in sodelavci, 2024⁠.

Udeležencem všečen povzetek pa še vedno potrebuje pregled. Njihova ocena nepristranskosti ni neodvisna potrditev pravičnosti, raziskava pa ne daje odgovora o trajnem zmanjšanju politične polarizacije. Pri uporabi moramo ohraniti izvirna stališča, možnost popravka in prostor za nestrinjanje. Človek mora smeti ugovarjati tudi takrat, ko je algoritem njegov ugovor že zelo elegantno pospravil.

Za vsakdanji pogovor zadošča manj ambiciozen poskus. Pred odgovorom lahko AI naročimo, naj iz dejanskega besedila sogovornika izlušči njegov najmočnejši argument, nato pa sogovornika vprašamo, ali smo ga pravilno razumeli. Tako preverimo modelov povzetek in lastno predstavo, preden jo javno razglasimo za tujo neumnost. Če želimo otroke učiti spoštovanja dokazov, je to tudi precej boljša domača demonstracija kot iskanje še bolj duhovite žalitve.

Med jeziki so ovire še bolj neposredne. Skupina NLLB je leta 2024 v reviji Nature predstavila sistem strojnega prevajanja za 200 jezikov, tudi takšnih z malo razpoložljivimi učnimi podatki. To širi možnosti sporazumevanja, kakovost posameznega prevoda pa moramo presojati glede na jezik in namen uporabe. Občutljivo sporočilo potrebuje človeški pregled, njegov avtor pa priložnost, da pojasni svoj namen. Prevajalnik nam lahko približa njegove besede, razlage njegove osebnosti pa mu raje ne naročajmo v paketu. NLLB Team, 2024⁠.

Od laboratorija do ljudi

Koristi AI segajo precej dlje od pogovornega okna, pri čemer uspeha enega sistema ne smemo samodejno pripisati drugemu. AlphaFold je omogočil izdelavo obsežne zbirke napovedi prostorskih struktur beljakovin, ki raziskovalcem dajejo izhodišča za nadaljnje delo. Njihovo uporabnost je treba presojati glede na zanesljivost napovedi in raziskovalno vprašanje ter jih po potrebi eksperimentalno preverjati. Takšna računska pomoč lahko znanstvenikom olajša iskanje obetavnih smeri, ne da bi ji zato podelili laboratorijsko nezmotljivost. Google DeepMind in EMBL-EBI, brez letnice⁠.

Pri poplavah je dosežek mogoče izraziti tudi v času. Raziskava iz leta 2024 je pokazala, da je model AI pri napovedovanju skrajnih rečnih dogodkov v porečjih brez merilnih postaj do pet dni vnaprej dosegal podobno ali boljšo zanesljivost kot primerjani sistem GloFAS pri napovedi za isti dan. Ob objavi je bil vključen v sistem javno dostopnih napovedi za več kot 80 držav. Avtorji so s tem pokazali napredek pri napovedovanju, števila dejansko rešenih življenj pa v tej primerjavi niso merili. Nearing in sodelavci, 2024⁠.

Dodatni čas dobi pomen, če ljudje opozorilo prejmejo, razumejo in imajo možnost umika. Zato morajo napovedi spremljati delujoče obveščanje, načrti zaščite in pomoč tistim, ki se sami ne morejo evakuirati. Predstavljajmo si občino, ki pravočasno opozorilo poveže s prevozom za starejše in jasnimi navodili v jezikih prebivalcev. To bi bil napredek, ki bi ga lahko občutili tudi zunaj predstavitvene dvorane, saj se poplava pred projekcijo uspešnega projekta žal ne ustavi.

Pri hrani naletimo na podobno razliko med sposobnostjo in ravnanjem. UNEP je v poročilu Food Waste Index Report 2024 ocenil, da je leta 2022 v gospodinjstvih, gostinstvu in trgovini nastalo približno 1,05 milijarde ton odpadne hrane. Ocena vključuje tudi neužitne dele, zato celotne količine ne moremo predstavljati kot zaloge obrokov za lačne. Podatek kljub temu odpira konkretna vprašanja o načrtovanju porabe, skladiščenju in ravnanju s presežki. UNEP, 2024⁠.

Tu bi bilo smiselno preizkušati pomoč AI pri napovedovanju potreb, opozarjanju na presežke in načrtovanju njihovega prevzema. Uspeh bi merili s preprečenimi užitnimi odpadki ter s hrano, ki dejansko pride do ljudi. Vnaprej pa morajo biti dogovorjeni prevoz, odgovornost in financiranje. Če organizacija zavrne pomoč zato, ker se ji ne izplača, je izboljševanje napovednega modela precej eleganten način izogibanja neprijetnemu sestanku.

Tudi pri nasilju tehnološka pomoč potrebuje politično voljo. António Guterres je 24. septembra 2025 v razpravi Varnostnega sveta OZN med možnimi koristnimi uporabami AI navedel predvidevanje prehranske negotovosti in razseljevanja, podporo razminiranju ter prepoznavanje možnih izbruhov nasilja. Hkrati je opozoril na uporabo pri vojskovanju in manipulaciji informacij. Govor ponuja pregled možnosti in tveganj, za presojo posamezne uporabe pa potrebujemo podatke o njenem dejanskem delovanju. OZN, 2025⁠.

Kdo bo omogočil boljšo prihodnost?

Usmeritev v zaščito ljudi mora biti razvidna iz proračunov, javnih naročil in pravil uporabe. Model lahko podpira strokovnjake pri ocenjevanju humanitarnih potreb, odgovornosti za politične odločitve pa vodstvu ne moremo odpisati kot stroška avtomatizacije. Njegove napake morajo biti zaznavne, odločitve izpodbojne, nadzor pa izvedljiv. Človek na koncu postopka potrebuje dovolj informacij, časa in pristojnosti, da lahko predlagano ravnanje tudi ustavi, sicer je njegov podpis predvsem dekoracija.

Enako velja za obljubo o zmanjševanju neenakosti. Javne ustanove bi morale preverjati dostopnost za različne skupine, podpirati manj zastopane jezike in omogočiti pomoč tudi ljudem brez digitalnih spretnosti. Pri presoji stroškov je treba upoštevati porabo energije, varovanje podatkov in delo ljudi, ki odpravljajo napake. Če lahko kakovostno pomoč uporabljajo predvsem tisti, ki so si jo že prej lahko privoščili, smo stare razlike morda samo opremili z novejšim vmesnikom.

Za takšno presojo nam ni treba čakati na stroj, ki bo razumel vse. Izberemo konkreten problem, določimo merilo izboljšanja in primerjamo delo z orodjem ter brez njega. Poleg povprečnega rezultata preverimo napake, stroške in izkušnje ljudi, ki jim nova ureditev povzroča težave. Kjer korist obstaja, jo razširimo, drugje popravimo zasnovo ali uporabo opustimo. Tudi odpoved neuspešnemu projektu je lahko znak napredka, čeprav zanjo redkeje pripravimo slavnostno fotografiranje.

Nauk je neprijeten predvsem za tistega, ki bi odgovornost najraje prepustil izumu. Umetna inteligenca nam lahko razširi možnosti, ne more pa nam zagotoviti moralnega odpustka za njihovo uporabo. Če orodje razkrije napako, korist nastane šele, ko jo priznamo in odpravimo. Če pokaže stisko, se naša odgovornost ne konča pri ugotovitvi, da je bila analiza pravilna.

Od sposobnejših strojev lahko upravičeno pričakujemo boljšo pomoč, od sebe pa bi morali zahtevati več pripravljenosti, da zaradi nje kaj spremenimo. Najtežji korak bo morda trenutek, ko bo treba nehati braniti lastno zmoto, se odpovedati priročni koristi ali poslušati človeka, ki nam ni všeč. Če bomo AI uporabljali predvsem za izboljševanje izgovorov, bo naš napredek zelo zgovoren in precej prazen. Pametnejši stroj nam lahko pomaga, bolj poštenega ravnanja pa ne more opraviti namesto nas.

EVIDENCE PROFILE

Dokazni profil članka

Profil pokaže vrsto dokazne podlage in omejitve osrednjega argumenta.

OSREDNJI DOKAZPresoja umetne inteligence mora hkrati preverjati tveganja in konkretne koristi; tehnologija ne odpravi človeških spodbud, lahko pa pomaga tam, kjer je učinek dejansko merljiv.

RAZISKAVE6

DOKUMENTACIJA3

PREDOBJAVE0

UREDNIŠKI PREIZKUSNE

PREVERJENO2026-09-13

Viri

1. 01PRIMARY RESEARCHRobertson, C.
   Robertson, C. E., in sodelavci (2023). Negativity drives online news consumption⁠. Nature Human Behaviour, 7, 812–822. DOI: 10.1038/s41562-023-01538-4. Vir za raziskavo približno 105.000 različic spletnih novic in relativno povečanje stopnje klikov ob dodatni negativni besedi.Odpri vir ↗
2. 02PRIMARY RESEARCHKestin, G., in sodelavci (2025).
   Kestin, G., in sodelavci (2025). AI tutoring outperforms in-class active learning: an RCT introducing a novel research-based design in an authentic educational setting⁠. Scientific Reports, 15, članek 17458. DOI: 10.1038/s41598-025-97652-6. Vir za preizkus učnega pomočnika pri 194 študentkah in študentih ter primerjavo neposrednega izboljšanja testnih rezultatov.Odpri vir ↗
3. 03PRIMARY RESEARCHBastani, H., in sodelavci (2025).
   Bastani, H., in sodelavci (2025). Generative AI without guardrails can harm learning: Evidence from high school mathematics⁠. Proceedings of the National Academy of Sciences, 122(26), e2422633122. DOI: 10.1073/pnas.2422633122. Vir za razlikovanje med uspešnostjo med uporabo AI in samostojnim reševanjem po odvzemu pomoči. Naknadni popravek⁠ zadeva navedbo ustanove enega od avtorjev, ne rezultatov raziskave.Odpri vir ↗
4. 04PRIMARY RESEARCHTessler, M.
   Tessler, M. H., in sodelavci (2024). AI can help humans find common ground in democratic deliberation⁠. Science, 386(6719), eadq2852. DOI: 10.1126/science.adq2852. Vir za raziskavo sistema Habermas Machine s skupno 5.734 udeleženci v več preizkusih. Dostopen je tudi povzetek na spletni strani raziskovalcev⁠.Odpri vir ↗
5. 05PRIMARY RESEARCHNLLB Team (2024).
   NLLB Team (2024). Scaling neural machine translation to 200 languages⁠. Nature, 630, 841–846. DOI: 10.1038/s41586-024- 07335-x. Vir za sistem strojnega prevajanja za 200 jezikov, vključno z jeziki z malo razpoložljivimi učnimi podatki.Odpri vir ↗
6. 06PRIMARY DOCUMENTATIONGoogle
   Google DeepMind in EMBL-EBI (brez letnice). AlphaFold Protein Structure Database⁠. Institucionalna podatkovna zbirka napovedi prostorskih struktur beljakovin, uporabljena kot vir za opis raziskovalne uporabe AlphaFolda.Odpri vir ↗
7. 07PRIMARY RESEARCHNearing, G., in sodelavci (2024).
   Nearing, G., in sodelavci (2024). Global prediction of extreme floods in ungauged watersheds⁠. Nature, 627, 559–563. DOI: 10.1038/s41586-024-07145-1. Vir za primerjavo poplavnih napovedi s sistemom GloFAS in navedbo dostopnosti napovedi v več kot 80 državah ob objavi raziskave.Odpri vir ↗
8. 08PRIMARY DOCUMENTATIONUnited Nations Environment Programme oziroma UNEP (27.
   United Nations Environment Programme oziroma UNEP (27. marec 2024). World squanders over 1 billion meals a day – UN report⁠. Sporočilo ob objavi poročila Food Waste Index Report 2024. Vir za oceno 1,05 milijarde ton odpadne hrane v letu 2022, ki vključuje tudi neužitne dele.Odpri vir ↗
9. 09PRIMARY DOCUMENTATIONOrganizacija združenih narodov (24.
   Organizacija združenih narodov (24. september 2025). Artificial intelligence and international peace and security⁠. Razprava na 10.005. seji Varnostnega sveta, nastop Antónia Guterresa. Povezava vodi do samodejnega prepisa posnetka, ne do uradnega zapisnika. Govor je vir za navedene možne uporabe AI in opozorila o tveganjih, ne empirični dokaz njihove učinkovitosti.Odpri vir ↗