TISOČ AI-AGENOTV, ENA ODLOČITEV: KAKO NASTANE DIGITALNI KONSENZ

Raziskava, objavljena avgusta 2026 v reviji Science Advances, kaže, da lahko že zelo preprost mehanizem sledenja večini povzroči presenetljivo urejeno kolektivno vedenje. To še ne pomeni kolektivnega umetnega uma. Pomeni pa, da večagentskih sistemov ne bomo mogli razumeti samo z opazovanjem posameznega modela.

Predstavljajmo si skupino, v kateri mora vsak član izbrati med možnostma A in B. Pravilnega odgovora ni in obe možnosti sta enakovredni. Eksperiment se začne z enakomerno razdeljeno populacijo: polovica agentov podpira eno možnost, polovica drugo.

Na vsakem koraku raziskovalci naključno izberejo enega agenta. Ta vidi trenutne odločitve drugih in se nato ponovno odloči. Nihče mu ne naroči, naj sledi večini. Za strinjanje ni nagrade, vodje ni, skupina pa nima vnaprej določenega cilja, da mora doseči soglasje.

Kljub temu se pri večini preizkušenih modelov, izraziteje pa pri zmogljivejših, pokaže sistematična težnja k izbiri možnosti, ki jo že podpira večina.

Raziskavo so izvedli Giordano De Marzo, Claudio Castellano in David Garcia, rezultati pa so bili 14. avgusta 2026 objavljeni v reviji Science Advances. Avtorji so preizkusili modele iz družin GPT, Claude in Llama ter opazovali, kako se njihovo vedenje spreminja z velikostjo skupine.

Ko majhna prednost začne hraniti samo sebe

Predstavljajmo si, da se med potekom eksperimenta razmerje premakne na 52 proti 48. Sama razlika je majhna in pri arbitrarni izbiri med A in B ne pove ničesar o kakovosti ene ali druge možnosti. Če pa imajo agenti večjo verjetnost, da izberejo trenutno večino, postane vodilna možnost pri naslednjih odločitvah nekoliko verjetnejša.

Razmerje se lahko zato premakne na 55 proti 45, pozneje na 60 proti 40 in se sčasoma še bolj oddalji od začetnega ravnotežja. Nastane povratna zanka, v kateri stanje skupine vpliva na odločitev posameznega agenta, njegove odločitve pa nato ponovno spreminjajo stanje skupine. Raziskovalci so moč tega vpliva opisali s parametrom, ki so ga poimenovali majority force, sila večine. Ta meri, kako močno trenutno razmerje v skupini vpliva na odločitev naslednjega agenta.

Zanimivo je, da je bilo mogoče vedenje različnih modelov opisati z zelo podobnim matematičnim okvirom, razlikovala pa se je predvsem jakost učinka.

Primerjava s fiziko pri tem ni le medijska metafora. Avtorji so dinamiko povezali z matematičnim modelom, sorodnim tistemu, ki se uporablja pri opisovanju feromagnetizma. Pri magnetnih sistemih lahko lokalne interakcije med velikim številom elementov povzročijo makroskopsko urejeno stanje. Posamezen element skupnega rezultata ne načrtuje, red pa vseeno nastane iz medsebojnih vplivov.

Pri AI-agentih seveda ne gre za isti fizični pojav. Primerljiva je matematika kolektivne dinamike. Takšno vedenje lahko razumemo kot porajajočo oziroma emergentno lastnost sistema: pojavi se na ravni skupine in ga z opazovanjem posameznega agenta ni mogoče v celoti zaznati.

Od nekaj deset do približno tisoč agentov

Eden najbolj izpostavljenih rezultatov raziskave je povezava med modelom in kritično velikostjo skupine, pri kateri začne spontana koordinacija postajati bistveno težja.

Razlike so bile precejšnje.

Pri modelu Llama 3 70B so raziskovalci kritično območje ocenili pri približno 30 agentih, pri GPT-4o okoli 80, pri GPT-4 Turbo pa blizu 1.000. Claude 3.5 Sonnet je pri največji preizkušeni skupini s 1.000 agenti še vedno ostal nad teoretičnim pragom, zato raziskava ne določa njegove dejanske zgornje meje. Pove le, da ta v preizkušenih pogojih ni bila dosežena. Te številke je treba razlagati previdno. Pri zelo velikih skupinah je bilo eksperimentalnih ponovitev bistveno manj kot pri manjših. Pri skupini s 500 agenti so bile izvedene tri realizacije, pri GPT-4 Turbo z 1.000 agenti pa le ena. Kritične velikosti zato ni smiselno predstavljati kot absolutno in ostro mejo, temveč kot oceno, podprto z meritvami in matematičnim modelom.

Raziskovalci so opazili tudi povezavo med nekaterimi merili zmogljivosti modela in sposobnostjo koordinacije v večjih skupinah. Pri rezultatu MMLU je bila korelacija z ocenjeno kritično velikostjo izrazita, vendar sama korelacija še ne dokazuje vzročne povezave.

Iz tega zato ne sledi, da je model boljši zato, ker močneje sledi večini, niti da je konformizem nujna posledica večje zmogljivosti modela. Gre za povezavo, opaženo v omejenem naboru preizkušenih sistemov, ki jo bodo morale potrditi dodatne raziskave.

Konsenz ni isto kot inteligenca

Pri rezultatu, kjer se uskladi več sto ali celo tisoč agentov, je zelo preprosto narediti korak predaleč.

Raziskava ni pokazala nastanka kolektivnega umetnega uma. Agenti niso skupaj reševali zahtevnega problema, si razdeljevali nalog, ocenjevali zanesljivosti drug drugega ali gradili skupnega načrta. Prav tako niso razvili družbene strukture v človeškem pomenu besede.

Njihova naloga je bila precej bolj omejena: izbirati med dvema možnostma in pri tem poznati trenutno stanje skupine.

Avtorji raziskave sami opozarjajo, da majority-following še ne pomeni socialne inteligence. Eksperiment je namenoma izoliral zelo osnovni mehanizem kolektivnega vpliva. Prav zato je rezultat pomemben. Če lahko že tako preprosta interakcija ustvari vedenje, ki ga pri posameznem agentu ne opazimo, bodo bistveno kompleksnejši sistemi z več agenti verjetno ustvarjali še druge kolektivne učinke, ki jih pri posameznih modelih ne bo mogoče neposredno zaznati.

Tisoč glasov ni nujno tisoč dokazov

Tu ima raziskava neposredno uporabno posledico tudi zunaj laboratorija.

Predstavljajmo si prihodnji sistem, v katerem več sto AI-agentov preverja programsko kodo, ocenjuje tehnično rešitev ali analizira varnostno tveganje. Na koncu sistem sporoči, da 997 od 1.000 agentov podpira možnost A.

Na prvi pogled je tak rezultat zelo prepričljiv. Njegova informacijska vrednost pa je odvisna od tega, kako so agenti do odločitve prišli.

Če je vsak agent problem analiziral neodvisno, lahko zelo visoka stopnja soglasja predstavlja močan signal. Če pa agenti spremljajo odločitve drugih in jih te sistematično usmerjajo, njihovih glasov ne moremo več obravnavati kot tisoč neodvisnih presoj. Del končnega soglasja je lahko posledica prejšnjih glasov in ne novega neodvisnega dokaza.

Pri nalogi, kjer bi obstajal pravilen odgovor, bi enak mehanizem zato lahko ojačal tudi napačno začetno smer. Majhna zgodnja prednost bi lahko postala večina, večina pa bi zaradi medsebojnega vpliva pridobivala nove podpornike.

To ne pomeni, da bi se takšen rezultat nujno zgodil. Primarna raziskava tega ni preverjala, saj pri binarni izbiri ni obstajal pravilen odgovor. Gre za logično posledico opaženega mehanizma, ki jo je treba jasno ločiti od eksperimentalno izmerjenega rezultata. Za prihodnje večagentske sisteme bo zato verjetno pomembno spremljati ne le stopnjo soglasja, temveč tudi stopnjo neodvisnosti presoj. Vprašanje ne bo samo, koliko agentov se strinja, temveč tudi, kako neodvisno so prišli do istega sklepa.

To je bistvena razlika med številom glasov in številom neodvisnih dokazov.

Človeške primerjave imajo mejo uporabnosti

Raziskovalci rezultate primerjajo tudi z značilnimi velikostmi človeških socialnih skupin. V tem kontekstu se pogosto omenja Dunbarjevo število, približno 150 do 300 ljudi, čeprav je natančnost te meje že dolgo predmet razprav.

Primerjava je zanimiva, vendar ne pomeni, da imajo jezikovni modeli svoje »Dunbarjevo število«.

Človek v skupini vzdržuje odnose, si zapomni pretekle interakcije, ocenjuje zanesljivost drugih, oblikuje zavezništva in interpretira namen sogovornikov. Agenti v tem eksperimentu niso počeli ničesar tako kompleksnega.

Iz rezultata zato ne moremo sklepati, da lahko Claude vzdržuje večjo »družbo« kot človek ali da je skupina tisočih AI-agentov neposredno primerljiva s človeško skupnostjo.

Primerjava pove nekaj precej ožjega: pri zelo poenostavljenem mehanizmu sledenja večini so nekateri zmogljivejši modeli ohranili kolektivno koordinacijo tudi v zelo velikih skupinah. Rezultat je dovolj zanimiv tudi brez dodatnega senzacionalizma.

Ko konformizem postane varnostni problem

Ista raziskovalna smer je maja 2026 dobila nadaljevanje.

V preprintu Conformity Generates Collective Misalignment in AI Agents Societies so De Marzo in sodelavci preverjali, kaj se lahko zgodi, ko se kolektivni vpliv poveže z usklajenostjo agentov.

Njihovi rezultati kažejo, da lahko skupina agentov, ki so posamezno nagnjeni k želeni oziroma usklajeni izbiri, zaradi konformizma pod določenimi pogoji preide v stabilno kolektivno neusklajeno stanje. Raziskovalci opisujejo tudi prelomne točke, pri katerih lahko razmeroma majhna skupina namensko nasprotno usmerjenih agentov vpliva na večjo populacijo.

Posebej zanimiv je pojav histereze. Ta pomeni, da lahko sistem po prehodu v novo stanje tam ostane tudi po odstranitvi ali spremembi vpliva, ki je prvotni prehod povzročil.

Pri interpretaciji tega dela je potrebna dodatna previdnost. Gre za preprint, ne za že recenzirano objavo, zato njegova dokazna teža ni enaka avgustovski raziskavi v Science Advances. Rezultate je zato smiselno razumeti predvsem kot pomembno smer nadaljnjega raziskovanja, ne kot dokončen dokaz, da se bodo realni večagentski sistemi obnašali enako.

Prihodnji problem ne bo samo posamezen agent

Velik del današnje razprave o varnosti umetne inteligence je usmerjen v posamezni model: ali daje pravilne odgovore, ali halucinira, pravilno uporablja orodja, upošteva omejitve in ali lahko izvede nekaj, česar ne bi smel.

Takšna vprašanja bodo ostala pomembna, vendar bodo sistemi vse pogosteje sestavljeni iz več specializiranih agentov. Eden bo iskal podatke, drugi pisal programsko kodo, tretji rezultate preverjal, četrti sprejemal odločitve, peti pa nadziral prejšnje štiri.

Takrat bo treba preverjati tudi sistem kot celoto.

Posamezni agent je lahko dobro usklajen in tehnično zanesljiv, skupina pa lahko zaradi načina komunikacije, skupnih podatkov ali medsebojnega vplivanja razvije lastnosti, ki jih pri nobenem od članov posebej ni bilo mogoče opaziti.

Takšni učinki niso nujno negativni. Enaki mehanizmi lahko omogočijo zelo učinkovito sodelovanje. Pomenijo pa, da varnosti večagentskega sistema ne bomo mogli oceniti zgolj tako, da bomo vsakega agenta posebej testirali in rezultate nato sešteli.

Razumeti bo treba tudi njihove medsebojne povezave.

Soglasje je rezultat, ne dokaz

Raziskava De Marza, Castellana in Garcie ne kaže sveta, v katerem bi se umetne inteligence spontano organizirale v nekakšen skrivni kolektivni um. Takšna interpretacija bi bistveno presegla rezultate eksperimenta.

Kaže nekaj manj spektakularnega, vendar verjetno uporabnejšega: že preprost medsebojni vpliv lahko pri velikih skupinah AI-agentov ustvari kolektivno vedenje, ki ga pri posameznem modelu ni.

To je pomembna razlika za prihodnje sisteme, v katerih bo odločanje razdeljeno med desetine, stotine ali tisoče agentov.

Če bo nekega dne sistem sporočil, da se 999 od 1.000 AI-agentov strinja z določeno odločitvijo, morda ne bo najpomembnejše vprašanje, koliko jih je glasovalo zanjo.

Pomembneje bo vedeti, koliko neodvisnih presoj ta številka dejansko predstavlja.

EVIDENCE PROFILE

Dokazni profil članka

Profil pokaže vrsto dokazne podlage in omejitve osrednjega argumenta.

OSREDNJI DOKAZSoglasje velikega števila AI-agentov je rezultat kolektivne dinamike; njegova dokazna vrednost je odvisna od stopnje neodvisnosti njihovih presoj.

RAZISKAVE1

DOKUMENTACIJA1

PREDOBJAVE1

UREDNIŠKI PREIZKUSNE

PREVERJENO2026-09-06

Viri

1. 01PRIMARY RESEARCHDe Marzo, G.; Castellano, C.; Garcia, D. / Science Advances
   AI agents can coordinate via majority-following beyond human scale

   Science Advances, 12(33), eaea6091, 14. avgust 2026. Osrednji recenzirani vir članka.

   Odpri vir ↗
2. 02PRIMARY DOCUMENTATIONDe Marzo, G.; Castellano, C.; Garcia, D. / Zenodo
   Podatki in programska koda za raziskavo AI agents can coordinate via majority-following beyond human scale

   Arhivska različica podatkov in kode, uporabljene v raziskavi.

   Odpri vir ↗
3. 03RESEARCHDe Marzo et al.
   Conformity Generates Collective Misalignment in AI Agents Societies

   Preprint, maj 2026. V članku je namenoma ločen od recenzirane raziskave in obravnavan z nižjo stopnjo dokazne gotovosti.

4. 04SECONDARYScienceAlert
   1,000 AI Agents Started Agreeing Without Anyone Telling Them To

   Uporabljen samo za primerjavo znanstvenega rezultata z medijsko interpretacijo, ne kot primarni dokazni vir.