Az átlagemberek mesterséges intelligenciához (MI) fűződő viszonya – János esztergomi érsek „Gertrudis megölésére” vonatkozó és a vesszőkkel ellenkező értelművé formálható mondását átköltve – valahogy így jellemezhető: „A mesterséges intelligenciát alkalmazni nem kell félnetek jó lesz ha mindenki támogatja én nem ellenzem”. Én személy szerint az MI használatát – ha nem is feltétel nélkül – támogatom, mivel az emberiség jelenlegi problémáinak megoldása közreműködése nélkül elképzelhetetlen. Ezt a véleményemet egyrészt arra alapozom, hogy az emberiséget fenyegető súlyos válságok csak az MI segítségével tűnnek „kúrálhatónak”. Másrészt, amikor az MI átláthatatlan veszélyeit elemezzük – jellemző módon – mindig önmagunkkal szembesülünk. Mintha csak Groucho Marx gyakran idézett mondása öltene testet: „Találkoztam ellenségeinkkel, és ők: mi vagyunk!” Vagyis, az ember által teremtett eszközöket mindig saját ostobasága és/vagy gonoszsága tette/teszi önmagára is veszélyessé.
Világunk állapotát illetően, minden hír, elemzés és politikai kiáltvány a sokasodó krízisekre figyelmeztet. „Mr. Végítélet” – Nouriel Roubini – legutóbbi, végső figyelmeztetésnek szánt könyvét így zárja: „Végzetszerű fenyegetések közelednek felénk. Hatásuk alapjaiban rázza meg életünket és fenekestől felforgatja a világunk megszokott rendjét, olyan mértékben, amit még soha nem tapasztaltunk.” (N. Roubini: Megathreats, 2022) A természeti katasztrófák, a gazdasági összeomlások, a szociális válságok és a politikai krízisek kiváltó okait kutatva azonban mindig az emberek hanyagságával, a globális vállalatok felelőtlenségével, a politikusok ostobaságával vagy mohóságával, valamint az elitek megegyezésre való képtelenségével szembesülünk.
Világunkat az sodorja veszélybe, ahogyan élünk, viselkedünk és ahogyan környezetünket használjuk. Vagyis, az emberre a legnagyobb veszélyt önmaga jelenti.
A kutatók az aggodalomra okot adó cáfolhatatlan tényeket immáron több évtizede folyamatosan a szakmai közösségük, a döntésekért felelős politikusok és a közvéleménye elé tárják. A helyzet folyamatos romlására utaló információkkal fokozatosan megismerkedhettünk. Ennek nyomán el is indultak a viták a „halaszthatatlan” teendőről. A politikai pártok kitűzték az elérendő célokat, a vállalatok beépítették stratégiájukba az adaptáció követelményét, új mozgalmak szerveződtek az elkerülhetetlen életmód-váltást követelve. A sokasodó katasztrófák láttán mindenki azt ismételgeti: ez így nem mehet tovább! Majd, lényegében nem történt semmi. Az események eddigi menetét Max Frisch „Biedermann és a gyújtogatók” című színjátékában elhangzó kis versike rajzolja fel: „Láttuk előre éppen elég ideje, / Mindahányan / És végül bekövetkezett, / Most már nem lehet oltani se: / Tökfejűség, de / Sorsszerűségnek nevezik.”
Vagyis, miközben egyre többen hivatkoznak az emberiség sorsszerű, jövőjébe szinte „beleprogramozott” kudarcára, valóban „tökfejűségről” van szó. A helyzet persze ennél egy kicsit bonyolultabb. Egész sor fokozatosan egybekapcsolódó és kezdetben nehezen felismerhető hatás tette/teszi nehézzé, hogy elhatározásra jussunk. Így az akciók eleve mindig késve indulnak, a következetes végrehajtás gyakran megakad, és a vetélkedő politikusok jobban figyelnek újraválasztásukra, mint a fokozatosan romló körülményekhez való alkalmazkodásra. Az emberiség egy olyan, a viharos tengeren sodródó hajóhoz hasonlít, amely a parancsnoki hídján kapott léket. Miközben krízisről krízisre sodródik, a szakemberek nem látják át a helyzetet, a kormányzással megbízottak egymást akadályozzák, a politikusok pedig halogatják a döntéseket.
Fontos azonban felismernünk, hogy ezt a helyzetet nem pusztán a tudatlanság és a felelőtlenség idézte elő. A Földünket alkotó, sokáig egymástól viszonylag független, de önmagunkban is bonyolult rendszerként létező területek – a természeti környezet, a globális pénzügyi rendszer, a termelési- és a beszállítási láncok, az internet minden átfogó hálózata – fokozatosan szorosan egybekapcsolódtak. Az így kialakuló komplex, ökoszisztémaszerű szuper-rendszer egyre nehezebben átláthatóvá vált. Ráadásul az elválaszthatatlanul összefonódó és egymást kölcsönösen meghatározó részek kényes egyensúlya könnyen megbomlik, így a folyamatok szinte maguktól „szabadulnak el”. (Christ Clearfield, Tilcsik András: Meltdown, 2019) A válságok megoldása ebben a helyzetben attól függ: képesek vagyunk-e létrehozni a rendszer viselkedését pontosan leíró modellt, majd ennek alapján kialakítani egy olyan „mestertervet”, amely egyértelműen eligazít mindenkit – egyéneket, vállalatokat és a szuverén nemzeteket –, hogy mit kell tennie azért, hogy a rendszert a puha-landolás pályájára legyen vezérelhető.
Erre a megoldásra kínált példát az 1970-es években egy civil szervezet – a Római Klub – alapvetően magántámogatásokból és tucatnyi szakember tudományos munkájának eredményeként létrehozott globális modellje. (D. Meadows et. al: The Limits to Growth, 1972) Ez elemezhetővé tette az akkor már komplex rendszert alkotó világunk viselkedését. Sőt, volt még egy – akkoriban szokatlan – előnye: kiszámíthatóvá váltak a lehetséges beavatkozások hatásai. A számítógépes modell szimulációjával végig lehetett követni a különböző akciókhoz tartozó alternatív „jövőszálakat”, vagyis „lejátszhatóvá” és kipróbálhatóvá tette a jövőt! A példa tehát adott, ám van egy kis bökkenő: az akkori állapotokhoz viszonyítva világunk komplexebb és szorosabban csatolt lett.
Az azóta eltelt időszakban olyan gazdasági, műszaki és társadalmi folyamatokat indítottunk el, amelyek mindent és mindenkit összekapcsoltak és betöltöttük a Föld minden zugát, növekedésünk beleütközött világunk határaiba, az emberiség egységes társadalmi organizmussá vált. Miközben azonban kétkedés nélkül követtük, sőt minden módon ösztönöztük a növekedés-orientált életmódot, az fokozatosan fenntarthatatlanná vált. Ez szükségszerűen vezetett válságok kirobbanásához, majd a krízisek fokozatos erősödéséhez. A globális rendszer kormányozhatatlanná vált, az apokalipszis rémével fenyegetve a Föld 8 milliárd lakóját. Ez a helyzet teszi elkerülhetetlenné egy olyan globális modell megalkotását, amely világossá tenné mindenki előtt, hogy viselkedése miként érint másokat, illetve amit mások tesznek, hogyan hat rá. Ennek a modellnek a megalkotását azonban a kibernetika egy különös törvénye, a Conant-Ashby-tétel alapvetően megnehezíti. (R. Conant, W. Ashby: Every good regulator of a system must be a model of that system,1970)
A kutatók a rendszerek hatékony szabályozásának logikájából indultak ki. Mielőtt cselekednénk, számításba kell venni beavatkozásunk lehetséges következményeit, majd ennek ismeretében döntjük el, mit is tegyünk. Ehhez azonban egy olyan modellre van szükség, amelynek bonyolultsága megegyezik a szabályozni kívánt rendszer bonyolultságával, hiszen csak így tudjuk „kikísérletezni” a legjobb döntést. Vagyis a megfelelő bonyolultságú modell megalkotása a rendszer eredményes szabályozásának nélkülözhetetlen feltétele. Ennek a ténynek azért van óriási jelentősége, mert az elmúlt évtizedben a végbement változások következtében a világ komplexitása az 1970-es állapothoz képest szintet ugrott. Világunk áttekinthetetlenül bonyolulttá vált, amit a hiperkonnektivitás fogalmával írnak le. (B. Consens et al: Governing complexity, 2021)
A hiperkonnektivitás azt jelenti, hogy a Föld bármely pontja és minden cselekvő aktora között elszakíthatatlan kapcsolat jött létre, és a kapcsolatok szervezésének tranzakciós ideje és a tranzakciós költsége gyakorlatilag zérussá vált. Emiatt az események következményei, a folyamatok hatásai, a zavarok és a krízisek megállíthatatlanul terjednek tova. Ebben a világban mindenki – akár tudatában van ennek, akár nem – elválaszthatatlanul egybekapcsolódik mindenkivel, és bármely hatás, induljon bárhonnan, szinte azonnal elér mindenkit. Ennek a ténynek azután van még egy nem-várt mellékhatása: a tudományok rég bevált modelljei és az ezekből levezetett döntési szabályok „megbicsaklottak”. Azáltal ugyanis, hogy a különböző jelenségek elválaszthatatlanul egybekapcsolódtak, a tudományok által feltételezett „tiszta” működési körülmények összekuszálódtak. Így a szaktudományok korábban tévedhetetlen modelljei egyre kevésbé képesek előre jelezni a változásokat.
Ám a világ ökoszisztémaszerű állapota még a tudósoknál is jobban zavarba hozta a döntéshozókat, akik még kevésbé vannak tisztában a szerteágazó következményekkel. Amikor az országok sorsát intéző nagy hatalmú döntéshozók – bankárok, vállalatvezetők, politikusok –, a világ állapotáról meglevő tudását véletlenszerűen „tesztelték”, a szűk szakterületüktől távolabbi, de a döntések minőségét befolyásoló ismereteiket firtatva arra jutottak: világunk kormányosai legfeljebb egy „gorilla szintjén” ismerik a helyzetet. A „tesztkérdésekre” legfeljebb a véletlenszerű válaszok pontosságával tudtak válaszolni. (Hans Rosling et al: Factfulness: Ten Reasons We’re Wrong About the World, 2018) Ráadásul, a világ dolgait intézők – a nagyhatalmak, a szuverén nemzetek, a vetélkedő elitek, a hatalomra törő pártok, a mozgalmak vezetői – nézetei a sokasodó krízisek hatására fokozódó mértékben polarizálódtak. Viselkedésükben ezért – személyiségüktől függetlenül – egyre erősebben érvényesül, hogy mindenki egy ún. „chicken game” játszma résztvevőjének látja magát. Mindenki azt bizonygatja: csak az ő érdeke a fontos, és ennek érdekében mindenre hajlandó. Vagyis, senki ne remélje, hogy majd félrerántja a kormánykereket, ő a rábízott szervezetét nekivezeti bárkinek, aki szembejön.
Vagyis egy olyan világban élünk, ahol minden szinten – a világpolitika nagy- és kisebb hatalmaitól, a vállalatokon keresztül a közösségek irányítóiig – szinte mindenki „chicken game”-et játszik. A következmény: a társadalmak tehetetlenül sodródnak, az államokat lebénítja a vetokrácia, az elkerülhetetlen döntéseket halogatják. Ebben a helyzetben a súlyosbodó válságokat enyhítő és a „puha-landolást” lehetővé tevő döntéseket meghozni, az érdekek racionális összehangolását elősegítő vitát lefolytatni csak a világ valóságos komplexitását tükröző modell birtokában leszünk képesek. Ez megteremthetné azt a mindenki számára elfogadható „jövőtérképet”, amelynek „ösvényeit” és „csapásait” a szimulációs program biztonságosan járható „útvonaltervekké” alakíthatná. Ám a „szuperorganizmussá” vált emberiség szinte áttekinthetetlen komplexitása miatt egy ilyen globális modell kizárólag az emberi és a mesterséges intelligencia együttműködésével hozható létre és működtethető. Vagyis, az emberiség kizárólag az MI segítségével tartható stabil fejlődési pályán.
Természetesen ennek a modellnek a létrehozása során egy sor – ma még nem is teljesen átlátható – problémával kell szembenézni. Kezdjük a legegyszerűbbel: a szükséges komplexitású modell létrehozása, összehasonlítva a Római Klub projektjével, sokkal többe kerülne és jóval több szakember együttműködését igényelné. Vállalva a kritikát, hogy becslésemet „az ujjamból szoptam”, ez nagyjából 1 milliárd dollárba kerülne. A kidolgozás, majd a tesztelés, végül a döntéshozók betanítása mondjuk 1-2 ezer, sok tudományterületet és a Föld különböző nemzetét képviselő szakember koordinált együttműködését feltételezi. A döntéshozáshoz használható változat – reményeim szerint – öt év alatt hozható létre. Az 1 milliárd dollár első pillantásra meghökkentően nagynak látszik, ám gondoljunk csak bele: a világ 100 leggazdagabb emberének bármelyike(!) – ha nem is a mellényzsebéből, de – viszonylag könnyen kiperkálhatná ezt. A világ bármely tudósa pedig – magamból kiindulva – boldogan részt venne ebben a „Mentsük meg a Földet” projektben. Még az is lehet, hogy már el is kezdődtek a modellkészítés munkálatai.
Az igazi gond – visszatérve a kiindulóponthoz –: miként vehetők rá a világ kisebb és nagyobb, különböző rendű és rangú nemzeti, ideológiai, gazdasági, technológiai hatalmai arra, hogy együttműködjenek, valóságos érdekeiket a világ elé tárva, nyitottak legyenek mások érdekeinek elfogadására, és a globális modell alapján racionálisan közelítsék meg a helyzetet? A modell a döntések következményeit kiszámolhatóvá tenné, ezzel átláthatóvá válnának a beavatkozások rövid és hosszútávú hatásai és így megítélhető lenne miként érinti az a különböző közösségeket. Miközben nem tagadom az MI alkalmazásának kockázatait, az igazi problémát mégsem az MI – úgymond – embert leigázni akaró szándéka jelenti. A valódi veszély: az elkerülhetetlen teendőkről folyó vita során a legkülönbözőbb rendű és rangú hatalmasságok végső érvként mindig az eredetmítoszokra, a szuverén nemzet mindent felülíró jogaira, a történelem saját interpretációjára hivatkozva utasítják el a kompromisszumokat. Ez teszi nehézzé, sőt gyakran lehetetlenné, hogy az egységes egésszé vált emberiség a globális jövőtérkép útmutatásait kövesse.
Ebben a helyzetben tehát szükségképpen előtérbe kerül a moralitás szempontja, ami még kényesebbé teszi az MI alkalmazásával kapcsolatos vitákat. Ugyanis ahogyan az MI fokozatosan életünk egyre több részletébe hatolt be és mind gyakrabban találkozunk vele, érthető módon növekszik alkalmazásával kapcsolatban a körültekintés és az óvatosság igénye. Ugyanakkor az MI rendszerek tanulékonyabbaknak és rugalmasabbaknak tűnnek, mint korábban gondoltuk. Egyrészt, az MI képessé tehető, hogy az ember morális szempontjait tekintetbe véve „gondolkodjon” és viselkedjen. Egy nemrég publikált új elemzés megmutatta, hogyan építhető egybe a sokféle anyagi kapcsolatok egységes rendszere az etika szempontjait is tekintetbe vevő modellé. (M. Ashby: Ethical Regulators and Super-Ethical System, 2020) Másrészt, az embert alárendelt pozícióba kényszerítő MI víziója helyett fokozatosan teret nyer a „természetes” és a „mesterséges” intelligencia kooperációját célul tűző megközelítés. Az ún. kiterjesztett (augmented) illetve kollaboratív intelligencia azt a lehetőséget vetíti elénk, hogy a gépek és technológiai berendezések mintájára létrejöhetnek az emberi „természetes”, és az általa létrehozott „mesterséges” intelligencia hatékony együttműködésén alapuló rendszerek. Ezzel remélhetőleg helyreáll a történelmi trend: az ember képessé válik megszokni és megtanulni, hogyan éljen együtt a maga által teremtett alkotásokkal. Ez az út persze konfliktusokkal szegélyezett, erre utalt az elszabaduló tárgyak metaforájával Goethe A bűvészinas című versében. Ám a történelem eddigi menete azt mutatja, kreativitással és óvatossággal, a jövő iráni közös felelősséggel, és a moralitás szempontjait is érvényesítve ezek a problémák végül is megoldhatók.
Vagyis, miközben egyre többen hivatkoznak az emberiség sorsszerű, jövőjébe szinte „beleprogramozott” kudarcára, valóban „tökfejűségről” van szó.
A helyzet persze ennél egy kicsit bonyolultabb. Egész sor fokozatosan egybekapcsolódó és kezdetben nehezen felismerhető hatás tette/teszi nehézzé, hogy elhatározásra jussunk. Így az akciók eleve mindig késve indulnak, a következetes végrehajtás gyakran megakad, és a vetélkedő politikusok jobban figyelnek újraválasztásukra, mint a fokozatosan romló körülményekhez való alkalmazkodásra. Az emberiség egy olyan, a viharos tengeren sodródó hajóhoz hasonlít, amely a parancsnoki hídján kapott léket. Miközben krízisről krízisre sodródik, a szakemberek nem látják át a helyzetet, a kormányzással megbízottak egymást akadályozzák, a politikusok pedig halogatják a döntéseket.
Fontos azonban felismernünk, hogy ezt a helyzetet nem pusztán a tudatlanság és a felelőtlenség idézte elő. A Földünket alkotó, sokáig egymástól viszonylag független, de önmagunkban is bonyolult rendszerként létező területek – a természeti környezet, a globális pénzügyi rendszer, a termelési- és a beszállítási láncok, az internet minden átfogó hálózata – fokozatosan szorosan egybekapcsolódtak. Az így kialakuló komplex, ökoszisztémaszerű szuper-rendszer egyre nehezebben átláthatóvá vált. Ráadásul az elválaszthatatlanul összefonódó és egymást kölcsönösen meghatározó részek kényes egyensúlya könnyen megbomlik, így a folyamatok szinte maguktól „szabadulnak el”. (Christ Clearfield, Tilcsik András: Meltdown, 2019) A válságok megoldása ebben a helyzetben attól függ: képesek vagyunk-e létrehozni a rendszer viselkedését pontosan leíró modellt, majd ennek alapján kialakítani egy olyan „mestertervet”, amely egyértelműen eligazít mindenkit – egyéneket, vállalatokat és a szuverén nemzeteket –, hogy mit kell tennie azért, hogy a rendszert a puha-landolás pályájára legyen vezérelhető.
Erre a megoldásra kínált példát az 1970-es években egy civil szervezet – a Római Klub – alapvetően magántámogatásokból és tucatnyi szakember tudományos munkájának eredményeként létrehozott globális modellje. (D. Meadows et. al: The Limits to Growth, 1972) Ez elemezhetővé tette az akkor már komplex rendszert alkotó világunk viselkedését. Sőt, volt még egy – akkoriban szokatlan – előnye: kiszámíthatóvá váltak a lehetséges beavatkozások hatásai. A számítógépes modell szimulációjával végig lehetett követni a különböző akciókhoz tartozó alternatív „jövőszálakat”, vagyis „lejátszhatóvá” és kipróbálhatóvá tette a jövőt! A példa tehát adott, ám van egy kis bökkenő: az akkori állapotokhoz viszonyítva világunk komplexebb és szorosabban csatolt lett.
Az azóta eltelt időszakban olyan gazdasági, műszaki és társadalmi folyamatokat indítottunk el, amelyek mindent és mindenkit összekapcsoltak és betöltöttük a Föld minden zugát, növekedésünk beleütközött világunk határaiba, az emberiség egységes társadalmi organizmussá vált. Miközben azonban kétkedés nélkül követtük, sőt minden módon ösztönöztük a növekedés-orientált életmódot, az fokozatosan fenntarthatatlanná vált. Ez szükségszerűen vezetett válságok kirobbanásához, majd a krízisek fokozatos erősödéséhez. A globális rendszer kormányozhatatlanná vált, az apokalipszis rémével fenyegetve a Föld 8 milliárd lakóját. Ez a helyzet teszi elkerülhetetlenné egy olyan globális modell megalkotását, amely világossá tenné mindenki előtt, hogy viselkedése miként érint másokat, illetve amit mások tesznek, hogyan hat rá. Ennek a modellnek a megalkotását azonban a kibernetika egy különös törvénye, a Conant-Ashby-tétel alapvetően megnehezíti. (R. Conant, W. Ashby: Every good regulator of a system must be a model of that system,1970)
A kutatók a rendszerek hatékony szabályozásának logikájából indultak ki. Mielőtt cselekednénk, számításba kell venni beavatkozásunk lehetséges következményeit, majd ennek ismeretében döntjük el, mit is tegyünk. Ehhez azonban egy olyan modellre van szükség, amelynek bonyolultsága megegyezik a szabályozni kívánt rendszer bonyolultságával, hiszen csak így tudjuk „kikísérletezni” a legjobb döntést. Vagyis a megfelelő bonyolultságú modell megalkotása a rendszer eredményes szabályozásának nélkülözhetetlen feltétele. Ennek a ténynek azért van óriási jelentősége, mert az elmúlt évtizedben a végbement változások következtében a világ komplexitása az 1970-es állapothoz képest szintet ugrott. Világunk áttekinthetetlenül bonyolulttá vált, amit a hiperkonnektivitás fogalmával írnak le. (B. Consens et al: Governing complexity, 2021)
A hiperkonnektivitás azt jelenti, hogy a Föld bármely pontja és minden cselekvő aktora között elszakíthatatlan kapcsolat jött létre, és a kapcsolatok szervezésének tranzakciós ideje és a tranzakciós költsége gyakorlatilag zérussá vált. Emiatt az események következményei, a folyamatok hatásai, a zavarok és a krízisek megállíthatatlanul terjednek tova. Ebben a világban mindenki – akár tudatában van ennek, akár nem – elválaszthatatlanul egybekapcsolódik mindenkivel, és bármely hatás, induljon bárhonnan, szinte azonnal elér mindenkit. Ennek a ténynek azután van még egy nem-várt mellékhatása: a tudományok rég bevált modelljei és az ezekből levezetett döntési szabályok „megbicsaklottak”. Azáltal ugyanis, hogy a különböző jelenségek elválaszthatatlanul egybekapcsolódtak, a tudományok által feltételezett „tiszta” működési körülmények összekuszálódtak.
Így a szaktudományok korábban tévedhetetlen modelljei egyre kevésbé képesek előre jelezni a változásokat.
Ám a világ ökoszisztémaszerű állapota még a tudósoknál is jobban zavarba hozta a döntéshozókat, akik még kevésbé vannak tisztában a szerteágazó következményekkel. Amikor az országok sorsát intéző nagy hatalmú döntéshozók – bankárok, vállalatvezetők, politikusok –, a világ állapotáról meglevő tudását véletlenszerűen „tesztelték”, a szűk szakterületüktől távolabbi, de a döntések minőségét befolyásoló ismereteiket firtatva arra jutottak: világunk kormányosai legfeljebb egy „gorilla szintjén” ismerik a helyzetet. A „tesztkérdésekre” legfeljebb a véletlenszerű válaszok pontosságával tudtak válaszolni. (Hans Rosling et al: Factfulness: Ten Reasons We’re Wrong About the World, 2018) Ráadásul, a világ dolgait intézők – a nagyhatalmak, a szuverén nemzetek, a vetélkedő elitek, a hatalomra törő pártok, a mozgalmak vezetői – nézetei a sokasodó krízisek hatására fokozódó mértékben polarizálódtak. Viselkedésükben ezért – személyiségüktől függetlenül – egyre erősebben érvényesül, hogy mindenki egy ún. „chicken game” játszma résztvevőjének látja magát. Mindenki azt bizonygatja: csak az ő érdeke a fontos, és ennek érdekében mindenre hajlandó. Vagyis, senki ne remélje, hogy majd félrerántja a kormánykereket, ő a rábízott szervezetét nekivezeti bárkinek, aki szembejön.
Vagyis egy olyan világban élünk, ahol minden szinten – a világpolitika nagy- és kisebb hatalmaitól, a vállalatokon keresztül a közösségek irányítóiig – szinte mindenki „chicken game”-et játszik. A következmény: a társadalmak tehetetlenül sodródnak, az államokat lebénítja a vetokrácia, az elkerülhetetlen döntéseket halogatják. Ebben a helyzetben a súlyosbodó válságokat enyhítő és a „puha-landolást” lehetővé tevő döntéseket meghozni, az érdekek racionális összehangolását elősegítő vitát lefolytatni csak a világ valóságos komplexitását tükröző modell birtokában leszünk képesek. Ez megteremthetné azt a mindenki számára elfogadható „jövőtérképet”, amelynek „ösvényeit” és „csapásait” a szimulációs program biztonságosan járható „útvonaltervekké” alakíthatná. Ám a „szuperorganizmussá” vált emberiség szinte áttekinthetetlen komplexitása miatt egy ilyen globális modell kizárólag az emberi és a mesterséges intelligencia együttműködésével hozható létre és működtethető. Vagyis, az emberiség kizárólag az MI segítségével tartható stabil fejlődési pályán.
Természetesen ennek a modellnek a létrehozása során egy sor – ma még nem is teljesen átlátható – problémával kell szembenézni. Kezdjük a legegyszerűbbel: a szükséges komplexitású modell létrehozása, összehasonlítva a Római Klub projektjével, sokkal többe kerülne és jóval több szakember együttműködését igényelné. Vállalva a kritikát, hogy becslésemet „az ujjamból szoptam”, ez nagyjából 1 milliárd dollárba kerülne. A kidolgozás, majd a tesztelés, végül a döntéshozók betanítása mondjuk 1-2 ezer, sok tudományterületet és a Föld különböző nemzetét képviselő szakember koordinált együttműködését feltételezi. A döntéshozáshoz használható változat – reményeim szerint – öt év alatt hozható létre. Az 1 milliárd dollár első pillantásra meghökkentően nagynak látszik, ám gondoljunk csak bele: a világ 100 leggazdagabb emberének bármelyike(!) – ha nem is a mellényzsebéből, de – viszonylag könnyen kiperkálhatná ezt. A világ bármely tudósa pedig – magamból kiindulva – boldogan részt venne ebben a „Mentsük meg a Földet” projektben. Még az is lehet, hogy már el is kezdődtek a modellkészítés munkálatai.
Az igazi gond – visszatérve a kiindulóponthoz –: miként vehetők rá a világ kisebb és nagyobb, különböző rendű és rangú nemzeti, ideológiai, gazdasági, technológiai hatalmai arra, hogy együttműködjenek, valóságos érdekeiket a világ elé tárva, nyitottak legyenek mások érdekeinek elfogadására, és a globális modell alapján racionálisan közelítsék meg a helyzetet? A modell a döntések következményeit kiszámolhatóvá tenné, ezzel átláthatóvá válnának a beavatkozások rövid és hosszútávú hatásai és így megítélhető lenne miként érinti az a különböző közösségeket. Miközben nem tagadom az MI alkalmazásának kockázatait, az igazi problémát mégsem az MI – úgymond – embert leigázni akaró szándéka jelenti. A valódi veszély: az elkerülhetetlen teendőkről folyó vita során a legkülönbözőbb rendű és rangú hatalmasságok végső érvként mindig az eredetmítoszokra, a szuverén nemzet mindent felülíró jogaira, a történelem saját interpretációjára hivatkozva utasítják el a kompromisszumokat. Ez teszi nehézzé, sőt gyakran lehetetlenné, hogy az egységes egésszé vált emberiség a globális jövőtérkép útmutatásait kövesse.
Ebben a helyzetben tehát szükségképpen előtérbe kerül a moralitás szempontja, ami még kényesebbé teszi az MI alkalmazásával kapcsolatos vitákat. Ugyanis ahogyan az MI fokozatosan életünk egyre több részletébe hatolt be és mind gyakrabban találkozunk vele, érthető módon növekszik alkalmazásával kapcsolatban a körültekintés és az óvatosság igénye. Ugyanakkor az MI rendszerek tanulékonyabbaknak és rugalmasabbaknak tűnnek, mint korábban gondoltuk. Egyrészt, az MI képessé tehető, hogy az ember morális szempontjait tekintetbe véve „gondolkodjon” és viselkedjen. Egy nemrég publikált új elemzés megmutatta, hogyan építhető egybe a sokféle anyagi kapcsolatok egységes rendszere az etika szempontjait is tekintetbe vevő modellé. (M. Ashby: Ethical Regulators and Super-Ethical System, 2020) Másrészt, az embert alárendelt pozícióba kényszerítő MI víziója helyett fokozatosan teret nyer a „természetes” és a „mesterséges” intelligencia kooperációját célul tűző megközelítés. Az ún. kiterjesztett (augmented) illetve kollaboratív intelligencia azt a lehetőséget vetíti elénk, hogy a gépek és technológiai berendezések mintájára létrejöhetnek az emberi „természetes”, és az általa létrehozott „mesterséges” intelligencia hatékony együttműködésén alapuló rendszerek. Ezzel remélhetőleg helyreáll a történelmi trend: az ember képessé válik megszokni és megtanulni, hogyan éljen együtt a maga által teremtett alkotásokkal. Ez az út persze konfliktusokkal szegélyezett, erre utalt az elszabaduló tárgyak metaforájával Goethe A bűvészinas című versében. Ám a történelem eddigi menete azt mutatja, kreativitással és óvatossággal, a jövő iráni közös felelősséggel, és a moralitás szempontjait is érvényesítve ezek a problémák végül is megoldhatók.
Így a szaktudományok korábban tévedhetetlen modelljei egyre kevésbé képesek előre jelezni a változásokat.
Ám a világ ökoszisztémaszerű állapota még a tudósoknál is jobban zavarba hozta a döntéshozókat, akik még kevésbé vannak tisztában a szerteágazó következményekkel. Amikor az országok sorsát intéző nagy hatalmú döntéshozóknak – bankárok, vállalatvezetők, politikusok – a világ állapotáról meglevő tudását véletlenszerűen „tesztelték”, a szűk szakterületüktől távolabbi, de a döntések minőségét befolyásoló ismereteiket firtatva arra jutottak: világunk kormányosai legfeljebb egy „gorilla szintjén” ismerik a helyzetet. A „tesztkérdésekre” legfeljebb a véletlenszerű válaszok pontosságával tudtak válaszolni. (Hans Rosling et al: Factfulness: Ten Reasons We’re Wrong About the World, 2018) Ráadásul, a világ dolgait intézők – a nagyhatalmak, a szuverén nemzetek, a vetélkedő elitek, a hatalomra törő pártok, a mozgalmak vezetői – nézetei a sokasodó krízisek hatására fokozódó mértékben polarizálódtak. Viselkedésükben ezért – személyiségüktől függetlenül – egyre erősebben érvényesül, hogy mindenki egy ún. „chicken game” játszma résztvevőjének látja magát. Mindenki azt bizonygatja: csak az ő érdeke a fontos, és ennek érdekében mindenre hajlandó. Vagyis, senki ne remélje, hogy majd félrerántja a kormánykereket, ő a rábízott szervezetét nekivezeti bárkinek, aki szembejön.
Vagyis egy olyan világban élünk, ahol minden szinten – a világpolitika nagy- és kisebb hatalmaitól, a vállalatokon keresztül a közösségek irányítóiig – szinte mindenki „chicken game”-et játszik. A következmény: a társadalmak tehetetlenül sodródnak, az államokat lebénítja a vetokrácia, az elkerülhetetlen döntéseket halogatják. Ebben a helyzetben a súlyosbodó válságokat enyhítő és a „puha-landolást” lehetővé tevő döntéseket meghozni, az érdekek racionális összehangolását elősegítő vitát lefolytatni csak a világ valóságos komplexitását tükröző modell birtokában leszünk képesek. Ez megteremthetné azt a mindenki számára elfogadható „jövőtérképet”, amelynek „ösvényeit” és „csapásait” a szimulációs program biztonságosan járható „útvonaltervekké” alakíthatná. Ám a „szuperorganizmussá” vált emberiség szinte áttekinthetetlen komplexitása miatt egy ilyen globális modell kizárólag az emberi és a mesterséges intelligencia együttműködésével hozható létre és működtethető. Vagyis, az emberiség kizárólag az MI segítségével tartható stabil fejlődési pályán.
Természetesen ennek a modellnek a létrehozása során egy sor – ma még nem is teljesen átlátható – problémával kell szembenézni. Kezdjük a legegyszerűbbel: a szükséges komplexitású modell létrehozása, összehasonlítva a Római Klub projektjével, sokkal többe kerülne és jóval több szakember együttműködését igényelné. Vállalva a kritikát, hogy becslésemet „az ujjamból szoptam”, ez nagyjából 1 milliárd dollárba kerülne. A kidolgozás, majd a tesztelés, végül a döntéshozók betanítása mondjuk 1-2 ezer, sok tudományterületet és a Föld különböző nemzetét képviselő szakember koordinált együttműködését feltételezi. A döntéshozáshoz használható változat – reményeim szerint – öt év alatt hozható létre. Az 1 milliárd dollár első pillantásra meghökkentően nagynak látszik, ám gondoljunk csak bele: a világ 100 leggazdagabb emberének bármelyike(!) – ha nem is a mellényzsebéből, de – viszonylag könnyen kiperkálhatná ezt. A világ bármely tudósa pedig – magamból kiindulva – boldogan részt venne ebben a „Mentsük meg a Földet” projektben. Még az is lehet, hogy már el is kezdődtek a modellkészítés munkálatai.
Az igazi gond – visszatérve a kiindulóponthoz –: miként vehetők rá a világ kisebb és nagyobb, különböző rendű és rangú nemzeti, ideológiai, gazdasági, technológiai hatalmai arra, hogy együttműködjenek, valóságos érdekeiket a világ elé tárva, nyitottak legyenek mások érdekeinek elfogadására, és a globális modell alapján racionálisan közelítsék meg a helyzetet? A modell a döntések következményeit kiszámolhatóvá tenné, ezzel átláthatóvá válnának a beavatkozások rövid és hosszútávú hatásai és így megítélhető lenne miként érinti az a különböző közösségeket. Miközben nem tagadom az MI alkalmazásának kockázatait, az igazi problémát mégsem az MI – úgymond – embert leigázni akaró szándéka jelenti. A valódi veszély: az elkerülhetetlen teendőkről folyó vita során a legkülönbözőbb rendű és rangú hatalmasságok végső érvként mindig az eredetmítoszokra, a szuverén nemzet mindent felülíró jogaira, a történelem saját interpretációjára hivatkozva utasítják el a kompromisszumokat. Ez teszi nehézzé, sőt gyakran lehetetlenné, hogy az egységes egésszé vált emberiség a globális jövőtérkép útmutatásait kövesse.
Ebben a helyzetben tehát szükségképpen előtérbe kerül a moralitás szempontja, ami még kényesebbé teszi az MI alkalmazásával kapcsolatos vitákat. Ugyanis ahogyan az MI fokozatosan életünk egyre több részletébe hatolt be és mind gyakrabban találkozunk vele, érthető módon növekszik alkalmazásával kapcsolatban a körültekintés és az óvatosság igénye. Ugyanakkor az MI rendszerek tanulékonyabbaknak és rugalmasabbaknak tűnnek, mint korábban gondoltuk. Egyrészt, az MI képessé tehető, hogy az ember morális szempontjait tekintetbe véve „gondolkodjon” és viselkedjen. Egy nemrég publikált új elemzés megmutatta, hogyan építhető egybe a sokféle anyagi kapcsolatok egységes rendszere az etika szempontjait is tekintetbe vevő modellé. (M. Ashby: Ethical Regulators and Super-Ethical System, 2020) Másrészt, az embert alárendelt pozícióba kényszerítő MI víziója helyett fokozatosan teret nyer a „természetes” és a „mesterséges” intelligencia kooperációját célul tűző megközelítés. Az ún. kiterjesztett (augmented) illetve kollaboratív intelligencia azt a lehetőséget vetíti elénk, hogy a gépek és technológiai berendezések mintájára létrejöhetnek az emberi „természetes”, és az általa létrehozott „mesterséges” intelligencia hatékony együttműködésén alapuló rendszerek. Ezzel remélhetőleg helyreáll a történelmi trend: az ember képessé válik megszokni és megtanulni, hogyan éljen együtt a maga által teremtett alkotásokkal. Ez az út persze konfliktusokkal szegélyezett, erre utalt az elszabaduló tárgyak metaforájával Goethe A bűvészinas című versében. Ám a történelem eddigi menete azt mutatja, kreativitással és óvatossággal, a jövő iráni közös felelősséggel, és a moralitás szempontjait is érvényesítve ezek a problémák végül is megoldhatók.
Megjelent a Népszava Szép Szó rovatában 2023. június 18-án.
