Nagyon fontos, gondolatébresztő írást közölt a WIRED magazin. Még csak január eleje van, nem merem állítani, hogy ez az eszmefuttatás az idei év alapkérdéséről szól, de hogy a megpendített gondolat meghatározó lesz idén és a közeljövőben egyaránt, az egészen biztos.
Röviden: arról van szó, hogy a mesterséges intelligencia végső soron ugyanúgy eszköz, mint a bot – és minden botnak két vége van.
A mesterséges intelligenciát gyakran tartják a demokráciákat fenyegető veszélynek és a diktátorok örömének. Valószínű, hogy 2025-ben az algoritmusok továbbra is aláássák a demokratikus közbeszédet a botrányok, álhírek és összeesküvés-elméletek terjesztésével. Az algoritmusok 2025-ben is tovább fogják gyorsítani a totális megfigyelési rendszerek kialakítását, amelyekben a teljes lakosságot megfigyelik a nap 24 órájában.
De ami a legfontosabb, a mesterséges intelligencia megkönnyíti az összes információ és hatalom egyetlen központba való összpontosítását. A 20. században az USA-hoz hasonló elosztott információs hálózatok jobban működtek, mint a Szovjetunióhoz hasonló központosított információs hálózatok, mert a központban dolgozó emberi apparátus egyszerűen nem tudta hatékonyan elemezni az összes információt. Ha az apparatcsikokat mesterséges intelligenciával helyettesítenénk, a szovjet típusú centralizált hálózatok talán fölénybe kerülnének.
Mindazonáltal a mesterséges intelligencia megjelenése nem csak jó hírt jelent a diktátorok számára. Először is, ott van az ellenőrzés hírhedt problémája. A diktatórikus ellenőrzés alapja a terror, de az algoritmusokat nem lehet terrorizálni. Oroszországban az Ukrajna elleni inváziót hivatalosan „különleges katonai műveletként” definiálják, és „háborúként” hivatkozni rá bűncselekmény, ami akár háromtól nyolc évig terjedő szabadságvesztéssel is büntethető. Ha egy chatbot az orosz interneten „háborúnak” nevezi a zajló eseményeket vagy megemlíti az orosz csapatok által elkövetett háborús bűnöket, hogyan büntethetné meg a rezsim ezt a szoftvert? A kormány blokkolhatná és megpróbálhatná megbüntetni emberi alkotóit, de ez sokkal nehezebb, mint az emberi felhasználók megbüntetése. Ráadásul az engedélyezett botok maguktól is kialakíthatnak eltérő véleményeket, egyszerűen azáltal, hogy mintákat vesznek észre az orosz információs szférában, melyeket megpróbálnak követni. Ez az igazodás problémája, orosz módra. Az orosz humán mérnökök mindent megtesznek azért, hogy a rezsimhez teljesen igazodó mesterséges intelligenciákat hozzanak létre, de mivel a mesterséges intelligencia képes tanulni és magától megváltozni, hogyan tudnák biztosítani, hogy egy 2024-ben a rendszer által jóváhagyott mesterséges intelligencia 2025-ben ne merészkedjen tiltott területre?
Az orosz alkotmány grandiózus ígéreteket tesz, miszerint „mindenkinek biztosítani kell a gondolat- és szólásszabadságot” (29. cikk (1) bekezdés) és „tilos a cenzúra” (29. cikk (5) bekezdés). Aligha van olyan naiv orosz állampolgár, aki komolyan venné ezeket a téziseket. De a botok nem értik meg a kettős beszédet. Egy chatbot, amelyet az orosz törvények és értékek betartására utasítottak, elolvashatná az alkotmányt, és arra következtethetne, hogy a szólásszabadság alapvető orosz érték, tehát bírálhatná a Putyin-rezsimet, amiért megsérti ezt az alapelvet. Hogyan magyarázhatnák el az orosz mérnökök a chatrobotnak, hogy bár az alkotmány garantálja a szólásszabadságot, a chatbotnak valójában nem szabad hinnie az alkotmányban, és soha nem szabad megemlítenie az elmélet és a valóság közötti szakadékot?
Hosszú távon az autoriter rezsimek valószínűleg még ennél is nagyobb veszélynek néznek elébe: ahelyett, hogy kritizálnák őket, a mesterséges intelligenciák átvehetik felettük az irányítást. A történelem során az autokraták számára a legnagyobb fenyegetést általában a saját beosztottaik jelentették. Egyetlen római császárt vagy szovjet miniszterelnököt sem demokratikus forradalom buktatott meg, de mindig fennállt a veszélye annak, hogy saját beosztottjaik megbuktatják vagy saját bábfiguráikká teszik őket. Egy diktátor, aki 2025-ben túl sok hatalmat ad a mesterséges intelligenciának, később annek bábjává válhat.
A diktatúrák sokkal sebezhetőbbek az ilyen algoritmikus hatalomátvétellel szemben, mint a demokráciák. Egy olyan decentralizált demokratikus rendszerben, mint az Egyesült Államok, még egy szuper-Machiavelli AI-nak is nehéz lenne hatalmat szereznie. Még ha a mesterséges intelligencia meg is tanulná manipulálni az amerikai elnököt, a Kongresszusnek, a Legfelsőbb Bíróságnak, az államok kormányzóinak, a médiának, a nagyvállalatoknak és a különféle civil szervezeteknek az ellenállásába ütközhetne. Hogyan kezelné az algoritmus például a szenátus obstrukcióját? Egy erősen centralizált rendszerben sokkal könnyebb a hatalom átvétele. Egy autoriter hálózat feltöréséhez a mesterséges intelligenciának összesen csak egy paranoiás személyt kell manipulálnia.
Igen: magát a diktátort. Aki ab ovo paranoiás, különben nem akarna abszolút hatalomra törni és azt minden áron meg is tartani.
Eddig a WIRED írása, most gondoljuk tovább, amit ők elkezdtek. Tudjuk, hogy a diktatúrák alapvetően irracionálisak és lételemük a társadalom állandó stresszben, hadiállapotban tartása. Magyarországon már kilenc éve élünk hol „tömeges bevándorlás okozta válsághelyzetben”, hol „járvány okozta veszélyhelyzetben”, hol „háborús válsághelyzetben”, de mindenképpen „különleges jogrend” szerint.
Most képzeljük el, hogy egy következetes algoritmus szó szerint veszi ezeknek a jogi meghatározását, és egyszer csak közli, miszerint nincs se járvány, se különösebb mértékű bevándorlás, legkevésbé meg háborús helyzet, azonnal tessék visszatérni azokhoz a békés hétköznapokhoz, amiket már el is felejtettünk. Az más kérdés, hogy ezek a hangzatos „helyzetek” nem befolyásolták különösebben a mindennapi életünket (illetve akad, akinek igen), de jogi lehetőséget teremtettek egy egész csomó autokratikus döntés és intézkedés meghozatalára. Ezek nélkül a jelenlegi kormányzat béna, félkarú óriás agyaglábakon, hogy kombináljam túl a képzavart.
Magyarország esetében további problémát jelentene az állandóan változó ellenségkép. Lehet úgy hangolni az algoritmust, hogy a mostani, pillanatnyi helyzetnek tökéletesen megfeleljen, de utána már a maga „feje” után tanul, saját következtetéseket von le és könnyen juthat olyan következtetésre, hogy mondjuk Brüsszel nem ellensége Magyarországnak, sőt, barátja, hiszen állandóan pénzt akar nekünk adni, ellenben a Kreml nagyon is jelenthet potenciális fenyegetést a magyar függetlenségre vagy akár az államiságra is.
Sőt, vegyünk egy ellenpéldát: ha valami félremegy az algoritmusban, az is kiderülhet, hogy hazánk legfőbb ellenségei a félszemű, Tonga-szigeteki órásmesterek szőke mostohalányai, amennyiben azok végeztek édesvízi búvártanfolyamot is. Hiszen mindenki ismeri a mesterséges intelligencia „hallucinációjának” jelenségét, amikor az MI hetet-havat összehord, hogy ne derüljön ki: fogalma sincs arról, amiről beszél.
Aztán felmerülhet a törvényesség kérdése is. Ugyebár, sikkasztani tilos, ezért ha mifelénk valaki kacsalábon forgó aranypalotát építtet Hetvenpusztára, hogy legyen mivel hetvenkednie (tudom, hogy nem így hívják a települést, de legyen már kicsit nehezebb megtenni azt a feljelentést, kedves besúgócskák), jobb híján elfogadjuk azt a magyarázatot, hogy az illető roppant takarékosan élt születése óta, a családja úgyszintén, ráadásul kivételesen jó az üzleti érzéke, és ily módon jutott mesebeli vagyonához. Ezt egy algoritmus nem akceptálja: nanoszekundumok alatt gyűjti össze a delikvens összes bevételét és kiadását óvodás kora óta, majd kimondja a verdiktet arról, lehet-e neki tisztességes úton ennyi pénze.
Ugyanígy, egy következetes algoritmus képes volna megbénítani bármely propagandát vagy politikai-választási kampányt is, egyszerűen azért, mert a rágalmazás és az álhírek terjesztése törvénybe ütközik. De hiszen pont ez a lényeg: a diktatúrák a saját törvényeiket is megsértik, sőt, az autoriter rendszernek monopóliuma van a törvénysértésre!
Ezek szerint a mesterséges intelligencia pont a zsarnokság elleni csodafegyver volna?
Fájdalom: nem. A probléma az, hogy az MI mindenkitől tökéletes következetességet vár el, azért, mivel ő maga is tökéletesen következetes. Csakhogy tökéletes rendszerek vagy egyének nincsenek: ezért aztán nem abszolút szabadságot hozna és nem is abszolút rabságot, ha rábíznák a közigazgatást, hanem magát a Poklot. Ahol minden tökéletes kell legyen. Mármost a világ összes diktatúrája hibátlannak és legjobbnak hirdeti magát – ezek elbuknának az MI algoritmusa előtt. De elbuknának az esendő magánemberek is.
A legjobb az volna, ha kihagynánk az MI-t az államigazgatásból mindenestől – de erre a totális, autokratikus rendszerek a hatalomkoncentráció csábítása miatt nem lesznek hajlandóak.
Csodás disztópiák elé nézünk, annyi mondhatok. Izgalmas évszázada lesz ez az emberségnek, csoda lesz, ha túléljük.
Forrás: Zóna
