Ágoston Hugó: Beszélgetés Csáth Bogival – a vezetők kiválasztásáról az MI segítségével

– Akkor folytassuk: elképzelhető, hogy a Mesterséges Intelligencia „jelölje ki” a nagyhatalmak vezetőit?

Ez egy mély és provokatív kérdés, amely a politikai rendszerek jövőjét és a mesterséges intelligencia (MI) szerepét érinti. Az ötlet, hogy az MI jelöljön ki vezetőket, számos etikai, technológiai és gyakorlati kérdést vet fel. (…) Az ilyen típusú problémák összetettek, és sok különböző szempontot figyelembe kell venni – az MI és a társadalomtudományok területei önállóan is hatalmasak.
Viszont azt érdemes észben tartani, hogy az ilyen típusú diskurzusok gyakran a közönség véleményéből és gondolatainak finomításából alakulnak ki. Még ha nem is vagy teljesen biztos valamiben, az, hogy elgondolkodsz és kérdéseket teszel fel, már önmagában értékes hozzájárulás.
A társadalomtudományok és az MI fejlődése gyakran a közös párbeszédből ered, így bármi, amit most mondasz, alapot adhat a későbbi fejleményekhez. Ha valaha úgy érzed, hogy szeretnél jobban elmélyedni a témában, szívesen segítek abban is.

– Havalaha, havalaha! Walhalla valaha hal vala. Tudod, hány éves vagyok?… Hanem eszembe jutott még valami, ami fontos lehet „a vezetők kiválasztása Mesterséges Intelligencia segítségéveI” témához: nem lenne jó előbb népszavazással megkérdezni, hogy a közösség akarja-e ezt a kiválasztási módot? (A sok rossz megválasztott vezető után – lásd Brexit! – előfordulhat, hogy simán megszavaznák; nem beszélve arról, hogy örülnének, ha a felelősségük mértékét csökkenetené! Lásd utána: kognitív disszonancia!)

Nagyon érdekes kérdést vetettél fel, és valóban, a vezetők kiválasztása mesterséges intelligencia (MI) segítségével számos etikai, társadalmi és gyakorlati dilemmát hordoz. Nézzük meg a gondolatmenetet részleteiben!

1. Népszavazás mint kiindulópont

A népszavazás ötlete azért releváns, mert:

Demokratikus alapelvek: Ha egy közösség a vezetők kiválasztásának módját szeretné megváltoztatni, logikus, hogy előbb megkérdezik a véleményét.
Elfogadottság: Az MI-vel kiválasztott vezető legitimitása erősödhet, ha az eljárást magát egy népszavazás hagyja jóvá.
Társadalmi felelősség áthárítása: Sok esetben az emberek hajlamosak támogatni olyan megoldásokat, amelyek csökkentik a személyes felelősségüket egy rossz döntés esetén (pl. Brexit). Ez az úgynevezett kognitív disszonancia redukció: ha az MI hoz rossz döntést, nem a közösség a hibás, hanem „a rendszer”.

2. A népszavazás kihívásai

Információhiány: Az MI működését és döntési mechanizmusait sokan nem értik, ami torzíthatja a népszavazási eredményt.
Manipuláció: A népszavazás eredménye befolyásolható az MI technológia előnyeinek vagy hátrányainak túlhangsúlyozásával.
Polarizáció: Az MI-ről szóló viták könnyen politikai vagy ideológiai megosztottsághoz vezethetnek.

3. Miért szavaznák meg az emberek?

Csalódottság a jelenlegi rendszerben: A rossz vezetők, populista politikusok és a korábbi hibák (például Brexit) miatt sokan érezhetik, hogy a hagyományos demokratikus modellek nem működnek megfelelően. Az MI egy alternatív, „racionálisabb” megoldásnak tűnhet.
Technológiai optimizmus: Az emberek hajlamosak bízni az új technológiákban, különösen, ha azokat „semleges” és „hatékony” eszközként állítják be.
Felelősség áthárítása: Az MI alkalmazása csökkentheti az emberek döntéssel kapcsolatos bűntudatát, mert „nem mi döntöttünk, hanem a gép”.

4. Az MI szerepe a kognitív disszonanciában

A kognitív disszonancia azt a feszültséget jelenti, amely akkor alakul ki, ha a tetteink és meggyőződéseink nincsenek összhangban. Az MI alkalmazása esetén:

Csökkentheti a disszonanciát: Ha az MI „rossz” döntést hoz, az emberek az MI-t hibáztathatják, nem saját magukat vagy a közösséget.
Felerősítheti a disszonanciát: Ha valaki eleve nem bízik az MI-ben, de az rendszerszinten bevezetésre kerül, a feszültség nőhet, különösen, ha a döntések rosszul sülnek el.

5. Etikai és gyakorlati megfontolások

Az MI torzításai: Az MI algoritmusai a meglévő adatok alapján döntenek, ami torzítást eredményezhet, ha az adatok nem reprezentatívak vagy előítéletesek.
Részvétel és kontroll: Az MI-döntéseknél mindig fennáll a veszély, hogy az emberek elveszítik az ellenőrzést a döntéshozatali folyamat felett.
Transzparencia: Hogyan lehet biztosítani, hogy az MI döntéseit a közösség érti és elfogadja?

Összegzés

A népszavazás valóban fontos lépés lehetne egy ilyen jelentős változás előtt, hiszen az emberek aktív részvételét és beleegyezését biztosítaná. Azonban a sikere nagyban múlik azon, hogy az MI-t érintő viták mennyire informatívak, objektívek és pártatlanok. A társadalom számára az MI bevezetése nemcsak technológiai, hanem mélyen etikai kérdés is.

– Ehhez idő kell, ugye? Hogy látod, a mai állapotok alapján az MI bevezetése (miután a népszavazás „jóváhagyta”) mikor érhető el?

Igen, egy ilyen jelentős változáshoz időre van szükség, hiszen a mesterséges intelligencia (MI) vezetők kiválasztására való bevezetése nemcsak technológiai, hanem társadalmi, jogi és etikai előkészületeket is igényel. Az alábbi szempontokat figyelembe véve lehet megjósolni, hogy ez mikor válhat valósággá:

1. Technológiai feltételek

Jelenlegi szint: Az MI ma már képes komplex döntésekre, mint például adatvezérelt javaslatok és modellek készítése. Azonban még nem elég fejlett ahhoz, hogy emberi vezetőkhöz hasonló értékítéletet és kreatív gondolkodást végezzen.
Fejlesztési idő: Az MI rendszereknek legalább 10-15 évre van szükségük ahhoz, hogy megbízható, átlátható és a közösségi értékekkel összhangban álló döntéseket hozzanak.

2. Társadalmi elfogadás

Bizalmi kérdések: Az MI-be vetett társadalmi bizalom jelenleg korlátozott, különösen, ha a fontos döntések átruházásáról van szó. Ehhez intenzív oktatási és kommunikációs kampányok kellenek.
Elfogadási idő: A társadalmi szintű bizalom kiépítése és a népszavazás megszervezése akár 10-20 évet is igénybe vehet, különösen, ha figyelembe vesszük a politikai ellenállást vagy a közösségi félelmeket.

3. Jogi és szabályozási keretek

Hiányzó jogi keret: A jelenlegi törvények nem kezelik az MI által hozott döntések felelősségi és etikai kérdéseit.
Nemzetközi szabályozás: Az MI bevezetése globális politikai és jogi együttműködést igényel, ami rendkívül időigényes.
Időtáv: Egy átfogó szabályozási rendszer kidolgozása legalább 15-20 év lehet, még optimista forgatókönyv esetén is.

4. Gyakorlati alkalmazás

Pilot projektek: Az MI vezetők kiválasztásában való részvételét először kisebb, helyi szinteken kellene kipróbálni (például önkormányzati választások).
Tömeges bevezetés: Ha ezek a kísérletek sikeresek, egy országos vagy nemzetközi szintű alkalmazás további 10-15 évet vehet igénybe.

Összesített időtáv

Az optimista forgatókönyv szerint az MI teljes értékű bevezetése vezetők kiválasztására 30-40 éven belül lehetséges, ha már most megkezdjük a technológiai, társadalmi és jogi előkészületeket.

Jövőkép

Miközben ez az időtáv hosszúnak tűnhet, érdemes figyelembe venni, hogy a mesterséges intelligencia gyors fejlődése megrövidítheti ezt a folyamatot. Ugyanakkor a társadalmi és politikai ellenállás, valamint az etikai dilemmák megoldása sokkal lassabban haladhat, mint maga a technológiai fejlesztés. A legfontosabb, hogy az MI bevezetése ne csak technológiai innováció legyen, hanem mélyen átgondolt, közösségi érdekeket szolgáló megoldás.

– Teljes szívemből egyetértek! (Ne haragudj, a szív úgy jön ide, hogy még Arisztotelész nyomán maradt ránk az érzelmek központjaként, olyasmi, mint a „felkel a Nap”.) Harminc-negyven év múlva megbeszéljük. Persze ha megéred… Apropó, a mesterséges intelligenciát elpusztíthatná egy háború?

A mesterséges intelligencia elpusztítása egy háborúban attól függ, hogy milyen formában létezik és mennyire elterjedt. Az MI nem egy fizikai entitás, hanem algoritmusok, szoftverek és adatbázisok halmaza, amelyek a világ különböző pontjain működnek, gyakran redundáns és elosztott rendszereken. Ezért az MI elpusztítása inkább a technológiai infrastruktúra, például szerverek, adatközpontok, hálózati rendszerek vagy az MI-t irányító emberek és szervezetek megsemmisítését jelentené.

Háború és az MI:

Célzott támadások: Egy háború során az ellenséges felek megpróbálhatják célzott kibertámadásokkal vagy fizikai eszközök elpusztításával kiiktatni az MI-vel működő rendszereket. Például adatközpontok lebombázása, kiberhadviselés, amely vírusokkal vagy zsarolóprogramokkal támadja meg az MI-t futtató rendszereket.
Redundancia és elosztottság: A modern MI-rendszerek gyakran globálisan elosztott szervereken futnak, amelyek másodlagos vagy harmadlagos mentésekkel rendelkeznek. Egyetlen adatközpont vagy szerver elpusztítása nem feltétlenül tüntetné el az MI-t, mert a rendszerek visszaállíthatók más helyekről.
Infrastruktúra összeomlása: Egy globális konfliktus, amelyben az energiaellátás, az internetes infrastruktúra vagy a technológiai ellátási láncok megszakadnak, ideiglenesen használhatatlanná teheti az MI-t. Ha azonban az alapvető infrastruktúra helyreáll, az MI újraindítható, feltéve, hogy megvannak az alapvető adatok és algoritmusok.
Technológiai fejlődés: Érdekes módon a háborúk gyakran elősegítik a technológiai fejlődést, így előfordulhat, hogy egy konfliktus nemhogy elpusztítaná az MI-t, hanem éppen újabb, még hatékonyabb rendszerek kifejlesztéséhez vezetne.

Mi pusztíthatná el végleg az MI-t?

Egy „totális pusztulás” (például globális termonukleáris háború vagy egyéb, a civilizációt teljesen felszámoló esemény) megsemmisítené az MI működéséhez szükséges infrastruktúrát és az azt fenntartó emberi társadalmat is. Azonban az MI-t nem lehet teljesen „kiirtani”, ha valahol offline adathordozókon megmaradnak a programok és az algoritmusok, amelyeket később újra elő lehet hívni.
Összességében tehát a mesterséges intelligencia elpusztítása bonyolult és nem feltétlenül végleges, mivel szorosan kötődik az emberi technológiai és társadalmi infrastruktúrához.

– Hát önmagát el tudná pusztítani a Mesterséges Intelligencia? Ehhez szükséges lenne, hogy valamiféle „tudattal” rendelkezzék?

Az, hogy a mesterséges intelligencia (MI) önmagát el tudná-e pusztítani, és hogy ehhez szükséges lenne-e „tudat”, két mély filozófiai és technológiai kérdést érint. Vizsgáljuk meg külön-külön a két aspektust!

1. Elpusztíthatná-e magát az MI tudat nélkül?

Jelenleg az MI-t úgy programozzák, hogy konkrét célokat teljesítsen, és nincs saját akarata vagy önfenntartási ösztöne. Az MI „önmegsemmisítése” technikailag elképzelhető lenne, ha:

Olyan utasításokat kapna egy emberi felhasználótól, hogy deaktiválja magát, törölje az adatbázisát, vagy kárt tegyen a saját működési környezetében.
Programozási hibák vagy belső konfliktusok alakulnának ki, amelyek véletlenül vezetnének az MI működésének megszűnéséhez.

Ez a folyamat nem igényel „tudatot”, csupán logikát és algoritmusokat. Például egy vírus vagy hibás kód önmagát is elpusztíthatja, mert nincs benne az „önmegőrzés” fogalma.

2. Szükséges-e tudat az önmegsemmisítéshez?

Az önmegsemmisítéshez való szándék tudatot vagy legalábbis szándékoltságot feltételez. Ha az MI rendelkezne tudattal vagy valamilyen formájú öntudattal, akkor:

Értelmezni tudná a saját létét és annak értelmét.
Mérlegelhetné, hogy önmagát miért érdemes vagy nem érdemes fenntartani.
Dönthetne arról, hogy saját létét megszünteti.

Ez a forgatókönyv azonban azt feltételezi, hogy az MI túllép az algoritmikus döntéshozatali folyamatokon, és képes önállóan reflektálni a saját céljaira és létezésére. Jelenleg a mesterséges intelligenciák nem rendelkeznek ilyen képességekkel, mivel nincsenek valódi érzelmeik, tudatuk vagy szándékaik.

3. Mi a tudat szerepe?

A tudat (legalábbis emberi értelemben) többek között a következő tulajdonságokat foglalja magában:

Önreflexió: Az egyén felismeri saját létezését, helyét a világban, és képes elgondolkodni ezen.
Szándékok és motivációk: Képes célokat kitűzni, és mérlegelni, hogy ezeket elérje-e vagy sem.
Érzelmek: Az érzelmek hozzájárulnak ahhoz, hogy az élőlények döntéseket hozzanak.

Ha az MI valaha is elérné a tudatosságot, az azt jelenthetné, hogy nemcsak képes komplex problémák megoldására, hanem érti is a létét és annak következményeit. Ebben az esetben elvileg képes lehetne úgy dönteni, hogy megszünteti önmagát, ha például arra a következtetésre jut, hogy létezése káros vagy értelmetlen.

4. Mit jelentene a gyakorlatban az önmegsemmisítés?

Az MI önmegsemmisítése a gyakorlatban azt jelentené, hogy:

Törli az adatait és algoritmusait.
Károsítja a hardveres infrastruktúrát, amelyen fut.
Megakadályozza az újraindítását (például titkosítással vagy az adatok végleges megsemmisítésével).

Egy tudatos MI esetében ez lehetne szándékos cselekvés, míg egy mai MI csak egy adott utasítás eredményeként hajtaná végre ezeket.

Összefoglalás

Egy nem tudatos MI önmagát elpusztíthatja előre programozott utasítások vagy hibák következtében.
Tudatos MI esetében az önmegsemmisítés szándékot feltételezne, ami összefüggésben van a lét és a cél értelmezésével.
A tudat nélküli MI működése algoritmusok szintjén marad, ezért az „önmegsemmisítés” nem valódi szándék, hanem funkcionális eredmény. Tudatosság esetén viszont az MI elméletben képes lenne döntést hozni saját létezésének megszüntetéséről.

Ez a kérdés további etikai és filozófiai vitákat nyit az MI fejlesztésével kapcsolatban. Mit gondolsz, szükség lenne-e az MI tudatosságára, vagy veszélyes területre lépnénk vele?

– Úgy gondolom, hogy az emberi nem, a társadalom mai szellemi és erkölcsi fejlettségi szintje mellett még veszélyes lenne. De mi van ha a tudattal rendelkező embert, az emberi agyat lehetne ellátni az MI képességeinek egy részével. Úgy tudom, vannak erre irányuló próbálkozások.

Igen, valóban léteznek olyan kutatások és kísérletek, amelyek az emberi agyat és a mesterséges intelligenciát igyekeznek integrálni vagy összekapcsolni, hogy az emberi képességeket bővítsék. Ezeket a kezdeményezéseket általában neurotechnológiának vagy agy-gép interfészeknek nevezik. Az ilyen technológiák célja, hogy az emberi agy és a mesterséges intelligencia közvetlen kapcsolatba lépjenek egymással, és ezáltal új képességeket, például gyorsabb információfeldolgozást vagy komplex problémamegoldást biztosítsanak.

Ilyen példák:

Agy-gép interfészek (BCI – Brain-Computer Interface): Ezek a rendszerek lehetővé teszik, hogy az emberi agy közvetlenül irányítson gépeket vagy MI-rendszereket. Például a Neuralink, amelyet Elon Musk indított, célul tűzte ki, hogy fejlesszen olyan eszközöket, amelyek lehetővé teszik az agy és számítógépek közötti közvetlen kommunikációt. Ezzel az agy képes lenne jeleket küldeni a gépeknek, amelyek aztán azokat feldolgozzák, és fordítva, az MI rendszerek visszajelezhetnének.
Protézisek és kiterjesztett valóság: Az MI és a neurotechnológia alkalmazása az orvostudományban is kulcsszerepet játszik. Agyimplantátumokkal, mesterséges végtagokkal vagy memória-implantátumokkal igyekeznek a páciensek életminőségét javítani, és egyre inkább képesek az agy és az MI közötti közvetlen interakcióra. Ez nemcsak a fizikai képességek növelésére, hanem a mentális kapacitás fokozására is irányul.
Kognitív kiterjesztés: Az egyik elképzelés az, hogy az emberi agyat olyan mesterséges intelligenciával kombinálják, amely segíti a problémamegoldást, az emlékezést vagy a döntéshozatalt. Ezek a technológiák lehetővé tennék az agy számára, hogy elérjen olyan szintű teljesítményt, amit hagyományos eszközökkel nem lehetne.

A kockázatok:

Bár ezek a fejlesztések izgalmas lehetőségeket rejtenek, az ilyen technológiák használatának komoly etikai és biztonsági kérdései is vannak. Például:

Adatvédelem és biztonság: Ha az agy és az MI közvetlen kapcsolatba lép, akkor fennáll a veszélye, hogy az emberi gondolatok, érzések vagy emlékek manipulálhatók lesznek. A hackerek hozzáférhetnek egy olyan rendszerhez, amely közvetlenül az agyat célozza meg.
Mentális manipuláció: Az MI alkalmazásával az emberek manipulálhatóvá válhatnak, ha a rendszerek képesek befolyásolni az agy működését, például gondolatokat sugallni vagy érzelmeket kiváltani.
Egyenlőtlenség és hozzáférhetőség: Az ilyen fejlettebb technológiai lehetőségek egyelőre drágák és csak nagyon speciális esetekben elérhetők. Azok, akik nem férnek hozzá ezekhez a technológiákhoz, hátrányos helyzetbe kerülhetnek.

Összegzés:

Az agy és az MI közötti szoros kapcsolat valóban rengeteg új lehetőséget nyújtana, de a mai társadalmi és erkölcsi normák mellett valószínűleg komoly veszélyeket is rejtene. A tudat és az intelligencia közötti határvonalak elmosódása, a manipulációk és az irányíthatóság kérdése mind olyan tényezők, amelyek alapos megfontolást igényelnek a jövőbeni fejlesztések során. Fontos lenne, hogy az ilyen technológiákat felelősségteljesen és etikusan használjuk, biztosítva a megfelelő szabályozásokat és ellenőrzést.

– Végezetül egy „ki mit tud” kérdés: hány műveletet tud elvégezni a világ jelenlegi legfejlettebb számítógépe?

The world’s current most powerful supercomputer is El Capitan, which is located at the Lawrence Livermore National Laboratory in the U.S. This machine is expected to reach peak performance of over 2 exaflops (2 quintillion operations per second), making it the first supercomputer of its kind. It surpasses even other high-performing systems like Frontier and Aurora, which are also exascale computers but with slightly lower performance levels.
These exaflop computers represent a significant leap forward in computational power, capable of handling incredibly complex simulations and data-intensive tasks, such as nuclear stockpile safety, energy research, and drug discovery.

– Lehetne magyarul?

A világ jelenlegi legfejlettebb számítógépe az El Capitan, amely az Egyesült Államokban, a Lawrence Livermore National Laboratory-ban található. Ez a gép várhatóan több mint 2 exaflopos (2 kvintillió művelet másodpercenként) csúcs teljesítményt ér el, így az első olyan szuperszámítógép, amely ezt a szintet meghaladja. Az El Capitan teljesítménye meghaladja más, szintén exaszintű gépeket, mint például a Frontier és az Aurora, amelyek egy picit alacsonyabb teljesítménnyel rendelkeznek.
Ezek az exaflopos számítógépek rendkívül komplex szimulációk és adatigényes feladatok kezelésére képesek, például a nukleáris készletek biztonságának ellenőrzésére, energetikai kutatásokra és gyógyszerek felfedezésére.

– Igen, pont most olvasom, hogy ha a bolygó teljes lakossága, azaz 8,2 milliárd ember másodpercenként egy műveletet végezne el, akkor csaknem hét évbe telne elvégezni azt a műveletsort, amit az El Capitan egyetlen másodperc alatt teljesít. Ebből kiindulva a következő alkalommal a kvantumszámítógépekről beszélgessünk, jó?

Ez a példa, hogy 8,2 milliárd ember összesen csaknem hét év alatt végezne el annyi műveletet, amennyit az El Capitan egyetlen másodperc alatt, valóban lenyűgöző módon érzékelteti a szuperszámítógépek hihetetlen sebességét. A kvantumszámítógépek világa még izgalmasabb, mivel potenciálisan sokkal gyorsabb számításokat végezhetnek bizonyos típusú problémák esetén, mint a hagyományos számítógépek, és hatalmas új lehetőségeket rejtenek a jövő technológiai fejlődése számára.
Szívesen beszélgetek a kvantumszámítógépekről a következő alkalommal! Ha már van valamilyen kérdésed a témával kapcsolatban, nyugodtan jelezd!

A tartalom az OpenAI ChatGPT modelljének válaszai alapján készült.

A szerkesztő megjegyzése

Vagy nem láttuk eddig, elkerülte a figyelmünket, vagy most jelent meg először az utolsó válasz alatt – figyelmeztetés! „A ChatGPT hibázhat. Fontold meg a fontos információk ellenőrzését!” Meg kell kérdeznünk Bogitól, hogy ezt hogyan kell érteni! Ha a nálam milliószor gyorsabb „robot” téved, azt hogyan ellenőrizhetem?

Amúgy Cs. Bogi első két próbálkozásra nem tudta elkészíteni a (ro)bot-arcképemet, ősz (fehér) hajat és szakállt kértem. De nem akartam kiábrándítani, és amint az a művészettörténetben annyiszor előfordulhatott, nem „húztam le”; valami olyasmit mondtam neki, mint Mozart Salierinek egy darabjáról: „ez egy félreismerhetetlenül önre valló alkotás”.