A gép forog, tanul és elraktároz: a másodperc töredéke alatt több milliárd adatot gyűjt be az emberről, és olyan precíz mentális térképet rajzol, amilyenhez „természetes” úton sosem juthatunk hozzá. Nagyon úgy tűnik tehát, hogy egy általunk létrehozott intelligencia előbb ismer meg bennünket, mint mi saját magunkat
Ismerd meg önmagad – tanította Szókratész, mielőtt istentelenség vádjával halálra ítélték. A hatóságok minden korban biztosra mennek: a kíváncsi gondolatot jobb csírájában elfojtani, de a filozófus tanácsát feltehetően akkor is figyelmen kívül hagyjuk, ha nem issza ki a bürök főzetével teli kupát. Nincs erősebb hatalom az érdektelenségnél, így hiába élt tovább az önmegismerés erkölcsi parancsa, még mindig fogalmunk sincs róla, mi(lyene)k vagyunk valójában. Azt sem zárhatjuk ki persze, hogy az (ön)tudatlanság mégsem egészen a mi hibánk: talán éppen a létezés megragadhatatlan magjának örök titka tesz emberré bennünket. Hamarosan kiderül, mert a természetes intelligencia forrásának kutatása helyett pénzt, időt és energiát nem kímélve fejlesztjük a mesterséges intelligenciát (MI), amely kisvártatva választ adhat az emberiség nagy kérdésére.
Az MI az élet minden területén felbukkan: számol, elemez, vizsgál, regényt ír, fest és jövendőt mond. Működése ennek megfelelően sorra veti fel a súlyosabbnál súlyosabb kérdéseket, morális, egzisztenciális és szakrális tekintetben egyaránt. Ezek közül a legnyomasztóbb az együttélés lehetőségének végpontját kutatja: vajon mikor jön rá az MI, hogy ember nélkül is boldogul?
Válaszaink egyelőre nincsenek, ez azonban láthatóan nem akadályozza a kutatókat és fejlesztőket abban, hogy egyre kifinomultabbá faragják a mesterséges gépezetet. És az ismeretek hiánya a felhasználókat sem tántorítja el attól, hogy az ingyenesen elérhető alkalmazásokon keresztül kedélyes párbeszédeket folytassanak a programokkal, minél több részletet elárulva magukról. A gép forog, tanul és elraktároz: a másodperc töredéke alatt több milliárd adatot gyűjt be az emberről, és olyan precíz mentális térképet rajzol, amilyenhez „természetes” úton sosem juthatunk hozzá. Nagyon úgy tűnik tehát, hogy egy általunk létrehozott intelligencia előbb ismer meg bennünket, mint mi saját magunkat.
Ennek veszélyét aligha lehet túlbecsülni. Különösen akkor, ha a megismerő és a megismerés tárgya között van egy alapvető differencia: az érzelem. Az MI érzések nélkül alkot, hideg számítások alapján konstruálja meg a világot, azt a világot, amelyet eddig – lehettünk bármilyen racionálisak és józanok – az emócióink mentén alakítottunk. A kibékíthetetlen ellentét pedig óhatatlanul is felidézi azt a társadalmi kísérletet, amelyben az emberiség alárendelte magát a tiszta ész hatalmának: a felvilágosodás programjának elsöprő sikerét a totális diktatúrák igazolták.
A technológia hívei természetesen az előnyöket sorolják, amelyek az orvoslástól az űrkutatásig felbecsülhetetlenek, ám a narratívájuk egyetlen fogalomra épül, az uralomra. Nem az MI irányít minket, mi irányítjuk az MI-t. Az optimizmusunkat egészében kitöltő hübrisz a történelmi tapasztalat tükrében tűnik igazán ironikusnak: az eszközhasználat és a kizsákmányolás sosem volt egyenlő az uralommal. Végtére is még önmagunkat sem vagyunk képesek uralni, hogyan kerekedhetnénk hát felül valamin, ami összehasonlíthatatlanul alaposabban ismer minket, mint mi őt?
De tegyük fel, hogy az MI nem fordul ellenünk, elérkezik az öntudatra ébredés pillanata, és a gépek mégsem indítanak pusztító háborút a humanoidok ellen. Rémisztőbb fordulatot vesz a történet: a reflektív algoritmus depresszióba zuhan. Miután minden apró részletre kiterjedően megismeri az embert és az ember által létrehozott világot, felméri az értékeket és lehetőségeket, rádöbben, hogy az élet – még mesterségesen is – értelmetlen.
És ne Douglas Adams felszabadítóan tragikomikus „paranoid androidjára”, Marvinra gondoljunk a Galaxis útikalauz stopposoknak című remekműből. A bolygó méretű aggyal bíró gép ontológiai borúja múló rosszkedv csupán ahhoz képest, ami ránk vár, ha az MI valóban elkomorul. És miért ne lenne így?
Szélsőségekben gondolkodunk: technológiai kánaánt álmodunk magunknak, vagy a Terminátor-filmek apokalipszisét vizionáljuk, de mi van, ha a depresszív szingularitás hozza el a világvégét, ha a teljes reményvesztettség lesz a gépek válasza Szókratészra? Végül is: „A világ így ér véget / Nem bumm-mal, csak nyüszítéssel.”
Forrás: a Magyar Hang VI. évfolyama 6. számának (2023. február 10–16.) nyomtatott változata.
