New York Times
Geoffrey Hinton a mesterséges intelligencia úttörője. 2012-ben Dr. Hinton és két végzős diákja a Torontói Egyetemen olyan technológiát hozott létre, amely a szellemi alapja lett azoknak az AI-rendszereknek, amelyekben a technológiai ipar legnagyobb vállalatai a jövőjük kulcsát látják. Hétfőn azonban hivatalosan is csatlakozott a kritikusok egyre növekvő kórusához, akik szerint ezek a technológiai vállalatok a veszély felé száguldanak agresszív kampányukkal, hogy olyan termékeket hozzanak létre, amelyek a generatív mesterséges intelligencián alapulnak, azon a technológián, amely olyan népszerű chatbotokat működtet, mint a ChatGPT.
Dr. Hinton elmondta, hogy felmondott a Google-nél, ahol több mint egy évtizeden át dolgozott, és ahol a terület egyik legelismertebb személyisége lett, hogy szabadon beszélhessen az M.I. kockázatairól. Van olyan gondolata is, hogy valamennyire sajnálja már az életművét.
“A szokásos kifogással vigasztalom magam: ha én nem tettem volna meg, akkor valaki más megtette volna” – mondta Dr. Hinton a múlt héten egy hosszú interjú során torontói otthona ebédlőjében, egy rövid sétára attól a helytől, ahol ő és diákjai az áttörést elérték .
Dr. Hinton útja, aki az M.I. úttörőjéből a végzet hírnökévé vált, figyelemre méltó pillanatot jelent a technológiai ipar számára, amely talán az elmúlt évtizedek legfontosabb fordulópontján van. Az iparág vezetői úgy vélik, hogy az új M.I.-rendszerek olyan fontosak lehetnek, mint a webböngésző bevezetése az 1990-es évek elején, és áttörést hozhatnak a gyógyszerkutatástól az oktatásig számos területen.
Sok bennfentest azonban az a félelem gyötri, hogy valami veszélyes dolgot engednek szabadon. A generatív MI már most is a félretájékoztatás eszköze lehet. Hamarosan a munkahelyeket is veszélyeztetheti. A technológia legnagyobb aggályosai szerint ez a technológia az emberiségre is veszélyt jelenthet. “Nehéz elképzelni, hogyan lehetne megakadályozni, hogy a rossz indúlatú szereplők rossz dolgokra használják” – mondta Dr. Hinton.
Egy szép új világ. A mesterséges intelligencia által működtetett chatbotok új termésénél megindult a küzdelem annak megállapítására, hogy a technológia felboríthatja-e az internet gazdaságosságát, a mai nagyhatalmakból “egykor voltakat”csinálhat-e, és létrehozhatja-e az iparág következő óriásait. Íme,ezek azok a botok, amelyeket ismerni kell:
ChatGPT. A ChatGPT, az OpenAI nevű kutatólaboratórium mesterséges intelligencia nyelvi modellje november óta a címlapokra került azzal, hogy képes összetett kérdésekre válaszolni, verseket írni, kódot generálni, nyaralásokat tervezni és nyelveket fordítani. A március közepén bemutatott legújabb verzió, a GPT-4 még képekre is képes válaszolni (és az egységes ügyvédi vizsgán is jeleskedik).
Bing. Két hónappal a ChatGPT debütálása után a Microsoft, az OpenAI fő befektetője és partnere, hasonló, gyakorlatilag bármilyen témában nyílt végű szöveges beszélgetésre képes chatbotot illesztett a Bing internetes keresőmotorjához. A bot időnként pontatlan, félrevezető és furcsa válaszai voltak azonban azok, amelyek a megjelenés után nagy figyelmet keltettek.
Bard. A Google Bard nevű chatbotja márciusban jelent meg korlátozott számú felhasználó számára az Egyesült Államokban és Nagy-Britanniában. Az eredetileg e-mailek és versek megfogalmazására szolgáló kreatív eszköznek tervezett robot képes ötleteket generálni, blogbejegyzéseket írni és kérdésekre válaszolni tényekkel vagy véleményekkel.
Ernie. A keresőóriás Baidu márciusban mutatta be Kína első nagy riválisát, a ChatGPT-t. Az Ernie – rövidítése az Enhanced Representation through Knowledge Integration (továbbfejlesztett reprezentáció tudásintegráción keresztül) – debütálása bukásnak bizonyult, miután kiderült, hogy a bot beígért “élő” bemutatója videofelvétel volt.
Miután a San Francisco-i OpenAI start-up márciusban kiadta a ChatGPT új verzióját, több mint 1000 technológiai vezető és kutató írt alá egy nyílt levelet, amelyben hat hónapos moratóriumot követeltek az új rendszerek fejlesztésére, mivel az MI-technológiák “mélyreható kockázatokat jelentenek a társadalomra és az emberiségre”.
Néhány nappal később az Association for the Advancement of Artificial Intelligence, egy 40 éve létező tudományos társaság 19 jelenlegi és korábbi vezetője is közzétette saját levelét, amelyben az M.I. veszélyeire figyelmeztetett. E csoporthoz tartozott Eric Horvitz, a Microsoft tudományos vezetője is, amely az OpenAI technológiáját számos termékben alkalmazza, többek között a Bing keresőmotorban.
Dr. Hinton, akit gyakran neveznek “az M.I. keresztapjának”, nem írta alá egyik levelet sem, és azt mondta, hogy nem akarja nyilvánosan kritizálni a Google-t vagy más vállalatokat, amíg nem mondott fel a munkahelyén. A múlt hónapban értesítette a vállalatot, hogy felmond, és csütörtökön telefonon beszélt Sundar Pichai-jal, a Google anyavállalatának, az Alphabetnek a vezérigazgatójával. A Pichai úrral folytatott beszélgetés részleteiről nem kívánt nyilvánosan beszélni.
A Google vezető tudósa, Jeff Dean közleményben tudatta: “Továbbra is elkötelezettek vagyunk, hogy felelőségteljesen közelítünk az M.I.-hez. Folyamatosan tanulunk, hogy megértsük a felmerülő kockázatokat, miközben bátran újítunk is”.
Dr. Hinton, a 75 éves brit tudós, akinek egészkarrierjét az M.I. fejlesztésével és használatával kapcsolatos személyes meggyőződései vezérelték. 1972-ben, az Edinburgh-i Egyetem végzős hallgatójaként Dr. Hinton dolgozni kezdett egy neurális hálózatnak nevezett ötleten. A neurális hálózat egy olyan matematikai rendszer, amely az adatok elemzésével tanul meg készségeket. Abban az időben kevés kutató hitt az ötletben. De Hintonnak ez lett az életműve. Az 1980-as években Dr. Hinton a Carnegie Mellon Egyetem számítástechnika professzora volt, de elhagyta az egyetemet és Kanadába ment, mert elmondása szerint nem volt hajlandó elfogadni a Pentagon támogatását. Abban az időben az Egyesült Államokban a legtöbb M.I. kutatást a Védelmi Minisztérium finanszírozta. Dr. Hinton mélyen ellenzi a mesterséges intelligencia harctéri alkalmazását – amit ő “robotkatonáknak” nevez.
2012-ben Dr. Hinton és két torontói tanítványa, Ilya Sutskever és Alex Krishevsky olyan neurális hálózatot építettek, amely képes volt több ezer fényképet elemezni, és megtanítani magát a hétköznapi tárgyak, például virágok, kutyák és autók azonosítására. A Google 44 millió dollárt költött a Dr. Hinton és két tanítványa által alapított vállalat felvásárlására. Rendszerük pedig egyre nagyobb teljesítményű technológiák létrehozásához vezetett, köztük olyan új chatbotok, mint a ChatGPT és a Google Bard. Sutskever később az OpenAI vezető kutatója lett. 2018-ban Dr. Hinton és két másik régi munkatársa megkapta a Turing-díjat, amelyet gyakran “a számítástechnika Nobel-díjának” neveznek, a neurális hálózatokkal kapcsolatos munkájukért.
A Google, az OpenAI és más cégek nagyjából ugyanebben az időben kezdtek olyan neurális hálózatokat építeni, amelyek hatalmas mennyiségű digitális szövegből tanultak. Dr. Hinton úgy vélte, hogy ez egy hatékony módja annak, hogy a gépek megértsék és generálják a nyelvet, de teljesítményük még gyengébb volt annál, mint ahogyan az emberek bánnak a nyelvvel.
Aztán tavaly, amikor a Google és az OpenAI sokkal nagyobb mennyiségű adatot használó rendszereket épített, megváltozott a véleménye. Még mindig úgy vélte, hogy a rendszerek bizonyos szempontból alulmúlják az emberi agyat, de úgy vélte, hogy más szempontból már az emberi intelligenciát is háttérbe szorítják. “Lehet, hogy ami ezekben a rendszerekben történik” – mondta – “valójában sokkal jobb, mint ami az agyban történik”.
Szerinte ahogy a vállalatok fejlesztik az MI-rendszereiket, azok egyre veszélyesebbé válnak. “Nézzük meg, milyen volt öt évvel ezelőtt, és milyen most” – mondta az M.I. technológiáról. “Figyeljük a különbséget és gondoljuk tovább. Ez ijesztő.”
Elmondása szerint a Google egészen tavalyig “megfelelő gondnokként” kezelte a technológiát, és vigyázott arra, hogy ne adjon ki olyasmit, ami kárt okozhat. Most azonban, hogy a Microsoft a Bing keresőmotorját chatrobottal bővítette ki – ami kihívást jelent a Google alaptevékenységére -, a Google versenyt fut, hogy ugyanilyen technológiát alkalmazzon. Dr. Hinton szerint a technológiai óriások olyan versenybe kezdtek, amelyet lehetetlen megállítani.
Közvetlen aggodalma az, hogy az internetet elárasztják majd a hamis fotók, videók és szövegek, és az átlagember “már nem fogja tudni, mi az igaz”.
Aggódik amiatt is, hogy az M.I. technológiák idővel felforgatják a munkaerőpiacot. Ma a ChatGPT-hez hasonló chatrobotok inkább kiegészítik az emberi munkaerőt, de felválthatják a jogi asszisztenseket, személyi asszisztenseket, a fordítókat és másokat, akik rutinfeladatokat látnak el. “Elveszi a fáradságos munkát” – mondta. “De ennél többet is elvehet.”
A későbbiekben attól tart, hogy a technológia jövőbeli változatai veszélyt jelentenek az emberiségre, mert gyakran tanulnak váratlan viselkedést az általuk elemzett hatalmas adatmennyiségből. Szerinte ez akkor válik problémává, amikor az egyének és a vállalatok lehetővé teszik az M.I.-rendszerek számára, hogy ne csak saját számítógépes kódot generáljanak, hanem azt ténylegesen maguk futtassák. És attól a naptól tart, amikor ezek az autonóm fegyverek – ezek a gyilkos robotok – valósággá válnak.
“Volt ez az ötlet, hogy ez a cucc egyszer okosabb lehet az embereknél – néhányan hittek ebben” – mondta. “De a legtöbben úgy gondolták, hogy ez még messze van a valóságtól. És én is úgy gondoltam, ez lehetetlen. Úgy gondoltam, hogy ez harminc-ötven esztendő, vagy még több év múlva következik be. Nyilvánvalóan már nem így gondolom.”
Sok más szakértő, köztük számos tanítványa és kollégája szerint ez a veszély hipotetikus. Dr. Hinton azonban úgy véli, hogy a Google, a Microsoft és mások közötti verseny globális versennyé fog fokozódni, amely valamilyen globális szabályozás nélkül nem fog megállni.
Ez azonban lehetetlen, mondta. A nukleáris fegyverekkel ellentétben – mondta – nem lehet tudni, hogy a vállalatok vagy országok titokban dolgoznak-e a technológián. A legjobb remény az, ha a világ vezető tudósai együttműködnek a technológia ellenőrzésének módjain. “Nem hiszem, hogy tovább kellene a fejlesztést fokozni, amíg nem értjük meg, hogy tudjuk-e ellenőrizni” – mondta.
Dr. Hinton elmondta, hogy amikor az emberek megkérdezték tőle, hogyan tudott olyan technológián dolgozni, amely potenciálisan veszélyes, Robert Oppenheimert idézte, aki az atombomba megépítésére irányuló amerikai erőfeszítéseket vezette: “Ha látsz valamit, ami technikailag izgalmas, akkor csináld meg”. Most már soha nem mondana ilyet.
Forrás: Újnépszabadság
