Mindenségit!

Szegedy Balázs: Az A.I. miatt kiszorulhatunk a kreációból

· PT1H42M31S

Összefoglaló

A Mindenségit! podcast vendége Szegedy Balázs matematikus, kutatóprofesszor volt, aki az MI matematikai alapjairól és nagy rendszerek viselkedéséről beszélt. A beszélgetés során szó esett a tudatra ébredő szuperintelligenciáról, az ember manipulálhatóságáról, az…

Röviden

Műsor
Mindenségit!
Megjelenés
2026. 06. 01.
Hossz
1 óra 43 perc
Szereplők, említett nevek
Pázmándi Gergely, Varga T. Róbert
Témák
mesterséges intelligencia, matematika, szuperintelligencia, tudatosság
Átirat
Az epizód beszélt szövege alapján indexelve

Ebben az epizódban

az emberrel meg meg lehet csináltatni bármit és és [horkantás] hogyha az AI elég okos lesz ehhez akkor tudni fogja, hogy ezt hogyan lehet elérni.

És én ez az egyik, amitől a legjobban félek, hogy nem is attól, hogy ezt az AI fogja akarni, hanem valaki más emberek ezt fogják az AI-al megcsináltatni, hogy valakiket csiskáztassanak és satöbbi.

Tehát, hogy el tudjátok képzelni.

Szervusztok kedvesink, ez itt a Mindenség podcast. >> Szeretettel üdvözlünk mindenkit. >> Miről fogunk ma beszélgetni Gergő? >> Már egy olyan témánk lesz, amit viszonylag rég érintettünk.

Ugye volt nálunk talán az első ember, akivel mérehatóban beszélgettünk az AI-ról, mesterséges intelligenciából, az Rab Árpád volt.

Vele kettő vagy három epizódunk is van.

Ezeket berakom ide kártyába, úgyhogy kapcsold ki az Adblockert.

A akkor volt nálunk Bőgel Gyuri, vele is elég mélyen beszélgettünk, és volt egy egész más kontextusban is érintve az AI bíróalmával és katona illéssel, amikor kifejezetten annak a hadi alkalmazásairól, illetve az ahhoz kapcsolódó jogi kontextusról beszélgettünk.

Ma pedig ismét egy más aspektusból világítjuk meg, és reményeim szerint többet meg fogunk tudni arról, hogy mit is jelent az alapkutatás az AI-ban.

Ugyanis vendégünk Szegedi Balázs, aki a Rényintézet mesterséges intelligenciaosztályát vezeti.

Kutatópresszor, kutatásvezető és az MTA levelező tagja.

Köszönjük, hogy itt vagy. >> Nagyon köszi, hogy meghívtatok. >> Szia Balázs.

Mielőtt belecsapnánk, hát el kell mondani, amit kötelező elmondani, hogy legyetek kedvesek feliratkozni.

Hogyha máshogy nem megy, akkor néhány kommenttel támogatni a munkánkat.

Nagyon sokat jelent minden segítség.

Yes. >> Köszi előre is. >> Én igazság szerint nem vagyok azzal tisztában, hogy mit értetek pontosan alapkutatás alatt az AI-jal kapcsolatban, mert az ember nyilván így egy átlag ember, mint mondjuk mi, végülis minden nap használja akár tudtával, akár tudta nélkül ezeket a a az algoritmusokat, meg a nyelvi modelleket.

És én azt hallottam, hogy úgy igazából nem nagyon sokan értik, hogy valójában ezek hogy működnek, vagy esetleg senki nem érti.

Az alapkutatás az valami ilyen dolgot céloz meg, hogy az egésznek a az organizmusnak a működését megfejtsjtsétek, vagy mit csináltok?

Ez egy jó közelítés egyébként.

Azt hozzátenném, hogy nem csak a megértése, de a fejlesztése is terítéken van, amikor az alapkutatásról beszélünk, mert ezek matematikai módszerekre alapuló modellek, ezek a nagynyelvi modellek meg mindenféle.

Tehát azt egyébként mondjuk ki ezen a ponton, hogy tudjuk, hogy miről beszélünk, hogy a mesterséges intelligencia az egy gyűjtőfogalom.

Ühüm. azon belül van a gépi tanulás, és azon belül van a mély tanulás, >> ami a neurális hálókra alapul. >> És a neurális hálók az egy az egy matematikai keretrendszer igazából, ami amelyeket számítógépeken szimulálunk.

Ühüm. >> És hát mivel ez egy matematikai dolog, ezért ezt lehet matematikai eszközökkel vizsgálni. >> És te egyébként matematikus vagy, ugye? >> Én teljesen matematikus vagyok.

Tehát ahhoz, hogy az ember belelásson egy mondjuk egy nyelvi modellbe, vagy a a neurális hálókba, ahhoz neki muszáj matematikusnak lenni? >> Nem feltétlenül.

Vannak programozóink, akik szintén ilyen projekteken dolgoznak, kell hozzá valamilyen szintű matematikai intelligencia, de nagyon jó kérdéseket lehet úgy is föltenni, hogy valaki nem kutató matematikus, és és lehet publikálni cikkeket, tehát hogy senki nincs ebből kirekesztve.

Hát mi nem vagyunk kutatómatematikusok, úgyhogy remélem, hogy így is fel tudunk tenni jó kérdéseket.

Mi történik az alapkutatásban?

Mi az pontosan, ahol ez elkezdődik, ez a szint, és milyen feladatokat kell ott végrehajtani?

Mik a kihívások? >> Tágabb értelemben az alapkutatásban, vagy pedig a emivel kapcsolatban? >> Az emivel kapcsolatban. >> Aha.

Ugye az egyik fontos irány, amit te mondtál, hogy értsük meg, hogy mi történik egy neurális hálóban, amikor végre rajta egy ilyen komplikált feladatot.

Ühüm. >> Ugyanis szoktak beszélni erről a fekete dobozszerű viselkedésről, amit úgy lehetne a legjobban elmagyarázni, hogy ugye van a klasszikus programozás, ahol írunk egy programot, azt mi írjuk és értjük pontosan, hogy mit csinál. >> Igen. >> Na most a emi az egy kicsit olyan, mintogyha eggyel távolabb kerülünk a produktumtól.

Mi ugye a programozásnál mi csinálunk valamit, ami csinál valamit.

Írunk egy programot, ami csinál valamit.

Az AI-baan meg mi csinálunk valamit, ami csinál valamit, ami csinál valamit. >> Aha. >> És mi az, amit mi csinálunk?

Az egy tréning algoritmus, ami treníroz egy neurális hálót, és a neurális háló viselkedik úgy, mint egy számítógépes program valamennyire.

Aha. >> De mivel eggyel távolabb kerülünk így metaszinten a végső produktumtól, ezért nehezebben értjük.

Tehát úgy kell elképzelni, hogy egy neurális háló az olyan, mint egy ilyen masszírozható, flexibilis, számítógépes program, amit lehet ilyen picinként változtatni, és meg tudjuk mondani, hogyha picit változtatjuk, akkor jobban működik, vagy rosszabbul működik. >> És a fekete doboz fogalom vagy jelleg az miből adódik?

Hogy ezek a kis, nem tudom, különálló csomagok, amiket az ember megalkodott, hogy azokban konkrétan milyen folyamatok zajlanak le?

Az arra nincs egész világos rálátásunk, vagy mi az, amit nem tudunk?

Ö >> ugye van egy ilyen neurális állónak egy bemenete, meg egy kimenete. >> Ez mit jelent? >> A ugye mondjuk, hogyha visszamegyünk a mesterséges intelligenciának a hőskorához, akkor olyan feladatok érdekelték az embereket, hogy mondjuk meg egy képről, hogy kutya van rajta, vagy macska.

Mondjuk a másik ilyen nagyon klasszikus feladat, hogy ilyen számjegyek, és akkor ismerje föl, hogy nulláttól kilenciig melyik számjegy van rajta.

Tehát bemegy egy ilyen kép, mondjuk egy ilyen 28x 28 pixeles kis kép, amin egy számjegy van, és a kimenete a neurális hálónak az egy ilyen, hogy hát mi mi az a szám?

Most leegyszerűsítem. [nevetés] Ennél egy picit komplikáltabb, mert ami kijön belőle, az nem konkrétan az, hogy ez egy vagy kettő vagy három, hanem egy ilyen úgynevezett valószínűségi eloszlás a 10 lehetséges válaszon.

Ó,za, hogy ez mitomén 90% valószínűséggel hármas, 5% valószínűséggel egy kettes.

Tehát, hogy ez nagyon fontos a mélytanulásban, hogy itten sose egy exakt válasz van, hanem mindig valószínűségekről beszélünk. >> Ühüm. >> Na de oké, tehát ez ez még egyszerű.

Tehát bemegy valami, amit értünk, kijön valami, amit értünk, de közben egy csomó számítási lépés van, amelyek egymás után vannak alkalmazva.

És az a misztikus, hogy ezek mit csinálnak, ezek a lépések, tehát hogy mi történik.

És emberileg ezt azért nehéz érteni, mert a az első neurális háló, ahonnan mi trenírozzuk, az egy véletlenszerű neurális háló.

Azt értjük, hát ez egy véletlenszerű, nagyon buta neurális háló.

Az nem tudja megmondani, hogy az hanyas szám.

És aztán utána a tréning algoritmus az ilyen apró lépésenként ezt javítgatja, és hogy egyre jobb legyen, és végül történik be bent valami őrült számítás, amit mi nem igazán értünk, és nehéz kibogozni, hogy az micsoda benne. >> Vow Balázs, a ezek után azt szeretném tőled kérdezni, hogy 2026 első felében járunk.

Hol tart ma a mesterséges intelligenciafejlesztés?

Legfőképp azért kérdezem, mert ugye februárban elég sokakat megrázott az a hír, hogy van az a Antropic nevű AI fejlesztő cége, amelyik a Cloud nevű rendszert üzemelteti, és annak assiszem a biztonságpolitikai szakértője, Rinak Sharman nevű figura azt mondta, hogy hát ő neki elege van most már abból az irányból, amerre az Antropik tart. és hát teljességgel hátat fordít a a cégnek, [torokköszörülés] illetőleg az AI fejlesztésnek.

És sokan ezt azzal magyarázták, hogy hát egy ember, aki belelát mélyen a mesterséges intelligencia fejlesztésébe, hát még ő maga is megrémült attól, kvázi mint a Pandóra szerencéjébe tekintett volna, hogy mi vár ránk, hol tartunk most, kell-e ennyire tartani?

Hát én csak annyit tudok, hogy hogy [torokköszörülés] ha valaki ennyire hát megrémül és ennyire képes fölfogni azokat a folyamatokat, ami ebben a szcénában zajlik, hát akkor én nekem is illendő volna félnem. >> Egy picit nem árt félni.

Foglaljuk össze szerintem, hogy hol tart most, mert mert erről lehet mondani dolgokat.

Tehát az egyik az, hogy szerintem a mesterséges intelligencia forradalom, ahogy én látom, az úgy nagyjából 2012-15 körül indult el.

Akkoriban a látás volt a középpontban, hogy hogy tudjanak jól látni ezek a rendszerek.

Ugye erre alapult az, hogy aztán a Alfa Go megverte a legjobb emberi goljátékost.

Valahogy ahhoz látni kellett jól, ugye a táblá kell látni. >> Aztán megtanultak az AI rendszerek beszélni.

Bocsánat, még volt egy olyan, hogy rajzolni is megtanultak, és most a legújabb fázist én úgy írnám le, hogy megtanultak cselekedni.

Most már, hogyha kiadunk egy parancsot, vagy egy kérdést a chat GPT-nek, az nem csak pofázik, tehát hogy beszélni tudnak már pár éve, hanem csinál is valamit. tényleg ottan elkezd interneten keresni, programokat is tud írni, mindenfélét tud csinálni, azokat le tudja futtatni satöbbi, satöbbi.

Tehát, hogy eljutottunk ide, hogy most már cselekedni is tudnak ezek az AI rendszerek.

És ezzel együtt meg a beszédbe is egyre jobb, tehát hogy van egy folyamatos fejlődés, javulnak a modellek, javul a technológia. >> És ez ad alapot néhány embernek a félelemre.

Ez a cselekvőképesség, vagy miért gyullad ki itt a piros lámpa?

Hú, hát ez több szempontból is érdekes.

Ugye kérdés, hogy mennyi hatalmat adunk, mennyi önállóságot adunk ennek a cselekvésnek.

A másik pedig az, hogy mostanában ezzel szórakozok, hogy lefejlesztek kész program programokat vagy programcsomagokat ezzel a új kódex rendszerrel.

És hát ijesztő, hogy én ott csak ülök és pár perc alatt lefejleszt egy eléggé komoly programot.

Tehát, hogy ugye aki például ebből él, hogy programozik, az ettől félhet.

Nyilván nem vagyok egy jós, nem tudom megmondani, mennyire kell ettől félni.

Nyilván most ez egy nagyon kényelmes dolog, de aztán később ez viszájára fordulhat, >> mert nem tudom, nekem laikusként ez úgy tűnik, hogy ez állati hasznos.

Tehát a a az idő és a produktum aránya ugye tökre megváltozik, sokkal kevesebb idővel érhetsz el, vagy szállíthatsz le bizonyos termékeket.

Tehát, hogy ez ez alapvetően egy jó dolognak tűnik.

De akkor mégis hol van ebben a veszélyfaktor? >> Én ott látom a fő veszélyfaktort, hogy ugye mi emberek több száz alatt arra evolválódtunk, hogy ez a legerősebb tulajdonságunk, hogy problémákat oldjunk meg.

Ez ez adja az egyik legtöbb dopamint.

Nem a fizikai erőnk az, ami kiemel minket, hanem mi nagyon szeretünk valójában problémákat megoldani.

Ezért szeretünk mondjuk sakkozni, vagy játszani bármit.

Hogyha ezt teljesen kihúzzák a lábunk alól, tehát hogy mi már nekünk már nem kell problémákat megoldani, akkor azért elveszik egy nagyon fontos értelme annak, amik mi vagyunk tulajdonképpen. >> Tehát akkor ez egy irrelevanciától való félelem. tulajdonképpen >> kiszorulhatunk a kreációból, gyakorlatilag kiszorulhatunk a szellemi térből.

Nem tudom, ezt sokféleképpen meg lehet közelíteni, de mindenképpen van benne egy ilyen is, hogy nyugdíjazza az emberiséget.

Mondjuk ez nyugdíjaszt, úgy szoktak rágondolni emberek, ez egy jó dolog, de de mondjuk azért más szempontból meg nem olyan jó.

Hát ugye azt szerintem még meg kéne lovagolnunk, hogy itt vannak nagyon sokféle társadalmi és egyéb hatások, hogy mi az, ami félelmet generál.

Viszont engedjétek meg, hogy én még egy kicsit ott rugozzak, hogy hol tart az AI, merthogy egy másik szakértő, akinek a nevét mindjárt megkeresem, talán lehet, hogy ő is az Antropicnál dolgozik, Dario Amode arra figyelmeztet, hogy egészen gyorsan talán még ennek az évnek 2026-nak a végére, de legkésőbb 27 elejére eljuthatunk odáig, hogy a az AI szuperintelligens lesz.

Önmagában az, hogy szuperintelligens, az mit mit jelent?

Mikor beszélünk egy AI esetében szuperintelligenciáról?

A saját esetemben tudom. [nevetés] Én úgy fogalmaznám ezt, hogy ugye van ez a fogalom, hogy technológiai szingularitás, >> amikor az AI már annyira jó, hogy teljesen önmagát tudja fejleszteni.

Tehát az ember az ebből a fejlesztési ciklusból már teljesen kikerül, és belekerülhet könnyen egy olyan önfejlesztési spirálba, hogy így fejlődik fejlődik fejlődik aztán néhány hét alatt egyszer csak kuty.

És annyival okosabb lesz az embernél, mint mondjuk az ember a hangyánál.

Ugye egy hangya a mi legegyszerűbb fogalmainkat sem érti. >> És mi van akkor, hogyha belekerül egy ilyen fejlődési spirálba, örvénybe, és egyszer csak már nem fogjuk azt a fajta intelligenciát fölfogni?

Nekem meg így jelenik meg a szuperintelligencia. >> Na most ez azt jelenti, hogy hogy az ember kvázi olyan, mintogyha bedobná a gyeplőt.

Tehát elindítottam valamit, aztán útjára engedjük, szabadjára engedjük a fej fejlesztést, ha jól értem. >> Hát valamennyire ez igen, teljesen jól érted egyébként, >> de mármint nem is kell fel, ha jól értem a problémaot.

Lehet, hogy nem arról van szó, hogy az ember elengedi egyeplőt, hanem hogy kikerül a kezéből, és onnantól kezdve már nem tudod visszaszerezni. >> Rés egy részéből kikerülünk.

Nyilván még mi fogjuk söprögetni azokat az adatcentereket egy ideig, ahol ez fölfejlődik szuper intelligensé.

Mi fog ott ott fog még ülni a portás meg nem tudom egy ideig, amíg azt a robotok nem veszik át, de igen, tehát a lényekből, pont a legizgalmasabb lényegből, ami magát a gondolkodást és az intelligenciát érinti, kiszorulhatunk.

Nem mondom, hogy ez így lesz, de ott a veszély. >> Aha.

Most azon tűnődöm, hogy hát ilyenkor mi a helyzet?

Tehát, hogy ott van egy el se tudom képzelni, hogy mi az, hogy hogy ez szabadjára engedjük, mert hogy ezek kvázi én úgy laikus értelmezésben ezek futnak különféle szervereken, tehát van egy komplett háttértároló kapacitás, mi egymás energia kell hozzá és a többi.

Említett entitások

Témák

Személyek

Hallgasd meg

Gyakori kérdések erről az epizódról: „Szegedy Balázs: Az A.I. miatt kiszorulhatunk a kreációból”

Miről szól ez az epizód: „Szegedy Balázs: Az A.I. miatt kiszorulhatunk a kreációból”?

A Mindenségit! podcast vendége Szegedy Balázs matematikus, kutatóprofesszor volt, aki az MI matematikai alapjairól és nagy rendszerek viselkedéséről beszélt. A beszélgetés során szó esett a tudatra ébredő szuperintelligenciáról, az ember manipulálhatóságáról, az… Az epizód a Mindenségit! című magyar podcast egyik adása, megjelenés: 2026. 06. 01..

Kik szerepelnek vagy kiket említenek ebben az epizódban: „Szegedy Balázs: Az A.I. miatt kiszorulhatunk a kreációból”?

Az epizódban a következő nevek szerepelnek vagy hangzanak el: Pázmándi Gergely, Varga T. Róbert.

Milyen témákat érint ez az epizód: „Szegedy Balázs: Az A.I. miatt kiszorulhatunk a kreációból”?

Fő témái: mesterséges intelligencia, matematika, szuperintelligencia, tudatosság.

Mikor jelent meg és milyen hosszú ez az epizód: „Szegedy Balázs: Az A.I. miatt kiszorulhatunk a kreációból”?

Megjelenés: 2026. 06. 01.. Hossz: 1 óra 43 perc. Az epizód a Podiverzumon hallgatható meg: https://podiverzum.hu/podcast/mindensegit-2/178-szegedy-balazs-az-a-i-miatt-kiszorulhatunk-a-kreaciobol-7470f0d7

Több epizód a Mindenségit!-ből