Mindenségit!

Bíró Dalma, Katona Illés: Meg kell állítani a gyilkos robotokat, amíg nem késő!

· PT2H24M8S

Összefoglaló

A Mindenségit! podcast ezen adásában Bíró Dalma emberjogi aktivista és Katona Illés jogász hallgató beszélgetnek a gyilkos robotok és autonóm fegyverrendszerek veszélyeiről. Megvitatják, hogyan jutottunk el odáig, hogy gépek hozzanak döntéseket háborús helyzetekben, és milyen…

Röviden

Műsor
Mindenségit!
Megjelenés
2025. 09. 21.
Hossz
2 óra 24 perc
Szereplők, említett nevek
Katona Illés, Bíró Dalma, Pázmándi Gergely, Varga T. Róbert
Témák
gyilkos robotok, autonóm fegyverrendszerek, emberi jogok, háború
Átirat
Az epizód beszélt szövege alapján indexelve

Fejezetek

  1. — AI (mesterséges intelligencia) és hadászat26:15 - Etikai dilemmák, felelősség 39:42 - A hadiipari komplexum működése47:5
  2. — Civil összefogás ereje1:52:02 - A gyilkos robotok szabályozása 🎧 Kattints és hallgasd végig az adást, ha te is hiszel a

Ebben az epizódban

Én voltam a bal szélső, és rúgtam nekik két gólt egyedüli nőként. [Zene] Szevasztok!

Ez itt a Mindenség podcast. >> Szeretettel köszöntünk mindenkit.

Képzeljétek el, hogy a Terminator című filmekben Skynet 1997-ben ébred öntudatra.

A való világban 2025-öt írunk ugyan.

És azt hisszük, hogy ami a Terminátor filmekben szerepelt, az egy oltári baromság.

Nagyon távol vagyunk attól, hogy ezek a gépek, ezek háborúzzanak.

Ehhez képest az átlagembernek vajmi kevés fogalma van arról, hogy az autonom fegyverrendszerek, ahogy a gyilkos robotok, azok egyre nagyobb teret nyernek a hadviselésben.

Ma erről a témáról fogunk leginkább beszélgetni. >> Szerintem amúgy tök jogos lenne, ha azt gondolnád most, hogy hát jó, de ez engem még azért nem érint személyesen, hogyha egyáltalán van ilyen valóban.

De akkor neked elmondom, ha olyan nyugodt vagy, hogy a Google joggrendszeréből nem soká ezt kikerült az a pont, hogy az ott begyűjtött adatokat, vagyis a te a te meg mindenki adat felhasználhatják hadi dolgok fejlesztésére.

Tehát amit nem tilt egy jog, azt valószínűleg azért nem tiltja, hogy csinálhassák.

Na most ebből a témából és sok más mindenből is egy csomó mindent meg fogunk ma tudni, méghozzá bíróalmával, aki Béken Nóbeldíjas nemzetközi emberi jogi aktivista, és ő nagyon nagy elkötelezettséggel testközelből is dolgozik az élhető világért és a békéért.

És itt van velünk továbbá Katona Illés, aki jogász, jogászhallgató, és ő már 19 óta foglalkozik a harcázatban alkalmazott AI-jal, meg egy csomó minden más dologgal.

Nagyon szépen köszi, hogy bevállaltátok ezt a kis könyvet témát. >> Köszöntök. >> Köszönjük a lehetőséget. >> Köszönjük. >> Én azzal kezdeném, hogy ez a 150. adásunk kábé, vagy legalábbis arrafelé tendálunk.

Még ezt nem tudom pontosan megmondani akkor, amikor az adást rögzítjük de ilyen jelentős korkülönbséggel két vendéget egyszerre még nem fog nem nem fogadtunk.

Hogyan jött a ti ismeretségetek, és miért vagytok pont ti ketten együtt ennél az osztalnál ebben a témában? >> Hát én átadom a ezt, mert ő ezt olyan szépen tudja elmondani, aztán majd kiegészítem. >> Az egész az egy teljesen véletlen történésből következett.

Én középiskolában moztam, aki nem ismeri ezt a műfajt, ez a Modell UN program. amit lényegében azt csináljuk, hogy fölöltözünk nagyon szép öltözetekbe, és akkor eljátszuk, hogy mi vagyunk az országoknak a képviselői, és amellett az ENBN, és akkor megvitatunk különböző témákat.

Ez amellett, hogy egyébként nagyon vicces, azért magas szakmaiságot is képvisel, legalábbis én ezt így éltem meg a saját közegemben.

Az Ötvös Józsefben jártam egyébként középiskolában, ott ott volt ez a program nagyon erősen.

És és egy-egy konferencián a globális ügyeknek, ha az aktuális állását vitatjuk meg, nyilván úgy, ahogy ezt egy középiskolás meg tudja vitatni.

És akkor volt egy ilyen kisebb konferencia, aminek Dalma a háttérszervezésében benne volt.

Ezt utána egyre több mindenről tudtam meg, hogy Dalma benne van a háttérszervezésében.

Tehát ez így idővel bontakozik ki előttem, de de ott volt ezen a rendezvényen.

És hát történt második nap, hogy én még ott ügyködtem valamit a gépemen ebédszünetben, és volt egy ilyen hosszú asztal, ahol az összes fiatal ült, és volt egy ilyen sarokasztal, egy ilyen kis körasztal, ahol a felnőttek, a szervezők meg az ilyen nem tudom mindenféle egyéb szakértők ott ültek.

Na és az történt, hogy én én én egyedülként maradtam ki a fiatalasztalból, és akkor hát valahol mégis csak meg kell tennem az ebédemet, és mondtam, hogy akkor készen állok még egy protokókoll beszélgetés, hát ez is része a diplomácia életnek.

És akkor találkoztunk Dalmával, és Dalma elkezdte éppen csak megpendíteni azt, hogy neki milyen életútja volt.

Remélem, hogy erről majd azért beszélgettünk még egy csomót.

És és mondta, hogy éppen most fog bele egy új vállalkozásba, felkérték arra, hogy Magyarországon a Stop Killer robots kampányt, az állítsuk meg a gyilkos robotokat, kampányt csinálja, és hogy szívesen látna engem is ilyen önkéntesként vagy aktivistaként.

Igazából először fel eladta, hogy üljünk le a keletbe egy beszélgetésre és emlék valahol pont ilyen szeptember most most már 7e ugye jót jól jól veszem le nagyjából ebben az időben 2019-ben ültünk le beszélgetni és ilyen nagyon alap feladatokkal kezdtem, tehát megkért, hogy fordítsak le egy anyagot.

Fégülés, bocs, hogy közbes szólok, de engem marhára érdekelne, hogy 15 éves korodban ülsz egy asztalnál, ahol értem, hogy neked milyen szellemiséged van, de hogyha valaki odamegy egy 15 éves gyerekhez, hogy figyelj komá, azzal kéne foglalkozni, hogy a gyilkos robotok garazdálkodnak majd a közeljövőben, és ezzel nekünk tenni kellene, akkor te nem néztél egy kicsit furcsán, hogy hú meg, is akarnak engem belerángatni?

Hát erre közben szeretnék itt szólni, merthogy ugye ezen a találkozón ez a Mystone Institutben volt nyári találkozó volt és ugye ahogy az ülés leírta az országok képviselőjét reprezentálták a fiatalok kivételesen Illés Oroszországot képviselte és annyira meggyőző volt, hogy >> egy ifjú Puty vezett el Lett is ebből pár személyes konfliktus.

Azt hozzá kell tennem, hogy a a végére voltak olyan fiatal kollégák, akik személyesen utáltak meg, mert annyi annyiszor vétóztam a többiek által előrakott jobbnál jobb szakmai javaslatokat.

Tehát ez volt a szerep. >> Bocsánat, hogy között.

És felfigyeltem már akkori illésre, de gondoltam hogy talán túl fiatal még, hogy ebbe a témába bevonjam, de amikor leült hozzánk a kolléganőmmel ültem ott, akit akivel ezt a kétnapos rendezvényt rendeztük, Vitrai Barbarával, ő szintén újságíró volt korábban, és odaült hozzánk Illés, és lenyűgözött az a nem szakmaisága, hanem az az a élet szemlélete 16 éves korában.

Tehát annyira összeszedett volt, hogy utána Barbarával így nem tudom egy órát még beszélgettünk, hogy ki ez a fiatal ember, >> ki ez a srác?

Egy kicsit közel húzod magadhoz a Mikit?

És akkor visszamentünk oda, hogy ugye Illésnek adtam egy feladatot, hogy egy nagyon nehéz dokumentumot, amit az Human Rights Watch írt, Hit the Call, azt hiszem, ez volt a a címe hogy hozzon belőle egy rövid kivonatot.

Ez egy körülbelül egy olyan 40 oldalas angol dokumentum.

Szerettem volna látni egy az, hogy tud-e szöveget értelmezni. plán egy ilyen jogi szöveget 16 éves korában és >> tudi tudta. >> Elképesztő.

Tehát, hogy a mai napig szoktam használni egyébként azt a magyar fordítást, amit Illés akkor elkészített.

És igen, szerintem itt koccintani is kellene, mert most van körülbelül hat éve, hogy hogy egymás szemébe néztünk először, és tényleg csodálatos dolgokat csináltunk. >> Azért azért ez azt tegyük hozzá, hogy egy összefoglalót kellett készítenem, tehát minden belép, tehát a belépési költségnek is van egy küszöbe.

Ez még egy átugorható dolog volt. >> Sajnos antialkolista lettem a hétvége óta, úgyhogy koccintani én most nem fogok tudni veletek. talán majd egy másik alkalommal.

Ellenben arra nem válaszoltál még, hogy ez a téma egyáltalán a te látókörödben volt korábban.

Tudtál-e bármit arról, hogy vannak gyilkos robotok, vagy akkor szembesültél, és egyáltalán mi mit szóltál a felkéréshez, vagy Isten igazából ahhoz, hogy egy ilyesféle témával kell majd a jövőben foglalkozni? >> Hát ugye szerintem olyan 10 16 voltam akkor, azt hiszem nagyjából. akkoriban már mindenkit foglalkoztat a pálya orientáció vagy a pálya pályaválasztás a >> és nekem olyan 12-3 éves kórum óta jobbnál jobb ötleteim voltak nem tudom csillagász leszek mert >> vagy Putyin >> az az majd egy későbbi történet lesz egy olyan csillagász leszek volt egy fizika tanáram akivel egyedül én jöttem ki jól az osztályb és akkor ez egy ilyen löket volt hogy na hát biztos akkor nekem eztán ezt félretettem akkor elkezdtem egy idegenvezető jók és tankönyvet olvasgatni Érdekesnek tűnt, de hát nem lettem idegenvezető sem.

És akkor egy kicsit tanástalan voltam középiskola elején.

A volt egy szeretet közösségem, ahonnan ahonnan nagyjából kilencedikes koromban kiestem, ez egy általános iskolás klub volt, és és kerestem magamat.

És akkor ez az Mun közösség, ez ez nem csak egy valamiféle játék volt, vagy vagy szimuláció, hanem ott olyan emberek voltak, akik szakmailag inspirálóak voltak.

Aztán volt, aki nem tudom, jogra ment tovább, mint aztán én később volt, aki antropológiára nagyon különböző irányokba, de megtetszett a a nemzetközi világ.

És ez ezt a fajta ilyen közéleti érdeklődésemet azóta is tartom. >> Ühüm. >> A a jogi mellett, a szűken vett jogi érdeklődés mellett. >> És és igazából az pont az a korszak volt, amikor még időm is volt és nyitott voltam a világra, és úgy láttam, hogy ez egy olyan téma, ami érinti >> mesterséges intelligenciát, érinti a a hadügyet.

Ez egy csomó olyan dolog, amiben az ember jó, hogyha van tapasztalata, van tudása és bejárása van ezekbe a világba.

Nekem édesapámnak mindig az volt a filozófiája, hogy nyissunk ki minél több lehetőséget, és aztán majd meglátjuk, hogy abból mi lesz. >> Még még egy szempontot felhoznék.

Azért Dalmának van egy olyan karaktere, akit nehéz visszautasítani.

Ühüm. >> Ellená ellenállhatatlan a hölgy.

Dalma, azt szeretném tőled kérni, hogy mondd el, hogy mik azok a gyilkos robotok, és miért kell ezek ellen harcolnunk.

A halálos autonómfegyverek, vagy ahogy hívjuk, hogy gyilkos robotok, ezek nem egy, tehát ez a fegyverrendszerek, különböző fegyvereket értünk alatta.

Így értjük a tankokat, az tengeralattjárókat, a határvédelmi rendszereket, a végleláthatatlan fegyverrendszerek, >> drónokat gondolom. drónok, igen, drón, raj drónok, amikről majd fogunk beszélni, hogy azoknak milyen hatása van.

És itt az a nagyon fontos ebben a fegyverrendszerekben, hogy ezek automata fegyverrendszerek, tehát önálló tanulásra képes fegyverek, és nincsen érdemi emberi ellenőrzés, tehát ki van iktatva az ember, beprogramozzák és akkor ő megy magától.

Nem kérdeznem kicsit olyan, mint a a taposóakna, ugye, hogyha ilyen szeretnénk azt talán a a hétköznapi emberek jobban hallottak róla a mai nap, ami szintén úgy van, hogy ugyanaz nincs beprogramozva, de hogyha lerakjuk a Földbe, az első virágháború óta vannak taposóaknák, 750 féle fajtája van, akkor azok Ok aktiválódnak akkor, amikor ember közelébe kerül, vagy állat satöbbi, de hogy ő is be van programozva, hogy például a tapasó aknába is, hogy pörög egy bizonyos fordulatszámig, majd amikor elér egy fordulatszámat, akkor felrobban.

Például ez a klaszter bomba, de hogy a halálos autonómfegyverek, tehát itt nincs ember, ez a lényeg. >> Ez miért okoz problémát?

Arra gondolnék, hogy ahogy megismertük a történelemből a saját fajunkat, hát annál gyilkosabb agresszívabb álságosabb lény nagyon van, és még lehetséges, hogy egy gép sem tudja ezt a borzalmat megközelíteni.

Hát ezt szokták mondani, hogy hogy ez micsoda előnyekkel tud járni, mert ugye hogy nem érez meg >> meg ö csinálja a saját feladatát.

De úgy gondolom, hogy az élethalál kérdését nem gépekre kéne bíznunk, hanem >> tehát ezek úgy működnek, hogy ezekre rá van bízva, hogy élethal kérdés, döntse >> igen, ez egy skála. alapvetően elindultunk az olyan fegyverektől, amikben tehát a a legegyszerűbb az a kard, ugye karddal, tehát közvetlen kézirányítás alatt van, és face to face megvan az élmény, hogy tehát lekazoboljuk egymást és akkor ennek minden előnyéves hátrányával együtt.

Ö aztán eggyel tovább léptünk, amikor távolsági fegyvereink lettek, nyilak például, és a középkorba eljutottunk a számszeréig, amikor már olyan távolra tudok lőni, hogy nem is látom azt, hogy hogy ki az, akit megölök adott esetben.

Mondjuk van egy nagyobb embert, és akkor valakit megölök.

Tehát olyan távolivá válik ez az egész tarajonképpen.

Annak idején próbálkozott is a a az egyház azzal, hogy betiltsa a a számszeréjakat, azért, mert nem lovagias az ő erkölcsi megítélésük szerint.

Tehát elég népszerű lett ez a fegyver.

És ez azóta ez a háborútól vagy a a szemtől szemben való ártástól való távolodás, az folyamatosan növekszik.

Megek a géppuskák, amikor amik ugye ismételten megállás nélkül hosszan tudnak lőni.

Megjelentek a különböző bombák utána, hadiülőgépek, amikor már már azt se látom, hogy ott hány ember van pontosan, vagy hogyan.

És akkor nagyjából a 2000-es évek elején eljutottunk a drónokig, ami amikor arról volt szó, hogy itt már megjelentek a féla autonóm rendszerek is, ami lényegében arról szólt, hogy valaki az Egyesült Államokban ül egy irodában, és kamerán keresztül látja, hogy a közelkeleten mi történik, és meg kijelöli a célpontot, és adott esetben a drón már magától megtalálja, vagy vagy saját maga kijelöli azt a röppályát, amin oda fog érni.

És ez már egy egészen haladó szint volt, de itt még mindig arról van szó, hogy van két kritikus funkció.

Ezek a a célpont kiválasztása és a támadásnak a végrehajtása, amik emberi kézben vannak, és ezt támogatják a a a rendszerek.

Ehhez képest a amibe belépünk, és egyébként az elmúlt héten hivatalosan is beléptünk azzal, hogy hogy hogy Ukrajna teljesen autonóm drónokat és egyébként majd dróra alkalmazott, beléptünk ebbe az új korszakba. ebben a korszakban a kritikus döntéseket is az emberek és a gépek legjobb esetben közösen gyakorolják.

Tehát itt már nem féa autonóm rendszerekről van szó, hanem még human on the loop rendszerekről.

Tehát még az ember látja, hogy mi történik, és talán közbe tud avatkozni, ha ha elég ideje van arra, és elég tudása. >> Nagyjából itt vagyunk most, és amifelé haladunk, és amifelé tudatosan haladnak a legnagyobb fejlesztő országok, az az, hogy olyan rendszereink legyenek, amiben az embernek semmilyen szerepvállalása nincsen azon túlmenően, hogy megtanítja a rendszert informatikai utakon keresztül, hogy milyen célpontokat keressen, és kiadja a parancsot. ez és nem is a közvetlen, tehát nem egy konkrét célpontra adott parancsot, hanem általában, hogy valamiféle műveletet hajtson végre.

Ez az az irány, ami felé tudatosan törekednek a a globális nagyhatalmak, és mi ezt hívjuk teljesen autófegyvereknek.

Azt is jelenti, hogy akkor a felelősségtől is ugyanúgy megszabadul hat az ember, aki…

Említett entitások

Témák

Személyek

Hallgasd meg

Gyakori kérdések erről az epizódról: „Bíró Dalma, Katona Illés: Meg kell állítani a gyilkos robotokat, amíg nem késő!”

Miről szól ez az epizód: „Bíró Dalma, Katona Illés: Meg kell állítani a gyilkos robotokat, amíg nem késő!”?

A Mindenségit! podcast ezen adásában Bíró Dalma emberjogi aktivista és Katona Illés jogász hallgató beszélgetnek a gyilkos robotok és autonóm fegyverrendszerek veszélyeiről. Megvitatják, hogyan jutottunk el odáig, hogy gépek hozzanak döntéseket háborús helyzetekben, és milyen… Az epizód a Mindenségit! című magyar podcast egyik adása, megjelenés: 2025. 09. 21..

Kik szerepelnek vagy kiket említenek ebben az epizódban: „Bíró Dalma, Katona Illés: Meg kell állítani a gyilkos robotokat, amíg nem késő!”?

Az epizódban a következő nevek szerepelnek vagy hangzanak el: Katona Illés, Bíró Dalma, Pázmándi Gergely, Varga T. Róbert.

Milyen témákat érint ez az epizód: „Bíró Dalma, Katona Illés: Meg kell állítani a gyilkos robotokat, amíg nem késő!”?

Fő témái: gyilkos robotok, autonóm fegyverrendszerek, emberi jogok, háború.

Mikor jelent meg és milyen hosszú ez az epizód: „Bíró Dalma, Katona Illés: Meg kell állítani a gyilkos robotokat, amíg nem késő!”?

Megjelenés: 2025. 09. 21.. Hossz: 2 óra 24 perc. Az epizód a Podiverzumon hallgatható meg: https://podiverzum.hu/podcast/mindensegit-2/146-biro-dalma-katona-illes-meg-kell-allitani-a-gyilkos-robotokat-amig-nem-keso

Több epizód a Mindenségit!-ből

Hasonló epizódok más magyar podcastokból