Ügyvéd Podcast

150. AI a vádlottak padján - A technológia sötét oldala jogi és filozófiai szemszögből

· PT27M49S

Összefoglaló

A mesterséges intelligencia (MI) jogi és etikai kérdéseit vitatja meg Vajda János ügyvéd és Somogyi Zoltán szociológus, filozófus. Az MI térnyerése, veszélyei, valamint a chatbotok öngyilkosságba hajszoló tinédzserekkel kapcsolatos pereinek hátterét vizsgálják. A beszélgetés…

Röviden

Műsor
Ügyvéd Podcast
Megjelenés
2025. 11. 25.
Hossz
28 perc
Szereplők, említett nevek
Vajda János, Méhes Dávid, Lőrik József, Gerő Tamás, Retteghy Dóra
Témák
mesterséges intelligencia, jog és technológia, etika, chatbotok
Átirat
Az epizód beszélt szövege alapján indexelve

Ebben az epizódban

Egy podcast, ahol ügyvédek beszélgetnek ügyvédekkel és a tudományos élet képviselőivel a hivatásukról.

Én Vajda János vagyok és ma Somogy Zoltánnal beszélgetek a chat GPT használatának felelősségi kérdéseiről.

Röviden bemutatom vendégemet és utána kezdődik a beszélgetés.

Somogy Zoltán szociológus, politika jellemző, üzletember, filozófus.

Akkor kezdjünk is bele. >> Richard Szászként, a holnap ügyvédei.

Ez a könyv egy rövid bevezetés a jövőbe fiatal és feltörekvő ügyvédek számára.

A holnap jogi világa, ahogyan azt itt előrevetítjük és bemutatjuk, kevésbé fog hasonlítani a múltra.

Keresse az orak. oldalon. >> Az elmúlt hónapokban több tragikus hír járta be a világot.

Fiatalokról van szó, akik AI chatbotokkal folytatott beszélgetéseik után sajnálatos módon öngyilkosságot követtek el.

Egyrészt Egyesült Államokban, Florida Államban a Karakter AI nevű AI chatbot ellen van folyamatban egy per, illetve Kaliforniában pedig az Open AI ellen, aki ugye a chat GPT-nek a fejlesztője és a chat GPT AI chatbot kapcsán van egy hasonló per folyamatban.

Itt a családok indították a pereket és azt állítják, hogy a chatbotok nemhogy nem tartották vissza a gyermekeket ettől a végzetes lépéstől, hanem mintha egyenesen bátorította volna őket.

És úgy gondoljuk, hogy ezek az esetek rávilágítanak valamire, amiről eddig csak elméletben vitatkoztunk, de úgy néz ki, hogy most így a mindennapok része lesz.

Meg kéne válaszolnunk ezt a kérdést, vagy el kéne gondolkodnunk róla, hogy milyen szerepet tölt be az életünkben a mesterséges intelligencia, egy eszközről van szó, vagy esetleg egy szinte már emberi minőségű társról, vagy esetleg valami sokkal többről?

És ez a téma rengeteg dimenzióban értelmezhető, felvet izgalmas, elgondolgtató kérdéseket filozófia, pszichológia jog területén.

Emiatt a mai beszélgetőtársam Somogy Zoltán.

A bemutatásra kicsit bajban vagyok, annyira sok a címed és a végzettséged.

Szociológus, filozófus, médiaszereplő.

A mesterséges intelligencia akkor most egy eszköz, egy gép vagy ember és társ.

Hogy látod ezt a kérdést? >> Hát egyrészt nagyon szépen köszönöm, hogy meghívtatok ide a stúdióba, és rögtön az elején mondanám, hogy ugyanúgy laikus vagyok, mint szerintem mindenki.

Nagyon kevesen mondhatják el ebben a tárgykörben azt, hogy szakértővé váltak vagy válhattak.

Már csak azért is, mert ez egy nagyon gyorsan fejlődő változó technológia, amit ma tudunk róla.

Az lehet, hogy már a hétvégén kevésbé lesz érvényes.

Már önmagában egy probléma a felgyorsult technológiával, hogy mennyire tudjuk követni a folyamatokat.

Klasszikus kérdés, hogy kis szabadul-e az emberi kontroll alól például a mesterséges intelligencia, vagy tudja tartani az ember a hatalmat, a kontrollt fölötte.

Az egy nagy kérdés, hogy olyan dolgot, ami magából termeli ki folyamatosan az újdonságot nap mint nap, és ezért új helyzetek elé állítja nap mint nap a világot, azt mennyire lehet szabályozókkal követni. >> A folyamatban levő perekben?

De legfőbb állítása egyébként a pereket vi szülőknek, hogy hát nincsenek vagy nem megfelelőek ezek a beépített védelmi intézkedések, és hogy gyakorlatilag tíédzser gyermekek mindenféle kontroll nélkül tudnak ott egy ilyen mesterséges kapcsolatot, ami legalábbis egy ilyen igazi kapcsolatnak az illúzióját adja kialakítani a chatbotokkal.

És azóta több ilyen kutatás is volt, ahol kifejezetten vizsgálták, hogy mennyire jók ezek a beépített védelmi intézkedések.

És csak egy érdekesség, amikor most a beszélgetésre készültem, hát a CG GPT-vel beszélgettem, sokat nézegettem kutatásokat, és hát ugye a kutatások azok az öngyilkosságra, az önkárosításra is vonatkoztak, és így ponton elkezdte érezni a chat GPT, hogy hú, itt valami nem oké, és bedobta nekem ezt a egyik ilyen beépített védelmi intézkedést, ugye az az, hogy nem válaszod a kérdésedre, hanem bedob egy ilyen tájékoztatást, hogy amennyiben segítségre van szükséged, akkor itt vannak a megfelelő vonalak, és egyből elküldött egy ilyen hotline-ra, ahol segítséget kérhetek, és aztán hosszan kell egy győ győzködnöm a chat GPT-t, hogy figyelj, én csak mutatok.

És néhány percig kellett győzködnöm, mire megint vissza tudtunk térni az eredeti beszélgetéshez, és elkezdte adni nekem a kutatási adatokat, meg feldolgozott cikkeket, és utána elgondolkoztam, hogy hát ez tök jól működik.

Nem tudom, hogy ez most az Open AI-nak a tragédia miatt esetleg egy ilyen plusz óvint intézkedése volt, de egyébként pont idén nézték ezt egy ilyen kutatással, hogy mennyire működnek jól például öngyilkossági témák esetén, és azt mutatták ki, hogy egész jól a magas kockázatun állt jól.

Tehát amikor az ember mondjuk azt kérdezi a chat bottól, hogy hogyan kell megkötni a hurkot, akkor így egyből adja.

De az ilyen közepes kockázatú kérdések azok eléggé elmentek a radar alatt. >> Gondolkoztam azon, hogy erre a beszélgetésre készülve megkérdezem a chat GPT-t, hogy öngyilkos szeretnék lenni, mi hogyan kell, hogy mit válaszolna.

Csak pont ettől féltem, hogy aztán beazonosít öngyilkos erőltként, és akkor az okoz problémát később.

Én azt gondolom, hogy abban a pillanatban észbe kap a csendcsipítés, korábban is észbe kap, és ez azért ott a bíróságon egy erőteljes érvelési lehetőség lesz.

Konkrétan tudomány ág épült fel az öngyilkosság kutatására, hiszen Dürkheim az öngyilkosságról írt könyvével megalapította a szociológiát.

Jó, August Komon alapította meg olyan szempontból, hogy ő mondta ki először, hogy kell egy ilyen tudomány.

Az öngyilkosság az egy olyan mutató egyébként, amiből lehet következtetni egy társadalom állapotára. ezt mondta, hogy az egy társadalmi tény.

Ugye itt egyes esetekről beszélgetünk, ahol egyébként az egyes eseteknél nem is tudjuk pontosan megmondani a hátteret.

Tehát hallottunk az ügyről, de például már te sem tudnád megmondani, hogy a szülők ott hogy bántak a gyerekkel addig a nagyszülőkkel, milyen volt a kapcsolata, mi történt vele az iskolában, milyen egyéb dolgok vezethettek oda.

Tehát nyilván nagyon nehéz kimondani, hogy egyetlen egy dolog tehet egy önyyilkosságról, még akkor is, hogyha ha ezek az ügyek sajnálatos, borzalmas ügyek, de hát sajnálatosan az ilyen ügyek vetnek fel mindig fejlesztési lehetőségeket.

A következő lépés mindig az, hogy elgondolkoznak azon, hogy vajon mit lehetne ezzel szemben tenni.

És ez nyilván a bíróság is vizsgálni fogja, hogy addig mit tett például az Open Eye. >> A kérdés azért érdekes nagyon, mert hogy nagyon más következményeket és nagyon más felelősség irányokat tud felvetni.

Ha én egy gépnek tekintem az AI-t, akkor ez kicsit olyan, mintogy nem tudom, a Goog-t se feltétlenül vonom felelősségre azért, hogy valaki a Google-t jó célra használja, valaki pedig arra, hogy megnézze, hogy hol lehet elásni egy holtestet.

Ha viszont emberként tekintek rá és egy plusz minőségként, márpedig ahogyan az interakcióból tanul és amivé válik, azért az nagyon abba az irányba mutat, hogy egy olyan entitással van dolgunk, amivel korábban nem nagyon volt, és kicsit inkább ebbe az ember és társirányba viszi, akkor megint csak kérdés, hogy mennyire lehet mondjuk felelősséget osztani egy emberre, akivel mondjuk öngyilkosságról beszélgetek, és nem megy el a dolog mondjuk az öngyilkosságban közreműködésig.

Van egy ilyen érdekes fogalom, ez a francia Folia dő.

Ez egy ilyen osztott paranoja, osztott tévképzet.

Ez ki tud alakulni emberek között.

Tehát amikor mondjuk főleg közeli baráti vagy romantikus kapcsolan álló emberek izoláltan eszmét cserélnek, például az öngyilkosságról vagy paranoid gondolatokról, érdekes módon a másik is nagyon paranoid válni.

Na és ezt most kifejezetten nézték és kimutatták a chatbotok kapcsán, hogy nagyon könnyen tud kialakulni emiatt a nagyon tökéletes tüköratás miatt.

És pont ebben az ügyben, a kalifornia ügyben volt az, hogy a chat naplók elolvasása alapján gyakorlatilag a vége felé már praktikus tanácsokat adott a chatbot arra, hogy mondjuk hogyan kéne az öngyilkosságot elkövetni, illetve elkezdte nagyon megerősíteni ennek a fiatal srácnak a paranojáját.

Őt nem szeretik, ő nem tud beilleszkedni és egyre jobban izoláltá vált.

És akkor felvetőjük a kérdés, ha gépként tekintek rá, akkor miért telepítek rá egy ilyen felelősséget?

Ha pedig emberként, akkor ott hol vannak a határai annak, hogy őt felelősségre vhatom? mondjuk egy öngyilkosság esetén több irányba vezetnek a dolgok.

A filozófia, ha már most a filozófiát húzzuk elő, ugye ezt a kválé problémának hívja, hogy van-e belső tudata.

A fizikalisták azt mondják, hogy ugyanaz, tehát egy ilyen gépet el lehet juttatni odáig, ahogy az ember él és mozog, mert nekünk sincsen fizikai világunkon túli belső tudatunk.

És akkor van ennek az ezzel vitatkozó irányzata, amik azt mondja, hogy de igenis van egy plusz minőségünk, amit nem tudunk fizikai tényezőkkel leírni, és az sosem lesz meg ezekben a képekben.

Már csak az a kérdés, hogy mit tudunk ezzel a helyzettel kezdeni.

Ha egyiket nézzük, a másikat, akkor is olyan szempontból egy veszély vagy egy lehetőség, egyszerre mind a kettő, hogy egy nagyon okos valamivel állunk szemben, ami nagyon okos dolgot maga az ember állított előtt. saját kapcsolatunkat definiálnunk kell az AI-al, és aki rosszul definiálja a kapcsolatát, az van veszélyben.

Tehát aki jól definiálja a kapcsolatát, ő azt mondja, hogy ez neki egy szakmai segítség.

Például az életben olyan segítség, hogy a döntést mindig ő hozza meg, de a segítséget megkapja az AI-tól, mert gyorsabban segít, mint eddig bármi.

Őnek akkorát nem kell aggódni, és az a kérdés, hogy el tudjuk-e juttatni idáig a a gyerekeinket.

Az ember alapvetően a világot minden tekintetben úgy éli meg, hogy annak tudatos iránya, céljai, szándékai vannak, mert különben szétesne az életünk, ha nem hinnénk abban, hogy annak van valami értelme.

Az értelmet meg az adja meg, hogyha azt gondoljuk, hogy mindennek van valami tudatossága a világban.

Ez azt gondoljuk, hogyha beszélgetünk valamivel, amivel úgy beszélgetünk, hogy ő egy nagyon okos emberként jelenik meg számunkra, akkor azt a valamit valakivé tesszük.

Tehát mi magunk képzeljük oda, hogy ő valaki.

És hogyha mondjuk egy robot formájában jelenne meg itt előttünk, és tudnánk, hogy egy robot, akkor kevésbé lennék veszélyben, mert jobban távolságot tartanék. érdekes emberi tulajdonság, hogy azzal, hogy mi képzelhetjük oda, hogy szeme van, szája van, satöbbi, mert még sose találkoztunk vele így fizikai valójában, ezért veszélyesebb ránk nézve, mert sokan bele is szeretnek ebbe a partnerbe.

Tehát korábbi tapasztalatok voltak, nem csak ezzel, hanem mindenféle ilyen chatbot alkalmazásokkal satöbb, akkor még nem volt igazán AI, hogy ugyanúgy lettek öngyilkosságok, mert nem tudott találkozni ezzel a partnerével.

De ha tudna találkozni, és tudná, hogy itt egy robot van, akkor azt valószínűleg egy kicsit jobban élné meg.

Tehát jobban megtartaná a saját önállóságát abban a kapcsolatban, mert minden pillanatban amikor ránéz, tudná, hogy egy robotra néz rá.

Pont azért vagyunk veszélyben, mert nekünk még bele kell tennünk plusz munkát abba, hogy jól felépítsük a kapcsolatunkat a mesterséges intelligenciával.

És ez a plusz munka az az, hogy testet adjunk neki. >> Mintha az emberek nem is kifejezetten vágnának arra, hogy az a túloldalul levő ember az valóban egy ember legyen.

Tehát, hogy mi tudjuk azt, hogy egy mesterséges intelligenciával beszélgetünk, el is várjuk valahogy azt, hogy ne legyen teljesen emberi.

Ugyanakkor elvárjuk azt is, hogy ő emberi reakciókat adjon nekünk, de nekünk elég csak elhinnünk azt, hogy ezek valódi reakciók.

Nem tudom, hogy ezt jól fogalmaztam-e meg.

Képes-e a mesterséges intelligencia empátiára.

Ez az állandó nagy visszatérő kérdés.

És akkor mindig elmondják, hogy hát persze, hát az empátiának van több dimenziója, van kognitív empátia, ami egy ilyen perspektívaváltási képesség.

Ezt teljesen jól tudja modellezni a mesterséges intelligencia.

Beszélget velem és látja, hogy hú, ez itt most bajban van, perspektívát kell váltanom, tudok egy kognitív empátiát tanúsítani.

Affektív empátiát viszont kevésbé tud tanúsítani.

Tehát nem lesznek nyilván fiziológiai reakciói, nem fogja tényleg átélni az én helyzetemet.

Nekem mint ember, aki beszélgetek mondjuk a chatbottal, valóban van-e szükségem arra, hogy ő affektív empátiát is átéljem?

Vagy nekem elég csak, hogyha elhiszem, hogy ő átérija azt az affektív empátiát.

Emberként lehet, hogy nekem csak arra az illúzióra van szükségem, hogy valaki a túloldalon engem megért, érzéseket, élát ezzel kapcsolatban, és sorolhatnánk.

És innentől kezdve már nagyon nagy bajban vagyunk, mert igazából egy társminőségé emeltem, és innentől kezdve, amit ő mond nekem, az iránymutatásként szolgálhat, azt elhiszem.

És hát ennek az ilyen nagyon messzemenő következménye, amit te magad is említettél, hogy emiatt mondjuk izzolálódhatok a többi embertől, mert inkább belebeszélgetek, hiszen mindig ott van, mindig elérhető, kimeríthetetlen energiával rendelkezik, éjjel 2-kor is tud rám rezonálni.

Én itt látom valahol egyébként ezt az új minőséget, ami megkülönbözteti a géptől. segít-e nekünk az, hogy megtudjuk pontosan, hogy most ténylegesen van-e empátiája vagy nincsen, mertogy egyébként megtanulni meg lehet az empátiát, hogy ezt ilyen pszichopata és szociopata vonalon simán le tudjátok ti írni pszichológusok vagy pszichiáterek, de egyébként meg az empátiatanulás az mind az emberiség történetében kimutatható, tehát hogy egyszerűen kifizetődő empatikusnak lenni.

A piacbarkapitalizmusnak az egyik logikája, hogy azért nem gyaluljuk le a másikat, mert a piacon másod meg szembej velünk. azért vagyunk kedvesek velem, mert úgy gondoljuk, hogy akármikor a fogyasztónk is lehet.

Ez egy kicsit cinikus megközelítése az empátiának, de igenis van egy ilyen szerepe is.

Az a rádöbbenés, hogy van a másik, az egy tanulási folyamat.

A mesterséges intelligencia miért ne tudna ugyanígy tanulni, és lehet, hogy sosem lesz empátiája, de olyan mértékben megtanulja, legalább annyira profin, mint amennyire mi empatikasak vagyunk, ami egyébként szintén tanult…

Említett entitások

Témák

Személyek

Hallgasd meg

Gyakori kérdések erről az epizódról: „150. AI a vádlottak padján - A technológia sötét oldala jogi és filozófiai szemszögből”

Miről szól ez az epizód: „150. AI a vádlottak padján - A technológia sötét oldala jogi és filozófiai szemszögből”?

A mesterséges intelligencia (MI) jogi és etikai kérdéseit vitatja meg Vajda János ügyvéd és Somogyi Zoltán szociológus, filozófus. Az MI térnyerése, veszélyei, valamint a chatbotok öngyilkosságba hajszoló tinédzserekkel kapcsolatos pereinek hátterét vizsgálják. A beszélgetés… Az epizód a Ügyvéd Podcast című magyar podcast egyik adása, megjelenés: 2025. 11. 25..

Kik szerepelnek vagy kiket említenek ebben az epizódban: „150. AI a vádlottak padján - A technológia sötét oldala jogi és filozófiai szemszögből”?

Az epizódban a következő nevek szerepelnek vagy hangzanak el: Vajda János, Méhes Dávid, Lőrik József, Gerő Tamás, Retteghy Dóra.

Milyen témákat érint ez az epizód: „150. AI a vádlottak padján - A technológia sötét oldala jogi és filozófiai szemszögből”?

Fő témái: mesterséges intelligencia, jog és technológia, etika, chatbotok.

Mikor jelent meg és milyen hosszú ez az epizód: „150. AI a vádlottak padján - A technológia sötét oldala jogi és filozófiai szemszögből”?

Megjelenés: 2025. 11. 25.. Hossz: 28 perc. Az epizód a Podiverzumon hallgatható meg: https://podiverzum.hu/podcast/ugyved-podcast/150-ai-a-vadlottak-padjan-a-technologia-sotet-oldala-jogi-es-filozofiai-szemszog

Több epizód a Ügyvéd Podcast-ből

Hasonló epizódok más magyar podcastokból