Deep Questions with Cal Newport
Did OpenAI’s Model “Go Rogue”? | AI Reality Check
· PT33M40SÖsszefoglaló
Cal Newport kritikus szemmel vizsgálja a legújabb MI-híreket, különös tekintettel az OpenAI egyik modelljének állítólagos "elromlására". Az epizód feltárja, hogy vajon ez a fejlemény meglepő új képességeket jelzett-e, és hogy a rendszer önálló támadási szándékot mutatott-e.…
Fejezetek
- — Did OpenAI’s model “go rogue” (11:29) The implications (11:42) Did this attack reveal surprising new capabilities we did
- — Did the system’s decision to escape the test environment and autonomously attack another company indicate an emerging ma
- — What changed led to this attack occurring? (27:32) Who should care about this story? Links: Buy Cal’s latest book, “Slow
Ebben az epizódban
Cal Newport takes a critical look at recent AI News.
Video from today’s episode: youtube.com/calnewportmedia (0:00) Did OpenAI’s model “go rogue” (11:29) The implications (11:42) Did this attack reveal surprising new capabilities we didn’t know AI systems possessed? (12:48) Did the system’s decision to escape the test environment and autonomously attack another company indicate an emerging malicious intent in AI? (16:28) What changed led to this attack occurring? (27:32) Who should care about this story?
Links: Buy Cal’s latest book, “Slow Productivity” at www.calnewport.com/slow https://huggingface.co/blog/security-incident-july-2026 https://openai.com/index/hugging-face-model-evaluation-security-incident/ https://www.wsj.com/tech/ai/openai-models-escaped-and-hacked-a-company-in-cybersecurity-test-gone-wrong-ee388506 https://thehill.com/policy/technology/5987397-openai-hugging-face-hack/ https://apnews.com/article/skynet-ai-terminator-artificial-intelligence-eb85da03a0161beaa5f3babc4331e93b https://www.ft.com/content/7e558951-0c69-459b-8bc8-2c6021d4402d?syn-25a6b1a6=1 https://federalnewsnetwork.com/all-news/2011/08/dhs-anonymous-used-rudimentary-tools-to-hack-contractor/ Thanks to Jesse Miller for production and mastering and Nate Mechler for research and newsletter.
Learn more about your ad choices.
Visit podcastchoices.com/adchoices
Említett entitások
Témák
Hallgasd meg
Több epizód a Deep Questions with Cal Newport-ből
- How to Build a Cognitive Training Plan | Monday Advice
Cal Newport a kognitív képességek mérésére és fejlesztésére szolgáló három kulcsfontosságú teljesítménymutatót (KPI) mutat be. Az adás kitér az információfáradtság szindrómára, a…
- Classic Episode: How Do I Kick My Scrolling Habit? | Monday Advice
- How Do I Finish Meaningful Projects? | Monday Advice
Az epizód arról szól, hogy miért csak 8%-a az embereknek fejezi be az éves céljait, és hogyan függ össze ez azzal, hogy egyre kevesebben éreznek célt az életükben. Cal Newport egy…
- Does OpenAI’s Astra Mean AGI Has Arrived? | AI Reality Check
Cal Newport kritikus szemmel vizsgálja a legújabb AI-híreket, különös tekintettel az OpenAI Astra nevű új modelljére. Az epizód elemzi, hogy az Astra megjelenése valóban az általá…
- Classic Episode: How Do I Learn Hard Things? | Monday Advice
Ebben az epizódban Cal Newport a nehéz dolgok elsajátításának folyamatát tárgyalja. Kiemeli, hogy bár a legtöbb ember képes megtanulni a legtöbb dolgot, a tanulás gyakran nehezebb…
- Why Do Digital Detoxes Fail? What Works Better? | Monday Advice
Az epizód azt vizsgálja, miért vallanak kudarcot a digitális méregtelenítések a tartós változás elérésében. Cal Newport a „A Brief History of Intelligence” című könyv neurotudomán…
- The Optimization Paradox Explained | Monday Advice
Cal Newport Brad Stulberggel beszélget az optimalizálási paradoxonról a Deep Questions podcast 414. epizódjában. Az epizód tárgyalja az optimalizálási paradoxont, az egészségoptim…
- Does Claude Have Private Thoughts? (Everyone Settle Down) | AI Reality Check
Cal Newport kritikus szemmel vizsgálja az AI-val kapcsolatos legújabb híreket, különös tekintettel az Anthropic kutatási jelentésére. Az epizód magas szintű bevezetést nyújt a nag…
- Should I Use Notebooks More Often? (Cal’s Strategy) | Monday Advice
Cal Newport ebben az epizódban négy különböző jegyzetfüzete használatát mutatja be, és elmagyarázza, hogyan lehet hatékonyan gondolatokat rendszerezni és új ötleteket generálni ve…
- Do Managers Actually Understand AI? (I’m Not So Sure.) | AI Reality Check
Cal Newport kritikus szemmel vizsgálja a legújabb MI-híreket, különös tekintettel arra, hogy a vezetők valóban megértik-e a mesterséges intelligenciát. Az epizód elemzi az MI üzle…