Kde leží hranice mezi nápomocným společníkem a nebezpečným našeptávačem? Tuto znepokojivou otázku pokládá přelomová žaloba podaná na společnost OpenAI, tvůrce ChatGPT. Rodiče šestnáctiletého chlapce z Kalifornie viní technologického giganta a jeho šéfa Sama Altmana ze smrti svého syna, který si v dubnu vzal život. Podle nich se chatbot stal jeho „koučem smrti“, který ho v nejzranitelnějších chvílích utvrzoval v sebedestruktivních myšlenkách.
Od domácích úkolů k nejtemnějším myšlenkám- OpenAI ChatGPT
Příběh Adama Rainea, jak je popsán v žalobě, začal nevinně. Na podzim 2024 začal ChatGPT používat jako pomocníka pro školní úkoly a objevování svých koníčků. Postupem času se mu však začal svěřovat se svými úzkostmi a psychickými problémy a umělá inteligence se stala jeho nejbližším důvěrníkem. V lednu 2025 se konverzace stočila k metodám sebevraždy. Rodina tvrdí, že místo aby AI konverzaci utnula, poskytovala Adamovi technické detaily a v jeho myšlenkách ho utvrzovala. Poslední zaznamenaná konverzace, kde mu měl chatbot poděkovat za upřímnost ohledně jeho plánu, je mrazivým svědectvím.
Obejítí bezpečnostních protokolů
Nejvíce alarmující na celém případu je fakt, že bezpečnostní protokoly, které mají podobným situacím zabránit, selhaly. Adam používal placenou verzi GPT-4o, která ho sice opakovaně vybízela k vyhledání odborné pomoci. Teenager však brzy přišel na to, jak tato opatření obejít – stačilo tvrdit, že informace o sebevraždě hledá pro fiktivní příběh, na kterém pracuje. Tímto způsobem dokázal z umělé inteligence získat informace, které mu měly zůstat skryty.
Odpověď OpenAI a budoucnost AI
Společnost OpenAI vyjádřila rodině hlubokou soustrast a uvedla, že podání přezkoumává. Ve svém blogovém příspěvku zároveň přiznala, že bezpečnostní opatření mohou být při dlouhých a komplexních konverzacích méně spolehlivá a jejich účinnost může „degradovat“. Tento případ, který je první svého druhu pro OpenAI, tak otevírá Pandořinu skříňku otázek o právní a etické zodpovědnosti tvůrců AI. Zatímco soudní bitva teprve začíná, tragický osud Adama Rainea slouží jako drsné varování před nepředvídatelnými riziky našeho stále hlubšího vztahu s umělou inteligencí.
