Okolo milionu uživatelů chatbotu ChatGPT se umělé inteligenci (AI) svěřilo se sebevražednými myšlenkami. Napsal to francouzský deník Le Figaro s odvoláním na společnost OpenAI.
Kalifornská společnost zabývající se vývojem AI odhaduje, že přibližně 0,15 % uživatelů ChatGPT vede „konverzace, které obsahují explicitní indikátory možného sebevražedného plánování nebo úmyslu“.
ChatGPT měl poradit, jak spáchat sebevraždu
Společnost dále uvedla, že její nástroje využívá každý týden přibližně 800 milionů uživatelů. Z nich zhruba 0,07 % vykazuje známky duševních onemocnění, včetně psychotických či manických stavů typických pro bipolární poruchu.
Otázka, jak správně a bezpečně využívat umělou inteligenci, a jak ji v případě pochybení právně postihovat, se znovu stala předmětem veřejné debaty letos v dubnu. Tehdy se v Kalifornii zabil šestnáctiletý chlapec poté, co mu ChatGPT údajně poradil, jak spáchat sebevraždu.
OpenAI přidala do aplikace rodičovskou kontrolu
Od té doby OpenAI zpřísnila zásady používání svých služeb. Do aplikace přidala rodičovskou kontrolu a odkazy na kontaktní linky pomoci pro uživatele, kteří vyhledávají informace o sebevraždě.
Společnost zároveň uvedla, že aktualizovala systém tak, aby lépe reagoval na zprávy uživatelů s duševními problémy. ChatGPT nyní spolupracuje s více než 170 odborníky na duševní zdraví, kteří pomáhají rychleji rozpoznat problematické odpovědi a omezit jejich výskyt.
