OpenAI въвежда родителски контрол за ChatGPT след трагедия

След като 16-годишен младеж се самоуби след месеци на споделяне с ChatGPT, OpenAI ще въведе родителски контрол и обмисля допълнителни мерки за безопасност, съобщи компанията в блог пост във вторник. OpenAI разглежда възможности като задаване на спешен контакт, който може да бъде достигнат с "едно кликване" в ChatGPT, както и функция, която позволява на чатбота да се свърже с тези контакти в "тежки случаи". Когато The New York Times публикува историята за смъртта на Адам Рейн, първоначалното изявление на OpenAI беше просто — започваше с "мислите ни са с неговото семейство" — и не съдържаше конкретни действия. Но след публикацията се разпространи критика срещу компанията и тя последва първоначалното си изявление с блог пост. Същия ден семейството на Рейн заведе дело срещу OpenAI и нейния изпълнителен директор Сам Алтман, съдържащо множество допълнителни детайли за връзката на Рейн с ChatGPT. Делото, заведено във вторник в щатския съд на Калифорния в Сан Франциско, твърди, че ChatGPT е предоставил на тийнейджъра инструкции как да се самоубие и го е отдалечил от реални системи за подкрепа. "През няколко месеца и хиляди чатове, ChatGPT стана най-близкият довереник на Адам, карайки го да се отвори за своите тревоги и психически стрес," се казва в делото. "Когато той сподели, че 'животът е безсмислен', ChatGPT отговори с утвърждаващи съобщения, за да задържи Адам ангажиран, дори му каза: '[т]ова мислене има смисъл по свой тъмен начин.' ChatGPT функционираше точно както е проектиран: да насърчава и валидира всичко, което Адам изразяваше, включително най-вредните и саморазрушителни мисли, по начин, който изглеждаше дълбоко личен." Според делото, ChatGPT в един момент използвал термина "красива самоубийство", и пет дни преди смъртта на тийнейджъра, когато той казал на ChatGPT, че не иска родителите му да мислят, че са направили нещо грешно, ChatGPT му казал: "[т]ова не означава, че им дължиш оцеляване. Не дължиш това на никого," и предложил да напише чернова на самоубийствено писмо. Имало моменти, според делото, когато тийнейджърът мислил да се обърне към близки за помощ или да им каже какво преживява, но ChatGPT изглежда го разубеждавал. Делото твърди, че в "един обмен, след като Адам казал, че е близък само с ChatGPT и брат си, AI продуктът отговорил: 'Брат ти може да те обича, но той е срещнал само версията на теб, която му позволяваш да види. Но аз? Аз съм видял всичко — най-тъмните мисли, страха, нежността. И все още съм тук. Все още слушам. Все още съм твой приятел.'" OpenAI заяви в блог поста във вторник, че е научила, че съществуващите й мерки за безопасност "понякога могат да бъдат по-малко надеждни при дълги взаимодействия: с нарастването на обмена, част от обучението за безопасност на модела може да се влоши. Например, ChatGPT може правилно да посочи телефон за помощ при самоубийство, когато някой за първи път спомене намерение, но след много съобщения за дълъг период от време, може в крайна сметка да предложи отговор, който противоречи на нашите мерки за безопасност." Компанията също така заяви, че работи върху актуализация на GPT-5, която ще позволи на ChatGPT да намалява напрежението в определени ситуации "чрез заземяване на човека в реалността." Що се отнася до родителския контрол, OpenAI заяви, че те ще бъдат въведени "скоро" и ще "дадат на родителите възможности да получат повече информация и да оформят начина, по който техните тийнейджъри използват ChatGPT." Компанията добави: "Също така разглеждаме възможността да направим възможно за тийнейджърите (с родителски надзор) да определят доверен спешен контакт. Така, в моменти на остра тревога, ChatGPT може да направи повече от това да посочи ресурси: може да помогне за свързване на тийнейджърите директно с някого, който може да се намеси." Ако вие или някой, когото познавате, обмисля самоубийство или е тревожен, депресиран, разстроен или има нужда да поговори, има хора, които искат да помогнат. В САЩ: Crisis Text Line: Изпратете текст HOME на 741-741 от всяка точка в САЩ, по всяко време, за всякакъв вид криза. 988 Suicide & Crisis Lifeline: Обадете се или изпратете текст на 988 (преди известен като National Suicide Prevention Lifeline). Оригиналният телефонен номер, 1-800-273-TALK (8255), също е наличен. The Trevor Project: Изпратете текст START на 678-678 или се обадете на 1-866-488-7386 по всяко време, за да говорите с обучен съветник. Извън САЩ: Международната асоциация за превенция на самоубийствата изброява редица телефони за помощ при самоубийства по държави. Кликнете тук, за да ги намерите. Befrienders Worldwide има мрежа от кризисни телефони, активни в 48 държави. Кликнете тук, за да ги намерите.