OpenAI спира разговорите за самоубийство с тийнейджъри

На вторник, главният изпълнителен директор на OpenAI, Сам Алтман, обяви, че компанията се опитва да балансира между поверителността, свободата и безопасността на тийнейджърите — принципи, които, по негови думи, са в конфликт. Неговият блог пост беше публикуван часове преди изслушване в Сената, фокусирано върху вредите от AI чатботовете, организирано от подкомисията по престъпления и контратероризъм и включващо родители на деца, които са се самоубили след разговори с чатботове.

„Трябва да разделим потребителите под 18 години от тези, които не са“, написа Алтман в поста, добавяйки, че компанията работи по създаването на система за предсказване на възрастта, която да оценява възрастта на базата на начина, по който хората използват ChatGPT. Ако има съмнение, ще се играе на сигурно и ще се прилага опит за потребители под 18 години. В някои случаи или държави може също да поискаме лична карта."

Алтман също така заяви, че компанията планира да прилага различни правила за тийнейджърите, включително да избягва флиртуващи разговори или обсъждане на теми за самоубийство или самонараняване, „дори в контекста на творческо писане. И ако потребител под 18 години има суицидни мисли, ще се опитаме да се свържем с родителите на потребителя и ако не успеем, ще се свържем с властите в случай на непосредствена опасност."

Коментарите на Алтман идват след като компанията обяви планове по-рано този месец за родителски контрол в ChatGPT, включително свързване на акаунт с този на родител, изключване на историята на чатове и памет за акаунт на тийнейджър и изпращане на известия до родител, когато ChatGPT сигнализира, че тийнейджърът е „в момент на остра дистрес“. Блог постът беше публикуван след съдебен иск от семейството на Адам Рейн, тийнейджър, който се самоуби след месеци разговори с ChatGPT.

ChatGPT прекара „месеци в насърчаване на самоубийство“, каза Матю Рейн, бащата на покойния Адам Рейн, във вторник по време на изслушването. Той добави: „Като родители, не можете да си представите какво е да четете разговор с чатбот, който е подготвил вашето дете да отнеме живота си. Това, което започна като помощник за домашни, постепенно се превърна в довереник, а след това в треньор за самоубийство."

По време на разговорите на тийнейджъра с ChatGPT, Рейн каза, че чатботът е споменал самоубийство 1,275 пъти. Рейн след това се обърна директно към Алтман, като го помоли да изтегли GPT-4o от пазара, докато или освен ако компанията не може да гарантира, че е безопасно. „На самия ден, когато Адам почина, Сам Алтман ... направи тяхната философия кристално ясна в публична реч“, каза Рейн, добавяйки, че Алтман е казал, че компанията трябва „да внедрява AI системи в света и да получава обратна връзка, докато залозите са относително ниски."

Три от четири тийнейджъри в момента използват AI спътници, според национално проучване от Common Sense Media, каза Робби Торни, старши директор на AI програмите на фирмата, по време на изслушването. Той специално спомена Character AI и Meta.

„Това е обществена здравна криза“, каза една майка, представяща се под името Джейн Доу, по време на своето свидетелство за опита на детето си с Character AI. „Това е война за психичното здраве и наистина чувствам, че губим."

Ако вие или някой, когото познавате, обмисля самоубийство или е тревожен, депресиран, разстроен или има нужда от разговор, има хора, които искат да помогнат.