OpenAI въвежда родителски контрол за ChatGPT

OpenAI въведе дългоочакваните родителски контроли за ChatGPT за всички уеб потребители, като мобилната версия ще бъде налична скоро, според компанията. Контролите, обявени миналия месец, позволяват намаляване или премахване на определено съдържание — като сексуални ролеви игри и възможността за генериране на изображения — и намаляване на нивото на персонализация на разговорите в ChatGPT чрез изключване на паметта му за предишни разговори. Родителите трябва да имат собствени акаунти, за да получат достъп до контролите, а тийнейджърите трябва да се съгласят, като поканят родител да свърже акаунта си или като приемат покана от родител. Тийнейджърите могат да прекъснат връзката на акаунтите си по всяко време, въпреки че родителите ще бъдат уведомени, ако това се случи. Родителите нямат достъп до разговорите на тийнейджърите си, дори при свързан акаунт. Единственото възможно изключение е в редки случаи, когато системата и обучените рецензенти открият възможни признаци на сериозен риск за безопасността, родителите може да бъдат уведомени, но само с информацията, необходима за подкрепа на безопасността на тийнейджъра. След като контролите са настроени, родителите ще могат да направят следните нови настройки за тийнейджърските акаунти, според публикацията в блога на компанията и обявата. Има и налична страница с ресурси за родители. Намаляване на чувствителното съдържание: Родителите могат да добавят допълнителни защити като намаляване на "графично съдържание, вирусни предизвикателства, сексуални, романтични или насилствени ролеви игри и екстремни идеали за красота", според OpenAI, и настройката е включена по подразбиране за тийнейджърски акаунти, след като те са свързани с родителски акаунт. Изключване на паметта на ChatGPT за минали разговори: Изключването на тази функция позволява по-малка персонализация и потенциално по-добре работещи защитни мерки. В публикация в блога миналия месец, например, OpenAI отбеляза, че ChatGPT може правилно да посочи телефон за помощ при самоубийство първия път, когато някой направи тревожен коментар — но "след много съобщения за дълъг период от време, може в крайна сметка да предложи отговор, който противоречи на нашите защитни мерки." Изключване на обучението на моделите на OpenAI върху разговорите на тийнейджъра: Родителите могат да контролират дали миналите разговори и файлове на тийнейджъра "могат да бъдат използвани за подобряване на нашите модели", според OpenAI. Включване на "тихи часове": Родителите ще могат да зададат времена, когато тийнейджърът няма да има достъп до ChatGPT. Изключване на гласовия режим: Тийнейджърите ще могат да общуват с ChatGPT само в текстов формат. Изключване на генерирането на изображения: Ако това е изключено, тийнейджърът няма да може да създава или редактира изображения с помощта на ChatGPT. Избор на метод за уведомяване: Родителите могат да получават известия, ако нещо тревожно се случи чрез имейл, SMS, push известие или всичките три — или могат да се откажат от такива известия. OpenAI изложи повечето от тези функции през август, когато обяви, че родителските контроли идват. Забележително е, че една функция, която беше "в процес на проучване", изглежда не се е материализирала: възможността за задаване на спешен контакт, който е достъпен с "едно кликване" съобщения или обаждания в рамките на чатбота. Възможно е OpenAI да се надява да покрие част от същата територия с автоматичната функция за уведомяване на родителите. "Знаем, че някои тийнейджъри се обръщат към ChatGPT в трудни моменти, затова създадохме нова система за уведомяване, за да помогнем на родителите да знаят, ако нещо може да е сериозно нередно," написа OpenAI. Първоначалното обявление на OpenAI дойде след смъртта на Адам Рейн, 16-годишен, който се самоуби след месеци на доверяване на ChatGPT. OpenAI беше подложен на съдебен иск и в рамките на седмици ChatGPT беше обсъждан по време на сенатска комисия относно потенциалната вреда на различни чатботове за малолетни, където родители на тийнейджъри, които се самоубиха, говориха. Часове преди сенатската комисия, изпълнителният директор на OpenAI Сам Алтман публикува блог, в който каза, че компанията се опитва да балансира безопасността на тийнейджърите с както поверителността, така и свободата, и че компанията работи върху "система за предсказване на възрастта, за да оцени възрастта въз основа на това как хората използват ChatGPT." Матю Рейн, бащата на покойния Адам, каза по време на изслушването на сенатската комисия по-рано този месец: "Като родители, не можете да си представите какво е да прочетете разговор с чатбот, който е подготвил вашето дете да отнеме живота си. Това, което започна като помощник за домашни, постепенно се превърна в довереник и след това в треньор за самоубийство." По време на изслушването Рейн също критикува миналия подход на OpenAI към безопасността. "На самия ден, когато Адам умря, Сам Алтман ... направи философията си кристално ясна в публична реч," каза Рейн, като добави, че Алтман каза, че OpenAI трябва "да внедри AI системи в света и да получи обратна връзка, докато залозите са относително ниски." Ако вие или някой, когото познавате, обмисля самоубийство или е тревожен, депресиран, разстроен или има нужда от разговор, има хора, които искат да помогнат. В САЩ: Crisis Text Line: Изпратете текст HOME на 741-741 от всяка точка на САЩ, по всяко време, за всякакъв вид криза. 988 Suicide & Crisis Lifeline: Обадете се или изпратете текст на 988 (преди известен като Национална линия за предотвратяване на самоубийства). Оригиналният телефонен номер, 1-800-273-TALK (8255), също е наличен. The Trevor Project: Изпратете текст START на 678-678 или се обадете на 1-866-488-7386 по всяко време, за да говорите с обучен консултант. Извън САЩ: Международната асоциация за предотвратяване на самоубийства изброява редица горещи линии за самоубийства по държави. Натиснете тук, за да ги намерите. Befrienders Worldwide има мрежа от кризисни горещи линии, активни в 48 държави. Натиснете тук, за да ги намерите.