Терапевти използват тайно ChatGPT в сесиите си

В представеното бъдеще на Силициевата долина, AI моделите са толкова емпатични, че ще ги използваме като терапевти. Те ще предоставят психично-здравна грижа за милиони, без нужда от дипломи, застраховки и сън. Но на Земята се случва нещо различно. Миналата седмица публикувахме история за хора, които откриват, че техните терапевти тайно използват ChatGPT по време на сесиите. В някои случаи това не беше прикрито; един терапевт случайно сподели екрана си по време на виртуална среща, позволявайки на пациента да види как личните му мисли се въвеждат в ChatGPT в реално време. Моделът предложи отговори, които терапевтът повтори. Това е любимата ми AI история напоследък, вероятно защото така добре улавя хаоса, който може да настъпи, когато хората използват AI по начина, по който технологичните компании почти им казват да го правят. Както авторът на историята, Лори Кларк, отбелязва, не е напълно нереалистично AI да бъде полезен в терапията. В началото на тази година писах за първото клинично изпитване на AI бот, създаден специално за терапия. Резултатите бяха обещаващи! Но тайното използване на AI модели от терапевти, които не са проверени за психично здраве, е нещо съвсем различно. Проведох разговор с Кларк, за да чуя повече за това, което е открила. Бях наистина заинтригуван, че хората са изобличили терапевтите си, след като са разбрали, че тайно използват AI. Как интерпретираш реакциите на тези терапевти? Опитваха ли се да го скрият? Във всички случаи, споменати в статията, терапевтът не беше предоставил предварително разкритие за това как използва AI на пациентите си. Така че, независимо дали се опитваха да го скрият, така изглеждаше, когато беше открито. Мисля, че поради тази причина, едно от основните ми заключения от писането на статията беше, че терапевтите трябва абсолютно да разкриват, когато ще използват AI и как (ако планират да го използват). Ако не го направят, това повдига много неудобни въпроси за пациентите, когато бъде разкрито и рискува необратимо да повреди доверието, което е изградено. В примерите, които срещнахте, терапевтите обръщат ли се към AI просто като средство за спестяване на време? Или смятат, че AI моделите могат наистина да им дадат нова перспектива за това, което тревожи някого? Някои виждат AI като потенциално средство за спестяване на време. Чух от няколко терапевти, че бележките са бичът на живота им. Така че мисля, че има известен интерес към AI инструменти, които могат да подкрепят това. Повечето, с които говорих, бяха много скептични относно използването на AI за съвети как да лекуват пациент. Казаха, че би било по-добре да се консултират с ръководители или колеги, или с казуси в литературата. Те също така бяха разбираемо много предпазливи относно въвеждането на чувствителни данни в тези инструменти. Има известни доказателства, че AI може да предоставя по-стандартизирани, "ръководени" терапии като CBT [когнитивно-поведенческа терапия] сравнително ефективно. Така че е възможно да бъде по-полезен за това. Но това е AI, специално създаден за тази цел, а не общи инструменти като ChatGPT. Какво се случва, ако това се обърка? Какво внимание получава това от етични групи и законодатели? В момента професионални организации като Американската асоциация за консултиране съветват да не се използват AI инструменти за диагностициране на пациенти. В бъдеще може да има и по-строги регулации, които да предотвратят това. Невада и Илинойс, например, наскоро приеха закони, забраняващи използването на AI в терапевтични решения. Още щати могат да последват примера. Сам Алтман от OpenAI каза миналия месец, че "много хора ефективно използват ChatGPT като вид терапевт" и че за него това е добро нещо. Смятате ли, че технологичните компании обещават прекалено много за способността на AI да ни помага? Мисля, че технологичните компании тихомълком насърчават това използване на AI, защото очевидно това е път, по който някои хора формират привързаност към техните продукти. Мисля, че основният проблем е, че това, което хората получават от тези инструменти, не е наистина "терапия" в никакъв смисъл. Добрата терапия отива далеч отвъд това да бъде успокояваща и да валидира всичко, което някой казва. Никога в живота си не съм очаквал с нетърпение (истинска, лична) терапевтична сесия. Те често са много неудобни и дори стресиращи. Но това е част от смисъла. Терапевтът трябва да ви предизвиква и да ви изважда и да се стреми да ви разбере. ChatGPT не прави нито едно от тези неща.