Google AI създава несъществуваща част в диагнози

Google наскоро се сблъска с проблем в своя модел за здравеопазване Med-Gemini, който подчертава рисковете от използването на изкуствен интелект (AI) в медицината.

Med-Gemini е колекция от AI модели, които анализират медицински данни и създават радиологични доклади. Въпреки че моделът демонстрира способност да открива пропуснати патологии, той създаде несъществуваща част от мозъка, наречена "basilar ganglia", вместо правилното "basal ganglia". Тази грешка остана незабелязана от Google и беше публикувана в научна статия и блог пост, докато не беше посочена от невролог.

Google обясни грешката като правописна, но медицински експерти я определят като опасна и показателна за ограниченията на AI в здравеопазването. Въпреки усилията на компанията да подобри моделите си, случаят подчертава нуждата от внимателен преглед и корекция на AI резултатите от страна на медицинските специалисти.

Този инцидент е предупреждение за рисковете от използването на AI в медицината без адекватен човешки надзор. Въвеждането на AI в здравеопазването трябва да бъде съпроводено с ясни стандарти и процедури за проверка, за да се гарантира безопасността и точността на медицинските диагнози.