Об этом сообщает KURAZH
Компания Google временно отключила функцию AI Overviews (Искусственный интеллект — выводы) в результатах поиска по отдельным медицинским запросам после масштабной критики. Причиной такого решения стали жалобы на некорректную информацию, которую система искусственного интеллекта предоставляла пользователям, в частности, касающуюся анализов крови на печень.
Причины удаления AI-высновков для медицинских запросов
Расследование, проведенное The Guardian, выявило, что AI Overviews предлагал обобщенные показатели для лабораторных анализов, например, на вопрос «какой нормальный уровень показателей анализа крови на печень» пользователи получали стандартные цифры. Однако эти данные не учитывали важных факторов, таких как возраст, пол, этническая принадлежность или национальные медицинские стандарты. Из-за этого существовала угроза, что пользователи могли неправильно трактовать полученные показатели как норму.
Реакция Google и экспертов
В Google сообщили, что не комментируют отдельные изменения в выдаче поисковой системы, однако команда компании постоянно работает над улучшением качества информации. Представитель Google подчеркнул, что внутренняя команда врачей тщательно проверила запросы, упомянутые в расследовании, и «в большинстве случаев информация была корректной и основывалась на надежных источниках».
«В большинстве случаев информация была корректной и основывалась на надежных источниках».
Ванесса Гебдич, директор по коммуникациям и политике в British Liver Trust, положительно оценила решение Google приостановить отображение AI-высновков для отдельных медицинских запросов. В то же время, по ее мнению, это лишь частичное решение проблемы, поскольку удаление одного результата не решает вопрос возможного распространения некорректной медицинской информации в целом.
