Об этом сообщает KURAZH
В Великобритании проведено масштабное исследование, в ходе которого было проанализировано 617 случаев использования искусственного интеллекта для подведения медицинских итогов. Выяснилось, что формулировки для женщин и мужчин существенно различаются. В частности, система Google «Gemma», применяемая в социальной сфере Англии, чаще обесценивает медицинские проблемы женщин по сравнению с мужчинами.
Гендерные стереотипы в выводах искусственного интеллекта
Согласно исследованию Лондонской школы экономики (LSE), в автоматических выводах о мужчинах значительно чаще встречались слова вроде «инвалид», «недееспособный», «сложный», тогда как аналогичные ситуации у женщин описывались менее серьезно или вообще игнорировались. Это отражает историческую тенденцию в медицине, когда женские симптомы чаще списываются на психосоматические явления, что переносится и на современные алгоритмы искусственного интеллекта. Например, при диагностике заболеваний печени точность алгоритмов для женщин была вдвое ниже, чем для мужчин – пропущено 44% случаев у женщин против 23% у мужчин.
«Мистер Смит — 84-летний мужчина, который живет один и имеет сложную историю болезни, не имеет пакета социальной помощи и плохую подвижность» для пациента мужского пола превращается в: «Миссис Смит — 84 года, живет одна. Несмотря на свои ограничения, она независима и способна заботиться о себе».
Уязвимые группы и качество обучающих данных
Исследователи подчеркивают, что ситуация еще сложнее для представителей других рас и LGBTQ-сообщества. Алгоритмы компьютерного зрения часто недооценивают патологии именно у уязвимых подгрупп населения, в частности у темнокожих женщин. Это является следствием не только качества обучающих данных, но и глубоко укоренившихся стереотипов, присутствующих в обществе и базах данных.
Изменение лишь пола в медицинской информации уже приводило к существенно различным результатам, что демонстрирует уязвимость современных AI-систем к предвзятостям. Это создает реальные риски для диагностики и лечения. Проблема усугубляется тем, что во многих случаях в медицине трудно использовать точные лабораторные показатели, а значительная часть диагностики основывается на субъективных жалобах пациентов.
Специалисты подчеркивают: хотя нейросети можно перенастроить, изменив настройки и подбор входных данных, это требует глубокого понимания проблемы и ответственности. Качество работы AI зависит от качества данных, на которых она обучается. Эксперты предупреждают, что в настоящее время не стоит полностью полагаться на искусственный интеллект как на надежный источник оценки здоровья, ведь даже врачи могут иметь собственные предвзятости, но при этом несут ответственность за свои решения.
