Функция AI Overviews в поиске Google вновь оказалась в центре внимания из-за публикации некорректных медицинских советов. Согласно отчёту, ИИ-сводки в поиске выдавали ошибочную информацию при ответе на узкоспециализированные медицинские запросы. После того как проблема получила огласку, компания, как сообщается, удалила соответствующие ответы, а сама функция перестала отображаться для ряда медицинских запросов.
Инцидент произошёл на фоне того, что такие компании, как OpenAI и Anthropic, активно продвигают внедрение ИИ-решений в сфере здравоохранения.
Расследование The Guardian
Как следует из расследования The Guardian, AI Overviews может генерировать неточные и потенциально опасные ответы на медицинские вопросы в Google Search. В одном из случаев при запросе о диете для пациента с раком поджелудочной железы ИИ рекомендовал избегать пищи с высоким содержанием жиров. При этом медицинские специалисты, напротив, советуют регулярно употреблять жирную пищу, поскольку отказ от неё может привести к смертельно опасным последствиям.
В другом примере при запросе о нормальных значениях печёночных анализов крови AI Overviews, по данным издания, показывали усреднённые показатели, не учитывающие такие важные факторы, как национальность, пол, возраст или этническая принадлежность пациента. Это может привести к тому, что пользователь сочтёт свои результаты нормальными, хотя в действительности это не так.
Также сообщается, что AI Overviews, связанные с онкологическими обследованиями у женщин, содержали неверную информацию и в ряде случаев «отмахивались от реальных симптомов».
Реакция Google
The Guardian связалась с представителем Google, который заявил, что приведённые примеры основаны на неполных скриншотах, однако отметил, что ссылки в ИИ-обзорах вели на известные и авторитетные источники. Сотрудники Gadgets360 также проверили указанные запросы и не обнаружили появления AI Overviews — аналогичные наблюдения ранее публиковало и издание The Guardian.
Тем не менее, если ИИ действительно предоставляет некорректные медицинские сведения, это вызывает серьёзные опасения, поскольку большое количество пользователей полагается на Google Search при поиске информации. Учитывая, что AI Overviews отображаются в верхней части страницы результатов поиска, многие пользователи могут ограничиваться именно этими сводками.
Контекст: ИИ и здравоохранение
Ситуация развивается в момент, когда OpenAI и Anthropic активно продвигают ИИ-продукты, ориентированные на медицинские задачи. Хотя эти компании используют специализированные модели, адаптированные под медицинские запросы, даже незначительная ошибка в этой области может привести к тяжёлым последствиям.
На данный момент остаётся неясным, насколько широко были распространены ошибочные медицинские рекомендации в AI Overviews и какие меры Google планирует принять для предотвращения подобных случаев в будущем.