Система генеративного искусственного интеллекта Google (AI Overviews), которая предоставляет краткие сводки в верхней части результатов поиска, распространяет ложную и вводящую в заблуждение медицинскую информацию, подвергая людей реальному риску. К такому выводу пришло расследование The Guardian.
Несмотря на заявления Google о том, что обзоры «полезны» и «надежны», проверка выявила опасные неточности в ответах на критически важные запросы о здоровье.
Ключевые и опасные ошибки ИИ:
- Совет для онкобольных. В ответ на запрос о раке поджелудочной железы ИИ рекомендовал избегать продуктов с высоким содержанием жира. Эксперты назвали это «действительно опасным» и прямо противоположным истине, так как таким пациентам, наоборот, необходима высококалорийная диета для поддержания веса и возможности проведения лечения.
- Ошибочные нормы анализов. По запросу о нормальных показателях печени ИИ выдавал разрозненные цифры без учета пола, возраста и этнической принадлежности. Это могло привести к тому, что люди с серьезными заболеваниями печени сочли бы свои анализы нормальными и пропустили визит к врачу.
- Неверная диагностика. При поиске информации о симптомах и анализах на рак влагалища ИИ ошибочно указывал мазок Папаниколау (тест на рак шейки матки) как метод диагностики. Эта ошибка могла бы привести к тому, что женщина проигнорировала бы настоящие симптомы.
Реакция экспертов и благотворительных организаций:
- Patient Information Forum. Директор организации Софи Рэндалл заявила, что функция AI Overviews размещает неточную информацию «в верхней части результатов поиска, представляя опасность для здоровья людей».
- Pancreatic Cancer UK. Директор Анна Джуэлл подтвердила, что совет избегать жиров «может быть очень опасно и поставить под угрозу шансы человека на выздоровление».
- Eve Appeal (борьба с раком). Исполнительный директор Афина Ламнисос выразила серьезную обеспокоенность, отметив, что получение такой неверной информации может привести к отказу от необходимого обследования.
- Благотворительность Mind. Представители организации указали, что ИИ также дает вредные советы по вопросам психического здоровья, включая психоз и расстройства пищевого поведения, что может заставить людей избегать профессиональной помощи.
Позиция Google
В компании заявили, что приведенные примеры – это «неполные скриншоты», и что система в основном ссылается на авторитетные источники, рекомендуя консультации с экспертами. Google подчеркнул, что «подавляющее большинство» AI Overviews точны, и компания постоянно работает над улучшением их качества, принимая меры в случае выявления ошибок.
Расследование проводится на фоне растущей глобальной озабоченности тем, что пользователи могут безоговорочно доверять информации, сгенерированной ИИ, в таких чувствительных сферах, как медицина и финансы.
