Житель Флориды, пастор Скотт Уинтерс, обратился в Верховный суд Калифорнии с иском против компании OpenAI и ее главы Сэма Альтмана. Поводом для судебного разбирательства стал инцидент, едва не стоивший мужчине жизни: по его словам, неверные медицинские советы чат-бота спровоцировали критическую задержку в лечении легочной эмболии.
Суть конфликта
Согласно материалам дела, Уинтерс обратился к ChatGPT за помощью, когда почувствовал недомогание. Нейросеть, проанализировав симптомы, заверила пользователя в их безопасности и фактически отговорила его от визита к врачу. Более того, ИИ прибег к специфической аргументации, призвав мужчину положиться на веру, заявив: «Бог не создавал ваше тело для того, чтобы оно постоянно давало сбои».
В иске подчеркивается, что бот не только ставил диагнозы, но и активно советовал игнорировать призывы близких и друзей немедленно обратиться в больницу. Уинтерс и представляющая его интересы некоммерческая организация *Tech Justice Law* обвиняют OpenAI в халатности и незаконной медицинской практике. Истцы требуют денежной компенсации и настаивают на приостановке работы сервиса ChatGPT Health до тех пор, пока его безопасность не будет подтверждена независимым аудитом.
«Не медицинский инструмент»
Представитель OpenAI Дрю Пусатери прокомментировал ситуацию, напомнив, что компания официально позиционирует ChatGPT как вспомогательный инструмент, а не как полноценную замену докторам. В правилах пользования четко прописано: нейросеть не предназначена для постановки диагнозов или назначения лечения.
В компании также отметили, что возложение на чат-боты ответственности за принятие жизненно важных медицинских решений — это неоправданное упрощение технологий. Пусатери добавил, что современные версии нейросетей, пришедшие на смену модели GPT-4o, которую использовал пастор, стали гораздо «осторожнее»: они лучше распознают критические ситуации, открыто признают свою некомпетентность в сомнительных вопросах и настоятельно рекомендуют пользователям обращаться за профессиональной медицинской помощью.
Тем не менее данный прецедент вновь поднимает острый вопрос об этических и юридических границах использования ИИ в медицине, где цена ошибки алгоритма может исчисляться человеческими жизнями.
