Медицинские советы от ИИ
Медицинские советы от ИИ — распространённое и опасное явление.
Суть[править]
Во много обусловлено упадком и деградацией медицины из-за оптимизации здравоохранения.
Все больше людей используют искусственный интеллект (ChatGPT, DeepSeek и другие языковые модели - LM, или language models) для поиска информации о состоянии здоровья. Но экспертные проверки показали: алгоритмы часто не учитывают ключевые клинически значимые параметры пациента, например, возраст, пол и анамнез. Специализированных центров ИИ, оказывающих медицинские услуги населению, на сегодняшний день не существует, а самостоятельная "диагностика" без участия врача является неоправданным риском.
В 2024 году писали: исследование показало, что ИИ-бот Microsoft Copilot может предоставлять неточные медицинские советы, которые в некоторых случаях угрожают здоровью. В 22% случаев его рекомендации могли привести к смерти или серьёзным последствиям.
Компания Google скрывает предупреждение об использовании медицинских советов, созданных ее собственным ИИ. Найти подобный дисклеймер в поисковой выдаче оказалось непросто, сообщило издание The Guardian. Корпорация утверждает, что при ответе на вопросы, связанные со здоровьем, обзоры от ИИ, выводимые над результатами поиска, советуют пользователям обращаться за профессиональной помощью. «Обзоры на основе ИИ будут информировать людей о том, когда важно обратиться за советом к эксперту или проверить представленную информацию», — заявили в компании. Специалисты также отметили, что обзоры ИИ сфокусирована на скорости, а не на точности ответа.
В феврале 2026 года пишут: Экзамен сдан, пациент потерян. Медицинские знания нейросетей оказались бесполезны в реальной практике[1].
Новое исследование выявило серьёзную уязвимость: медицинские ИИ-системы способны повторять и передавать ложную информацию, если она представлена в убедительной форме.
Google удалил ложные и опасные медицинские рекомендации от ИИ-сервиса AI Overviews после расследования The Guardian.
