Доцент Марина Холод рассказала, почему ИИ опасен для здоровья

Консультироваться с искусственным интеллектом по вопросам здоровья опасно. Об этом предупредила доцент РЭУ им. Г. В. Плеханова Марина Холод. Дело в том, что чат-бот не видит историю болезни, не изучает анализы и не осматривает пациента, а это обязанности врача. К тому же ИИ не несет ответственности за свои советы. Поводом для обсуждения темы стала трагедия в США. Женщина с эпилепсией умерла после того, как по рекомендации ChatGPT постепенно свела дозу противосудорожного препарата к нулю. Судмедэксперты установили, что причиной смерти стал синдром внезапной смерти при эпилепсии. Родители погибшей подали в суд на компанию OpenAI — разработчика чат-бота. Эксперт назвала главное правило безопасности: если ИИ советует поменять схему приема лекарств, отменить препарат или что-то скрыть от врача, нужно сразу прекратить такой разговор и обратиться к специалисту. Особенно рискованно менять дозировки или отказываться от противоэпилептических, психиатрических, сердечных препаратов, инсулина и антикоагулянтов. Резкая отмена некоторых лекарств может стоить жизни, и такие решения вправе принимать только врач. Еще одна опасность — склонность языковых моделей «подстраиваться» под пользователя. Если человек уже настроен отказаться от лекарства, чат-бот может невольно поддержать эту идею. При этом ответы нейросети звучат уверенно и грамотно, поэтому обычный человек вряд ли поймет, что совет ошибочен. «Полностью отказываться от ИИ в вопросах здоровья не обязательно. Он может объяснить медицинский термин, помочь разобраться в инструкции, подготовить вопросы к врачу», — отметила Марина Холод в беседе с РИА Новости. Проблема в том, что люди используют универсальные чат-боты как врачей, хотя такие системы не проходят обязательную проверку и регистрацию, в отличие от медицинских ИИ-систем в клиниках. По мнению Холод, разработчики должны жестко запретить выдачу советов по изменению лечения, и технически это вполне реализуемо. Такие меры помогут избежать новых трагедий.