Спрашивать нейросети, можно ли уменьшить дозу препарата, который выписал врач, нельзя. ИИ склонен соглашаться и не в курсе истории болезни "пациента"
В США произошла трагедия, ставшая достоянием общественности. Женщина, страдавшая эпилепсией, умерла после того, как по совету ChatGPT постепенно снизила дозу своего противосудорожного препарата до нуля.
Родители погибшей подали в суд на разработчика чат-бота – компанию OpenAI. По заключению судмедэкспертов, женщина умерла от синдрома внезапной смерти при эпилепсии.
Можно ли советоваться с ИИ по медицинским вопросам
Советоваться с искусственным интеллектом по вопросам здоровья опасно, рассказала РИА Новости доцент РЭУ им. Г. В. Плеханова Марина Холод.
Главная опасность ИИ в том, что он не видит истории болезни и склонен соглашаться с любым мнением
Особенно опасно отменять или менять дозировки противоэпилептических, психиатрических, сердечных препаратов, инсулина и антикоагулянтов.
"Главный риск ИИ в роли консультанта по здоровью не в том, что он "не знает медицину". У него нет того, что есть у врача: он не осматривает пациента, не видит анализов и истории болезни, не несет ответственности... Есть простое правило: если чат-бот предлагает изменить схему приема лекарств, отменить препарат или скрыть что-то от врача, разговор нужно прекращать и обращаться к специалисту", – рассказала эксперт.
Есть еще ряд вопросов, которые точно не стоит доверять чат-ботам:
"Также опасны сочетания лекарств, дозировки для детей и попытки поставить себе диагноз и отложить визит к врачу. Резкая отмена ряда препаратов может быть смертельно опасна, и такое решение принимает только врач".
Языковые модели склонны соглашаться с пользователем. Так что если человек уже хочет отказаться от лекарства, языковая модель может начать помогать ему в этом, вместо того чтобы возразить.
Даже неверный ответ нейросети будет звучать уверенно и грамотно, и поэтому неспециалист не сможет отличить верный ответ от неверного.
Какие вопросы можно доверить ИИ
"Полностью отказываться от ИИ в вопросах здоровья не обязательно. Он может объяснить медицинский термин, помочь разобраться в инструкции, подготовить вопросы к врачу", – посоветовала эксперт.
День народного единства напоминает, как несколько веков назад люди из разных городов и сословий объединились, чтобы защитить страну от Смуты и иноземных захватчиков
