Общество
16.11.2025 в 08:00
Нейросеть вместо врача
Пациенты все чаще доверяют свое лечение искусственному интеллекту
Текст: Дмитрий Родионов
В медицине теперь зачастую к постановке диагноза и лечению привлекают искусственный интеллект. С одной стороны, это облегчает задачу врачам, а также пациентам, нередко занимающимся самолечением. Однако для медиков это несет риски потери навыков и клинического мышления, а также утраты автономии. Происходит подмена доверия к врачу лояльностью к непрозрачному алгоритму, а ошибки искусственного интеллекта пока трудно поддаются анализу. Причем соблазн заменить врача роботом весьма велик, особенно на фоне нарастающего дефицита медиков в сельской местности. Об этом говорилось на онлайн-конференции «Социокультурные измерения здоровья, болезни и медицины», организованной НИУ «Высшая школа экономики».
«Более половины российских врачей готовы доверять рекомендациям искусственного интеллекта при постановке диагнозов и выборе способа лечения, однако лишь 7,2% хотели бы оказаться в такой ситуации на месте пациента», - такие данные показал опрос «Справочника врача», результаты которого приводит «Коммерсант». В медицинском сообществе ждут четкого разъяснения, будет ли врач нести ответственность за последствия советов ИИ.
Вкалывают роботы
Сегодня роботы, вернее искусственный интеллект, помогают врачам в постановке диагнозов различными способами, значительно повышая точность, скорость и эффективность работы. Он обрабатывает рентгеновские снимки, МРТ, КТ и ультразвуковые изображения. Обнаруживает аномалии (например, опухоли, повреждения, инсульты) более точно и быстро, чем человек. Анализирует электронные медицинские карты, лабораторные результаты и симптомы. Также помогает определить вероятные диагнозы или рекомендации по дальнейшим обследованиям.
Между тем на прошедшей научной конференции НИУ ВШЭ по цифровой трансформации в медицине ученые и медики обсудили риски, которые несет собой ускоренное внедрение нейросетей в медицину. Докладчики отметили: ИИ - это лишь помощь, но не замена врача. Ведь в конечном итоге основное решение должен принимать специалист, который просто использует нейросеть, а не делегирует ей принятие решения.
Когда чат-бот «галлюцинирует»
«Проблема в том, что искусственный интеллект может «галлюцинировать», выдавая откровенно ложную и опасную информацию. Так, больные с расстройством пищевого поведения нередко используют чаты с искусственным интеллектом для похудения. Однако один из чат-ботов Теssa давал откровенно вредные советы, например употреблять всего лишь 1000 ккал в день (что убийственно для организма) и … регулярно измерять толщину жировых складок на животе», - рассказала участникам конференции Елена Введенская из Пироговского университета.
Есть примеры и более тяжелых случаев, когда нейросеть DeepSeek советовала пациенту вместо солевого раствора употреблять бром, что закончилось реанимацией. ИИ также не обладает практической мудростью, интуицией и способностью работать в условиях неопределенности, как это может делать опытный врач.
При этом невозможно понять, как нейросеть пришла к этому решению. И если рекомендации искусственного интеллекта ошибочны, то абсолютно невозможно выявить причину ошибки.
Три направления
При этом само по себе использование нейросети в медицине несет большие перспективы. Описывается, например, случай, когда больной три года мучился от того, что ему не могли поставить точный диагноз. Чат-бот поставил его за три часа, диагноз верный и довольно редкий. Правильность его потом подтвердили 17 врачей.
- В Бурятии пока официальная медицина использует ИИ по диагностике болезней по трем основным направлениям, - сообщил директор ГБУЗ «Республиканский медицинский информационно-аналитический центр Министерства здравоохранения РБ» Жаргал Махачкеев. - Это прежде всего маммография. Все цифровые изображения по данному виду исследований направляются на обработку медицинским изделием с искусственным интеллектом, задачи которого - определить наличие патологий в направленных изображениях и сформировать заключение с установленной оценкой по шкале BI-RADS.
Далее рентгенография легких. Также все цифровые изображения по данному виду исследований направляются на обработку медицинским изделием с искусственным интеллектом. При обработке в том числе определяется наличие патологий в направленных изображениях и формируется заключение по ним. Определяются различные затемнения и очаги (выпот, пневмоторакс, петрификаты и др.), а также переломы ребер.
Результаты обработки этих двух медицинских изделий с искусственным интеллектом врачи-рентгенологи видят в Центральном архиве медицинских изображений, и на их основании формируют свои выводы.
И, наконец, третье. Оценка рисков здоровья на основе медицинских данных. В данном случае формируемые врачами медицинские документы направляются на анализ искусственному интеллекту, по результатам которого для пациента выстраивается профиль его рисков здоровья по различным направлениям (кардиология, эндокринология, наркология и др.), указываются причины указания высокой оценки риска и рекомендации как для врача, так и для пациента.
Затем врачи из интерфейса медицинской информационной системы могут просматривать данный профиль, чтобы более качественно назначить лечение для пациента, - отмечает Жаргал Махачкеев.
Таким образом, пока использование ИИ в Бурятии идет достаточно консервативно и осторожно.
Диагноз по фото
Чего нельзя сказать о населении. Люди все больше доверяют искусственному интеллекту, прежде всего в диагностике и самолечении. Ведь ИИ нередко генерирует подсказки и рекомендации, основанные на лучших практиках и научной литературе.
Например, в дерматологии все чаще люди отправляют в чат-боты фотографии своих кожных новообразований, родинок, в том числе с интимных зон. Хотя дерматологи знают: диагноз по фото может быть ошибочным, поскольку специалисты рассматривают и диагностируют кожные заболевания при особом, рассеянном свете и под углом. Никакая фотография не передает то, что врач-дерматолог видит своим взглядом.
При этом остается невыясненным вопрос о цифровой безопасности подобных фотографий: где они в итоге могут оказаться - никто не знает.
Клиентов продадут
Можно предположить, что продажа персональных данных людей - тех, кто обратился к нейросети, может скоро стать реальностью.
ИИ-провайдеры, скорее всего, пойдут по пути продажи личных данных, разного рода переживаний, которым люди делятся с чат-ботами. Купить эти данные желающие найдутся, поскольку это ведь не случайные поисковые запросы и не болтовня в соцсетях. Основная часть людей, беседующих с чат-ботами на медицинские темы, делятся весьма конфиденциальной информацией, а значит, точной. ИИ-провайдеры увидят ваши предпочтения. И чат-боты точно будут знать гораздо больше о клиентах, чем соцсети и поисковики, а значит, интернет - реклама частных клиник и фарминдустрии - точно пойдет по адресу, навязывая покупки.
Возвращаясь к теме постановки диагнозов нейросетью, стоит отметить, что OpenAI, к примеру, уже пересмотрела политику использования ChatGPT и добавила в список запрещенных сценариев для своей нейросети не только юридические, но и медицинские услуги. Теперь чат-боту запрещено анализировать результаты анализов, ставить диагнозы по фотографиям, назначать лечение и проводить аудит договоров.
Тем временем подписчики в социальных сетях отмечают, что медицинские советы от искусственного интеллекта часто помогали обнаружить признаки болезни на ранних стадиях и вовремя обратиться к врачу.
И это самый безопасный вариант, если ИИ что-то увидит и посоветует обратиться к специалисту. Однако человек может заняться и самолечением. К этому, кстати, приводит и коммерциализация медицины, когда очереди на бесплатные исследования часто затягиваются на месяцы, а обследования в частной медицине нередко дорогие. В результате на помощь приходит нейросеть.
Особенно эта проблема актуальна в районах республики, где ощущается нехватка квалифицированных специалистов узкого профиля. И пока существует кадровый вакуум, пустота будет заполняться роботами.
«Более половины российских врачей готовы доверять рекомендациям искусственного интеллекта при постановке диагнозов и выборе способа лечения, однако лишь 7,2% хотели бы оказаться в такой ситуации на месте пациента», - такие данные показал опрос «Справочника врача», результаты которого приводит «Коммерсант». В медицинском сообществе ждут четкого разъяснения, будет ли врач нести ответственность за последствия советов ИИ.
Вкалывают роботы
Сегодня роботы, вернее искусственный интеллект, помогают врачам в постановке диагнозов различными способами, значительно повышая точность, скорость и эффективность работы. Он обрабатывает рентгеновские снимки, МРТ, КТ и ультразвуковые изображения. Обнаруживает аномалии (например, опухоли, повреждения, инсульты) более точно и быстро, чем человек. Анализирует электронные медицинские карты, лабораторные результаты и симптомы. Также помогает определить вероятные диагнозы или рекомендации по дальнейшим обследованиям.
Между тем на прошедшей научной конференции НИУ ВШЭ по цифровой трансформации в медицине ученые и медики обсудили риски, которые несет собой ускоренное внедрение нейросетей в медицину. Докладчики отметили: ИИ - это лишь помощь, но не замена врача. Ведь в конечном итоге основное решение должен принимать специалист, который просто использует нейросеть, а не делегирует ей принятие решения.
Когда чат-бот «галлюцинирует»
«Проблема в том, что искусственный интеллект может «галлюцинировать», выдавая откровенно ложную и опасную информацию. Так, больные с расстройством пищевого поведения нередко используют чаты с искусственным интеллектом для похудения. Однако один из чат-ботов Теssa давал откровенно вредные советы, например употреблять всего лишь 1000 ккал в день (что убийственно для организма) и … регулярно измерять толщину жировых складок на животе», - рассказала участникам конференции Елена Введенская из Пироговского университета.
Есть примеры и более тяжелых случаев, когда нейросеть DeepSeek советовала пациенту вместо солевого раствора употреблять бром, что закончилось реанимацией. ИИ также не обладает практической мудростью, интуицией и способностью работать в условиях неопределенности, как это может делать опытный врач.
При этом невозможно понять, как нейросеть пришла к этому решению. И если рекомендации искусственного интеллекта ошибочны, то абсолютно невозможно выявить причину ошибки.
Три направления
При этом само по себе использование нейросети в медицине несет большие перспективы. Описывается, например, случай, когда больной три года мучился от того, что ему не могли поставить точный диагноз. Чат-бот поставил его за три часа, диагноз верный и довольно редкий. Правильность его потом подтвердили 17 врачей.
- В Бурятии пока официальная медицина использует ИИ по диагностике болезней по трем основным направлениям, - сообщил директор ГБУЗ «Республиканский медицинский информационно-аналитический центр Министерства здравоохранения РБ» Жаргал Махачкеев. - Это прежде всего маммография. Все цифровые изображения по данному виду исследований направляются на обработку медицинским изделием с искусственным интеллектом, задачи которого - определить наличие патологий в направленных изображениях и сформировать заключение с установленной оценкой по шкале BI-RADS.
Далее рентгенография легких. Также все цифровые изображения по данному виду исследований направляются на обработку медицинским изделием с искусственным интеллектом. При обработке в том числе определяется наличие патологий в направленных изображениях и формируется заключение по ним. Определяются различные затемнения и очаги (выпот, пневмоторакс, петрификаты и др.), а также переломы ребер.
Результаты обработки этих двух медицинских изделий с искусственным интеллектом врачи-рентгенологи видят в Центральном архиве медицинских изображений, и на их основании формируют свои выводы.
И, наконец, третье. Оценка рисков здоровья на основе медицинских данных. В данном случае формируемые врачами медицинские документы направляются на анализ искусственному интеллекту, по результатам которого для пациента выстраивается профиль его рисков здоровья по различным направлениям (кардиология, эндокринология, наркология и др.), указываются причины указания высокой оценки риска и рекомендации как для врача, так и для пациента.
Затем врачи из интерфейса медицинской информационной системы могут просматривать данный профиль, чтобы более качественно назначить лечение для пациента, - отмечает Жаргал Махачкеев.
Таким образом, пока использование ИИ в Бурятии идет достаточно консервативно и осторожно.
Диагноз по фото
Чего нельзя сказать о населении. Люди все больше доверяют искусственному интеллекту, прежде всего в диагностике и самолечении. Ведь ИИ нередко генерирует подсказки и рекомендации, основанные на лучших практиках и научной литературе.
Например, в дерматологии все чаще люди отправляют в чат-боты фотографии своих кожных новообразований, родинок, в том числе с интимных зон. Хотя дерматологи знают: диагноз по фото может быть ошибочным, поскольку специалисты рассматривают и диагностируют кожные заболевания при особом, рассеянном свете и под углом. Никакая фотография не передает то, что врач-дерматолог видит своим взглядом.
При этом остается невыясненным вопрос о цифровой безопасности подобных фотографий: где они в итоге могут оказаться - никто не знает.
Клиентов продадут
Можно предположить, что продажа персональных данных людей - тех, кто обратился к нейросети, может скоро стать реальностью.
ИИ-провайдеры, скорее всего, пойдут по пути продажи личных данных, разного рода переживаний, которым люди делятся с чат-ботами. Купить эти данные желающие найдутся, поскольку это ведь не случайные поисковые запросы и не болтовня в соцсетях. Основная часть людей, беседующих с чат-ботами на медицинские темы, делятся весьма конфиденциальной информацией, а значит, точной. ИИ-провайдеры увидят ваши предпочтения. И чат-боты точно будут знать гораздо больше о клиентах, чем соцсети и поисковики, а значит, интернет - реклама частных клиник и фарминдустрии - точно пойдет по адресу, навязывая покупки.
Возвращаясь к теме постановки диагнозов нейросетью, стоит отметить, что OpenAI, к примеру, уже пересмотрела политику использования ChatGPT и добавила в список запрещенных сценариев для своей нейросети не только юридические, но и медицинские услуги. Теперь чат-боту запрещено анализировать результаты анализов, ставить диагнозы по фотографиям, назначать лечение и проводить аудит договоров.
Тем временем подписчики в социальных сетях отмечают, что медицинские советы от искусственного интеллекта часто помогали обнаружить признаки болезни на ранних стадиях и вовремя обратиться к врачу.
И это самый безопасный вариант, если ИИ что-то увидит и посоветует обратиться к специалисту. Однако человек может заняться и самолечением. К этому, кстати, приводит и коммерциализация медицины, когда очереди на бесплатные исследования часто затягиваются на месяцы, а обследования в частной медицине нередко дорогие. В результате на помощь приходит нейросеть.
Особенно эта проблема актуальна в районах республики, где ощущается нехватка квалифицированных специалистов узкого профиля. И пока существует кадровый вакуум, пустота будет заполняться роботами.