Sağlık tavsiyesi için bir chatbot mu istiyorsunuz? OpenAI'nin ChatGPT Health hizmetinin yakın zamanda piyasaya sürülmesiyle birlikte dikkate alınması gereken birkaç önemli faktör var

После недавнего запуска сервиса ChatGPT Health от OpenAI стоит учесть несколько важных факторов, прежде чем обращаться к ИИ‑чатботам за медсоветами По мере того как сотни миллионов людей обращаются к чат-ботам за советом, было лишь делом времени, когда технологические компании начнут предлагать программы, специально разработанные для ответов на вопросы о здоровье В январе компания OpenAI представила ChatGPT Health — новую версию своего чат-бота, которая, как утверждает компания, может анализировать медицинские карты пользователей, данные приложений для контроля самочувствия и носимых устройств, чтобы отвечать на вопросы о здоровье и медицине Сейчас на доступ к программе действует лист ожидания. Anthropic, конкурирующая компания в сфере ИИ, предлагает схожие возможности для части пользователей своего чат-бота Claude В обеих компаниях подчеркивают, что их программы, так называемые большие языковые модели, не являются заменой профессиональной медицинской помощи и не должны использоваться для постановки диагноза. По их словам, чат-боты могут, напротив, суммировать и объяснять сложные результаты анализов, помочь подготовиться к приему у врача или выявлять важные тенденции в состоянии здоровья, скрытые в медицинских записях и статистике приложений Но насколько безопасно и точно они справляются с анализом данных о здоровье и заболеваний? И стоит ли вообще на них полагаться? Вот о чем стоит подумать, прежде чем обсуждать свое здоровье с чат-ботом: Чат-боты могут давать более персонализированную информацию, чем поиск в Google Некоторые врачи и исследователи, работавшие с ChatGPT Health и аналогичными программами, считают их шагом вперед по сравнению с нынешней ситуацией Платформы на основе ИИ не совершенны — они иногда «галлюцинируют» или дают плохие советы (источник на английском языке), — но информация, которую они выдают, зачастую более персонализирована и конкретна, чем та, что пациенты находят с помощью Google «Часто альтернатива — это вообще ничего, либо пациент действует наугад, — говорит доктор Роберт Вахтер, специалист по медицинским технологиям из Калифорнийского университета в Сан-Франциско. — Поэтому, если пользоваться этими инструментами ответственно, можно получить действительно полезную информацию» В таких странах, как Великобритания и США, где ожидание приема у врача может растянуться на недели, а в отделениях неотложной помощи приходится проводить часы, чат-боты во многих случаях помогают избежать лишней паники и сэкономить время В то же время они могут подсказать, когда симптомы опасны и требуют срочной оценки настоящего врача Одно из преимуществ новейших чат-ботов в том, что они отвечают на вопросы пользователей с учетом их медицинской истории, включая назначенные препараты, возраст и записи врача Даже если вы не предоставляете ИИ доступ к своим медицинским данным, Вахтер и другие специалисты советуют по возможности описывать чат-боту как можно больше деталей — так ответы будут точнее Если у вас тревожные симптомы, не обращайтесь к ИИ Вахтер и его коллеги подчеркивают: есть ситуации, когда нужно отказаться от чат-бота и немедленно обратиться за медицинской помощью. Такие симптомы, как одышка, боль в груди или сильная головная боль, могут свидетельствовать о неотложном состоянии Даже в менее острых ситуациях и пациенты, и врачи должны относиться к программам ИИ «с долей здорового скептицизма», говорит доктор Ллойд Майнор из Стэнфордского университета «Если речь идет о важном медицинском решении или даже о менее значимом вопросе, касающемся здоровья, нельзя полагаться только на то, что выдает большая языковая модель, — добавляет Майнор, декан медицинской школы Стэнфорда» Даже при относительно распространенных и не самых сложных состояниях, таких как синдром поликистозных яичников (СПКЯ), зачастую лучше обратиться к настоящему врачу: заболевание может проявляться по-разному у разных людей, а это непосредственно влияет на выбор схемы лечения Подумайте о конфиденциальности, прежде чем загружать данные о здоровье Многие преимущества, которые предлагают ИИ-боты, основаны на том, что пользователи делятся личной медицинской информацией. Но важно понимать: все, что вы передаете компании, разрабатывающей ИИ, не защищено федеральным законом о конфиденциальности США, который обычно регулирует обращение с чувствительными медицинскими данными Этот закон, известный под аббревиатурой HIPAA, предусматривает штрафы и даже тюремные сроки для врачей, больниц, страховщиков и других медучреждений, которые разглашают медицинские сведения. Но на компании, создающие чат-боты, он не распространяется «Когда человек загружает свою медицинскую карту в большую языковую модель, это совсем не то же самое, что передать ее новому врачу, — поясняет Майнор. — Потребители должны понимать, что стандарты конфиденциальности в этих случаях совершенно разные» В OpenAI и Anthropic утверждают, что данные о здоровье пользователей хранятся отдельно от прочей информации и защищены дополнительными мерами. Компании не используют медицинские данные для обучения своих моделей. Пользователь должен отдельно согласиться на передачу такой информации и может в любой момент отказаться от этого Несмотря на ажиотаж вокруг ИИ, независимое тестирование таких технологий пока находится на самой ранней стадии. Первые исследования показывают: программы вроде ChatGPT блестяще справляются со сложными медицинскими экзаменами, но часто дают сбои при общении с живыми людьми Недавнее исследование Оксфордского университета с участием 1300 человек показало, что люди, которые пользовались ИИ-чат-ботами для поиска информации о гипотетических заболеваниях, не принимали более взвешенных решений, чем те, кто полагался на обычный онлайн-поиск или собственное суждение Когда ИИ-чат-ботам предлагали медицинские сценарии в виде подробного письменного описания, они правильно определяли основное заболевание в 95 процентах случаев «В этом как раз не было проблемы, — говорит ведущий автор работы Адам Махди из Института Интернета Оксфордского университета. — Все рушилось на этапе взаимодействия с реальными участниками» Махди и его команда выявили несколько коммуникативных трудностей. Люди часто не сообщали чат-ботам достаточно данных для правильного определения проблемы со здоровьем. В свою очередь, системы ИИ нередко отвечали смесью верной и неверной информации, и пользователям было сложно отличить одно от другого Исследование, проведенное в 2024 году, не включало тестирование новейших версий чат-ботов, включая такие продукты, как ChatGPT Health Второе мнение ИИ может быть полезным Способность чат-ботов задавать уточняющие вопросы и выуживать ключевые детали у пользователей — это область, где, по мнению Вахтера, еще есть большой потенциал для улучшений «Я думаю, они станут действительно хорошими, когда в их манере общения с пациентами появится больше «врачебного» подхода, когда разговор станет похож на настоящий диалог, — считает Вахтер» Пока же один из способов чувствовать себя увереннее в получаемой информации — сверяться сразу с несколькими чат-ботами, подобно тому как пациенты иногда получают второе мнение у другого врача «Иногда я ввожу одни и те же данные в ChatGPT и в Gemini, — рассказывает Вахтер, имея в виду ИИ-инструмент Google. — И когда их ответы совпадают, я чувствую себя немного увереннее, что это правильный ответ»