Доверие к искусственному интеллекту в здравоохранении и пути его укрепления

Аннотация

В статье рассматриваются вопросы доверия к системам искусственного интеллекта (ИИ) в здравоохранении, которые становятся ключевым барьером на пути широкого внедрения новых технологий. Актуальность работы обусловлена быстрым ростом числа медицинских изделий на основе ИИ как в России, так и за рубежом, и одновременным дефицитом доверия со стороны профессионального сообщества и пациентов. В качестве методов исследования использован анализ современной научной литературы, международных стандартов, регуляторных практик, а также обзор эмпирических данных, полученных в зарубежных и отечественных исследованиях. Основное внимание уделяется восприятию ИИ пациентами и медицинскими специалистами, а также причинам скептицизма, связанным с непрозрачностью алгоритмов, риском ошибок и дискриминации. В статье обсуждаются стратегические направления по укреплению доверия: обеспечение прозрачности и объяснимости решений ИИ, проведение независимых испытаний и постмаркетингового мониторинга, вовлечение профессионального сообщества и пациентов в процесс внедрения технологий, а также развитие механизмов управления качеством на основе международных стандартов. Сделан вывод о необходимости формирования «калиброванного» доверия на основе эмпирически подтверждённой пользы и справедливости применения ИИ в клинической практике. Перечислены задачи для дальнейших исследований в российских условиях.

Литература

Ayers J.W., Poliak A., Dredze M., et al. Comparing Physician and Artificial Intelligence Chatbot Responses to Patient Questions Posted to a Public Social Media Forum // JAMA Internal Medicine. 2023. Vol. 183(6). P. 589–596. DOI: 10.1001/jamainternmed.2023.1838.

Beecy A.N., Longhurst C.A., Singh K., Wachter R.M., Murray S.G. The Chief Health AI Officer — An Emerging Role for an Emerging Technology // NEJM AI. 2024. Vol. 1(7). DOI: 10.1056/AIp2400109.

Cavalier J.S., Goldstein B.A., Ravitsky V., et al. Ethics in Patient Preferences for Artificial Intelligence–Drafted Responses to Electronic Messages // JAMA Network Open. 2025. Vol. 8(3). Article e250449. DOI: 10.1001/jamanetworkopen.2025.0449.

Coiera E., Fraile Navarro D. AI as an Ecosystem — Ensuring Generative AI Is Safe and Effective // NEJM AI. 2024. Vol. 1(9). DOI: 10.1056/AIp2400611.

Goldberg C.B., Adams L., Blumenthal D., et al. RAISE Consortium. To Do No Harm — and the Most Good — with AI in Health Care // NEJM AI. 2024. Vol. 1(3). DOI: 10.1056/AIp2400036.

Huang J., Wittbrodt M.T., Teague C.N., et al. Efficiency and Quality of Generative AI–Assisted Radiograph Reporting // JAMA Network Open. 2025. Vol. 8(6): Article e2513921. DOI: 10.1001/jamanetworkopen.2025.13921.

Khan M.M., Shah N., Shaikh N., et al. Towards secure and trusted AI in healthcare: A systematic review of emerging innovations and ethical challenges // International Journal of Medical Informatics. 2025. Vol. 195. Article 105780. DOI: 10.1016/j.ijmedinf.2024.105780.

Longhurst C., Singh K., Chopra A., Atreja A., Brownstein J. A Call for Artificial Intelligence Implementation Science Centers to Evaluate Clinical Effectiveness // NEJM AI. 2024. Vol. 1. DOI: 10.1056/AIp2400223.

Luhmann N. Trust and Power. New York: John Wiley & Sons Inc., 1982.

Nong P., Platt J. Patients’ Trust in Health Systems to Use Artificial Intelligence // JAMA Network Open. 2025. Vol. 8(2). Article e2460628. DOI: 10.1001/jamanetworkopen.2024.60628.

Rosenbacke R., Melhus Å., McKee M., Stuckler D. How Explainable Artificial Intelligence Can Increase or Decrease Clinicians’ Trust in AI Applications in Healthcare: a Systematic Review // JMIR Preprints. 2023. URL: https://preprints.jmir.org/preprint/53207

Sagona M., Dai T., Macis M. et al. Trust in AI assisted health systems and AI’s trust in humans // npj Health Syst. 2025. Vol. 2. Article 10. DOI: 10.1038/s44401-025-00016-5.

Shekar S., Pataranutaporn P., Sarabu C., Cecchi G.A., Maes P. People Overtrust AI Generated Medical Advice despite Low Accuracy // NEJM AI. 2025. Vol. 2(6).

Zaoui A., Aloulou H., Nouri M., et al. Misuse of Artificial Intelligence in Medical Practice: A Case Report // Clinical Practice & Cases in Emergency Medicine. 2025. Vol. 9(3). P. 196–199. DOI: 10.5811/cpcem.2024.11.64317.

Zondag A.G.M., Rozestraten R., Grimmelikhuijsen S.G., et al. The Effect of Artificial Intelligence on Patient Physician Trust: Cross Sectional Vignette Study // J Med Internet Res. 2024. Vol. 26. Article e50853. DOI: 10.2196/50853.