Управление уязвимостью: межсекторные размышления об этических и социальных последствиях использования ИИ среди молодых людей с хроническими заболеваниями

Материалы конференции, написанные в соавторстве с молодыми людьми, страдающими хроническими заболеваниями, и опубликованные в Границы цифрового здравоохранения, В статье представлен план круглого стола, созванного организацией Generation Patient. Многостороннее сообщество заинтересованных сторон обсудило использование искусственного интеллекта в здравоохранении. седьмой круглый стол в ряд Основное внимание уделено молодым людям с хроническими заболеваниями.

В ходе обсуждения отмечалось, что, хотя использование инструментов ИИ может помочь облегчить административную и эмоциональную нагрузку для молодых людей с хроническими заболеваниями, переходящих на лечение во взрослом возрасте, участники круглого стола выразили обеспокоенность по поводу защиты данных, справедливости и точности информации, генерируемой ИИ. Участники также обратили внимание на склонность генеративного ИИ к уступчивости в отношении ввода данных пользователями, что может оказывать как положительное, так и отрицательное влияние на психическое здоровье.

Участники круглого стола рекомендовали разработчикам ИИ сотрудничать с пользователями и экспертами по вопросам равенства в здравоохранении для создания более безопасных, здоровых и справедливых инструментов ИИ. Они также рекомендовали расширить определение “медицинского устройства”, включив в него инструменты ИИ, обрабатывающие данные, связанные со здоровьем, тем самым расширив полномочия федерального правительства по регулированию этих инструментов и защите пациентов.