В ходе анализа эксперты разделили устройства по статусу клинической валидации: без тестирования, с ретроспективной проверкой на уже собранных данных или с проспективными испытаниями на пациентах. Отдельно учитывался статус компании – частная или публичная. Причины отзывов авторы исследования классифицировали как ошибки диагностики и измерений, потерю или задержку функциональности, физические и биохимические риски. Такой подход позволил оценить не только сами устройства, но и условия их вывода на рынок.
Чаще всего проблемы возникали из-за диагностических ошибок и сбоев работы, на такие случаи пришлось более ста отзывов. Еще десятки были связаны с потерей функциональности и другими рисками. На момент окончания исследования почти 60% отзывов оставались неурегулированными, часть длилась более трех лет. Вероятность работы устройства без отзыва составила 96,6% через год, 93,5% через три года и 91,8% через пять лет.
Проблемы чаще возникали у устройств, не проходивших клинические испытания, и именно они составили основную часть отзывов. Особенно это заметно у публичных компаний: выпустив лишь чуть больше половины всех ИИ-устройств, они оказались ответственны за свыше 90% отзывов. Доля изделий без клинической проверки у частных компаний составила около 40%, у крупных публичных – почти 78%, а у небольших публичных – около 97%.
Авторы исследования отметили, что действующая процедура FDA не всегда выявляет уязвимости ИИ-устройств на раннем этапе. В качестве решения проблемы они предлагают сделать КИ обязательными или выдавать временные разрешения, сохраняющие силу только при подтверждении безопасности и эффективности.
В России тем временем также обсуждают регулирование использования ИИ в разных отраслях: Минцифры совместно с Альянсом в сфере ИИ в августе 2025 года подготовило проект концепции развития регулирования технологий до 2030 года, а Минздрав в марте этого же года утвердил Кодекс этики применения ИИ в здравоохранении. Документ призван повысить доверие врачей и пациентов к новым решениям и обеспечить их безопасное внедрение в медицину.
