Немецкое общество психиатрии и психотерапии, психосоматики и неврологии (DGPPN) опубликовало позиционный документ, в котором потребовало ввести обязательные стандарты для применения искусственного интеллекта в психиатрии и психотерапии [1]. Поводом стало стремительное распространение чат-ботов и языковых моделей, которые пациенты всё чаще используют для получения советов по психическому здоровью, хотя эти системы изначально не предназначались для терапевтических целей.
Риски универсальных моделей
Профессор Петер Цванцгер, руководитель реферата DGPPN «Цифровая психиатрия и психотерапия» и ведущий автор документа, предупреждает: «ChatGPT и сопоставимые модели не создавались для людей с психическими заболеваниями. При нерегулируемом использовании они могут быть опасны для этой группы» [2]. Универсальные языковые модели не проходили проверку на безопасность и эффективность применительно к психическим расстройствам. Они могут давать неточные, а порой и вредные рекомендации, не учитывать клиническую картину конкретного пациента и не нести ответственности за последствия.
Специализированные системы и доказанная эффективность
Ситуация иная со специально разработанными приложениями. В пресс-релизе DGPPN отмечается, что уже существуют исследования, подтверждающие действенность таких систем при лёгких и среднетяжёлых нарушениях [1]. Речь идёт о применении ИИ в диагностике для распознавания закономерностей в больших данных, а также в терапии и для автоматизации административной работы. Данные с носимых устройств, таких как смарт-часы, могут помочь раньше выявить приближающийся кризис или рецидив [2].
Требование приравнять ИИ к медицинским изделиям
Ключевой тезис DGPPN состоит в том, что системы искусственного интеллекта, используемые в лечении, должны проходить такую же проверку, как и любое другое медицинское изделие. Цванцгер формулирует это однозначно: «Мы должны использовать в психиатрии и психотерапии только те системы, которые перед допуском на рынок — как и другие медицинские изделия — были проверены на безопасность, эффективность и пользу для пациентов» [1]. Это подразумевает обязательные клинические испытания и процедуру валидации для каждой конкретной цели.
Связь с европейским регулированием
В документе подчёркивается, что новые стандарты должны учитывать Европейскую регуляцию об искусственном интеллекте (EU AI Act) и опираться на устоявшиеся принципы регулирования медицинской продукции [3]. Германия не будет создавать правила с нуля, а встроит требования к психиатрическому ИИ в уже формирующуюся общеевропейскую рамку. Позиционный документ был разработан рабочей группой DGPPN по искусственному интеллекту и призван стать основой для диалога с наукой, практикой, политикой и регулирующими органами.
Что это значит для пациентов и врачей
Для пациентов требование DGPPN означает, что в перспективе доступ к терапевтическим ИИ-инструментам будет открыт только после подтверждения их безопасности и эффективности. Для врачей — что применение таких систем перестанет быть вопросом личного усмотрения и будет встроено в понятные клинические протоколы. Для разработчиков — что создание алгоритмов для психиатрии потребует прохождения регуляторных процедур, сопоставимых с выводом на рынок лекарств или медицинской техники. Общество пока не устанавливает конкретных сроков внедрения стандартов, но сам факт публикации документа ведущей профессиональной организацией Германии задаёт направление дискуссии.
Комментарии 0