Игорь Новицкий – Экзоспекция психики. Искусственный интеллект как внешний наблюдатель психического состояния человека (страница 4)
В этой связи особую значимость приобретает принцип объяснимости. Психиатрическое заключение, особенно судебное, должно быть не только результатом анализа, но и аргументированным текстом, в котором прослеживается логика от фактов к выводам. Экзоспективные модели, основанные на сложных алгоритмах машинного обучения, нередко критикуются за «чёрный ящик», то есть за невозможность чётко реконструировать ход рассуждения системы. Для клиники эта проблема частично компенсируется наблюдением в динамике и возможностью коррекции. Для суда такая непрозрачность недопустима. Следовательно, одна из границ экзоспекции состоит в том, что она должна стремиться к формированию объяснимых выводов, построенных на трассируемых признаках и критериях, которые могут быть оценены экспертом и представлены в процессуально значимой форме (Doshi-Velez, Kim, 2017). Экзоспекция, претендующая на место в судебной практике, обязана быть не только точной, но и интерпретируемой.
Наконец, границы экзоспекции определяются гуманистическим ядром психиатрии. Психическое расстройство – это не только совокупность симптомов и не только функциональное снижение; это человеческое страдание, укоренённое в биографии, отношениях и смыслах. Психиатрия не может быть сведена к измерительной технике, поскольку её конечная цель заключается не в классификации, а в помощи. Экзоспекция должна усиливать способность к помощи, снижая вероятность ошибок, улучшая мониторинг и повышая обоснованность решений, но она не должна превращать человека в объект тотального наблюдения. В этом смысле ответственность экзоспекции состоит в том, чтобы служить человеку, а не дисциплинировать его, и обеспечивать большую справедливость и научную добросовестность там, где ранее господствовали субъективные колебания и неустранимые человеческие ограничения (Goffman, 1961).
Таким образом, экзоспекция требует одновременно научной смелости и нормативной осторожности. Её границы проходят по линии между усилением диагностики и угрозой технологического редукционизма, между повышением воспроизводимости и риском алгоритмической предвзятости, между расширением данных и вторжением в приватность, между вероятностным анализом и соблазном окончательных вердиктов. Ответственность за экзоспекцию в конечном итоге остаётся человеческой, поскольку именно человек несёт юридические и этические последствия решения, именно человек способен к моральному суждению и именно человек сохраняет обязанность видеть в пациенте личность, а не профиль данных. Экзоспекция, будучи внешним наблюдением, не отменяет внутренней ответственности; напротив, она делает эту ответственность более требовательной, поскольку теперь у специалиста появляются дополнительные основания для проверки себя и своей интерпретации, а значит – меньше оправданий для произвольности.
ВВЕДЕНИЕ
Психиатрия вступила в XXI век, сохранив фундаментальную особенность, которая на протяжении всей её истории одновременно обеспечивала дисциплине жизнеспособность и определяла её методологическую хрупкость: психика другого человека познаётся преимущественно через психику врача. Клиническая беседа, наблюдение, феноменологическое описание, выделение симптомов и синдромов, сопоставление их с диагностическими критериями, интерпретация жалоб и поведения – всё это представляет собой не только профессиональный акт, но и особый эпистемологический режим, в котором субъект познания неизбежно становится частью результата познания. Данный факт был осмыслен в классической общей психопатологии, где подчёркивалось, что психиатрическая диагностика всегда опирается на понимающее и описательное знание, а не на прямую инструментальную регистрацию внутренних состояний (Jaspers, 1913). Однако именно в XXI веке эта особенность перестала восприниматься как допустимая неизбежность и превратилась в источник системного напряжения, которое можно обозначить как кризис субъективной психиатрии.
Кризис, о котором идёт речь, не следует понимать как отрицание психиатрии, её научной состоятельности или клинической эффективности. Он означает, что традиционный способ производства психиатрического знания всё чаще сталкивается с требованиями современного общества и современной науки, которые выходят за пределы того, что может быть обеспечено одной лишь интерспективной компетенцией специалиста. В большинстве медицинских дисциплин прогресс связан с ростом инструментальной измеримости, стандартизацией диагностики и повышением воспроизводимости решений. Психиатрия, напротив, остаётся областью, где центральную роль играют клиническое впечатление, опыт, феноменологическая точность и способность специалиста удерживать сложный контекст. Это не недостаток как таковой; это исторически закономерная форма существования дисциплины. Однако именно здесь возникает противоречие: психиатрия всё чаще должна действовать в режимах, где требуется не только клиническая тонкость, но и стандартизируемая, проверяемая, воспроизводимая аргументация, сопоставимая по форме с тем, что ожидается от науки и от правовых институтов (Kendell, 1975).
Современные классификационные системы, включая МКБ-10/11, представляют собой попытку решить часть этой проблемы через унификацию языка и критериев. Однако классификация сама по себе не устраняет главного источника вариативности способа клинического обнаружения и интерпретации феноменов. Даже идеально сформулированный критерий остаётся зависимым от того, как специалист распознаёт соответствующий феномен в живой клинической реальности, как он задаёт вопросы, на что обращает внимание, какие сведения считает ключевыми, а какие второстепенными. В результате возникает разрыв между нормативной формой диагноза и фактическим процессом его построения. Этот разрыв особенно заметен в пограничных случаях, в коморбидности, в ситуациях, когда симптоматика маскируется, изменяется во времени или зависит от контекста. В таких условиях формальная унификация критериев не гарантирует унификации диагностических решений, что приводит к расхождениям между специалистами и центрами даже при одинаковой классификационной рамке (Spitzer, 1983; First, 2014).
Внутренняя субъективность психиатрии имеет несколько взаимосвязанных уровней. Прежде всего, она связана с тем, что психические явления проявляются преимущественно в поведении и речи, то есть в знаках, требующих интерпретации. Это качественно отличается от измерения соматических параметров, где измерительный прибор регистрирует величину независимо от смысла. Психиатрическое наблюдение, напротив, включает в себя не только регистрацию, но и понимание, а понимание всегда опосредовано культурой, языком, личным опытом и эмоциональной вовлечённостью наблюдателя. Герменевтический характер клинического знания делает психиатрию особенно чувствительной к различиям между наблюдателями и к изменчивости самого клинициста во времени (Gadamer, 1960). Далее субъективность связана с тем, что клиническая ситуация является межличностной: пациент сообщает о переживаниях, иногда не имея языка для их точного описания, а специалист должен выстроить картину состояния на основе неполной и потенциально искажённой информации. При этом сам специалист неизбежно вовлечён в эмоциональное поле контакта, где возможны эффекты переноса и контрпереноса, формирующие скрытые смещения восприятия (Freud, 1912; Kernberg, 1975). Наконец, субъективность усиливается там, где психиатрия пересекается с оценочными и нормативными категориями: опасность, способность к самоконтролю, критика, социальная адекватность, ответственность. Эти категории неизбежно затрагивают моральные и культурные представления и потому особенно уязвимы к вариативности.
В XX веке данная особенность психиатрии воспринималась как часть её профессиональной природы. Общество и наука допускали, что в области психического здоровье невозможно добиться точности, сравнимой с лабораторными измерениями. Однако в XXI веке изменились условия, в которых психиатрия функционирует, и изменились ожидания к ней. Во-первых, значительно расширился масштаб психиатрической и психологической помощи: психические расстройства и психологические проблемы стали частью массовой медицины и массового социального запроса, что неизбежно требует стандартизации процессов и сопоставимости решений в больших системах здравоохранения. Во-вторых, увеличилась цена ошибки в публичном и юридическом измерении: судебные процессы, экспертизы, вопросы принудительного лечения и ограничения свободы требуют от психиатрии аргументации, способной выдержать внешнюю проверку и критику. В-третьих, произошло культурное изменение отношения к субъектности: общество одновременно требует гуманизма и уважения к личности и в то же время требует от специалистов прозрачности и доказательности, что порождает напряжение между индивидуальным подходом и необходимостью формализованного обоснования.
Особым образом кризис субъективности проявляется в судебной психиатрии, где психиатрическое знание превращается в юридически значимое заключение. Судебно-психиатрическая экспертиза, как правило, претендует на высокую степень строгости, поскольку её объектом является оценка состояния человека в контексте правового критерия, а результат влияет на правовые последствия. При этом именно в экспертной области наиболее заметны расхождения между комиссионными выводами и трудности воспроизводимости. Такая ситуация не может быть объяснена исключительно различиями клинических школ или качеством материалов дела. Она указывает на более глубокий факт: интерспективный механизм познания психики, приемлемый в терапевтическом контексте, оказывается недостаточным там, где требуется процедура, сопоставимая по воспроизводимости с инструментальным измерением. Судебная практика тем самым становится своего рода «лакмусовой бумагой» для всей психиатрии, выявляя пределы субъективного клинического знания и превращая эти пределы в общественно значимую проблему (Faigman, Monahan, Slobogin, 2014).