Денис Соломатин – Искусственный интеллект от А до Б (страница 19)

Риски и преимущества исследования могут влиять на отдельных субъектов, семьи отдельных субъектов и общество в целом (или на особые группы субъектов в обществе). Предыдущие кодексы и федеральные правила требовали, чтобы риски для субъектов были перевешены суммой как ожидаемой пользы для субъекта, если таковая имеется, так и ожидаемой пользы для общества в виде знаний, которые будут получены в результате исследования. При уравновешивании этих различных элементов риски и преимущества, влияющие на непосредственный объект исследования, обычно имеют особый вес. С другой стороны, интересы, отличные от интересов субъекта, могут в некоторых случаях быть достаточными сами по себе, чтобы оправдать риски, связанные с исследованием, при условии, что права субъектов были защищены. Таким образом, благодеяние требует, чтобы мы защищались от риска причинения вреда субъектам, а также чтобы мы были обеспокоены потерей существенных преимуществ, которые могли бы быть получены от исследований.

Обычно говорят, что выгоды и риски должны быть «сбалансированы» и показываться «в благоприятном соотношении». Метафорический характер этих терминов обращает внимание на сложность вынесения точных суждений. Лишь в редких случаях количественные методы будут доступны для тщательного изучения протоколов исследований. Тем не менее, по мере возможности следует следовать идее систематического, непроизвольного анализа рисков и выгод. Этот идеал требует, чтобы те, кто принимает решения об обоснованности исследования, тщательно собирали и оценивали информацию обо всех аспектах исследования, а также систематически рассматривали альтернативы. Эта процедура делает оценку исследований более строгой и точной, в то же время делая общение между членами наблюдательного совета и исследователями менее подверженным неверному толкованию, дезинформации и противоречивым суждениям. Таким образом, в первую очередь должно быть определено обоснованность предпосылок исследования; тогда характер, вероятность и величина риска должны быть разграничены с максимально возможной ясностью. Метод определения рисков должен быть явным, особенно в тех случаях, когда нет альтернативы использованию таких расплывчатых категорий, как малый или незначительный риск. Также следует определить, являются ли обоснованными оценки исследователя вероятности вреда или пользы, если судить об этом на основании известных фактов или других доступных исследований.

Наконец, оценка оправданности исследования должна отражать, по крайней мере, следующие соображения: (i) Жестокое или бесчеловечное обращение с людьми никогда не является морально оправданным. (ii) Риски должны быть снижены до уровня, необходимого для достижения цели исследования. Следует определить, действительно ли вообще необходимо использовать людей. Риск, возможно, никогда не может быть полностью устранен, но его часто можно снизить, уделяя пристальное внимание альтернативным процедурам. (iii) Когда исследование сопряжено со значительным риском серьезного ухудшения здоровья, комитеты по обзору должны быть чрезвычайно настойчивы в обосновании риска (обычно обращая внимание на вероятность пользы для объекта исследования или, в некоторых редких случаях, на явную добровольность участия). (iv) В тех случаях, когда уязвимые группы населения привлекаются к исследованиям, должна быть продемонстрирована целесообразность их вовлечения. На такие суждения влияет ряд переменных, в том числе характер и степень риска, состояние конкретной вовлеченной популяции, а также характер и уровень ожидаемых выгод. (v) Соответствующие риски и выгоды должны быть тщательно изложены в документах и процедурах, используемых в процессе информированного согласия.

Подобно тому, как принцип уважения к личности находит выражение в требованиях к согласию и принцип благодетельства при оценке риска/выгоды, принцип справедливости порождает моральные требования о том, чтобы при выборе объектов исследования были справедливые процедуры и результаты.

Справедливость имеет отношение к выбору предметов исследования на двух уровнях: социальном и индивидуальном. Индивидуальная справедливость при выборе объектов требует от исследователей проявления справедливости: таким образом, они не должны предлагать потенциально полезные исследования только некоторым пациентам, которые в их пользу, или выбирать только «нежелательных» лиц для рискованных исследований. Социальная справедливость требует, чтобы проводилось различие между классами субъектов, которые должны и не должны участвовать в каком-либо конкретном виде исследований, основываясь на способности членов этого класса нести бремя и на уместности возложения дополнительного бремени на уже обремененных людей. Таким образом, с точки зрения социальной справедливости можно считать тот факт, что при выборе классов субъектов существует определенный порядок предпочтения (например, взрослые перед детьми) и что некоторые классы потенциальных субъектов (например, психически больные или заключенные) могут быть привлечены в качестве объектов исследования, если это вообще возможно, только при определенных условиях.

Несправедливость может проявиться в выборе тем, даже если отдельные объекты справедливо выбраны исследователями и справедливо рассматриваются в ходе исследования. Таким образом, несправедливость возникает из социальных, расовых, сексуальных и культурных предрассудков, институционализированных в обществе. Таким образом, даже если отдельные исследователи справедливо относятся к объектам своих исследований и даже если IRB заботятся о том, чтобы объекты выбирались справедливо в рамках конкретного учреждения, тем не менее могут проявиться несправедливые социальные модели в общем распределении бремени и выгод от исследований. Несмотря на то, что отдельные учреждения или исследователи могут быть не в состоянии решить проблему, которая широко распространена в их социальной среде, они могут учитывать распределительную справедливость при выборе объектов исследования.

Некоторые группы населения, особенно те, которые находятся в специализированных учреждениях, уже во многом обременены своими немощами и окружающей средой. Когда предлагается исследование, которое сопряжено с рисками и не включает терапевтический компонент, другие, менее обремененные классы лиц должны быть призваны в первую очередь принять эти риски исследования, за исключением случаев, когда исследование непосредственно связано с конкретными условиями рассматриваемого класса. Кроме того, даже несмотря на то, что государственные средства на исследования часто могут течь в тех же направлениях, что и государственные средства на здравоохранение, представляется несправедливым, что группы населения, зависящие от общественного здравоохранения, составляют пул предпочтительных объектов исследований, в то время как более благополучные группы населения, вероятно, будут получателями выгод.

Один из особых примеров несправедливости является результатом вовлечения уязвимых субъектов в исследования негативных последствий применения систем искусственного интеллекта общего назначений. Определенные группы, такие как расовые меньшинства, экономически неблагополучные, очень больные и лица, находящиеся в лечебных учреждениях, могут постоянно рассматриваться в качестве объектов исследования из-за их доступности в условиях, где проводятся исследования. Учитывая их зависимый статус и часто поставленную под угрозу способность к свободному согласию, они должны быть защищены от опасности участия в исследованиях исключительно ради административного удобства или потому, что ими легко манипулировать в результате их болезни или социально-экономического положения.

Теоретические аспекты создания генеративных систем искусственного интеллекта

Эта глава представляет собой всеобъемлющее, хорошо структурированное руководство по основным аспектам создания генеративных систем искусственного интеллекта. Обязательна к прочтению для любого профессионала, желающего масштабировать ИИ в масштабах всего предприятия.

Базовые модели позволили сегодня реализовать множество новых сценариев использования ИИ, одновременно снизив барьеры для входа в создание продуктов ИИ. Это превратило ИИ из эзотерической дисциплины в мощный инструмент разработки, которым может пользоваться каждый, в том числе и те, у кого нет опыта работы с ИИ.

Каждый инженер по искусственному интеллекту, создающий реальные приложения, должен прочитать эту главу. Это жизненно важное руководство по комплексному проектированию систем искусственного интеллекта, от разработки и оценки модели до широкомасштабного развертывания и эксплуатации.

В отличие от других книг, которые сосредоточены на инструментах или текущих тенденциях, которые постоянно меняются, тут предоставляются вечные фундаментальные знания. Независимо от того, являетесь ли вы менеджером по продукту или инженером, эта глава эффективно устраняет разрыв в сотрудничестве между кросс-функциональными командами, что делает ее обязательной к прочтению для всех, кто занимается разработкой ИИ.

Когда появился ChatGPT многие мои коллеги был дезориентированы. Что меня удивило, так это не размер модели или возможности. Уже несколько десятков лет сообщество ИИ знает, что масштабирование модели улучшает ее. В 2012 году отмечалось, что все эксперименты показывают, как результаты можно улучшить, просто дождавшись появления более быстрых графических процессоров и больших наборов данных.