Право на объяснение - Right to explanation

В регуляции из алгоритмов , в частности , искусственного интеллекта и его подполе машинного обучения , в праве на объяснение (или право на качестве объяснения ) является право быть дано объяснение для вывода алгоритма. Такие права в первую очередь относятся к индивидуальным правам на получение объяснения решений, которые существенно влияют на человека, особенно в юридическом или финансовом плане. Например, человек, который обращается за ссудой и получает отказ, может попросить объяснений, которые могут быть такими: « Кредитное бюро X сообщает, что вы объявили о банкротстве в прошлом году; это главный фактор, который считает, что вы слишком склонны к дефолту, и поэтому мы не даст вам ссуду, на которую вы подали заявку ".

Некоторые такие юридические права уже существуют, в то время как объем общего «права на объяснение» является предметом постоянных дебатов.

Примеры

Кредитный скоринг в США

Дополнительная информация: Кредитный рейтинг в США.

В соответствии с Законом о равных возможностях кредита (Правило B Свода федеральных нормативных актов ), раздел 12, глава X, часть 1002, §1002.9 , кредиторы должны уведомлять заявителей, которым отказано в кредите, с указанием конкретных причин для подробностей. Как подробно описано в §1002.9 (b) (2):

(2) Указание конкретных причин. Изложение причин неблагоприятных действий, требуемых параграфом (a) (2) (i) данного раздела, должно быть конкретным и указывать основную (-ые) причину (-ы) неблагоприятного действия. Утверждения о том, что неблагоприятное действие было основано на внутренних стандартах или политике кредитора или что заявитель, совместный заявитель или аналогичная сторона не набрали квалификационный балл в системе кредитного рейтинга кредитора, являются недостаточными.

Официальное толкование этого раздела детально , какие типы утверждений приемлемы. Кредиторы соблюдают это постановление, предоставляя список причин (обычно не более 4 в зависимости от интерпретации нормативных требований), состоящий из числовых значений. код причины (как идентификатор) и соответствующее объяснение, определяющее основные факторы, влияющие на кредитный рейтинг. Примером может быть:

32: остатки на банковской карте или возобновляемых счетах слишком высоки по сравнению с кредитными лимитами.

Европейский Союз

Общий регламент Европейского союза о защите данных (вступил в силу в 2016 г., вступает в силу в 2018 г.) расширяет права автоматического принятия решений в Директиве о защите данных 1995 г., предоставляя юридически оспариваемую форму права на объяснение, как это указано в Декларации 71 : "[ субъект данных должен иметь] право ... получить объяснение принятого решения ". В полном объеме:

Субъект данных должен иметь право не подчиняться решению, которое может включать в себя меру, оценивающую личные аспекты, относящиеся к нему или ей, которые основаны исключительно на автоматизированной обработке и которые имеют правовые последствия в отношении него или ее или аналогичным образом существенно влияют на него. или ее, например, автоматический отказ в онлайн-заявке на кредит или методы электронного набора персонала без какого-либо вмешательства человека.

...

В любом случае такая обработка должна быть предметом соответствующих гарантий, которые должны включать конкретную информацию для субъекта данных и право на вмешательство человека, на выражение его или ее точки зрения, на получение объяснения решения, принятого после такой оценки. и оспорить решение.

Однако степень, в которой сами правила предоставляют «право на объяснение», активно обсуждается. Есть два основных направления критики. Существуют серьезные юридические проблемы с правом, изложенным в статье 22, поскольку изложение не является обязательным, а право на объяснение не упоминается в обязательных статьях текста, поскольку оно было удалено в ходе законодательного процесса. Кроме того, существуют значительные ограничения на типы охватываемых автоматизированных решений - которые должны быть "исключительно" основаны на автоматизированной обработке и иметь юридические или аналогичные значимые последствия - что значительно ограничивает диапазон автоматизированных систем и решений, в отношении которых право будет применяться. В частности, это право вряд ли будет применяться во многих случаях алгоритмических противоречий, которые были подхвачены в СМИ.

Второй потенциальный источник такого права указан в статье 15, «право доступа субъекта данных». Это повторяет аналогичное положение из Директивы о защите данных 1995 года, позволяющее субъекту данных получить доступ к «значимой информации о логике, задействованной» в таком же значимом, полностью автоматизированном процессе принятия решений, как в статье 22. Тем не менее, это тоже страдает от предполагаемых проблем, которые связаны со сроками, когда это право может быть использовано, а также с практическими проблемами, которые означают, что оно может не иметь обязательной силы во многих случаях, вызывающих озабоченность общественности.

Франция

Во Франции Loi pour une République numérique (Закон о цифровой республике или loi numérique ) от 2016 года вносит поправки в административный кодекс страны, вводя новое положение для разъяснения решений, принимаемых органами государственного сектора в отношении физических лиц. Он отмечает, что в случае «решения, принятого на основе алгоритмического лечения», правила, определяющие это обращение и его «основные характеристики», должны быть доведены до сведения гражданина по запросу, если нет исключения (например, для национальных безопасность или оборона). Они должны включать следующее:

  1. степень и способ участия алгоритмической обработки в принятии решений;
  2. обрабатываемые данные и их источник;
  3. параметры лечения и, где это уместно, их вес, применяемый к ситуации заинтересованного лица;
  4. операции, проводимые лечением.

Ученые отметили, что это право, хотя и ограничивается административными решениями, выходит за рамки права GDPR и прямо применяется к поддержке решений, а не к решениям «исключительно» на основе автоматизированной обработки, а также обеспечивает основу для объяснения конкретных решений. В самом деле, GDPR - это автоматизированное право принятия решений в Европейском союзе, где искали «право на объяснение», берут свое начало во французском законодательстве конца 1970-х годов.

Критика

Некоторые утверждают, что «право на объяснение» в лучшем случае ненужно, в худшем - вредно и угрожает подавить инновации. Конкретная критика включает: предпочтение человеческих решений над машинными решениями; противоречит существующим законам; и сосредоточение внимания на процессе, а не на результате.

По сути, многие алгоритмы, используемые в машинном обучении, нелегко объяснить. Например, выходные данные глубокой нейронной сети зависят от многих уровней вычислений, связанных сложным образом, и ни один вход или вычисление не могут быть доминирующим фактором. Область объяснимого ИИ стремится предоставить более точные объяснения на основе существующих алгоритмов и алгоритмов, которые легче объяснить, но это молодая и активная область.

Точно так же, человеческие решения часто не могут быть легко объясним: они могут быть основаны на интуиции или « шестое чувство », которое трудно выразить словами. Можно утверждать, что машины не должны соответствовать более высоким стандартам, чем люди.

Смотрите также

использованная литература

внешние ссылки