Вычислительное доверие - Computational trust

В информационной безопасности , вычислительное доверие является генерацией доверенных или пользователя доверия через криптографию . В централизованных системах безопасность обычно основана на аутентифицированной идентичности внешних сторон. Жесткие механизмы аутентификации, такие как инфраструктуры открытых ключей (PKI) или Kerberos , позволили распространить эту модель на распределенные системы в пределах нескольких тесно взаимодействующих доменов или в пределах одного административного домена. В последние годы информатика перешла от централизованных систем к распределенным вычислениям. Эта эволюция имеет несколько последствий для моделей, политик и механизмов безопасности, необходимых для защиты информации и ресурсов пользователей во все более взаимосвязанной вычислительной инфраструктуре.

Механизмы безопасности на основе идентичности не могут авторизовать операцию без аутентификации запрашивающего объекта. Это означает, что никакое взаимодействие не может происходить, если обе стороны не известны их структурам аутентификации. Следовательно, для спонтанного взаимодействия потребуется один или несколько доверенных центров сертификации (CA). В данном контексте PKI не рассматривалась, поскольку у них есть проблемы, поэтому маловероятно, что они станут эталонным стандартом в ближайшем будущем. Пользователь, желающий сотрудничать с другой стороной, может выбирать между включением безопасности и тем самым отключением спонтанного сотрудничества или отключением безопасности и включением спонтанного сотрудничества. Очень важно, чтобы мобильные пользователи и устройства могли аутентифицироваться автономно, не полагаясь на общую инфраструктуру аутентификации. Чтобы противостоять этой проблеме, нам необходимо изучить проблемы, связанные с «глобальными вычислениями», термином, введенным ЕС для обозначения будущего глобального информационного общества, и определить их влияние на безопасность.

Криптовалюты , такие как Биткойн , используют такие методы, как доказательство работы (PoW), для достижения вычислительного доверия внутри транзакционной сети.

История

Computational Trust применяет человеческое понятие доверия к цифровому миру, которое рассматривается как злонамеренное, а не кооперативное. Ожидаемые выгоды, согласно Маршу и др., Приводят к использованию способностей других посредством делегирования и к расширению сотрудничества в открытой и менее защищенной среде. Исследования в области вычислительных механизмов доверия и репутации в виртуальных обществах направлены на повышение надежности и производительности цифровых сообществ.

Решение, основанное на доверии, в конкретном домене - это многоэтапный процесс. Первый шаг этого процесса состоит в идентификации и выборе правильных входных данных, то есть свидетельства доверия. Как правило, они зависят от предметной области и выводятся на основе анализа, проводимого в задействованном приложении . На следующем этапе выполняется вычисление доверия для свидетельства для получения значений доверия, что означает оценку надежности объектов в этом конкретном домене. Выбор свидетельства и последующее вычисление доверия основываются на понятии доверия, определенном в модели доверия. Наконец, решение о доверии принимается с учетом вычисленных значений и экзогенных факторов, таких как расположение или оценка риска .

Определение доверия

Эти концепции приобрели повышенную актуальность в последнее десятилетие в компьютерных науках, особенно в области распределенного искусственного интеллекта . Система многоагентная парадигма и рост электронной торговли увеличился интерес доверия и репутации. Фактически, системы доверия и репутации признаны ключевыми факторами электронной коммерции. Эти системы используются интеллектуальными программными агентами в качестве стимула при принятии решений, при принятии решения о соблюдении контрактов или в качестве механизма поиска надежных партнеров по обмену. В частности, репутация используется на электронных рынках как механизм укрепления доверия или как метод предотвращения мошенничества и мошенничества.

Еще одна область применения этих концепций в агентских технологиях - это командная работа и сотрудничество. В последние годы было предложено несколько определений человеческого понятия доверия в различных областях от социологии , психологии до политики и бизнес-науки . Эти определения могут даже меняться в зависимости от области применения. Например, недавнее определение Романо пытается охватить предыдущую работу во всех этих областях:

Доверие - это субъективная оценка чужого влияния с точки зрения степени восприятия человеком качества и значимости чужого влияния на свои результаты в данной ситуации, так что ожидание, открытость и склонность к такому влиянию создают ощущение контроль над возможными исходами ситуации.

Доверие и репутация имеют социальную ценность. Когда кто-то заслуживает доверия, от этого человека можно ожидать, что он будет действовать с пользой или, по крайней мере, не подозрительно, что с большой вероятностью обеспечит другим хорошее сотрудничество с ним. Напротив, когда кажется, что кто-то не заслуживает доверия, другие воздерживаются от сотрудничества, поскольку вероятность того, что такое сотрудничество будет успешным, ниже.

Доверие - это особый уровень субъективной вероятности, с которой агент оценивает, что другой агент или группа агентов выполнит определенное действие, как до того, как он сможет отслеживать такое действие (или независимо, или его способность когда-либо иметь возможность контролировать его), так и в контекст, в котором это влияет на его собственные действия.

Доверие прочно связано с уверенностью и подразумевает некоторую степень неуверенности, надежды или оптимизма. В конце концов, Марш обратился к проблеме формализации доверия как вычислительной концепции в своей докторской диссертации. Его модель доверия основана на социальных и психологических факторах.

Классификация моделей доверия

В литературе появилось много предложений, и здесь представлена ​​подборка моделей вычислительного доверия и репутации, которые представляют собой хороший образец текущего исследования.

Доверие и репутация можно анализировать с разных точек зрения и применять во многих ситуациях. Следующая классификация основана на специфических характеристиках этих моделей и среде, в которой они развиваются.

Концептуальная модель

Модель доверия и репутации можно охарактеризовать как:

В моделях, основанных на когнитивном подходе, доверие и репутация состоят из основных убеждений и зависят от степени этих убеждений. Ментальные состояния, которые приводят к доверию другому агенту или присвоению репутации, являются важной частью модели, так же как и ментальные последствия решения и акта доверия к другому агенту;

В моделях неврологического доверия, основанные на неврологических теориях взаимодействия аффективных и когнитивных состояний, моделируются также на неврологическом уровне с использованием теорий о воплощении эмоций. В этих моделях динамика доверия связана с опытом взаимодействия с (внешними) источниками как с когнитивной, так и с эмоциональной точки зрения. Более конкретно, для ощущения эмоции, связанной с психическим состоянием, моделируются сходящиеся рекурсивные петли тела. Кроме того, на основе обучения Хебба (для силы связи с эмоциональными реакциями) вводятся различные процессы адаптации, которые вдохновлены гипотезой соматических маркеров.

Доверие и репутация считаются субъективными вероятностями, по которым индивид A ожидает, что индивид B выполнит заданное действие, от которого зависит его благосостояние.

При таком подходе доверие и репутация - это не результат психического состояния агента в когнитивном смысле, а результат более прагматичной игры с функциями полезности и численным агрегированием прошлых взаимодействий.

Источники информации

Можно отсортировать модели, рассматривая источники информации, используемые для вычисления значений доверия и репутации. Традиционные источники информации - это прямой опыт и информация свидетелей, но недавние модели начали рассматривать связь между информацией и социологическим аспектом поведения агента. Когда модель содержит несколько источников информации, это может повысить надежность результатов, но, наоборот, может увеличить сложность модели.

Прямой опыт

Непосредственный опыт является наиболее актуальным и надежным источником информации для модели доверия / репутации. Можно выделить два типа непосредственного опыта:

  • опыт, основанный на прямом взаимодействии с собеседником;
  • опыт, основанный на наблюдаемом взаимодействии других членов сообщества.
Информация о свидетелях

Свидетельская информация, также называемая косвенной информацией, - это то, что исходит из опыта других членов сообщества. Это может быть основано на их собственном непосредственном опыте или на других данных, которые они собрали из опыта других. Свидетельской информации обычно больше всего, но ее сложно использовать для моделирования доверия и репутации. Фактически, это вносит неопределенность, и агенты могут манипулировать или скрывать часть информации для собственной выгоды.

Социологическая информация

Люди, принадлежащие к сообществу, устанавливают разные типы отношений. Каждый человек играет одну или несколько ролей в этом обществе, влияя на их поведение и взаимодействие с другими людьми. В многоагентной системе, где существует множество взаимодействий, социальные отношения между агентами являются упрощенным отражением более сложных отношений их человеческих коллег. Лишь несколько моделей доверия и репутации принимают эту социологическую информацию с использованием таких методов, как анализ социальных сетей . Эти методы изучают социальные отношения между людьми в обществе, которое возникло как набор методов анализа социальных структур, методов, которые, в частности, позволяют исследовать реляционные аспекты этих структур.

Предрассудки и предубеждения

Предрассудки - еще один, хотя и необычный, механизм, влияющий на доверие и репутацию. Согласно этому методу, человеку придают свойства определенной группы, которые делают его узнаваемым в качестве члена. Это могут быть такие признаки, как униформа, определенное поведение и т. Д.

Как большинство людей сегодня используют это слово, предубеждение относится к негативному или враждебному отношению к другой социальной группе, часто определяемому по расовому признаку. Однако эту негативную коннотацию следует пересмотреть применительно к сообществам агентов. Набор знаков, используемых в моделях вычислительного доверия и репутации, обычно не обсуждается с этической точки зрения, в отличие от знаков, используемых в человеческих обществах, таких как цвет кожи или пол.

Большая часть литературы по когнитивным и социальным наукам утверждает, что люди демонстрируют нерациональное, предвзятое поведение в отношении доверия. Недавно предвзятые модели человеческого доверия были разработаны, проанализированы и подтверждены эмпирическими данными. Результаты показывают, что такие предвзятые модели доверия могут значительно лучше предсказывать человеческое доверие, чем беспристрастные модели доверия.

Обсуждение моделей доверия / репутации

Наиболее релевантными источниками информации, рассмотренными в представленных ранее моделях доверия и репутации , являются непосредственный опыт и информация свидетелей. На электронных рынках социологическая информация практически отсутствует, и для повышения эффективности реальных моделей доверия и репутации ее следует учитывать. Однако нет причин увеличивать сложность моделей, вводящих доказательства доверия, если впоследствии их придется использовать в среде, где невозможно реализовать их возможности. Объединение большего количества свидетельств доверия и репутации полезно в вычислительной модели, но это может увеличить ее сложность, что затруднит общее решение. Некоторые модели зависят от характеристик среды, и возможным решением может быть использование адаптивных механизмов, которые могут изменять способ комбинирования различных источников информации в данной среде. Было представлено много определений доверия и репутации, и есть несколько работ, которые придают смысл обеим концепциям.

Между обеими концепциями существует взаимосвязь, которую следует рассматривать всесторонне: репутация - это концепция, которая помогает укреплять доверие других. В настоящее время теория игр является преобладающей парадигмой, которая считается доминирующей при разработке моделей вычислительного доверия и репутации. По всей вероятности, эта теория принимается во внимание, потому что значительное количество экономистов и компьютерных ученых, имеющих большой опыт в теории игр и методах искусственного интеллекта, работают в контексте мультиагентности и электронной коммерции. Теоретико-игровые модели дают хорошие результаты, но могут не подходить, когда сложность агентов с точки зрения социальных отношений и взаимодействия увеличивается, становится слишком ограничивающей. Следует рассмотреть вопрос об исследовании новых возможностей, и, например, следует провести слияние когнитивных подходов с теоретико-игровыми. Кроме того, следует учитывать больше доказательств доверия, а также показатели доверия, зависящие от времени . представляют собой первый шаг к повышению доверия к вычислениям.

Важным вопросом при моделировании доверия является возможность передачи суждений о доверии разными агентами. Социологи соглашаются рассматривать безоговорочные доверительные ценности как непередаваемые, но при более прагматическом подходе можно сделать вывод, что квалифицированные доверительные суждения заслуживают передачи, поскольку решения, принимаемые с учетом мнения других, лучше, чем те, которые принимаются изолированно. Авторы исследовали проблему переносимости доверия в открытых распределенных средах, предложив механизм перевода, позволяющий сделать обмен информацией от одного агента к другому более точным и полезным.

Оценка моделей доверия

В настоящее время не существует общепринятой системы оценки или эталона, которые позволили бы сравнивать модели при наборе репрезентативных и общих условий. В этом направлении был предложен теоретико-игровой подход, в котором конфигурация модели доверия оптимизирована, предполагая, что злоумышленники имеют оптимальные стратегии атаки; это позволяет на следующем этапе сравнить ожидаемую полезность различных моделей доверия. Аналогичным образом, основанная на моделях аналитическая структура для прогнозирования эффективности механизмов репутации против произвольных моделей атак в произвольных системных моделях была предложена для одноранговых систем.

Смотрите также

Рекомендации

Внешние ссылки