Обчислювальна довіра

В інформаційній безпеці обчислювальна довіра — це створення довірених уповноважених або довіри користувачів за допомогою криптографії. У централізованих системах безпека зазвичай базується на автентифікованій ідентифікації зовнішніх сторін. Жорсткі механізми автентифікації, такі як інфраструктури відкритих ключів (PKI)^[1] або Kerberos^[2], дозволили поширити цю модель на розподілені системи в межах кількох тісно взаємодіючих доменів або в межах одного адміністративного домену. Протягом останніх років інформатика перейшла від централізованих систем до розподілених обчислень. Ця еволюція має кілька наслідків для моделей безпеки, політик і механізмів, необхідних для захисту інформації та ресурсів користувачів у все більш взаємопов'язаній обчислювальній інфраструктурі.^[3]

Механізми безпеки на основі ідентифікації не можуть авторизувати операцію без автентифікації заявника. Це означає, що жодна взаємодія не може відбутися, якщо обидві сторони не відомі їхнім структурам автентифікації. Таким чином, для спонтанної взаємодії знадобиться один або кілька довірених центрів сертифікації (CA). Користувач, який бажає співпрацювати з іншою стороною, може вибрати між увімкненням безпеки та вимкненням спонтанної співпраці або вимиканням безпеки та ввімкненням спонтанної співпраці. Важливо, щоб мобільні користувачі та пристрої могли автентифікуватися автономно, не покладаючись на загальну інфраструктуру автентифікації. Щоб подолати цю проблему, нам потрібно вивчити виклики, пов'язані з «глобальним обчисленням»,^[4] терміном, який ЄС придумав для майбутнього глобального інформаційного суспільства, і визначити їхній вплив на безпеку.

Криптовалюти, такі як біткойн, використовують такі методи, як підтвердження роботи (PoW), щоб досягти обчислювальної довіри всередині мережі транзакцій.

Історія

Обчислювальна довіра застосовує людське уявлення про довіру до цифрового світу, який сприймається як шкідливий, а не кооперативний. Очікувані переваги, згідно з Маршем та ін., призводять до використання здібностей інших через делегування та до розширення співпраці у відкритому та менш захищеному середовищі. Дослідження в області обчислювальних механізмів довіри та репутації у віртуальних суспільствах спрямовані на підвищення надійності та продуктивності цифрових спільнот.^[5]

Рішення на основі довіри в конкретній області є багатоетапним процесом. Перший крок цього процесу полягає в ідентифікації та виборі належних вхідних даних, тобто доказів довіри. Загалом вони залежать від домену й отримуються в результаті аналізу, проведеного над залученою програмою. На наступному кроці обчислення довіри виконується на основі доказів, щоб отримати значення довіри, що означає оцінку надійності об'єктів у цьому конкретному домені. Вибір доказів і подальше обчислення довіри базуються на понятті довіри, визначеному в моделі довіри. Нарешті, рішення про довіру приймається з урахуванням обчислених значень і зовнішніх факторів, таких як розташування або оцінка ризику.

Визначення довіри

Ці концепції набули підвищеної актуальності в останнє десятиліття в інформатиці, особливо в області розподіленого штучного інтелекту. Парадигма мультиагентної системи та зростання електронної комерції підвищили інтерес до довіри та репутації. Насправді системи довіри та репутації визнані ключовими факторами електронної комерції. Ці системи використовуються інтелектуальними програмними агентами як стимул для прийняття рішень, при вирішенні, виконувати чи не виконувати контракти, і як механізм для пошуку надійних партнерів по обміну. Зокрема, репутація використовується на електронних ринках як механізм встановлення довіри або як спосіб уникнути шахраїв.^[6]

Ще однією сферою застосування цих концепцій в агентській технології є командна робота та співпраця.^[7] Кілька визначень людського поняття довіри було запропоновано протягом останніх років у різних областях від соціології, психології до політології та бізнес-науки. Ці визначення можуть навіть змінюватися відповідно до області застосування. Наприклад, останнє визначення Романо^[8] намагається охопити попередню роботу в усіх цих областях:

Довіра — це суб’єктивна оцінка впливу іншої сторони з точки зору ступеня власного сприйняття якості та значущості впливу іншої сторони на його результати в даній ситуації, так що очікування, відкритість і схильність до такого впливу створюють відчуття контролю над можливими результатами ситуації.

І довіра, і репутація мають соціальну цінність. Коли хтось заслуговує на довіру, можна очікувати, що ця особа буде діяти вигідно або, принаймні, не підозріло, що забезпечить іншим, з високою ймовірністю, хорошу співпрацю з нею. Навпаки, коли хтось виглядає ненадійним, інші утримуються від співпраці, оскільки існує нижчий рівень ймовірності того, що ця співпраця буде успішною.^[9]

Довіра — це певний рівень суб’єктивної ймовірності, з якою агент оцінює, що інший агент або група агентів виконає певну дію, як до того, як він зможе контролювати таку дію (або незалежно, або його здатність будь-коли мати можливість контролювати її), так і в контекст, у якому це впливає на його власні дії.

Довіра тісно пов'язана з упевненістю та передбачає певний ступінь невизначеності, надії чи оптимізму. Зрештою, Марш^[10] звернувся до питання формалізації довіри як обчислювальної концепції у своїй докторській дисертації. Його модель довіри базується на соціальних і психологічних факторах.

Класифікація моделі довіри

У літературі з'явилося багато пропозицій, і тут представлено вибірку моделей обчислювальної довіри та репутації, які представляють хороший зразок поточних досліджень.^[11]

Довіру та репутацію можна аналізувати з різних точок зору та застосовувати в багатьох ситуаціях. Наступна класифікація заснована на врахуванні специфічних характеристик цих моделей і середовища, в якому вони розвиваються.

Концептуальна модель

Модель довіри та репутації можна охарактеризувати як:

• пізнавальна

У моделях, заснованих на когнітивному підході, довіра та репутація складаються з основних переконань і є функцією ступеня цих переконань.^[12] Психічні стани, які призводять до довіри іншому агенту або до присвоєння репутації, є невід'ємною частиною моделі, а також психічні наслідки рішення та дії покладатися на іншого агента;

• неврологічна

Неврологічні моделі довіри засновані на неврологічних теоріях взаємодії між афективними та когнітивними станами також моделюються на неврологічному рівні за допомогою теорій про втілення емоцій.^[13] У цих моделях динаміка довіри пов'язана з досвідом із (зовнішніми) джерелами як з когнітивної, так і з емоційної точки зору. Більш конкретно, для відчуття емоції, пов'язаної з психічним станом, моделюються конвергентні рекурсивні петлі тіла. Крім того, на основі навчання Хебба (для міцності зв'язків з емоційними реакціями) вводяться різні процеси адаптації, які надихаються гіпотезою соматичних маркерів.^[14]

• теоретико-ігрові

Довіра та репутація вважаються суб'єктивними ймовірностями, завдяки яким індивід А очікує, що індивід Б виконає певну дію, від якої залежить його добробут.^[15]

У цьому підході довіра та репутація не є результатом психічного стану агента в когнітивному сенсі, а результатом більш прагматичної гри з функціями корисності та чисельним агрегуванням минулих взаємодій.

Джерела інформації

Можна відсортувати моделі, враховуючи джерела інформації, які використовуються для обчислення довіри та значень репутації. Традиційними джерелами інформації є прямий досвід і інформація від свідків, але останні моделі почали розглядати зв'язок між інформацією та соціологічним аспектом поведінки агента. Коли модель містить кілька джерел інформації, це може збільшити надійність результатів, але, навпаки, це може збільшити складність моделі.

Прямі переживання

Прямий досвід є найбільш актуальним і надійним джерелом інформації для моделі довіри/репутації. Можна розпізнати два типи прямого досвіду:

• досвід, заснований на безпосередній взаємодії зі співрозмовником;
• досвід, заснований на спостережуваній взаємодії інших членів спільноти.

Інформація про свідків

Інформація від свідків, яку ще називають непрямою інформацією, — це інформація, отримана з досвіду інших членів спільноти. Це може базуватися на їхньому власному безпосередньому досвіді або на інших даних, які вони зібрали з досвіду інших. Інформація зі свідків зазвичай найбільша, але її використання складне для моделювання довіри та репутації. Насправді це вносить невизначеність, і агенти можуть маніпулювати або приховувати частини інформації для власної вигоди.

Соціологічна інформація

Люди, які належать до спільноти, встановлюють різні типи відносин. Кожен індивід відіграє одну або кілька ролей у цьому суспільстві, впливаючи на свою поведінку та взаємодію з іншими людьми. У мультиагентній системі, де існує багато взаємодій, соціальні відносини між агентами є спрощеним відображенням більш складних відносин їхніх партнерів-людей.^[16] Лише деякі моделі довіри та репутації використовують цю соціологічну інформацію, використовуючи такі методи, як аналіз соціальних мереж. Ці методи вивчають соціальні відносини між індивідами в суспільстві, які виникли як набір методів для аналізу соціальних структур, методів, які спеціально дозволяють досліджувати реляційні аспекти цих структур.^[17]

Упередження та упередженість

Упередження — це ще один, хоча й незвичайний механізм, який впливає на довіру та репутацію. Відповідно до цього методу, індивіду надаються властивості певної групи, які роблять його впізнаваним як члена. Це можуть бути такі ознаки, як форма, певна поведінка тощо.^[18]

Оскільки більшість людей сьогодні вживає це слово, упередження стосується негативного або ворожого ставлення до іншої соціальної групи, часто за расовою ознакою. Однак цю негативну конотацію необхідно переглянути, коли її застосовувати до спільнот агентів. Набір знаків, що використовуються в обчислювальних моделях довіри та репутації, зазвичай не входять до етичної дискусії, на відміну від знаків, що використовуються в людських суспільствах, як-от колір шкіри чи стать.

Більшість літератури з когнітивних і соціальних наук стверджує, що люди демонструють нераціональну, упереджену поведінку щодо довіри. Нещодавно були розроблені, проаналізовані та підтверджені емпіричними даними моделі упередженої людської довіри. Результати показують, що такі моделі упередженої довіри здатні передбачити людську довіру набагато краще, ніж моделі неупередженої довіри.^[19][20]

Обговорення моделей довіри/репутації

Найбільш релевантними джерелами інформації, розглянутими моделями довіри та репутації, представленими раніше, є прямий досвід та інформація свідків. На електронних ринках соціологічна інформація майже відсутня, і для підвищення ефективності реальних моделей довіри та репутації її слід враховувати. Однак немає жодних причин ускладнювати моделі, що вводять докази довіри, якщо пізніше їх доведеться використовувати в середовищі, де неможливо реалізувати їхні можливості. Агрегування більшої кількості доказів довіри та репутації є корисним для обчислювальної моделі, але це може збільшити її складність, ускладнюючи загальне рішення. Кілька моделей залежать від характеристик середовища, і можливим рішенням може бути використання адаптивних механізмів, які можуть змінювати спосіб поєднання різних джерел інформації в даному середовищі. Було представлено багато визначень довіри та репутації, і є кілька робіт, які надають значення обом поняттям.^{[21][22][23][24]}

Між обома поняттями існує зв'язок, який слід розглянути глибше: репутація — це поняття, яке допомагає зміцнювати довіру інших. Сьогодні теорія ігор є переважною парадигмою, яка розглядається для розробки обчислювальних моделей довіри та репутації. Цілком ймовірно, ця теорія береться до уваги, тому що значна кількість економістів і комп'ютерників, які мають великий досвід у теорії ігор і техніках штучного інтелекту, працюють у мультиагентних умовах та в контексті електронної комерції. Теоретико-ігрові моделі дають хороші результати, але можуть бути непридатними, коли складність агентів з точки зору соціальних відносин і взаємодії зростає, стає надто обмеженою. Необхідно розглянути дослідження нових можливостей і, наприклад, поєднати когнітивні підходи з теоретичними іграми. Окрім цього, слід розглянути більше доказів довіри, а також чутливі до часу показники довіри.^[25][26] представляють собою перший крок до заохочення покращення обчислювальної довіри.^[27]

Важливим питанням у моделюванні довіри є можливість передачі оцінок довіри різними агентами. Соціологи погоджуються вважати цінності безумовної довіри такими, що не підлягають передачі, але більш прагматичний підхід приходить до висновку, що судження про кваліфіковану довіру варто передавати, оскільки рішення, прийняті з урахуванням думки інших, є кращими, ніж ті, що приймаються окремо. У^[28] автори досліджували проблему передачі довіри у відкритих розподілених середовищах, запропонувавши механізм трансляції, здатний зробити інформацію, яка обмінюється від одного агента до іншого, більш точною та корисною.

Оцінка моделей довіри

Наразі не існує загальноприйнятої системи оцінювання чи порівняльного показника, який би дозволив порівнювати моделі за набором репрезентативних і загальних умов. Було запропоновано теоретико-ігровий підхід у цьому напрямку^[29], де конфігурація моделі довіри оптимізована, припускаючи, що зловмисники мають оптимальні стратегії атаки; це дозволяє на наступному кроці порівняти очікувану корисність різних моделей довіри. Подібним чином була запропонована аналітична структура на основі моделі для прогнозування ефективності механізмів репутації проти моделей довільних атак у моделях довільних систем^[30] для однорангових систем.

Див. також

• IT ризик
• Управління ІТ ризиками
• Kerberos (протокол)
• Інфраструктура відкритих ключів

Примітки

1. Weise, J. (August 2001). Public Key Infrastructure Overview. SunPs Global Security Practice, SunMicrosystems.
2. Kohl J.; B. C. Neuman (1993). The Kerberos Network Authentication Service(Version 5). Internet Request for Comments RFC-1510.
3. Seigneur J.M. (2005). Trust, Security and Privacy in Global Computing. PhD Thesis, University of Dublin, Trinity College.
4. IST, Global Computing, EU. 2004. Архів оригіналу за 27 квітня 2006. Процитовано 26 лютого 2023.
5. Longo L.; Dondio P.; Barrett S. (2007). Temporal Factors to evaluate trustworthiness of virtual identities (PDF). Third International Workshop on the Value of Security through Collaboration, SECURECOMM.
6. Dellarocas C. (2003). The digitalization of Word-Of-Mouth: Promise and Challenges of Online Reputation Mechanism. Management Science.
7. Montaner M.; Lopez B.; De La Rosa J. (2002). Developing Trust in Recommender Agents. Proceedings of the First International Joint Conference on Autonomous Agents and Multiagent Systems (AAMAS-02).
8. Romano D.M. (2003). The Nature of Trust: Conceptual and Operational Clarification. Louisiana State University, PhD Thesis.
9. Gambetta D. Can We Trust Trust. Trust: Making and Breaking Cooperative Relations. Chapt. Can We Trust Trust? Basil Blackwell, Oxford, pp. 213-237.
10. Marsh S. (1994). Formalizing Trust as a Computational Concept. PhD thesis, University of Stirling, Department of Computer Science and Mathematics.
11. Sabater J.; Sierra C. (2005). Review on Computational Trust and Reputation Models. Artificial Intelligence Review, 24:33-60, Springer.
12. Esfandiari B.; Chandrasekharan S. (2001). On How Agents Make Friends: Mechanism for Trust Acquisition. In proocedings of the Fourth Workshop on Deception Fraud and Trust in Agent Societies, Montreal, Canada. pp. 27-34.
13. Hoogendoorn, Mark; Jaffry, S. Waqar; Treur, Jan (2011). Advances in Cognitive Neurodynamics (II) (англ.). Springer, Dordrecht. с. 523—536. doi:10.1007/978-90-481-9695-1_81. ISBN 9789048196944.
14. Jaffry, S. Waqar; Treur, Jan (1 грудня 2009). Comparing a Cognitive and a Neural Model for Relative Trust Dynamics. Lecture Notes in Computer Science (англ.). Springer, Berlin, Heidelberg. с. 72—83. doi:10.1007/978-3-642-10677-4_8. ISBN 9783642106767. {{cite book}}: Проігноровано |journal= (довідка)
15. Gambetta D. Can We Trust Trust?. In. Trust: Making and Breaking Cooperative Relations. Chapt. Can We Trust Trust? Basil Blackwell, Oxford, pp. 213-237.
16. Hoogendoorn, M.; Jaffry, S. W. (August 2009). The Influence of Personalities Upon the Dynamics of Trust and Reputation. Т. 3. с. 263—270. doi:10.1109/CSE.2009.379. ISBN 978-1-4244-5334-4. {{cite book}}: Проігноровано |journal= (довідка)
17. Scott, J.; Tallia, A; Crosson, JC; Orzano, AJ; Stroebel, C; Dicicco-Bloom, B; O'Malley, D; Shaw, E; Crabtree, B (September 2005). Social Network Analysis as an Analytic Tool for Interaction Patterns in Primary Care Practices. Annals of Family Medicine. 3 (5): 443—8. doi:10.1370/afm.344. PMC 1466914. PMID 16189061.
18. Bacharach M.; Gambetta D. (2001). Trust in Society. Chapt. Trust in signs. Russel Sage Foundation, .
19. Hoogendoorn, M.; Jaffry, S.W.; Maanen, P.P. van & Treur, J. (2011). Modeling and Validation of Biased Human Trust. IEEE Computer Society Press, 2011.
20. Mark, Hoogendoorn; Waqar, Jaffry, Syed; Peter-Paul, van Maanen; Jan, Treur (1 січня 2013). Modelling biased human trust dynamics. Web Intelligence and Agent Systems (англ.). 11 (1): 21—40. doi:10.3233/WIA-130260. ISSN 1570-1263.
21. McKnight D.H.; Chervany N.L. (1996). The meanings of trust. Technical report. university of Minnesota Management Information Systems Research Center.
22. McKnight D.H.; Chervany N.L. (2002). Conceptualizing Trust: A Typology and E-Commerce Customer Relationships Model. In: Proceedings of the 34th Hawaii International Conference on System Sciences.
23. Mui L.; Halberstadt A.; Mohtashemi M. (2002). Notions of Reputation in Multi-Agent Systems: a Review. In: Proceedings of the First International Joint Conference on Autonomous Agents and Multi-Agent Systems (AAMAS-02), Bologna, Italy, pp. 280-287.
24. Dondio, P.; Longo, L. (2011). Trust-Based Techniques for Collective Intelligence in Social Search Systems. Next Generation Data Technologies For Collective Computational Intelligence. Studies in Computational Intelligence. Т. 352. Springer. с. 113—135. doi:10.1007/978-3-642-20344-2_5. ISBN 978-3-642-20343-5.
25. Longo L. (2007). Security Through Collaboration in Global Computing: a Computational Trust Model Based on Temporal Factors to Evaluate Trustworthiness of Virtual Identities. Master Degree, Insubria University.
26. D. Quercia; S. Hailes; L. Capra (2006). B-trust: Bayesian Trust Framework for Pervasive Computing (PDF). iTrust.
27. Seigneur J.M. (2006). Seigneur J.M., Ambitrust? Immutable and Context Aware Trust Fusion. Technical Report, Univ. of Geneva.
28. . Trondheim, Norway. ISBN 978-0-387-09427-4. {{cite conference}}: Пропущений або порожній |title= (довідка)
29. . Vancouver, Canada. ISBN 978-1-4244-5334-4. {{cite conference}}: Пропущений або порожній |title= (довідка)
30. Lagesse, B. (2012). Analytical evaluation of P2P reputation systems (PDF). International Journal of Communication Networks and Distributed Systems. 9: 82—96. CiteSeerX 10.1.1.407.7659. doi:10.1504/IJCNDS.2012.047897.

Посилання

• TRMSim-WSN, симулятор моделей довіри та репутації для бездротових сенсорних мереж