Концепция построения коллаборативных систем поддержки принятия решений: подход и архитектура платформы
Ключевые слова:
поддержка принятия решений, коллаборативные системы, онтологии, ограниченная самоорганизация, человеко-машинное взаимодействиеАннотация
В статье описывается общая концепция построения коллаборативных систем поддержки принятия решений, в которых коллективы, осуществляющие поддержку принятия решений, а) формируются гибко в соответствии с задачей и б) состоят как из людей-экспертов, так и из интеллектуальных агентов, реализующих те или иные методы искусственного интеллекта. Проводится анализ ключевых проблем создания коллаборативных систем поддержки принятия решений, основанных на взаимодействии человека и искусственного интеллекта. В частности, выделены следующие проблемы: обеспечение интероперабельности (взаимопонимания) между разнородными участниками коллектива, согласование различающихся позиций участников, обеспечение доверия между участниками, обеспечение эффективности планирования совместных действий и соблюдение баланса между предопределенными потоками работ и самоорганизацией. Сформированы принципы построения подобных систем, предлагающие решения выделенных проблем. В частности, предлагается онтолого-ориентированное представление информации о проблеме (в частности, применение мультиаспектных онтологий), набор методов для мониторинга деятельности команды, схема репутации, элементы объяснимого искусственного интеллекта, а также применение механизма ограниченной самоорганизации. Предложенная концепция положена в основу программной платформы для создания коллаборативных систем поддержки принятия решений, основные архитектурные положения которой также представлены в статье. Применение платформы иллюстрируется на примере из области рационального управления дорожной инфраструктурой и создания коллаборативной системы поддержки принятия решений для разработки мероприятий по снижению аварийности.
Литература
1. Schall D. Service-Oriented Crowdsourcing: Architecture, Protocols and Algorithms. New York: Springer New York, 2012. 94 p.
2. Smirnov A., Shilov N., Ponomarev A., Schekotov M. Human-computer cloud: Application platform and dynamic decision support // CLOSER 2019 – Proceedings of the 9th International Conference on Cloud Computing and Services Science. 2019. vol. 1. pp. 120–131.
3. Retelny D., Bernstein M.S., Valentine M.A. No Workflow Can Ever Be Enough: How Crowdsourcing Workflows Constrain Complex Work // Proc. ACM Human-Computer Interact. 2017. vol. 1. no. 2.
4. Valentine M.A., Retelny D., To A., Rahmati N., Doshi T., Bernstein M.S. Flash Organizations: Crowdsourcing Complex Work By Structuring Crowds As Organizations // Proceedings of the 2017 CHI Conference on Human Factors in Computing Systems – CHI ’17. 2017. pp. 3523–3537.
5. Salehi N. et al. Huddler: Convening stable and familiar crowd teams despite unpredictable availability // Proc. ACM Conf. Comput. Support. Coop. Work (CSCW). 2017. pp. 1700–1713.
6. Lykourentzou I., Vinella F., Ahmed F., Papastathis C., Papangelis K., Khan V.-J., Masthoff J. Self-organization in online collaborative work settings // Collect. Intell. 2022. vol. 1(1). no. 263391372210780.
7. Terveen L.G. Overview of human-computer collaboration // Knowledge-Based Syst. 1995. vol. 8. no. 2–3. pp. 67–81.
8. Elmarzouqi N., Garcia E., Lapayre J.-C. CSCW from Coordination to Collaboration. 11th International Conference CSCWD. 2008. pp. 87–98.
9. Karacapilidis N., Tampakas V. On the Exploitation of Collaborative Argumentation Structures for Inducing Reasoning Behavior // Proceedings of the 18th International Conference on WWW/Internet 2019. IADIS Press, 2019. pp. 78–84.
10. Adla A., Zarate P., Soubie J.-L. A Proposal of Toolkit for GDSS Facilitators // Gr. Decis. Negot. 2011. vol. 20. no. 1. pp. 57–77.
11. Bittner E., Shoury O. Designing Automated Facilitation for Design Thinking: A Chatbot for Supporting Teams in the Empathy Map Method // Proc. 52nd Hawaii Int. Conf. Syst. Sci. 2019. pp. 227–236.
12. Gu W., Moustafa A.A., Ito T., Zhang M., Yang C. A case-based reasoning approach for automated facilitation in online discussion systems // KICSS 2018 – 13th Int. Conf. Knowledge, Inf. Creat. Support Syst. Proc. 2018. vol. 30. pp. 719–742. DOI: 10.1007/s10726-021-09731-4.
13. Kolfschoten G.L., De Vreede G.J. The collaboration engineering approach for designing collaboration processes // Proceedings of the 13th International Workshop, CRIWG 2007. 2007. vol. 4715 LNCS. pp. 95–110.
14. Ito T. et al. D-Agree: Crowd Discussion Support System Based on Automated Facilitation Agent // Proc. AAAI Conf. Artif. Intell. 2020. vol. 34. no. 09. pp. 13614–13615.
15. Смирнов А.В., Левашова Т.В., Пономарев А.В. Онтологическая модель поддержки принятия решений на основе человеко-машинного коллективного интеллекта // Искусственный интеллект и принятие решений. 2020. № 3. pp. 48–60.
16. Lee M.H., Siewiorek D.P., Smailagic A., Bernardino A., Bermúdez i Badia S.B. A Human-AI Collaborative Approach for Clinical Decision Making on Rehabilitation Assessment // Proceedings of the 2021 CHI Conference on Human Factors in Computing Systems. 2021. pp. 1–14.
17. Bosch K., Bronkhorst A. Human-AI cooperation to benefit military decision making // Proceedings of Specialist Meeting Big Data & Artificial Intelligence for Military Decision Making. 2018.
18. Pohl J. Collaborative Decision-Support and the Human-Machine Relationship // A Decision-Making Tools Workshop. San Luis: Collaborative Agent Design Research Center, 2019. pp. 21–46.
19. Chen J., Lim C.P., Tan K.H., Govindan K., Kumar A. Artificial intelligence-based human-centric decision support framework: an application to predictive maintenance in asset management under pandemic environments // Ann. Oper. Res. 2021. DOI: 10.1007/s10479-021-04373-w.
20. Bouabdallaoui Y, Lafhaj Z., Yim P., Ducoulombier L., Bennadji B. Predictive Maintenance in Building Facilities: A Machine Learning-Based Approach // Sensors. 2021. vol. 21(4). no. 1044.
21. Kase S.E. et al. The Future of Collaborative Human-Artificial Intelligence Decision-Making for Mission Planning // Front. Psychol. 2022. vol. 13. DOI: 10.3389/fpsyg.2022.850628.
22. Puranam P. Human–AI collaborative decision-making as an organization design problem // Journal of Organization Design. 2021. vol. 10. no. 2. pp. 75–80.
23. Lai V., Carton S., Bhatnagar R., Liao V., Zhang Y., Tan C. Human-AI Collaboration via Conditional Delegation: A Case Study of Content Moderation // Proceedings of the 2022 CHI Conference on Human Factors in Computing Systems. 2022. pp. 1–18.
24. Cortes C., DeSalvo G., Mohri M. Learning with Rejection // Proceedings of the 27th International Conference on Algorithmic Learning Theory, ALT 2016. Cham: Springer, 2016. vol. 9925. pp. 67–82.
25. Fugener A., Grahl J., Gupta A., Ketter W. Cognitive Challenges in Human – Artificial Intelligence Collaboration: Investigating the Path Toward Productive Delegation // Inf. Syst. Res. 2022. vol. 33. no. 2. pp. 678–696.
26. Dellermann D, Calma A., Lipusch N., Weber T., Weigel S., Ebel P. The Future of Human-AI Collaboration: A Taxonomy of Design Knowledge for Hybrid Intelligence Systems // Proceedings of the 52nd Annual Hawaii International Conference on System Sciences. 2019. pp. 274–283.
27. Peleteiro A. et al. Using reputation and adaptive coalitions to support collaboration in competitive environments // Eng. Appl. Artif. Intell. 2015. vol. 45. pp. 325–338.
28. Burkart N., Huber M.F. A survey on the explainability of supervised machine learning // Journal of Artificial Intelligence Research. 2021. vol. 70. pp. 245–317.
29. Smirnov A., Ponomarev A., Levashova T. Towards a Methodology for Developing Human-AI Collaborative Decision Support Systems // International Conference on Computer-Human Interaction Research and Applications. Springer, Cham, 2023. pp. 69–88.
30. Smirnov A., Levashova T., Ponomarev A., Shilov N.Methodology for Multi-Aspect Ontology Development: Ontology for Decision Support Based on Human-Machine Collective Intelligence // IEEE Access. 2021. vol. 9. pp. 135167–135185.
31. de Sousa Ribeiro M., Leite J. Aligning Artificial Neural Networks and Ontologies towards Explainable AI // Proceedings of the AAAI Conference on Artificial Intelligence. 2021. vol. 35. no. 6. pp. 4932–4940.
32. Seeliger A., Pfaff M., Krcmar H. Semantic web technologies for explainable machine learning models: A literature review // Joint Proceedings of the 6th International Workshop on Dataset PROFlLing and the 1st Workshop on Semantic Explainability with the 18th International Semantic Web Conference (ISWC). 2019. vol. 2465. pp. 30–45.
33. Smirnov A., Ponomarev A. Stimulating Self-Organization in Human-Machine Collective Intelligence Environment // 2021 IEEE Conference on Cognitive and Computational Aspects of Situation Management (CogSIMA). IEEE, 2021. pp. 94–102.
34. Xiong W., Fan H., Ma L., Wang C. Challenges of human—machine collaboration in risky decision-making // Frontiers of Engineering Management. 2022. vol. 9. no. 1. pp. 89–103.
35. Dellermann D., Calma A., Lipusch N., Weber T., Weigel S., Ebel P. The future of Human-AI collaboration: A taxonomy of design knowledge for hybrid intelligence systems // Proc. Annu. Hawaii Int. Conf. Syst. Sci. 2019. pp. 274–283.
36. Sandkuhl K., Shilov N., Smirnov A. Facilitating Digital Transformation by Multi-Aspect Ontologies: Approach and Application Steps // IFAC-PapersOnLine. 2019. vol. 52. no. 13. p. 1609–1614.
37. Korzun D.G., Balandin S.I., Gurtov A.V. Deployment of Smart Spaces in Internet of Things: Overview of the Design Challenges. Conference on Internet of Things and Smart Spaces. 2013. pp. 48–59.
38. Roffia L., Morandi F., Kiljander J., D’Elia A., Vergari F., Viola F., Bononi L., Cinotti T.S. A Semantic Publish-Subscribe Architecture for the Internet of Things // IEEE Internet Things J. 2016. vol. 3. no. 6. pp. 1274–1296.
39. Shilov N., Ponomarev A., Smirnov A. The Analysis of Ontology-Based Neuro-Symbolic Intelligence Methods for Collaborative Decision Support // Informatics Autom. 2023. vol. 22. no. 3. pp. 576–615.
40. The PROV Ontology. URL: https://www.w3.org/TR/prov-o/ (accessed: 28.01.2020).
41. Spetzler C., Winter H., Meyer J. Decision Quality: Value Creation from Better Business Decisions. Wiley, 2016. 256 p.
42. Fayoumi A.G. Evaluating the Effectiveness of Decision Support System: Findings and Comparison // International Journal of Advanced Computer Science and Applications. 2018. vol. 9. no. 10. pp. 195–200.
43. Straka G.A. Measurement and evaluation of competence. Luxembourg, 2004. 263–311 p.
44. Is Your Team Too Big? Too Small? What’s the Right Number? // Knowledge at Wharton Podcast. Knowledge at Wharton. 2006. vol. 14.
45. Katzenbach J.R., Smith D.K. The Wisdom of Teams: Creating the High-Performance Organization. Reprint ed. Harvard: Harvard Business Review Press, 2015. 304 p.
46. LaFasto F., Larson C. When Teams Work Best: 6,000 Team Members and Leaders Tell What it Takes to Succeed. 1st ed. SAGE Publications, Inc, 2001. 256 p.
47. Robbins S.P., Judge T.A. Organizational Behavior. 12th ed. Upper Saddle River: Prentice Hall, 2006. 792 p.
48. Методические рекомендации по выбору эффективных некапиталоемких мероприятий по снижению аварийности в местах концентрации дорожно-транспортных происшествий на автомобильных дорогах общего пользования: ОДМ 218.6.025–2017. Москва, 2020. 46 p.
49. Руководство по устранению и профилактике возникновения участков концентрации ДТП при эксплуатации автомобильных дорог: ОДМ 218.4.004-2009. Москва, 2009. 94 с.
2. Smirnov A., Shilov N., Ponomarev A., Schekotov M. Human-computer cloud: Application platform and dynamic decision support // CLOSER 2019 – Proceedings of the 9th International Conference on Cloud Computing and Services Science. 2019. vol. 1. pp. 120–131.
3. Retelny D., Bernstein M.S., Valentine M.A. No Workflow Can Ever Be Enough: How Crowdsourcing Workflows Constrain Complex Work // Proc. ACM Human-Computer Interact. 2017. vol. 1. no. 2.
4. Valentine M.A., Retelny D., To A., Rahmati N., Doshi T., Bernstein M.S. Flash Organizations: Crowdsourcing Complex Work By Structuring Crowds As Organizations // Proceedings of the 2017 CHI Conference on Human Factors in Computing Systems – CHI ’17. 2017. pp. 3523–3537.
5. Salehi N. et al. Huddler: Convening stable and familiar crowd teams despite unpredictable availability // Proc. ACM Conf. Comput. Support. Coop. Work (CSCW). 2017. pp. 1700–1713.
6. Lykourentzou I., Vinella F., Ahmed F., Papastathis C., Papangelis K., Khan V.-J., Masthoff J. Self-organization in online collaborative work settings // Collect. Intell. 2022. vol. 1(1). no. 263391372210780.
7. Terveen L.G. Overview of human-computer collaboration // Knowledge-Based Syst. 1995. vol. 8. no. 2–3. pp. 67–81.
8. Elmarzouqi N., Garcia E., Lapayre J.-C. CSCW from Coordination to Collaboration. 11th International Conference CSCWD. 2008. pp. 87–98.
9. Karacapilidis N., Tampakas V. On the Exploitation of Collaborative Argumentation Structures for Inducing Reasoning Behavior // Proceedings of the 18th International Conference on WWW/Internet 2019. IADIS Press, 2019. pp. 78–84.
10. Adla A., Zarate P., Soubie J.-L. A Proposal of Toolkit for GDSS Facilitators // Gr. Decis. Negot. 2011. vol. 20. no. 1. pp. 57–77.
11. Bittner E., Shoury O. Designing Automated Facilitation for Design Thinking: A Chatbot for Supporting Teams in the Empathy Map Method // Proc. 52nd Hawaii Int. Conf. Syst. Sci. 2019. pp. 227–236.
12. Gu W., Moustafa A.A., Ito T., Zhang M., Yang C. A case-based reasoning approach for automated facilitation in online discussion systems // KICSS 2018 – 13th Int. Conf. Knowledge, Inf. Creat. Support Syst. Proc. 2018. vol. 30. pp. 719–742. DOI: 10.1007/s10726-021-09731-4.
13. Kolfschoten G.L., De Vreede G.J. The collaboration engineering approach for designing collaboration processes // Proceedings of the 13th International Workshop, CRIWG 2007. 2007. vol. 4715 LNCS. pp. 95–110.
14. Ito T. et al. D-Agree: Crowd Discussion Support System Based on Automated Facilitation Agent // Proc. AAAI Conf. Artif. Intell. 2020. vol. 34. no. 09. pp. 13614–13615.
15. Смирнов А.В., Левашова Т.В., Пономарев А.В. Онтологическая модель поддержки принятия решений на основе человеко-машинного коллективного интеллекта // Искусственный интеллект и принятие решений. 2020. № 3. pp. 48–60.
16. Lee M.H., Siewiorek D.P., Smailagic A., Bernardino A., Bermúdez i Badia S.B. A Human-AI Collaborative Approach for Clinical Decision Making on Rehabilitation Assessment // Proceedings of the 2021 CHI Conference on Human Factors in Computing Systems. 2021. pp. 1–14.
17. Bosch K., Bronkhorst A. Human-AI cooperation to benefit military decision making // Proceedings of Specialist Meeting Big Data & Artificial Intelligence for Military Decision Making. 2018.
18. Pohl J. Collaborative Decision-Support and the Human-Machine Relationship // A Decision-Making Tools Workshop. San Luis: Collaborative Agent Design Research Center, 2019. pp. 21–46.
19. Chen J., Lim C.P., Tan K.H., Govindan K., Kumar A. Artificial intelligence-based human-centric decision support framework: an application to predictive maintenance in asset management under pandemic environments // Ann. Oper. Res. 2021. DOI: 10.1007/s10479-021-04373-w.
20. Bouabdallaoui Y, Lafhaj Z., Yim P., Ducoulombier L., Bennadji B. Predictive Maintenance in Building Facilities: A Machine Learning-Based Approach // Sensors. 2021. vol. 21(4). no. 1044.
21. Kase S.E. et al. The Future of Collaborative Human-Artificial Intelligence Decision-Making for Mission Planning // Front. Psychol. 2022. vol. 13. DOI: 10.3389/fpsyg.2022.850628.
22. Puranam P. Human–AI collaborative decision-making as an organization design problem // Journal of Organization Design. 2021. vol. 10. no. 2. pp. 75–80.
23. Lai V., Carton S., Bhatnagar R., Liao V., Zhang Y., Tan C. Human-AI Collaboration via Conditional Delegation: A Case Study of Content Moderation // Proceedings of the 2022 CHI Conference on Human Factors in Computing Systems. 2022. pp. 1–18.
24. Cortes C., DeSalvo G., Mohri M. Learning with Rejection // Proceedings of the 27th International Conference on Algorithmic Learning Theory, ALT 2016. Cham: Springer, 2016. vol. 9925. pp. 67–82.
25. Fugener A., Grahl J., Gupta A., Ketter W. Cognitive Challenges in Human – Artificial Intelligence Collaboration: Investigating the Path Toward Productive Delegation // Inf. Syst. Res. 2022. vol. 33. no. 2. pp. 678–696.
26. Dellermann D, Calma A., Lipusch N., Weber T., Weigel S., Ebel P. The Future of Human-AI Collaboration: A Taxonomy of Design Knowledge for Hybrid Intelligence Systems // Proceedings of the 52nd Annual Hawaii International Conference on System Sciences. 2019. pp. 274–283.
27. Peleteiro A. et al. Using reputation and adaptive coalitions to support collaboration in competitive environments // Eng. Appl. Artif. Intell. 2015. vol. 45. pp. 325–338.
28. Burkart N., Huber M.F. A survey on the explainability of supervised machine learning // Journal of Artificial Intelligence Research. 2021. vol. 70. pp. 245–317.
29. Smirnov A., Ponomarev A., Levashova T. Towards a Methodology for Developing Human-AI Collaborative Decision Support Systems // International Conference on Computer-Human Interaction Research and Applications. Springer, Cham, 2023. pp. 69–88.
30. Smirnov A., Levashova T., Ponomarev A., Shilov N.Methodology for Multi-Aspect Ontology Development: Ontology for Decision Support Based on Human-Machine Collective Intelligence // IEEE Access. 2021. vol. 9. pp. 135167–135185.
31. de Sousa Ribeiro M., Leite J. Aligning Artificial Neural Networks and Ontologies towards Explainable AI // Proceedings of the AAAI Conference on Artificial Intelligence. 2021. vol. 35. no. 6. pp. 4932–4940.
32. Seeliger A., Pfaff M., Krcmar H. Semantic web technologies for explainable machine learning models: A literature review // Joint Proceedings of the 6th International Workshop on Dataset PROFlLing and the 1st Workshop on Semantic Explainability with the 18th International Semantic Web Conference (ISWC). 2019. vol. 2465. pp. 30–45.
33. Smirnov A., Ponomarev A. Stimulating Self-Organization in Human-Machine Collective Intelligence Environment // 2021 IEEE Conference on Cognitive and Computational Aspects of Situation Management (CogSIMA). IEEE, 2021. pp. 94–102.
34. Xiong W., Fan H., Ma L., Wang C. Challenges of human—machine collaboration in risky decision-making // Frontiers of Engineering Management. 2022. vol. 9. no. 1. pp. 89–103.
35. Dellermann D., Calma A., Lipusch N., Weber T., Weigel S., Ebel P. The future of Human-AI collaboration: A taxonomy of design knowledge for hybrid intelligence systems // Proc. Annu. Hawaii Int. Conf. Syst. Sci. 2019. pp. 274–283.
36. Sandkuhl K., Shilov N., Smirnov A. Facilitating Digital Transformation by Multi-Aspect Ontologies: Approach and Application Steps // IFAC-PapersOnLine. 2019. vol. 52. no. 13. p. 1609–1614.
37. Korzun D.G., Balandin S.I., Gurtov A.V. Deployment of Smart Spaces in Internet of Things: Overview of the Design Challenges. Conference on Internet of Things and Smart Spaces. 2013. pp. 48–59.
38. Roffia L., Morandi F., Kiljander J., D’Elia A., Vergari F., Viola F., Bononi L., Cinotti T.S. A Semantic Publish-Subscribe Architecture for the Internet of Things // IEEE Internet Things J. 2016. vol. 3. no. 6. pp. 1274–1296.
39. Shilov N., Ponomarev A., Smirnov A. The Analysis of Ontology-Based Neuro-Symbolic Intelligence Methods for Collaborative Decision Support // Informatics Autom. 2023. vol. 22. no. 3. pp. 576–615.
40. The PROV Ontology. URL: https://www.w3.org/TR/prov-o/ (accessed: 28.01.2020).
41. Spetzler C., Winter H., Meyer J. Decision Quality: Value Creation from Better Business Decisions. Wiley, 2016. 256 p.
42. Fayoumi A.G. Evaluating the Effectiveness of Decision Support System: Findings and Comparison // International Journal of Advanced Computer Science and Applications. 2018. vol. 9. no. 10. pp. 195–200.
43. Straka G.A. Measurement and evaluation of competence. Luxembourg, 2004. 263–311 p.
44. Is Your Team Too Big? Too Small? What’s the Right Number? // Knowledge at Wharton Podcast. Knowledge at Wharton. 2006. vol. 14.
45. Katzenbach J.R., Smith D.K. The Wisdom of Teams: Creating the High-Performance Organization. Reprint ed. Harvard: Harvard Business Review Press, 2015. 304 p.
46. LaFasto F., Larson C. When Teams Work Best: 6,000 Team Members and Leaders Tell What it Takes to Succeed. 1st ed. SAGE Publications, Inc, 2001. 256 p.
47. Robbins S.P., Judge T.A. Organizational Behavior. 12th ed. Upper Saddle River: Prentice Hall, 2006. 792 p.
48. Методические рекомендации по выбору эффективных некапиталоемких мероприятий по снижению аварийности в местах концентрации дорожно-транспортных происшествий на автомобильных дорогах общего пользования: ОДМ 218.6.025–2017. Москва, 2020. 46 p.
49. Руководство по устранению и профилактике возникновения участков концентрации ДТП при эксплуатации автомобильных дорог: ОДМ 218.4.004-2009. Москва, 2009. 94 с.
Опубликован
2024-06-26
Как цитировать
Смирнов, А. В., Пономарев, А. В., Шилов, Н. Г., Левашова, Т. В., & Тесля, Н. Н. (2024). Концепция построения коллаборативных систем поддержки принятия решений: подход и архитектура платформы. Информатика и автоматизация, 23(4), 1139-1172. https://doi.org/10.15622/ia.23.4.8
Раздел
Искусственный интеллект, инженерия данных и знаний
Copyright (c) Андрей Васильевич Пономарев, Александр Викторович Смирнов, Татьяна Викторовна Левашова, Николай Николаевич Тесля, Николай Германович Шилов
Это произведение доступно по лицензии Creative Commons «Attribution» («Атрибуция») 4.0 Всемирная.
Авторы, которые публикуются в данном журнале, соглашаются со следующими условиями: Авторы сохраняют за собой авторские права на работу и передают журналу право первой публикации вместе с работой, одновременно лицензируя ее на условиях Creative Commons Attribution License, которая позволяет другим распространять данную работу с обязательным указанием авторства данной работы и ссылкой на оригинальную публикацию в этом журнале. Авторы сохраняют право заключать отдельные, дополнительные контрактные соглашения на неэксклюзивное распространение версии работы, опубликованной этим журналом (например, разместить ее в университетском хранилище или опубликовать ее в книге), со ссылкой на оригинальную публикацию в этом журнале. Авторам разрешается размещать их работу в сети Интернет (например, в университетском хранилище или на их персональном веб-сайте) до и во время процесса рассмотрения ее данным журналом, так как это может привести к продуктивному обсуждению, а также к большему количеству ссылок на данную опубликованную работу (Смотри The Effect of Open Access).