Метод побудови нейросимвольного представлення ментальної моделі рішення інтелектуальної системи
DOI:
https://doi.org/10.30837/bi.2026.1(104).10Ключові слова:
УЗАГАЛЬНЕНА СИМВОЛЬНА МЕНТАЛЬНА МОДЕЛЬ, ПОЯСНЮВАНИЙ ШТУЧНИЙ ІНТЕЛЕКТ, ДОМЕННІ ОНТОЛОГІЇ, КАУЗАЛЬНІ ПРАВИЛА, БАЗА ФАКТІВ, ПЕРСОНАЛІЗОВАНІ ПОЯСНЕННЯАнотація
Розглянуто проблему побудови ментальних моделей рішень інтелектуальних систем для зовнішніх користувачів, вирішення якої потребує побудови прозорих пояснень, адаптованих до предметної області та рівня підготовки користувача. Запропоновано узагальнену трирівневу символьну ментальну модель, що включає концептуальний рівень абстракцій рішень, рівень пояснень на основі каузальних правил і базу фактів, які об’єднані функцією вертикальної композиції, що забезпечує можливість керованої деталізації пояснень. Розроблено алгоритм автоматизованої побудови узагальненої моделі на основі доменної онтології, каузальних послідовностей міркування та даних користувачів, який забезпечує персоналізовані пояснення з урахуванням рівня підготовки цих користувачів. Модель забезпечує можливість формування пояснень для новачків, користувачів середнього рівня та експертів, що дає змогу узгоджувати глибину деталізації з когнітивними можливостями аудиторії та вимогами до верифікації рішень у високоризикових предметних областях, включаючи медичну діагностику, фінансові системи підтримки рішень та інші критичні застосування, де необхідні як інтерпретованість, так і відтворюваність ланцюжків міркувань.
Посилання
Lundberg, S. M., & Lee, S.-I. (2017). A unified approach to interpreting model predictions. In Advances in Neural Information Processing Systems, 30 (pp. 4765–4774). Curran Associates. https://arxiv.org/abs/1705.07874
Ribeiro, M. T., Singh, S., & Guestrin, C. (2016). "Why should I trust you?" Explaining the predictions of any classifier. In Proceedings of the 22nd ACM SIGKDD International Conference on Knowledge Discovery and Data Mining (pp. 1135–1144). ACM. https://doi.org/10.1145/2939672.2939778
Aas, K., Jullum, M., & Løland, A. (2021). Explaining individual predictions when features are dependent: More accurate approximations to Shapley values. Artificial Intelligence, 298, Article 103502. https://doi.org/10.1016/j.artint.2021.103502
Molnar, C. (2022). Interpretable machine learning: A guide for making black box models explainable (2nd ed.). https://christophm.github.io/interpretable-ml-book/
Adadi, A., & Berrada, M. (2018). Peeking inside the black-box: A survey on explainable artificial intelligence (XAI). IEEE Access, 6, 52138–52160. https://doi.org/10.1109/ACCESS.2018.2870052
Ghassemi, M., Oakden-Rayner, L., & Beam, A. L. (2021). The false hope of current approaches to explainable artificial intelligence in health care. The Lancet Digital Health, 3(11), e745–e750. https://doi.org/10.1016/S2589-7500(21)00208-9
Ambalavanan, R., Snead, R. S., Marczika, J., Towett, G., Malioukis, A., & Mbogori-Kairichi, M. (2025). Ontologies as the semantic bridge between artificial intelligence and healthcare. Frontiers in Digital Health, 7, Article 1668385. https://doi.org/10.3389/fdgth.2025.1668385
Guizzardi, G., Fonseca, C. M., Almeida, J. P. A., Sales, T. P., Benevides, A. B., & Porello, D. (2022). Ontology-driven conceptual modeling as a service: Surveys, blueprints, and roadmaps for composable modeling platform. In Conceptual Modeling (pp. 3–18). Springer. https://doi.org/10.1007/978-3-031-17995-2_1
Hossain, D., & Chen, J. Y. (2025). A study on neuro-symbolic artificial intelligence: Healthcare perspectives. arXiv preprint. https://arxiv.org/abs/2503.18213
Olivares-Alarcos, A., Beßler, D., Khamis, A., Goncalves, P., Habib, M. K., Bermejo-Alonso, J., Barreto, M., Diab, M., Rosell, J., Quintas, J., Olszewska, J., Nakawala, H., Pignaton, E., Gyrard, A., Borgo, S., Alenya, G., Beetz, M., & Li, H. (2019). A review and comparison of ontology-based approaches to robot autonomy. The Knowledge Engineering Review, 34, Article e29. https://doi.org/10.1017/S0269888919000237
Bampi, D., Miranda, W. K. de M., & Almeida, J. L. V. (2025). Ontology-driven monitoring system for ambient assisted living. The Knowledge Engineering Review, 40, Article e3. https://doi.org/10.1017/S0269888924000250
Hoffman, R. R., Mueller, S. T., Klein, G., & Litman, J. (2018). Metrics for explainable AI: Challenges and prospects. arXiv preprint. https://arxiv.org/abs/1812.04608
Miller, T. (2019). Explanation in artificial intelligence: Insights from the social sciences. Artificial Intelligence, 267, 1–38. https://doi.org/10.1016/j.artint.2018.07.007
Zhang, Y., Liao, Q. V., & Bellamy, R. K. E. (2020). Effect of confidence and explanation on accuracy and trust calibration in AI-assisted decision making. In Proceedings of the 2020 Conference on Fairness, Accountability, and Transparency (pp. 295–305). ACM. https://doi.org/10.1145/3351095.3372852
Szymanski, M., Millecamp, M., & Verbert, K. (2021). Visual, textual or hybrid: The effect of user expertise on different explanations. In Proceedings of the 26th International Conference on Intelligent User Interfaces (pp. 109–119). ACM. https://doi.org/10.1145/3397481.3450662
Wang, X., & Yin, M. (2021). Are explanations helpful? A comparative study of the effects of explanations in AI-assisted decision-making. In Proceedings of the 26th International Conference on Intelligent User Interfaces (pp. 318–328). ACM. https://doi.org/10.1145/3397481.3450650
Weitz, K., Schiller, D., Schlagowski, R., Huber, T., & André, E. (2021). "Let me explain!": Exploring the potential of virtual agents in explainable AI interaction design. Journal on Multimodal User Interfaces, 15(2), 87–98. https://doi.org/10.1007/s12193-020-00332-0
Chazette, L., Brunotte, W., & Speith, T. (2021). Exploring explainability: A definition, a model, and a knowledge catalogue. In 2021 IEEE 29th International Requirements Engineering Conference (RE) (pp. 197–208). IEEE. https://doi.org/10.1109/RE51729.2021.00025
