Метод побудови нейросимвольного представлення ментальної моделі рішення інтелектуальної системи
DOI:
https://doi.org/10.30837/bi.2025.2(103).14Ключові слова:
МЕНТАЛЬНІ МОДЕЛІ, НЕЙРОСИМВОЛЬНИЙ ШТУЧНИЙ ІНТЕЛЕКТ, ПОЯСНЮВАНИЙ ШТУЧНИЙ ІНТЕЛЕКТ, ОРІЄНТОВАНІ АЦИКЛІЧНІ ГРАФИ, ЛІНІЙНА ТЕМПОРАЛЬНА ЛОГІКА, ПЕРСОНАЛІЗОВАНІ ПОЯСНЕННЯАнотація
Розглянуто методи побудови ментальних моделей рішень інтелектуальних систем на основі інтеграції нейромережевих і символьних компонентів. Розроблено метод побудови нейросимвольного представлення ментальної моделі, який базується на двошаровій нейросимвольній архітектурі з можливістю виявлення прихованих ознак, відбору значущих ознак та механізмом нейросимвольного перетворення для відображення скритих представлень у символьні концепції. Метод містить етапи вилучення прихованих ознак, відбору ознак на основі уваги, нейросимвольного перетворення, побудови орієнтованого ациклічного графа для каузальної структури та перевірки каузальності з використанням лінійної темпоральної логіки. Метод створює умови для автоматизованого виявлення індивідуальних ментальних моделей користувачів із можливостями їх інтерпретації згідно з особливостями предметної області, а також побудови персоналізованих пояснень у системах пояснювального штучного інтелекту
Посилання
Kautz H. The third AI summer: AAAI Robert S. Engelmore memorial lecture / H. Kautz // AI Magazine. – 2022. – Vol. 43, No. 1. – P. 93–104. DOI: https://doi.org/10.1002/aaai.12036.
Gunning D. DARPA’s explainable artificial intelligence (XAI) program / D. Gunning, D. Aha // AI Magazine. – 2019. – Vol. 40, No. 2. – P. 44–58. DOI: https://doi.org/10.1609/aimag.v40i2.2850.
Chalyi S. Externalization of tacit knowledge in the mental model of a user of an artificial intelligence system / S. Chalyi, I. Leshchynska // Bulletin of National Technical University "KhPI". Series: System Analysis, Control and Information Technologies. – 2024. – Vol. 1. – P. 91–96. https://doi.org/10.20998/2079-0023.2024.01.15.
Johnson-Laird P. N. Mental models and human reasoning / P. N. Johnson-Laird // Proceedings of the National Academy of Sciences. – 2010. – Vol. 107, No. 43. – P. 18243–18250. DOI: https://doi.org/10.1073/pnas.1012933107.
Hoefer M. Designing AI systems for mental model development / M. Hoefer, A. Felfernig // CEUR Workshop Proceedings. – 2025. – Vol. 3957. – P. 9–14.
Bansal G. Updates in human-AI teams: Understanding and addressing the performance/compatibility tradeoff / G. Bansal, T. Wu, J. Zhou, et al. // Proceedings of the AAAI Conference on Artificial Intelligence. – 2019. – Vol. 33, No. 1. – P. 2429–2437. DOI: doi: 10.1609/aaai.v33i01.33012429.
Чалий С.Ф., Лещинська І.О. Уточнення ментальної моделі рішення на основі доповнення вхідних даних в задачі формування пояснень в інтелектуальній системі. АСУ та прилади автоматики. − 2024. − Вип. 182. − С.66-72. https://doi.org/ 10.30837/0135-1710.2024.182.066
Sarker M. K. Neuro-symbolic artificial intelligence: Current trends / M. K. Sarker, L. Zhou, A. Eberhart, et al. // 10.48550/arXiv.2105.05330.
Hitzler P. Neuro-symbolic integration for AI / P. Hitzler, A. Eberhart, M. Ebrahimi, et al. // Neuro-Symbolic Artificial Intelligence: The State of the Art. – National Science Review. 9. 10.1093/nsr/nwac035.
Mao J. The neuro-symbolic concept learner: Interpreting scenes, words, and sentences from natural supervision / J. Mao, C. Gan, P. Kohli, et al. // 10.48550/arXiv.1904.12584. – 2019.
Verma S. Counterfactual Explanations for Machine Learning: A Review/ Verma, Sahil & Dickerson, John & Hines, Keegan. // 10.48550/arXiv.2010.10596. – 2020.
Koh P. W. Concept bottleneck models / P. W. Koh, T. Nguyen, Y. S. Tang, et al. // Proceedings of the 37th International Conference on Machine Learning (ICML). – 2020. – P. 5338–5348.
Чалий С. Ф. Концептуальна ментальна модель пояснення в системі штучного інтелекту / С. Ф. Чалий, І. О. Лещинська // Вісник Національного технічного університету «ХПІ». Серія: Системний аналіз, управління та інформаційні технології. – 2023. – № 1(9). – С. 70–75. DOI: https://doi.org/10.20998/2079-0023.2023.01.11
Chalyi S. A dynamic explanation model for human-computer interaction in an artificial intelligence system / S. Chalyi, I. Leshchynska // Advanced Information Systems. – 2020. – Vol. 4(4) 1. – P. 114–119. https://doi.org/10.20998/2522-9052.2020.4.16
Чала О. В. Модель узагальненого представлення темпоральних знань для інтелектуальних систем підтримки прийняття рішень / О. В. Чала // Вісник Національного технічного університету «ХПІ». Системний аналіз, управління та інформаційні технології. – 2020. – Вип. 1(3). – С. 14–18. DOI: 10.20998/2079-0023.2020.01.03
Levykin V. Development of a method of probabilistic inference of sequences of business process activities to support business process management / V. Levykin, O. Chala // Eastern-European Journal of Enterprise Technologies. – 2018. – Vol. 5, No. 3(95). – P. 16–24. DOI: https://doi.org/10.15587/1729-4061.2018.142664.
