Метод побудови темпорально узгоджених пояснень в інтелектуальних системах на основі темпоральних графових нейронних мереж
DOI:
https://doi.org/10.30837/bi.2026.1(104).11Ключові слова:
ТЕМПОРАЛЬНО УЗГОДЖЕНІ ПОЯСНЕННЯ, ПОЯСНЮВАНИЙ ШТУЧНИЙ ІНТЕЛЕКТ, ТЕМПОРАЛЬНІ ГРАФОВІ НЕЙРОННІ МЕРЕЖІ, ІНТЕРВАЛЬНА АЛГЕБРА, ІНТЕГРОВАНІ ГРАДІЄНТИ, ВЕЛИКІ МОВНІ МОДЕЛІАнотація
Розглянуто проблему побудови пояснень з урахуванням порядку у часі вхідних даних інтелектуальних систем, вирішення якої потребує забезпечення темпоральної узгодженості каузальних зв'язків між подіями у згенерованих поясненнях. Розроблено інтервальний підхід до формалізації темпоральних відношень між подіями на основі тринадцяти базових відношень інтервальної алгебри з транзитивним поширенням обмежень для виявлення неявних темпоральних протиріч. Запропоновано метод побудови темпорально узгоджених пояснень, що включає обчислення внеску подій через інтегровані градієнти, гібридну генерацію пояснень природною мовою на основі шаблонів та донавченої великої мовної моделі, автоматизовану верифікацію темпоральної коректності з використанням інтервальної алгебри та оновлення фрагментів пояснень із темпоральними порушеннями Метод забезпечує можливість формування пояснень для систем з упорядкованими у часі вхідними даними в критичних предметних областях, включаючи рекомендаційні системи електронної комерції, медичну діагностику, фінансові системи підтримки рішень, де необхідні як інтерпретованість рішень, так і верифікація коректності темпоральних залежностей між подіями.
Посилання
Regulation (EU) 2024/1689 of the European Parliament and of the Council on Artificial Intelligence (AI Act) // Official Journal of the European Union. 2024. L 1689. P. 1–144. URL: https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX:32024R1689
Longo L., Goebel R., Lecue F., Kieseberg P., Holzinger A. Explainable Artificial Intelligence: Concepts, Applications, Research Challenges and Visions // Machine Learning and Knowledge Extraction. Springer, 2020. Vol. 1. P. 1–16. DOI: https://doi.org/10.1007/978-3-030-57321-8_1
Ying R., Bourgeois D., You J., Zitnik M., Leskovec J. GNNExplainer: Generating Explanations for Graph Neural Networks // Advances in Neural Information Processing Systems (NeurIPS). 2019. Vol. 32. P. 9240–9251. URL: https://proceedings.neurips.cc/paper/2019/hash/d80b7040b773199015de6d3b4293c8ff-Abstract.html
Sundararajan M., Taly A., Yan Q. Axiomatic Attribution for Deep Networks // Proceedings of the 34th International Conference on Machine Learning (ICML). 2017. Vol. 70. P. 3319–3328. DOI: https://doi.org/10.48550/arXiv.1703.01365
Rossi E., Chamberlain B., Frasca F., Eynard D., Monti F., Bronstein M. Temporal Graph Networks for Deep Learning on Dynamic Graphs // Proceedings of the 37th International Conference on Machine Learning (ICML). 2020. P. 8230–8240. DOI: https://doi.org/10.48550/arXiv.2006.10637
Xu K., Hu W., Leskovec J., Jegelka S. How Powerful are Graph Neural Networks? // Proceedings of the 7th International Conference on Learning Representations (ICLR). 2019. P. 1–17. DOI: https://doi.org/10.48550/arXiv.1810.00826
Чалий С. Ф., Кравченко Р. В. Метод адаптивного вибору інтервалів часу для побудови графів темпоральних графових нейронних мереж // Вісник Національного технічного університету "ХПІ". Серія: Системний аналіз, управління та інформаційні технології. 2025. № 2(14). С. 129–139. DOI: https://doi.org/10.20998/2079-0023.2025.02.19
Чалий С. Ф., Кравченко Р. В. Графова нейронна мережа для темпорально упорядкованих даних в задачі побудови пояснень в інтелектуальній системі // Автоматизовані системи управління та прилади автоматики. 2025. Вип. 185. С. 77–86. DOI: https://doi.org/10.30837/0135-1710.2025.185.077
Tan Q., Ng H. T., Bing L. Towards Benchmarking and Improving the Temporal Reasoning Capability of Large Language Models // Proceedings of the 61st Annual Meeting of the Association for Computational Linguistics (ACL). 2023. Vol. 1. P. 14820–14835. DOI: https://doi.org/10.18653/v1/2023.acl-long.828
Wiegreffe S., Marasović A. Teach Me to Explain: A Review of Datasets for Explainable NLP // Proceedings of the 35th Conference on Neural Information Processing Systems (NeurIPS). 2021. P. 1–14. DOI: https://doi.org/10.48550/arXiv.2102.12060
Levykin V., Chala O. Method of Determining Weights of Temporal Rules in Markov Logic Network for Building Knowledge Base in Information Control Systems // EUREKA: Physics and Engineering. 2018. No. 5. P. 3–10. DOI: https://doi.org/10.21303/2461-4262.2018.00713
Allen J. F. Maintaining Knowledge about Temporal Intervals // Communications of the ACM. 1983. Vol. 26. No. 11. P. 832–843. DOI: https://doi.org/10.1145/182.358434
Chomicki J., Toman D. Temporal Databases // Handbook of Temporal Reasoning in Artificial Intelligence. Elsevier, 2005. P. 429–467. DOI: https://doi.org/10.1016/S1574-6526(05)80015-6
14. Leucker M., Schallhart C. A Brief Account of Runtime Verification // Journal of Logic and Algebraic Programming. 2009. Vol. 78. No. 5. P. 293–303. DOI: https://doi.org/10.1016/j.jlap.2008.08.004
