Academic Journal
Causal mental model of decision in the task of building explanations in intelligent information system
| Title: | Causal mental model of decision in the task of building explanations in intelligent information system |
|---|---|
| Source: | Management Information System and Devises; No. 183 (2024): "Management Information System and Devices"; 82-89 АСУ и приборы автоматики; № 183 (2024): "АСУ та прилади автоматики"; 82-89 АСУ та прилади автоматики; № 183 (2024): "АСУ та прилади автоматики"; 82-89 |
| Publisher Information: | Харківський національний університет радіоелектроніки, 2024. |
| Publication Year: | 2024 |
| Subject Terms: | пояснення, cause-and-effect relationship, причинно-наслідковий зв'язок, temporal dependency, каузальна ментальна модель, система штучного інтелекту, темпоральна залежність, causal dependency, інтелектуальна система, artificial intelligence system, causal mental model, каузальна залежність, explanation, intelligent system |
| Description: | The subject of research is the process of building causal mental models of intelligent system decisions. The aim is to develop a causal approach to building mental models of decisions in artificial intelligence systems to enable the construction and refinement of explanations according to the user's knowledge of the domain. Tasks: structuring mental models considering their properties in the aspect of forming explanations in intelligent systems; development of a causal mental model of intelligent system decision. Conclusions. The analysis of possibilities for using mental models in the task of building explanations has been performed, highlighting causal, analogical, folk, and dynamic models. The scientific novelty of the obtained results is as follows. A causal mental model of intelligent system decision is proposed, which contains a set of alternative representations of causes and effects of the obtained decision, taking into account the possibilities and limitations regarding the use of the decision. The model takes into account both positive and negative properties of the obtained result, which creates conditions for increasing the level of user trust. A formal representation of the causal mental model has been developed, containing temporally ordered rules that link input data as causes and properties of the obtained decision as effects. The rules are combined into alternatives, which makes it possible to select explanations according to input data constraints and limitations on the possibilities of using the intelligent system decision. Предметом дослідження є процес побудови каузальних ментальних моделей рішення інтелектуальної системи. Метою є розробка каузального підходу до побудови ментальних моделей рішення в системах штучного інтелекту для забезпечення можливості побудови та уточнення пояснення згідно зі знаннями користувача про предметну область. Задачі: структуризація ментальних моделей з урахуванням їхніх властивостей в аспекті формування пояснень в інтелектуальних системах; розробка каузальної ментальної моделі рішення інтелектуальної системи. Висновки. Виконано аналіз можливостей використання ментальних моделей в задачі побудови пояснень з виділенням каузальних, аналогічних, фольклорних та динамічних моделей. Наукова новизна отриманих результатів полягає в такому. Запропоновано каузальну ментальну модель рішення інтелектуальної системи, яка містить набір альтернативних представлень причин і наслідків отриманого рішення з урахуванням можливостей та обмежень щодо використання рішення. Модель враховує як позитивні, так і негативні властивості отриманого результату, що створює умови для підвищення рівня довіри користувачів. Розроблено формальне представлення каузальної ментальної моделі, що містить темпорально упорядковані правила, які пов'язують вхідні дані як причини та властивості отриманого рішення як наслідки. Правила об'єднуються в альтернативи, що дає можливість підбирати пояснення згідно з обмеженнями щодо вхідних даних та обмежень щодо можливостей використання рішення інтелектуальної системи. |
| Document Type: | Article |
| File Description: | application/pdf |
| Language: | Ukrainian |
| ISSN: | 0135-1710 |
| Access URL: | https://asu-pa.nure.ua/article/view/321168 |
| Accession Number: | edsair.scientific.p..90a5c178b0f3c7dc8d386ccb364ac77d |
| Database: | OpenAIRE |
| ISSN: | 01351710 |
|---|