Подходы к доказательству функциональной безопасности технических систем

Автоматика, связь, информатика. 2025. № 6. С. 23–27

Automation, communications, informatics. 2025. № 6. Р. 23–27

ИНФОРМАЦИОННАЯ БЕЗОПАСНОСТЬ

Научная статья

УДК 004.05

DOI: 10.62994/AT.2025.6.6.007

Подходы к доказательству функциональной безопасности технических систем

Мыськив Иван Иванович¹, Попов Илья Юрьевич², Заколдаев Данил Анатольевич³

¹Национальный исследовательский университет ИТМО, аспирант, Санкт-Петербург, Россия, Myskiv.i@itmo.ru

²Национальный исследовательский университет ИТМО, канд. техн. наук, Санкт-Петербург, Россия, iupopov@itmo.ru

³Национальный исследовательский университет ИТМО, доцент, канд. техн. наук, Санкт-Петербург, Россия, d.zakoldaev@itmo.ru

Аннотация. В статье анализируется влияние искусственного интеллекта на общую безопасность технических систем в сфере транспорта. Рассмотрены основные проблемы и угрозы безопасности. Приведены методы и процессы валидации, используемые для доказательства функциональной безопасности систем с искусственным интеллектом, описаны основные преимущества и недостатки применяемых методов.

Ключевые слова: БТС, доказательство безопасности, отказ, валидация, моделирование, искусственный интеллект, тестирование

Для цитирования: Мыськив И.И., Попов И.Ю., Заколдаев Д.А. Подходы к доказательству функциональной безопасности технических систем // Автоматика, связь, информатика. 2025. № 6. С. 23–27. DOI: 10.62994/AT.2025.6.6.007

INFORMATION SECURITY

Original article

Approaches to proving the functional safety of technical systems with artificial intelligence

Ivan I. Myskiv¹, Ilya Y. Popov², Danil A. Zakoldaev³

¹ITMO University, graduate student, St. Petersburg, Russia, Myskiv.i@itmo.ru

²ITMO University, Candidate of Technical Sciences, St. Petersburg, Russia, iupopov@itmo.ru

³ITMO University, Associate Professor, Candidate of Technical Sciences, St. Petersburg, Russia, d.zakoldaev@itmo.ru

Abstract. This article examines the impact of artificial intelligence on the overall safety of technical systems, the main methods of validation of systems operating on the basis of artificial intelligence in the field of transport. The main problems and security threats are considered. Validation methods and processes used to prove the functional safety of systems with artificial intelligence are presented, the main advantages and disadvantages of the methods used are described.

Keywords: ATS, security proof, failure, validation, modeling, artificial intelligence, testing

For citation: Myskiv I.I., Popov I.Yu., Zakoldaev D.A. Approaches to proving the functional safety of technical systems with artificial intelligence // Automation, communications, informatics. 2025. № 6. P. 23–27. DOI: 10.62994/AT.2025.6.6.007

Список источников

1. Waymo Safety Report. February 2021; pp. 48. URL https://storage.googleapis.com/waymo-uploads/files/documents/safety/2021-12-waymo-safety-report.pdf (дата обращения 12.10.2024).

2. Общие подходы к доказательству безопасности автономных систем / Розенберг Е.Н., Попов П.А., Талалаев Д.В., Ольшанский А.М., Бояринова Н.А. // Автоматика, связь, информатика. – 2022. – № 1. – С. 2–9. – DOI 10.34649/AT.2022.1.1.001. – EDN SGHYWQ.

3. Dondrup C, Bellotto N, Jovan F, Hanheide M. Real-time multisensor people tracking for human-robot spatial interaction. IEEE International Conference on Robotics and Automation (ICRA); 2015.

4. Li Y., Tao J., Wotawa F. Ontology-based test generation for automated and autonomous driving functions // Information and Software Technology. 2020. Vol. 117. 106200. DOI: https://doi.org/10.1016/j.infsof.2019.106200.

5. S. ML-Based fault injection for autonomous vehicles : a case for Bayesian fault injection / Jha et al. // 2019 49th Annual IEEE/IFIP International Conference on Dependable Systems and Networks (DSN). 2019. P. 112–124. DOI: 10.1109/DSN.2019.00025

6. Y. Zhang, L. Guo, B. Gao, T. Qu and H. Chen, «Deterministic Promotion Reinforcement Learning Applied to Longitudinal Velocity Control for Automated Vehicles», in IEEE Transactions on Vehicular Technology, vol. 69, no. 1, pp. 338–348, Jan. 2020, DOI: 10.1109/TVT.2019.2955959.7

7. A Retargetable Fault Injection Framework for Safety Validation of Autonomous Vehicles / Y. Fu, A. Terechko, T. Bijlsma, P.J.L. Cuijpers, J. Redegeld, A.O. Örs // 2019 IEEE International Conference on Software Architecture Companion (ICSA-C). Hamburg, 2019. P. 69–76. DOI: 10.1109/ICSA-C.2019.00020.

8. Traffic participants in the loop: a mixed reality-based interaction testbed for the verification and validation of autonomous vehicles / M.R. Zofka et al. // 2018 21st International Conference on Intelligent Transportation Systems (ITSC), Maui, HI, 2018. P. 3583–3590. DOI: 10.1109/ITSC.2018.8569226.

© Москва «Автоматика, связь, информатика» 2025