Інформаційна технологія забезпечення резільєнтності систем штучного інтелекту для захисту кібер-фізичних систем

Abstract

Під час виконання НДР систематизовано методи забезпечення резільєнтності систем штучного інтелекту на різних етапах протидії різнотипним збурюючим впливам. Крім того було запропоновано метод підвищення резільєнтності інтелектуальної системи до деструктивних збурень шляхом ресурсоефективного доповнення моделі аналізу даних згортковими адаптерами та мета-адаптерами, які оптимізуються в процесі мета-навчання. Для навчання адаптерів та мета-адаптерів розроблено градієнтний метод мета-навчання, що здійснює оптимізацію резільєнтності системи штучного інтелекту до протиборчих атак, відмов у пам’яті та зміни задач. Отримали подальшого розвитку методи мета-навчання нейронних мереж для оптимізації недиференційованих метрик продуктивності і резільєнтності шляхом оцінювання градієнту на результатах адаптації зі збуреними версіями параметрів. Експериментально доведено перевагу мета-навчання на результатах адаптації до синтетичних збурень з точки зору резільєнтності до нових реалізацій збурень порівняно зі звичайним навчання в умовах дії збурень.

During the scientific research work, methods for ensuring the resilience of artificial intelligence systems were systematically organized at various stages of countering different types of disruptive influences. Additionally, a method for enhancing the resilience of an intelligent system to destructive disturbances was proposed, through resource-efficient augmentation of the data analysis model with convolutional adapters and meta-adapters, which are optimized during meta-learning. A gradient method for meta-learning was developed to train these adapters and meta-adapters, optimizing the resilience of the artificial intelligence system to adversarial attacks, memory failures, and task changes. Further developments were made in the methods of meta-learning of neural networks for optimizing non-differentiable performance and resilience metrics by evaluating the gradient on the results of adaptation with disturbed versions of parameters. The advantage of meta-learning in adapting to synthetic disturbances in terms of resilience to new implementations of disturbances compared to conventional training under disturbance conditions was experimentally proven.