Methodological principles of assessing the impact of artificial intelligence on the information security of management systems of enterprises

Abstract

Дослідження присвячене актуальній проблемі забезпечення кібербезпеки сучасних підприємств у контексті широкого впровадження технологій штучного інтелекту (ШІ). З огляду на зростання кількості та складності кіберзагроз, автори детально аналізують, як ШІ може бути ефективним інструментом для виявлення та протидії таким загрозам, а також виклики, пов'язані з його використанням. У статті розглядаються змагальні атаки, атаки з отруєнням даних та використання deepfake-технологій як інструменти маніпуляцій в кіберпросторі. Автори пропонують сучасний підхід до оцінки кіберризиків, заснований на модифікації методу GRS, що дозволяє класифікувати інформаційні активи підприємств за рівнем вразливості та розробляти ефективні стратегії захисту на основі визначення пріоритетів у сфері кібербезпеки. Практичне застосування запропонованого підходу продемонстровано у кейс-стаді на прикладі платформи Google Drive. У дослідженні використано генеративну модель штучного інтелекту Gemini, яка дозволяє виявляти слабкі місця у системах безпеки, аналізувати потенційні ризики та надавати рекомендації щодо усунення вразливостей. Разом із перевагами впровадження ШІ, такими як автоматизація процесів моніторингу, аналіз великих обсягів даних у реальному часі та прогнозування потенційних загроз, дослідження виявило ряд викликів. Зокрема, складність налаштування та обслуговування систем, необхідність спеціальних знань для їх підтримки, проблема прозорості алгоритмів та ризики маніпуляцій і атак з боку зловмисників. Автори підкреслюють важливість підвищення кваліфікації персоналу для роботи з ШІ-системами, що включає як технічні знання, так і розуміння ризиків кіберпростору. Окремо наголошено на необхідності розробки чітких політик використання цих технологій. Результати дослідження підтверджують, що штучний інтелект може суттєво підвищити рівень кібербезпеки багатопрофільних підприємств, однак вимагає комплексного підходу. Для ефективного використання технології автори рекомендують вдосконалити алгоритми виявлення атак, інтегрувати етичні принципи в роботу систем і розробку стратегій довготривалого розвитку кіберстійкості підприємств.

The study focuses on the urgent problem of ensuring cybersecurity of modern enterprises in the context of the widespread implementation of artificial intelligence (AI) technologies. Given the growing number and complexity of cyberthreats, the authors analyze in detail how AI can be an effective tool for detecting and countering cyber threats, as well as the challenges associated with its use. The article discusses adversarial attacks, data poisoning attacks, and the use of deepfake technologies as tools for manipulation in cyberspace. The authors propose a modern approach to assessing cyber risks based on a modification of the GRS method, which allows classifying information assets of enterprises by level of vulnerability and developing effective protection strategies based on identification of cybersecurity priorities. The practical application of the proposed approach is demonstrated in a case study using the Google Drive platform as a example. The research uses generative artificial intelligence model Gemini, which allows identifying weaknesses in security systems, analyzing potencial risks and providing recommendations for eliminating vulnerabilities. Along with the benefits of AI implementation, such as automation of monitoring processes, analyzing big amounts of data in real time and predicting potencial threats, the study identified a num-ber of challenges. In particular, the complexity of configuring and maintaining systems, the need for specialized knowledge to support them, the problem of algorithm transparency, and the risks of manipulation and attacks by intruders. The authors emphasize the importance of staff training for work with AI systems, including both technical knowledge and understanding of cyberspace risks. The need to develop clear policies for the use of these technolo-gies is particularly emphasized. The study findings confirm that artificial intelligence can significantly improve the cybersecurity of multidisciplinary enterprises, but it requires a comprehensive approach. For effective use of the technology, the authors recommend improving attack detection algorithms, integrating ethical principles into the operation of systems, and developing strategies for the long-term development of enterprise cyber resilience.