Система аналізу архітектури програмних застосунків з метою виявлення вразливостей повʼязаних з використанням штучного інтелекту

Abstract

Швидкий розвиток сучасних інформаційних технологій та їх інтеграція в усі сфери діяльності людини ставить нові виклики перед науковою спільнотою. Однією з найбільш значущих проблем є забезпечення надійності та безпеки програмних застосунків, особливо тих, що використовують методи штучного інтелекту. З розвитком машинного навчання та глибокого навчання, все більше програмних рішень базуються на автоматизованих системах прийняття рішень, які часто стають важливими компонентами критичних інфраструктур, таких як фінансові установи, охорона здоров’я, транспортні системи та державні установи. Використання штучного інтелекту надає численні переваги, включаючи можливість аналізувати великі обсяги даних, підвищувати ефективність операцій та автоматизувати рутинні процеси. Однак, разом із впровадженням таких технологій зростає кількість загроз, пов’язаних із потенційними вразливостями в архітектурі таких програмних застосунків. Однією з основних проблем є те, що з використанням штучного інтелекту збільшується складність програмних систем, що, в свою чергу, створює нові ризики для інформаційної безпеки. Часто вразливості залишаються невиявленими або ігноруються на стадії розробки через недостатню увагу до безпеки архітектури. Багато досліджень у цій сфері зосереджені на проблемах розпізнавання патернів атак або захисту від зовнішніх загроз, однак внутрішні вразливості, які виникають через неправильну або недостатньо ретельну архітектуру програмного застосунку, залишаються менш дослідженими. Ці вразливості можуть включати неефективне використання ресурсів, некоректну роботу з даними, а також можливості для обходу безпекових механізмів, що створює додаткові ризики для організацій. У контексті України, актуальність цього питання набуває ще більшої ваги з огляду на важливість розвитку інформаційних технологій у державному та приватному секторах. Захист інформаційних ресурсів є одним із пріоритетних напрямів у забезпеченні національної безпеки, особливо в умовах активних кібератак та гібридної війни. Вразливості у програмних системах можуть призвести не лише до фінансових збитків, але й до компрометації критично важливих об’єктів інфраструктури. Окрім того, із зростанням кількості програмних рішень, які використовують штучний інтелект для автоматизації процесів у державному управлінні, економіці та оборонній сфері, необхідність у дослідженні архітектури таких систем стає вкрай важливою.