Организациите все по-трудно контролират използването на изкуствен интелект (ИИ) от служителите си. Неодобрени приложения могат да получат достъп до корпоративни данни, да обработват чувствителна информация или да останат извън полезрението на ИТ екипите. Според WatchGuard решението изисква видимост върху три основни канала: идентичности и разрешения, лични акаунти и мрежов трафик.
Shadow AI обозначава използването на инструменти с ИИ без необходимото одобрение или контрол от организацията. За разлика от традиционния shadow IT, тези приложения могат да бъдат използвани без инсталиране на софтуер, което затруднява откриването им чрез стандартни проверки на крайните устройства.
Първият рисков канал възниква, когато служител предостави достъп на външно приложение до корпоративни ресурси чрез Microsoft или Google. Така инструмент за продуктивност или ИИ асистент може да получи разрешения за електронна поща, файлове, контакти и календари. Подобен механизъм се използва и при атаки чрез измамно предоставяне на OAuth разрешения.
Втората входна точка са личните акаунти. Когато служител използва публична услуга с личен профил, активността може да остане извън корпоративните системи за управление на идентичностите. Това създава риск чувствителни данни да бъдат качени или обработени без знанието на организацията.
Третият канал е мрежовият трафик. Достъпът до неодобрени AI услуги невинаги оставя следи в корпоративните акаунти или регистрите на предоставените разрешения. В тези случаи информацията във firewall логовете може да бъде единственият сигнал за използването на дадено приложение.
WatchGuard предлага подход за обединяване на тези източници на видимост чрез CloudDR, FireCloud Total Access и Firebox. CloudDR подпомага откриването на приложения, свързани чрез OAuth, и подозрителни разрешения в поддържани SaaS платформи. FireCloud Total Access добавя мрежова телеметрия от управлявани устройства, а Firebox предоставя информация за връзки към известни AI услуги.
Комбинирането на тези данни помага на организациите да установят кои приложения се използват, до какви ресурси имат достъп и кои дейности изискват проверка. Това може да подпомогне и подготовката на доказателства за съответствие с изисквания като GDPR, ISO 27001 и други приложими рамки.
Посоченият в материала на WatchGuard доклад IBM Cost of a Data Breach Report 2026 оценява средната цена на инцидентите, свързани със Shadow AI, на 5,39 млн. долара спрямо 4,99 млн. долара глобална средна стойност. Тези числа следва да се разглеждат в контекста на методологията и обхвата на доклада.
Целта не е да се забрани използването на ИИ, а то да бъде управлявано. Организациите се нуждаят от непрекъсната видимост върху приложенията, разрешенията и обмена на данни, за да ограничават риска, без да възпрепятстват полезните иновации.
