Кібербезпека ШІ-агентів вашої компанії

З'ясуйте, до чого мають доступ ваші ШІ-агенти, і встановіть
контроль. Агент, під'єднаний до пошти, документів чи API, додає
права й можливі шляхи помилок, які варто перевірити. Ми описуємо
погоджені системи, оцінюємо ризики, впроваджуємо схвалені засоби
контролю та випробовуємо обмежені дії. Ви отримуєте карту доступу,
висновки й записи перевірок.

Перелічено: кожен агент і все, до чого він має доступ

Описуємо агентів у погодженому обсязі: схвалені інтеграції та інші
з'єднання, виявлені разом із вашими працівниками. Для кожного карта
містить облікові дані, інструменти й доступні дані. Ви отримуєте
карту з висновками; відповідальність за її оновлення погоджуємо під
час передачі. Межі перевірки та прогалини зазначаємо явно.

Замкнено: кожен агент із найменшими привілеями

Кожен агент отримує власний обліковий запис і найменший привілей,
потрібний для його роботи: доступ через ролі (RBAC), а не через
спільні акаунти, лише читання за замовчуванням, а запис — тільки
через вузькі інструменти з лімітами на частоту й обсяг. Секрети
розділено за агентами й хостами, вони ніколи не потрапляють у промпт
і змінюються без правок у коді. Зовнішній текст, який читає агент, —
лист, вебсторінку чи документ — обробляємо як недовірені дані. Права
інструментів і перевірки забезпечують погоджені межі; повідомлення
«ігноруй свої правила» не є дозволом на дію. Захист працює за
принципом fail-closed: якщо перевірку неможливо виконати, дію
відхиляють.

Записано: що агент зробив і для кого

Кожен виклик інструмента записується в журнал: для кого діяв агент,
про що його попросили, чого він торкнувся і що отримав у відповідь,
— а журнал зберігається там, де сам агент не може його змінити.
Сповіщення налаштовуємо за погодженими для системи правилами. Вони
можуть охоплювати сплеск читань, роботу поза очікуваними годинами
або звернення до даних поза погодженими для агента межами доступу.
Коли щось усе ж іде не так, саме журнал перетворює інцидент на чітку
хронологію замість здогадок.

Замок перевіряють, а не довіряють йому

Випробовуємо засоби контролю доступу в межах завдання й записуємо,
що перевірено, що відхилено та що потребує уваги. Тести можуть
охоплювати заборонені виклики інструментів, ліміти запитів, ізоляцію
облікових даних та спроби ін'єкції інструкцій. Результат — записи
перевірки й повторювані тести з описаними межами. Роботу з
інцидентом і ротацію облікових даних погоджуємо окремо, коли
потрібно локалізувати наявний витік.

Робота, що за цим стоїть

Ми виконували цю роботу на серверах, у системах керування доступом і
на платформах. Ми написали 1000 правил RBAC для Linux-серверів і
серверів баз даних, керували доступом у M365 і системі єдиного входу
(SSO) і вели безперервну програму сканування безпеки з 21 письмовим
аудитом. Ми розділили кожен експлуатаційний секрет за хостами,
додали односекундну попередню перевірку секретів, знайшли на дверях
три замки, усі три відімкнені, і довели, що блокування за спробу
вторгнення спрацьовує під час кожного прогону. Ми побудували
обмеження частоти запитів за принципом fail-closed і написали
правило розмежування доступу після витоку облікових даних. Як ми
дбаємо про безпеку власних систем — на сторінці як ми працюємо
безпечно.

Як іде співпраця

Усе починається з доступу лише на читання. Ми наносимо на карту
агентів у погодженому обсязі, їхні облікові дані й те, до чого вони
відкривають доступ, і передаємо вам знахідки, впорядковані за
ризиком, — кожну з причиною й виправленням. Потім вносимо
виправлення у вашу конфігурацію й репозиторій — через ваше рев'ю і з
перевірками, що завершуються помилкою, якщо на охоплених шляхах
доступ перевищує погоджені права. Карта, журнал і тести лишаються у
вас: саме їх ви передаєте аудиторові чи страховикові. Так само можна
розмежувати й дані компанії, які читають агенти. Замовляють цю
роботу, як і решту наших послуг, — на умовах, описаних на сторінці
скільки це коштує.

Якщо агенти вже мають ключі від ваших систем, розкажіть, від яких
саме (прочитає інженер).

hЦя сторінка у вебі	URL:https://brand.engineer.company/uk/ai-security/	brand.engineer.company	70
