Коротка відповідь: Тіньовий ШІ означає, що працівники компанії використовують ШІ-інструменти, про які компанія не знає, — наприклад, хтось завантажує договір із клієнтом у свій особистий обліковий запис ChatGPT. Виявити це можна без стеження за людьми, у чотири кроки: запитати працівників (за допомогою анкети й розмов), перевірити витрати за картками, для кожного знайденого інструмента з’ясувати тип облікового запису та скласти список дозволених інструментів із однією особою, відповідальною за їх затвердження. Відмінність між особистим і корпоративним обліковим записом не косметична: у споживчих тарифах ChatGPT OpenAI може використовувати вміст для навчання моделей, якщо користувач не вимкне цю функцію; для ChatGPT Business, Enterprise та API, за інформацією OpenAI, навчання на даних за замовчуванням не виконується. Резидентність даних — це вже інше питання: де фізично зберігаються дані та де відбуваються обчислення.
Більшість компаній, які звертаються до мене по допомогу з «упровадженням ШІ», уже його впровадили. Просто самі про це не знають. Хтось відкрив ChatGPT на телефоні, показав колегам, і відтоді через нього проходять чернетки комерційних пропозицій та резюме протоколів зустрічей. Потім великий клієнт запитує: «Які ШІ-інструменти ви використовуєте і де обробляються наші дані?» — а компанії нічого відповісти. Наведена нижче процедура допоможе скласти перелік, а не спіймати працівників на гарячому.
Що таке тіньовий ШІ та чому про нього не говорять у компанії
Поняття тіньовий ШІ походить від старішого терміна тіньові ІТ — програмного забезпечення, яке працівники самостійно придбали або почали використовувати поза корпоративними процедурами. Версія із ШІ гірша в одному аспекті: у випадку незатвердженої програми за межі компанії зазвичай виходить лише інформація про факт її використання, а у випадку чату зі ШІ — сам вміст. У запит можуть вставити цілий документ, зокрема електронний лист клієнта з підписом і номером замовлення.
Працівники здогадуються, що так робити не варто, і не хочуть створювати собі проблем; керівництво ж вважає, що «ми ШІ не використовуємо», оскільки компанія його не купувала. Ризики завантаження даних у загальнодоступний чатбот детально розглянуто в окремому матеріалі про корпоративні дані в ChatGPT. Тут підемо далі: з’ясуємо, як визначити реальний стан справ і перетворити це на керований процес.
Як провести інвентаризацію ШІ-інструментів у компанії
Інвентаризація — це таблиця. Не двадцятисторінковий документ і не окремий проєкт. П’ять стовпців, один рядок на кожен інструмент — і після заповнення ви отримаєте однозначну відповідь на запитання: «Що ми використовуємо і з якими даними?»
| Інструмент | Хто його використовує | Які дані до нього надходять | Тип облікового запису | Чи навчається модель на даних? |
|---|---|---|---|---|
| ChatGPT | відділи продажів і маркетингу | листи клієнтів, чернетки пропозицій | особисті облікові записи, оплачені власною карткою | так, якщо користувач не вимкнув цю функцію |
| Microsoft Copilot | керівництво, асистентка | Outlook, SharePoint, Teams | корпоративний тенант Microsoft 365 | ні (див. нижче) |
| Gemini | маркетинг | тексти для сайту, ідеї кампаній | особистий обліковий запис Google | так, доки ввімкнене збереження активності |
| ШІ-транскрибування зустрічей | керівник проєкту | записи переговорів із клієнтами | невідомий, безплатний | не з’ясовано — потрібно перевірити |
| ШІ в бухгалтерській системі | бухгалтер | рахунки, постачальники | корпоративна ліцензія | відповідно до умов постачальника |
Наведені вище рядки — це приклад структури, а не результати вашої перевірки.
1. Почніть з анкети та розмов
Найшвидше джерело інформації — працівники, а найнадійніший спосіб його втратити — почати з контролю їхньої активності. Розішліть коротку анкету. Анонімність не обов’язкова, але потрібно пообіцяти, що нікого не сваритимуть за чесну відповідь:
- Чи використовуєте ви в роботі будь-який ШІ-інструмент? Який саме?
- Ви входите до нього через робочий чи особистий обліковий запис?
- Чи платите ви за нього? Хто саме оплачує?
- Які типи документів або текстів ви до нього завантажуєте?
- Чого вам бракувало б, якби компанія заборонила цей інструмент уже завтра?
П’яте запитання — найважливіше, і більшість компаній його пропускає. Воно показує, яку реальну роботу виконує інструмент і чи потрібно шукати заміну, чи достатньо його просто заборонити. Заборона без альтернативи знецінить інвентаризацію: інструмент не зникне, просто наступного разу ніхто не зізнається, що ним користується. Після анкетування поговоріть із керівниками: «Покажіть мені останні три завдання, які ви виконували за допомогою цього інструмента».
2. Перевірте витрати — за ШІ платять карткою
Підписки на ШІ-інструменти оплачують карткою, і вони губляться серед дрібних витрат. Перегляньте виписки за корпоративними картками за останні дванадцять місяців, звіти про відшкодування витрат працівників і рахунки від агентств, у яких послуга ШІ може бути перевиставлена як частина іншої позиції. Шукайте регулярні щомісячні платежі в іноземній валюті закордонним постачальникам.
Зверніть увагу на позиції, яких ніколи не буде в бухгалтерському обліку: безплатні версії та інструменти, оплачені особистою карткою працівника. Зазвичай саме вони становлять найбільший ризик, оскільки компанія взагалі ними не керує.
3. Перегляд мережевого трафіку — доповнення, а не головний інструмент
Корпоративний DNS-резолвер або проксі покаже, до яких доменів звертаються з мережі. Для інвентаризації це законне джерело інформації, якщо ви працюєте з агрегованим списком доменів для всієї мережі, а не зі звітами щодо окремих користувачів чи вмістом комунікації, і якщо заздалегідь повідомили про це працівників. Спостереження за окремими працівниками — самостійне юридичне питання, і рекомендацій щодо нього тут не буде. Крім того, значна частина роботи із ШІ відбувається на телефонах через мобільний інтернет, тому це джерело покаже лише частину картини.
4. Зафіксуйте, що дозволено, і призначте одну особу для затвердження
Результатом аудиту має бути не просто висновок, а конкретний список. Розділіть інструменти на три групи: дозволені (компанія їх оплачує, вони працюють у корпоративному обліковому записі й визначено, які дані можна до них завантажувати), дозволені з обмеженнями (лише для визначеного типу вмісту — наприклад, публічних текстів, але не документів клієнтів) і заборонені із зазначенням причини та, в ідеалі, альтернативи. А потім визначте те, від чого залежить, чи залишатиметься список актуальним через рік: хто затверджує новий інструмент. Це має бути одна конкретна людина, а не комісія, і затвердження повинно тривати кілька днів, а не місяців.
Особистий і корпоративний облікові записи: ChatGPT, Gemini та Copilot
Варто знати фактичні формулювання умов, а не покладатися на поширені припущення.
OpenAI (ChatGPT). Для сервісів, призначених для фізичних осіб, тобто звичайного ChatGPT, включно з платними тарифами, OpenAI зазначає, що може використовувати вміст для навчання своїх моделей. Користувач може відмовитися від цього: у налаштуваннях облікового запису в розділі Data Controls потрібно вимкнути перемикач Improve the model for everyone. Після цього розмови залишаться в історії, але, за інформацією OpenAI, не використовуватимуться для навчання. Щодо корпоративних продуктів — ChatGPT Business (раніше Team), ChatGPT Enterprise та API — OpenAI повідомляє, що за замовчуванням не навчає моделі на вхідних або вихідних даних корпоративних користувачів; для API це задекларовано з 1 березня 2023 року. Те саме підтверджує сторінка Enterprise privacy, оновлена 8 січня 2026 року.
Тому перехід з особистих облікових записів до корпоративного робочого простору зазвичай стає найважливішою зміною за результатами аудиту — незалежно від того, чи був особистий обліковий запис платним.
Google (Gemini). Споживчий застосунок Gemini і Gemini у Google Workspace працюють по-різному. Щодо споживчої версії Google повідомляє, що частину розмов перевіряють люди, зокрема підготовлені працівники постачальників послуг, і прямо рекомендує не вводити конфіденційну інформацію, яку ви не хотіли б показувати перевіряльнику або використовувати для вдосконалення сервісів. На це впливають налаштування активності застосунків Gemini. Натомість у Google Workspace дані клієнтів не використовуються для навчання моделей без дозволу чи вказівки клієнта, а взаємодії залишаються всередині організації.
Microsoft (Copilot). У документації щодо Microsoft Copilot у робочому середовищі Microsoft 365 зазначено, що запити, відповіді та дані, отримані через Microsoft Graph, не використовуються для навчання базових мовних моделей. Microsoft поширює ці зобов’язання на комерційних клієнтів Microsoft 365, тобто на робочі облікові записи в корпоративному тенанті. Той, хто відкриває Copilot через особистий обліковий запис, перебуває поза межами цих гарантій.
Аудит Copilot виявляє ще одну обставину, не пов’язану з навчанням: сервіс показує користувачеві лише ті дані, до яких він має принаймні дозвіл на читання. Це звучить заспокійливо, доки ви не перевірите, як налаштований спільний доступ у вашому SharePoint. Copilot нічого не зламує — він лише ефективно знаходить те, до чого роками був помилково відкритий доступ.
Що означає резидентність даних і чому вона важлива
Резидентність даних означає, у якому географічному регіоні дані фізично зберігаються, а іноді й обробляються. Це інше питання, ніж навчання: твердження «модель не навчається на наших даних» нічого не говорить про те, де ці дані перебувають. Тому розрізняйте зберігання даних у стані спокою (data at rest), тобто розташування дисків із даними, і обробку, тобто місце виконання обчислень моделі. Постачальники пропонують ці можливості окремо, і відповідні регіони не завжди збігаються.
OpenAI пропонує зберігання вмісту, зокрема, у Європі (ЄЕЗ і Швейцарії), Великій Британії та США. Так звана inference residency, тобто виконання моделі в певному регіоні, згідно з документацією доступна для Європи, США та Об’єднаних Арабських Еміратів. Ця можливість обмежена відповідними вимогам клієнтами API та новими клієнтами ChatGPT Enterprise й Edu — у ChatGPT Business такого вибору немає. Функція Data Regions у Google Workspace дає змогу вибрати зберігання охоплених нею даних у США або Європі; до таких даних належать також запити й відповіді Gemini. Функція доступна лише в певних редакціях. Microsoft зазначає, що для клієнтів із ЄС Copilot належить до сервісів у межах EU Data Boundary, а з 1 березня 2024 року охоплюється зобов’язаннями компанії щодо резидентності даних. І ще одне застереження безпосередньо з документації: моделі сторонніх постачальників, залучених як субпідрядники, можуть не входити до EU Data Boundary, тому навіть вибір моделі всередині Copilot впливає на те, де виконуватимуться обчислення.
Як це пов’язано з GDPR, у загальній статті ніхто не зможе відповісти однозначно: усе залежить від того, які дані ви обробляєте, у якій ролі та на якій правовій підставі, а оцінювати передання даних до третьої країни повинен юрист. Сам вибір регіону нічого не вирішує, проте в деяких ситуаціях обробка в ЄС спрощує як документацію, так і переговори з клієнтами. Тому для кожного інструмента зазначте в таблиці, чи пропонує він вибір регіону, чи доступна ця функція у вашому тарифі та чи справді вона ввімкнена. Останнє часто стає несподіванкою: функція існує, але в конкретному робочому просторі її ніхто не активував. Паралельно діє регуляторний рівень у вигляді AI Act, якому на сайті присвячені окремі статті.
Політика використання ШІ: що можна завантажувати й хто ухвалює рішення
Список перетворюється на правило лише тоді, коли його десь зафіксовано. Це не обов’язково має бути документ юридичною мовою — достатньо двох сторінок. Що в ньому має бути:
- Що не можна завантажувати за жодних обставин. Персональні дані клієнтів і працівників, зміст договорів, паролі і дані доступу, вихідний код із ключами, матеріали, захищені зобов’язанням про конфіденційність, а також матеріали третіх сторін, які ви не маєте права передавати далі.
- Що можна завантажувати і до яких конкретно названих інструментів.
- Хто затверджує новий інструмент і скільки часу це займає.
- Що робити, якщо щось уже завантажили, — кому про це повідомити та що за повідомлення не буде покарання. Без цього пункту ви не дізнаєтеся про інцидент.
- Хто щороку переглядатиме політику, оскільки умови постачальників і назви тарифів змінюються (як у випадку перейменування ChatGPT Team на Business).
Правила, яких ніхто не пам’ятає, не працюють. Тому поєднайте політику з навчанням, описаним у матеріалі про навчання роботі із ШІ для компаній.
Коли хмари недостатньо: процеси, дані яких не повинні залишати мережу
Для деяких видів діяльності не допоможе ані корпоративний обліковий запис, ані європейський регіон. Заробітна плата, медична документація, матеріали, захищені зобов’язанням про конфіденційність, ноу-хау, що становить цінність компанії, — у цих випадках питання «на чиїх дисках це зберігається» важливіше за гарантію невикористання даних для навчання. Рішенням є модель, яка працює на власному обладнанні. Які саме процеси належать до цієї категорії, розглянуто в матеріалі про ШІ без хмари, а чи здатна така модель забезпечити достатньо якісну чеську мову, показує порівняння локальних моделей на чеськомовних завданнях.
Часті запитання
Хіба недостатньо просто заборонити ШІ? Повна заборона без альтернативи перенесе використання на особисті пристрої та облікові записи, якими компанія не може керувати. Заборона одного інструмента із затвердженою альтернативою працює.
Що робити, якщо ми з’ясуємо, що хтось уже завантажив договір із клієнтом? Визначте, до якого інструмента і через який обліковий запис його завантажили, перевірте налаштування навчання для цього облікового запису та, залежно від характеру даних, оцініть, чи є це інцидентом, про який потрібно повідомити. Оцінювати обов’язок щодо повідомлення повинен юрист.
ITHOPE проводить у Брно аудит ШІ для малих і середніх компаній: інвентаризацію інструментів, перевірку типів облікових записів і налаштувань, підготовку правил, а для процесів, дані яких не повинні залишати компанію, — розгортання локальної моделі на власному обладнанні. Аудит зазвичай також виявляє, хто до чого має доступ і чи існують дані, з яких можна виконати відновлення. Із цим пов’язані керування ІТ та резервне копіювання й огляд послуг ІТ для компаній.
Джерела
- OpenAI: Як ваші дані використовуються для поліпшення роботи моделей — https://help.openai.com/en/articles/5722486-how-your-data-is-used-to-improve-model-performance
- OpenAI: Поширені запитання про Data Controls — https://help.openai.com/en/articles/7730893-data-controls-faq
- OpenAI: Конфіденційність Enterprise — https://openai.com/enterprise-privacy/
- OpenAI: Резидентність даних і обчислень для ChatGPT — https://help.openai.com/en/articles/9903489-data-residency-and-inference-residency-for-chatgpt
- Google: Застосунки Gemini та ваші дані — https://support.google.com/gemini/answer/13594961
- Google Workspace: Центр конфіденційності генеративного ШІ — https://knowledge.workspace.google.com/admin/generative-ai/generative-ai-in-google-workspace-privacy-hub
- Microsoft: Дані, конфіденційність і безпека Microsoft Copilot — https://learn.microsoft.com/en-us/copilot/microsoft-365/microsoft-365-copilot-privacy
Де нас знайти
ITHOPE — компанія з Брно, Чехія: ми робимо відновлення даних з дисків, RAID і NAS, сервіс ПК та ноутбуків та IT для бізнесу, усе у власній лабораторії за адресою Viniční 3587/216, 615 00 Brno.
Телефон +420 775 556 063 (цілодобово). Пристрій можна привезти особисто або надіслати курʼєром (Zásilkovna, PPL).