Shadow AI w firmie: narzędzia, dane i zasady działania

Shadow AI w firmie to korzystanie z AI poza zatwierdzonymi systemami i procesami. Zacznij od ustalenia, jakie zadania ludzie wykonują, na jakich kontach i dokąd trafiają dane. Następnie przypisz właścicieli, dopuść bezpieczne zastosowania i ustal sposób zgłaszania pomyłek. Sam zakaz używania narzędzi nie dostarcza tej wiedzy.

Takie rozumienie shadow AI przyjmuje brytyjskie National Cyber Security Centre (NCSC). Wskazuje też, że poznanie potrzeb pracowników i zapewnienie odpowiednich alternatyw pomaga ograniczać ryzyko. Poniższy proces jest propozycją organizacji pracy dla małej firmy.

Zrozum zadanie, zanim wybierzesz kontrolę

Pracownik może streszczać długą korespondencję, poprawiać ofertę albo porządkować notatki ze spotkania. Najpierw zapytaj, gdzie powstaje trudność. Czy potrzebuje modelu, czy wystarczyłby wspólny wzór odpowiedzi, aktualny cennik albo prostszy formularz? Uproszczenie zadania może zmniejszyć ilość informacji przekazywanych do zewnętrznej usługi.

Rozmowę zacznij od celu: „Chcemy wiedzieć, co pomaga Ci w pracy i gdzie trzeba zapewnić bezpieczne warunki”. Wyjaśnij, kto zobaczy odpowiedzi oraz jak firma wykorzysta rejestr. Nie obiecuj anonimowości, jeśli wpis zawiera nazwisko właściciela zastosowania. Oddziel rozpoznanie sposobu pracy od oceny konkretnego incydentu.

Przykład ilustracyjny: handlowiec wkleja ofertę do prywatnego czatu, żeby skrócić opis. W ofercie są nazwiska, indywidualne ceny i warunki współpracy. Po uproszczeniu procesu pracuje na zatwierdzonym wzorze bez danych klienta, a właściwe dane uzupełnia w firmowym systemie. Znika potrzeba przesyłania całego dokumentu.

Spisz zastosowania, konta i przepływy danych

Lista nazw aplikacji to za mało. Ten sam produkt może działać na prywatnym koncie, w firmowej przestrzeni albo przez integrację z innymi uprawnieniami. Zapisuj każde odrębne zastosowanie wraz z warunkami korzystania.

NIST AI RMF Playbook, GOVERN 1.6 opisuje inwentaryzację systemów AI oraz odpowiedzialność za utrzymywanie rejestru. Dla małej firmy można zacząć od arkusza z takimi polami:

Pole	Co wpisać
Zadanie i właściciel	Po co używamy AI i kto odpowiada za zastosowanie
Narzędzie i konto	Dostawca, plan, prywatne lub firmowe konto, administrator
Dane wejściowe	Kategorie danych i źródło, bez kopiowania poufnej treści
Droga danych	Wklejenie tekstu, plik, nagranie, konektor lub API
Uprawnienia	Co integracja może odczytać, zmienić, wysłać lub usunąć
Wynik i odbiorca	Gdzie trafia odpowiedź i kto ją sprawdza
Warunki dostawcy	Ustalona retencja, użycie do trenowania, podwykonawcy, usuwanie
Decyzja i przegląd	Dopuszczone, warunkowe lub wstrzymane, warunki i termin ponownej oceny

Uwzględnij czaty, rozszerzenia przeglądarki, boty spotkań, asystentów w edytorach, funkcje AI w już kupionym oprogramowaniu i automatyzacje korzystające z API. Zapisz również konta współdzielone oraz integracje pozostawione po osobach, które odeszły.

Weryfikuj deklaracje z dostępnymi firmie listami zakupów, kont administracyjnych i przyznanych dostępów. Rób to w granicach ustalonych uprawnień, bez zbierania prywatnych rozmów pracowników. Brak wydatku w księgowości nie oznacza braku darmowego narzędzia. Brak wpisu na liście aplikacji nie wyklucza ręcznego wklejania danych.

Rejestr nie powinien zawierać haseł, kluczy API, pełnych promptów ani kopii dokumentów klientów. Do opisu wystarczają kategorie danych oraz odnośniki do dowodów przechowywanych w miejscu z ograniczonym dostępem.

Zatwierdzaj zastosowanie w określonych warunkach

NIST, GOVERN 1.3 zaleca dobieranie poziomu zarządzania ryzykiem do jego znaczenia. W praktyce firmowa zgoda powinna określać zadanie, konto, dane i uprawnienia. Zakup płatnego planu sam w sobie nie rozstrzyga bezpieczeństwa zastosowania.

Przyjmij prostą wewnętrzną ścieżkę decyzji. Poniższe kategorie są propozycją operacyjną, bez przypisywania im statusu klasyfikacji prawnej:

• Dopuszczone: praca na publicznych lub przygotowanych fikcyjnych materiałach, na zatwierdzonym koncie, z kontrolą wyniku przez człowieka.
• Warunkowe: dane wewnętrzne albo dostęp do firmowych dokumentów. Zgoda wymaga sprawdzenia warunków dostawcy, zakresu dostępu i sposobu kontroli wyniku.
• Wstrzymane do oceny: nieznane warunki, prywatne konto z poufnymi danymi, szeroki dostęp do poczty lub samodzielne wysyłanie i zmienianie informacji bez uzgodnionej kontroli.

Nadaj ocenie właściciela i termin odpowiedzi. Jeśli zastosowanie zostaje wstrzymane, wskaż bezpieczną alternatywę albo sposób ręcznej pracy. Inaczej pracownik nadal ma to samo zadanie i mniej czasu na jego wykonanie.

Sprawdź aktualne warunki konkretnego planu: kto otrzymuje dane, jak długo są przechowywane, czy służą trenowaniu modeli oraz jak można ograniczyć i usunąć dostęp. NCSC ostrzega przed utratą widoczności i kontroli nad informacjami przesłanymi do konsumenckich usług AI. Nie przenoś ustaleń z jednego planu lub produktu na wszystkie usługi dostawcy.

Usunięcie nazwiska z dokumentu nie gwarantuje anonimowości. Osobę mogą ujawnić pozostałe szczegóły. Motyw 26 RODO wyjaśnia, że dane po pseudonimizacji nadal dotyczą identyfikowalnej osoby, gdy można przypisać je jej z użyciem dodatkowych informacji.

Zapisz zasady w jednym miejscu. Pomocny punkt wyjścia to polityka korzystania z AI w firmie, obejmująca dozwolone konta, dane, akceptację wyników i zgłaszanie problemów.

Ustal reakcję na pomyłkę przed incydentem

Pracownik powinien wiedzieć, komu zgłosić przypadkowe przesłanie dokumentu, nadmierny dostęp integracji lub błędną wiadomość wysłaną przez automatyzację. Zgłoszenie wewnętrzne ma uruchomić ocenę, bez wymagania od pracownika samodzielnej kwalifikacji prawnej.

Praktyczna kolejność działań:

1. Ogranicz dalsze działanie. Wstrzymaj przepływ, wyłącz publiczne udostępnienie lub odbierz zbędne uprawnienia. Przy ujawnionym sekrecie uruchom jego rotację przez uprawnioną osobę.
2. Zabezpiecz minimum dowodów. Zapisz czas, usługę, rodzaj konta, zakres danych, odbiorców i wykonane działania. Nie rozsyłaj dokumentu ponownie i nie usuwaj śladów przed oceną.
3. Ustal zasięg. Sprawdź historię udostępnień, dostęp konektora i informacje dostawcy. Oddziel to, co potwierdzone, od tego, czego jeszcze nie wiadomo.
4. Przekaż ocenę właściwym osobom. Włącz osobę odpowiedzialną za bezpieczeństwo, właściciela procesu oraz osobę odpowiedzialną za ochronę danych, jeśli zdarzenie obejmuje dane osobowe.
5. Zapisz decyzję i naprawę. Ustal działania wobec dostawcy, ewentualne zawiadomienia, warunki wznowienia pracy oraz zmianę rejestru i zasad.

Skasowanie rozmowy z widoku użytkownika nie jest dowodem usunięcia wszystkich kopii u dostawcy. Zapisz, co faktycznie potwierdzono. Nie deklaruj klientowi zakończenia sprawy tylko dlatego, że czat jest pusty.

Przy naruszeniu danych osobowych art. 33 RODO wymaga od administratora zgłoszenia organowi nadzorczemu bez zbędnej zwłoki, w miarę możliwości do 72 godzin od stwierdzenia naruszenia, chyba że jest mało prawdopodobne, by skutkowało ryzykiem dla praw i wolności osób. Naruszenia wymagają dokumentowania. Art. 34 przewiduje osobną ocenę zawiadomienia osób przy prawdopodobnym wysokim ryzyku, z wyjątkami wskazanymi w przepisie. Nie każde użycie niezatwierdzonego narzędzia jest naruszeniem danych osobowych, ale podejrzenie wymaga szybkiej oceny.

Najczęściej zadawane pytania

Czy trzeba zakazać wszystkich prywatnych narzędzi AI? Ustal granice dla danych i zastosowań oraz zapewnij firmowe alternatywy. Pilne ograniczenie ryzykownego przepływu może być uzasadnione, ale trwałe zasady powinny wynikać z rozpoznania pracy i ryzyka.

Czy firma musi zbierać wszystkie prompty? Do inwentaryzacji zwykle wystarczy opis zadania, kategorii danych, konta i uprawnień. Dowody konkretnego incydentu przechowuj oddzielnie, z kontrolą dostępu i ustalonym okresem przechowywania.

Kiedy wrócić do zatwierdzonego zastosowania? Gdy zmieniają się dane, plan usługi, integracja, uprawnienia albo sposób użycia wyniku. Ustal też regularny przegląd z właścicielem. Zgoda na redagowanie tekstu nie obejmuje automatycznie wysyłania go klientom.

Zacznij od jednego procesu

Wybierz proces, w którym AI już pomaga. Spisz zastosowania, konta i drogę danych, ogranicz pilne ryzyka i ustal odpowiedzialność za decyzje. Dopiero potem rozszerzaj rejestr na kolejne obszary. Jeśli potrzebujesz wsparcia w rozpoznaniu stanu i priorytetów, przegląd wykorzystania AI obejmuje rejestr zastosowań, przepływy danych oraz techniczne i organizacyjne zasady pracy.