Ochrona danych firmowych w AI zaczyna się od ustalenia, jakie informacje są potrzebne do zadania, dokąd trafią i kto będzie mógł je odczytać. Wybór modelu jest tylko częścią decyzji. Znaczenie mają także konto użytkownika, konfiguracja usługi, historia rozmów, załączniki i połączone systemy.
Ten poradnik pomaga przygotować zasady dla pracowników i listę pytań do dostawcy. Kontrolę dokumentów w wyszukiwarkach opisujemy oddzielnie w części o bezpieczeństwie RAG.
Najpierw określ zadanie, potem zakres danych
Jeżeli pracownik chce poprawić styl wiadomości, model zwykle nie potrzebuje całej historii korespondencji ani eksportu CRM. Do przygotowania przykładowej instrukcji można użyć fikcyjnych nazw. Do analizy realnej reklamacji potrzebny może być wybrany opis zdarzenia, ale nie hasła klienta czy dane innych zamówień.
Ujawnienie informacji może nastąpić przez samą odpowiedź asystenta, a nie tylko przez celową wysyłkę pliku. Dlatego ograniczanie danych wejściowych powinno iść w parze z kontrolą tego, komu udostępniamy odpowiedź. OWASP ujmuje to jako ryzyko Sensitive Information Disclosure. Źródło: OWASP LLM02.
Przykład modelowy: firma chce porównać przyczyny opóźnień w realizacji zleceń. Do wstępnego grupowania wystarczą zanonimizowane opisy etapów i opóźnień. Numery kont bankowych, osoby kontaktowe oraz pełne umowy nie pomagają w tym zadaniu. Najpierw przygotowujemy ograniczony zbiór, a dopiero potem przekazujemy go zatwierdzonemu narzędziu.
Prosta matryca danych do zatwierdzenia w firmie
Poniższa matryca jest propozycją organizacyjną. Właściciel danych powinien dopasować ją do swoich procesów i warunków używanej usługi. To, że informacja jest publiczna, nie zwalnia z uwzględnienia praw do jej wykorzystania.
| Kategoria | Przykład | Proponowana zasada |
|---|---|---|
| Publiczne | Opublikowany opis własnej usługi | Możliwe użycie w zatwierdzonym narzędziu do ustalonego celu |
| Wewnętrzne | Procedura pracy bez danych klientów | Konto zarządzane przez firmę i określony dostęp do historii |
| Poufne | Oferta cenowa, umowa, dane klienta | Ocena właściciela danych, minimalny zakres i właściwa konfiguracja usługi |
| Sekrety dostępowe | Hasło, klucz API, kod odzyskiwania | Nie wklejać do rozmowy; obsługiwać przez mechanizm sekretów |
Na małym ekranie przesuń tabelę w bok, aby zobaczyć wszystkie kolumny.
Samo zastąpienie nazwiska numerem nie zawsze uniemożliwia identyfikację. Rzadki opis zdarzenia, nazwa projektu i dokładna data mogą razem wskazywać konkretną osobę lub klienta. Oceniaj cały kontekst, nie tylko pojedyncze kolumny.
Brak treningu nie oznacza braku przechowywania
Oddziel cztery pytania: czy dane służą do treningu, jak długo są przechowywane, kto ma do nich dostęp oraz jak można je usunąć lub wyeksportować. Odpowiedź na jedno z nich nie rozstrzyga pozostałych.
Przykładowo dokumentacja ochrony danych w firmowym Microsoft Copilot i Copilot Chat rozróżnia zobowiązanie dotyczące niewykorzystywania danych do treningu modeli bazowych od zasad retencji, audytu i uprawnień. Dostępność konkretnych mechanizmów zależy od subskrypcji. To przykład znaczenia dokładnego wariantu usługi, a nie potwierdzenie konfiguracji dowolnego konta. Źródło: Microsoft — Enterprise data protection.
Przy ocenie dostawcy zapisz:
- nazwę produktu, plan, typ konta i datę sprawdzenia warunków;
- zasady treningu, retencji rozmów i załączników oraz ewentualne wyjątki;
- lokalizacje przetwarzania i podmioty uczestniczące w obsłudze danych;
- uprawnienia administratorów, użytkowników i integracji;
- sposób usunięcia danych oraz zakres kopii pozostających po usunięciu;
- zachowanie konektorów, wyszukiwania internetowego i zewnętrznych narzędzi.
Dla każdej odpowiedzi warto zachować odnośnik do dokumentacji albo zapis konfiguracji. Marketingowe określenie „dla firm” nie opisuje całego przepływu danych.
Konta, logi i sekrety też należą do tego procesu
Firmowe konto powinno mieć wskazanego właściciela i procedurę odebrania dostępu po zmianie obowiązków lub zakończeniu współpracy. Pracownik musi wiedzieć, w którym środowisku wolno wykonywać zadania służbowe. Pomaga w tym uporządkowany onboarding i offboarding w Microsoft 365.
Nie zapisuj domyślnie całych rozmów w logach diagnostycznych, jeśli wystarcza identyfikator zadania, wynik i kod błędu. Logowanie może stworzyć kolejną kopię poufnych treści. Określ dostęp, czas przechowywania i zakres maskowania. OWASP zaleca rozważny dobór danych do rejestracji oraz wykluczanie m.in. haseł i tokenów dostępowych. Źródło: OWASP Logging Cheat Sheet.
Klucze API integracji przechowuj poza promptem, kodem przeglądarki i repozytorium. Narzędzie może korzystać z sekretu po stronie serwera bez przekazywania jego wartości do modelu. Jeśli klucz ujawniono, samo usunięcie rozmowy nie odbiera nim dostępu: potrzebna jest jego rotacja lub unieważnienie oraz sprawdzenie użycia. Źródło: OWASP Secrets Management.
Jak sprawdzić zasady na jednym procesie?
Proponowany pilotaż obejmuje trzy zadania: poprawę tekstu publicznego, podsumowanie instrukcji wewnętrznej i analizę fikcyjnej reklamacji. Pracownik powinien dla każdego z nich umieć wskazać właściwe konto, dozwolone dane i miejsce zapisania wyniku.
- Przygotuj trzy krótkie materiały testowe z wyraźnie oznaczonymi kategoriami danych.
- Poproś użytkownika o wybór narzędzia i usunięcie informacji zbędnych do zadania.
- Sprawdź, czy załącznik, historia i wynik są widoczne tylko dla właściwych osób.
- Wykonaj próbę odebrania dostępu kontu testowemu.
- Sprawdź usunięcie materiału zgodnie z udokumentowaną retencją, uwzględniając możliwe opóźnienia i kopie.
- Zanotuj miejsca, w których zasady były niejasne, i popraw instrukcję dla zespołu.
To ćwiczenie organizacyjne, a nie pełny audyt produktu. Jego rezultatem ma być krótka, wykonalna instrukcja. Techniczne scenariusze odbioru znajdziesz w checkliście testów bezpieczeństwa AI.
Jakie ustalenia powinny zostać po wdrożeniu?
Firma powinna mieć listę dopuszczonych narzędzi, właściciela każdego procesu, zasady kategorii danych oraz kontakt do zgłaszania pomyłek. Raz ustalona konfiguracja wymaga przeglądu po dodaniu nowych integracji lub zmianie planu usługi.
Partnerhosted pomaga uporządkować zasady korzystania z AI w firmie oraz dostępy i ochronę danych. W rozmowie warto wskazać konkretne narzędzie i przykład zadania, aby ustalić właściwy zakres prac.
Najczęstsze pytania
Czy brak treningu na danych oznacza brak ich przechowywania?
Nie. Wykorzystanie do treningu, retencja, dostęp do historii i zasady usuwania to odrębne kwestie. Należy je sprawdzić dla konkretnego produktu i planu.
Czy można wklejać klucze API do rozmowy z AI?
Nie należy przekazywać wartości sekretów w prompcie. Integracja powinna korzystać z nich po stronie serwera przez kontrolowany mechanizm zarządzania sekretami.
Czy prywatne konto pracownika wystarczy do pracy z firmowymi danymi?
Firma powinna określić dopuszczone narzędzia i konta oraz sposób zarządzania dostępem. Sam dostęp pracownika do usługi nie oznacza zatwierdzenia jej do danych służbowych.
Źródła i zakres opracowania
Źródła pierwotne podlinkowano przy odpowiednich zagadnieniach; sprawdzono je 23 września 2026 r. Macierze, scenariusze i kryteria odbioru są propozycjami praktycznego zastosowania zasad. Przykłady nie opisują rzeczywistych klientów ani wyników audytu konkretnego produktu.
Porozmawiaj o bezpiecznym korzystaniu z AI
Opisz używane narzędzie, źródła danych i połączone systemy. Ustalimy zakres potrzebnych prac i zasady współpracy.
Skontaktuj się z Partnerhosted