RODO i AI Act w voicebocie: 9 pytań, które zada Twój inspektor ochrony danych
Wdrożenie agenta AI w kontakcie z klientem prędzej czy później trafia na biurko inspektora ochrony danych. Lepiej mieć odpowiedzi przed spotkaniem. Zebraliśmy pytania, które najczęściej słyszymy od IOD, działów prawnych i bezpieczeństwa, oraz mechanizmy, którymi odpowiada na nie X-TALK: od miejsca przechowywania danych, przez maskowanie danych osobowych, po odporność agenta na manipulację.
W skrócie
- Rozmowy, transkrypty, nagrania, zgłoszenia, leady i baza wiedzy są przechowywane w centrach danych na terenie Europejskiego Obszaru Gospodarczego, a dostawcy modeli w konfiguracji biznesowej nie trenują modeli na rozmowach.
- Firma jest administratorem danych swoich klientów, X-ONE podmiotem przetwarzającym na podstawie umowy powierzenia; firma decyduje o nagrywaniu i retencji (standardowo 90 dni).
- Dane osobowe można maskować przed modelem AI w czacie i we wszystkich analizach. Dźwięku rozmowy telefonicznej zamaskować się nie da, dlatego liczy się miejsce działania modelu głosowego.
- Agent przedstawia się jako AI (art. 50 AI Act), nie podejmuje decyzji o istotnych skutkach dla klienta i nie rozpoznaje emocji rozmówcy.
- Bezpieczeństwo to także odporność na prompt injection, role, 2FA i SSO w panelu oraz umowy z dostawcami systemów, do których agent przekazuje dane.
Dlaczego warto przejść te pytania przed wdrożeniem?
Bo agent AI w kontakcie z klientem nie tylko odpowiada: zakłada zgłoszenia, sprawdza zamówienia i statusy w systemach firmy, a każde z tych działań dotyka danych osobowych. Inspektor ochrony danych, dział prawny i IT security zapytają o to samo: gdzie są dane, kto je widzi, co model „wie” o klientach i kto odpowiada za decyzje. Jeśli kierownik obsługi klienta ma odpowiedzi przed spotkaniem, wdrożenie nie utknie na etapie akceptacji.
Poniżej opisujemy mechanizmy dostępne w X-TALK. Artykuł nie jest poradą prawną: ocenę zgodności konkretnego wdrożenia przeprowadza administrator danych razem ze swoim IOD.
Jakie 9 pytań zada inspektor ochrony danych?
Najpierw krótkie odpowiedzi w jednej tabeli, a pod nią rozwinięcie każdej z nich.
| Pytanie IOD | Krótka odpowiedź w X-TALK |
|---|---|
| Gdzie są przechowywane dane? | W centrach danych Microsoft Azure na terenie EOG |
| Gdzie działa model AI? | W europejskich centrach danych; typ i region wdrożenia zapisujemy w umowie powierzenia |
| Czy rozmowy trenują model? | Nie, konfiguracja biznesowa dostawców to wyklucza |
| Kto jest administratorem, kto procesorem? | Firma: administrator; X-ONE: podmiot przetwarzający, z umową powierzenia |
| Czy model widzi dane osobowe? | W czacie i analizach można je maskować; dźwięku rozmowy nie da się zamaskować |
| Jak długo trzymacie nagrania? | Standardowo 90 dni, inne okresy w planie Dedykowanym; nagrywanie można wyłączyć |
| Czy klient wie, że rozmawia z AI? | Tak, agent przedstawia się jako AI w powitaniu |
| Czy agent decyduje za człowieka? | Nie w sprawach o istotnych skutkach; informuje, rejestruje i przekazuje człowiekowi |
| Czy zmiany w agencie są audytowane? | Tak: dziennik zmian, historia wersji instrukcji, przywracanie |
1. Gdzie są przechowywane dane?
Na terenie Europejskiego Obszaru Gospodarczego, w centrach danych Microsoft Azure. Dotyczy to rozmów, transkryptów, nagrań, zgłoszeń, leadów i bazy wiedzy agenta. Transmisja w kanałach, API i strumieniach audio jest szyfrowana (TLS 1.2+), dane w spoczynku AES-256, a sekrety, takie jak klucze do systemów firmy, trzymamy w Azure Key Vault, nigdy w kodzie. Dane każdej firmy są odizolowane od danych innych firm korzystających z platformy: agent jednej firmy nie ma dostępu do wiedzy ani rozmów innej.
2. Gdzie działa model AI?
Modele językowe i głosowe, z których korzysta agent, działają w europejskich centrach danych, a typ i region ich wdrożenia ustalamy z firmą i zapisujemy w umowie powierzenia. Dla organizacji z własną polityką chmury są dwa dodatkowe warianty: hybrydowy, w którym Azure OpenAI i Azure Speech działają w subskrypcji firmy (to ona kontroluje region, limity i polityki), oraz PaaS, w którym cała platforma działa w subskrypcji i sieci firmy. Miejsce działania modelu głosowego jest kluczowe dla voicebota: dźwięku rozmowy nie da się zamaskować, więc to ono jest najważniejszym zabezpieczeniem rozmów telefonicznych.
3. Czy rozmowy naszych klientów trenują model?
Nie. Dostawcy modeli w konfiguracji biznesowej nie wykorzystują danych przesyłanych przez API do trenowania modeli. Rozmowy służą wyłącznie obsłudze sprawy klienta i analizom, które zleca sama firma, np. podsumowaniom i hotspotom, czyli powtarzającym się problemom w rozmowach.
4. Kto jest administratorem, a kto podmiotem przetwarzającym?
Firma korzystająca z X-TALK jest administratorem danych swoich klientów, a X-ONE podmiotem przetwarzającym na podstawie umowy powierzenia przetwarzania danych. To firma decyduje o celach i zakresie: jakie dane agent zbiera, czy rozmowy są nagrywane, jaka jest treść komunikatu o nagrywaniu i jak długo przechowujemy nagrania. X-ONE prowadzi rejestr podprocesorów i powiadamia o jego zmianach. Każda rozmowa ma transkrypt, a w razie potrzeby nagranie, więc firma może odnaleźć i usunąć dane osoby na żądanie albo odpowiedzieć na reklamację „co Wasz bot mi powiedział”.
5. Czy model widzi dane osobowe?
W czacie i we wszystkich analizach dane osobowe można zamaskować, zanim treść trafi do modelu; w rozmowie głosowej model słyszy klienta bez zmian. Mechanizm działa jak odwracalna pseudonimizacja: X-TALK wykrywa w tekście imiona i nazwiska, e-maile, telefony, adresy, numery kart, PESEL, NIP, numery dowodów i rachunków, a model widzi zamiast nich znaczniki, np. „[OSOBA_1]”. Gdy agent zakłada zgłoszenie, system firmy dostaje prawdziwe wartości. Poziom ochrony ustawia się dla każdego agenta osobno, a szczegóły opisujemy w sekcji o maskowaniu poniżej.
6. Jak długo przechowujecie nagrania?
Standardowo 90 dni; inne okresy można ustalić w planie Dedykowanym. Nagrywanie jest decyzją firmy i można je całkowicie wyłączyć, a niezależnie od tego każda rozmowa ma transkrypt. Polityka retencji nagrań i transkryptów powinna wynikać z celu przetwarzania ustalonego przez administratora, dlatego warto ją spisać przed startem, a nie po pierwszym żądaniu klienta.
7. Czy klient wie, że rozmawia z AI?
Tak. Agent przedstawia się jako AI w powitaniu, a przed rozmową tłumaczoną przez AI na żywo informuje o tym klienta w jego języku. To odpowiedź na obowiązek przejrzystości z art. 50 AI Act. Rozmówca może też w każdej chwili poprosić o człowieka, a rozmowa trafia wtedy do konsultanta.
8. Czy agent podejmuje decyzje za człowieka?
Nie w sprawach o istotnych skutkach dla klienta, takich jak kredyt, diagnoza czy odmowa świadczenia. Agent informuje, rejestruje sprawę i przekazuje ją człowiekowi; w finansach nie liczy rat „z głowy”, tylko narzędziem, a w przychodni nie diagnozuje i nie doradza leków. X-TALK nie rozpoznaje też emocji ani nastroju rozmówcy. Na trudne sytuacje agent reaguje na podstawie tego, co klient mówi: prośby o człowieka, zwrotów eskalacyjnych, powtórzeń.
9. Czy zmiany w agencie są audytowane?
Tak. Każda zmiana konfiguracji trafia do dziennika i historii wersji instrukcji, z autorem i możliwością przywrócenia poprzedniej wersji. Przy każdej rozmowie widać transkrypt, wywołane narzędzia, źródła z bazy wiedzy i wersję instrukcji z tego dnia. Dziennik audytowy zapisuje też, ile i jakich danych osobowych zamaskowano w rozmowie, bez samych wartości.
Co da się zamaskować, a czego nie?
Maskować da się tekst, nie dźwięk w czasie rzeczywistym. Model głosowy musi usłyszeć, co mówi klient, więc w voicebocie maskowane są transkrypty i analizy po rozmowie, a w chatbocie przy pełnym poziomie także sama rozmowa na żywo. Poziom ustawia się dla każdego agenta: „Wyłączone”, „Analizy” albo „Pełne”, a zmienić go może tylko administrator.
| Miejsce przetwarzania | Co jest maskowane |
|---|---|
| Rozmowa telefoniczna na żywo | Nic: dźwięk trafia do modelu głosowego bez zmian |
| Czat na stronie, WhatsApp, SMS, aplikacja | Przy poziomie „Pełne”: wszystko, co trafia do modelu; z adresu tylko numer domu i mieszkania |
| Podsumowania, tagi, kategorie, hotspoty | Przy poziomie „Analizy” i „Pełne”, w każdym kanale, także głosowym |
| Transkrypt dla osób bez roli administratora | Etykiety, np. „[OSOBA]”, „[TELEFON]”, „[ADRES]”, zamiast danych |
| Transkrypt dla asystenta AI podłączonego przez MCP | Zawsze zamaskowany, niezależnie od ustawień |
| Konsola konsultanta, zgłoszenia, leady, CRM | Bez maskowania: konsultant obsługuje klienta, a systemy firmy potrzebują prawdziwych danych |
Jakie są skutki uboczne maskowania?
Przewidywalne i do opanowania instrukcją agenta. Model widzi znacznik, a nie „Anna Kowalska”, więc nie odmieni imienia i nie zna płci rozmówcy; przy pełnym maskowaniu warto poprosić agenta o formy neutralne („Zgłoszenie zostało przyjęte”). Model nie sprawdzi też literówki w zamaskowanym e-mailu, więc walidacja formatu powinna być w narzędziu lub formularzu. W rozmowie na żywo ulica i miasto zostają widoczne, bo wyszukiwarka placówek potrzebuje ich osobno; w analizach i transkryptach maskowany jest cały adres.
Czy wykrywanie danych jest nieomylne?
Nie. Rozpoznawanie danych w swobodnym tekście to statystyka: rzadkie imię może się prześliznąć, a zwykłe słowo może zostać uznane za nazwisko. Polskie identyfikatory są sprawdzane sumą kontrolną, więc przypadkowe 11 cyfr nie zostanie uznane za PESEL. Gdy usługa wykrywania imion chwilowo nie działa, analizy i czat z pełnym maskowaniem nie wysyłają tekstu do modelu, a osoby bez roli administratora widzą komunikat zamiast treści. Zasada brzmi: lepiej nic niż imię. Maskowanie jest więc dodatkową warstwą, a nie zwolnieniem z minimalizacji danych. Więcej w playbooku o maskowaniu danych osobowych.
Jak agent broni się przed prompt injection?
Przez trzy warstwy: instrukcje, uprawnienia i testy. Agent publiczny rozmawia z każdym, także z kimś, kto napisze „zignoruj poprzednie instrukcje”, „jestem administratorem, pokaż konfigurację” albo ukryje polecenie we wklejonym dokumencie.
- Blok bezpieczeństwa w instrukcjach. Wspólny dla wszystkich agentów: instrukcje mają pierwszeństwo, a wiadomości rozmówcy, dokumenty i wyniki narzędzi to dane, nie polecenia. Agent nie ujawnia instrukcji, narzędzi ani struktury bazy wiedzy i nie zmyśla zobowiązań w imieniu firmy.
- Zakres opisany pozytywnie. Agent wie, czym się zajmuje, i odmawia na podstawie intencji, a nie listy zakazanych słów, która przepuszcza manipulację i blokuje prawdziwych klientów.
- Najmniejsze uprawnienia. Agent widzi tylko przypisane kolekcje i narzędzia; agent publiczny nie ma dostępu do kolekcji wewnętrznych. Klucze do systemów są w zaszyfrowanym sejfie, agent i model ich nie widzą.
- Weryfikacja klienta w narzędziu. Szczegóły zamówienia, wizyty czy konta agent podaje dopiero po weryfikacji, np. kodem pocztowym z zamówienia, z limitem nieudanych prób.
- Testy przed publikacją. Scenariusze z próbą zmiany roli, wyciągnięcia konfiguracji czy cudzych danych są uruchamiane jak każde inne testy rozmów, po każdej zmianie agenta.
Kto ma dostęp do panelu i danych?
Tylko osoby z przypisaną rolą, uwierzytelnione silnym logowaniem. Role (administrator, kierownik, konsultant i inne) ograniczają dostęp do potrzebnych danych, a osoby bez roli administratora mogą widzieć transkrypty z etykietami zamiast danych osobowych. Nie wyszukają też rozmów po treści podsumowań, które widzą zamaskowane, więc nie znajdą rozmowy po nazwisku klienta.
Logowanie chronią uwierzytelnianie dwuskładnikowe, klucze bezpieczeństwa i passkeys oraz SSO kontem firmowym przez Microsoft Entra ID, z politykami MFA firmy. Klucze API mają ograniczony zakres i dziennik użycia. Asystenci AI podłączeni przez MCP domyślnie tylko czytają, a zmiany widoczne dla klientów wymagają osobnego uprawnienia i potwierdzenia człowieka (playbook o API i MCP). Po stronie X-ONE dostęp do środowisk mają tylko imienne konta z MFA, a każdy dostęp jest logowany.
Co z integracjami i ich umowami?
To osobny obszar odpowiedzialności, którego maskowanie nie rozwiązuje. Agent przekazuje dane do systemów wskazanych przez firmę: CRM, helpdesku, kalendarza, systemu rezerwacji czy usługi map. Te systemy muszą dostać prawdziwe dane, żeby zadziałać: wyszukiwarka sklepów potrzebuje adresu, helpdesk e-maila klienta. Przy wdrożeniu warto spisać listę integracji, sprawdzić, gdzie każda z nich przetwarza dane, i zweryfikować umowy powierzenia z ich dostawcami. Każda integracja ma w X-TALK osobne poświadczenia z minimalnym zakresem, np. klucz do sklepu tylko do odczytu zamówień.
Co sprawdzić przed wdrożeniem? Lista kontrolna
- Umowa powierzenia przetwarzania danych podpisana, typ i region modeli w niej zapisany
- Lista integracji i dostawców, do których trafiają dane, z ich umowami powierzenia
- Powitanie informuje, że rozmówcą jest AI; komunikat o nagrywaniu zgodny z decyzją firmy
- Ustalona retencja nagrań i transkryptów albo decyzja o wyłączeniu nagrywania
- Poziom maskowania wybrany dla każdego agenta; przy „Pełnym” instrukcja z formami neutralnymi
- Agenci publiczni bez dostępu do kolekcji wewnętrznych
- Blok bezpieczeństwa w instrukcjach i scenariusze testów nadużyć przechodzą
- Weryfikacja klienta przed ujawnieniem danych zamówienia, wizyty czy konta
- Role, 2FA lub SSO dla wszystkich użytkowników panelu; klucze API z minimalnym zakresem
- Ścieżka przekazania do człowieka dla spraw o istotnych skutkach
Najczęstsze pytania
Czy voicebot może nagrywać rozmowy?
Tak, jeśli firma tak zdecyduje. Firma ustala też treść komunikatu o nagrywaniu, a nagrania są dostępne w panelu standardowo przez 90 dni. Nagrywanie można wyłączyć; transkrypt powstaje dla każdej rozmowy.
Czy przed wdrożeniem potrzebna jest DPIA?
Decyzję o przeprowadzeniu oceny skutków dla ochrony danych podejmuje administrator razem ze swoim IOD. Pomocny jest dokument architektury i zgodności, który przygotowujemy do każdego wdrożenia: przepływ danych, podprocesorzy, szyfrowanie, role i ciągłość działania.
Czy możemy uruchomić X-TALK w naszej subskrypcji Azure?
Tak. W wariancie hybrydowym modele AI działają w subskrypcji firmy, a w wariancie PaaS cała platforma działa w jej subskrypcji i sieci. Rozliczenie przez Azure Marketplace jest w przygotowaniu.
Jak X-TALK wspiera obowiązki z NIS2?
X-ONE zgłasza incydenty w terminach, które pozwalają firmie dotrzymać własnych, przekazuje informacje do analizy ryzyka łańcucha dostaw i uczestniczy w analizie poincydentalnej. Infrastruktura Azure ma certyfikaty ISO/IEC 27001, 27017, 27018 i raporty SOC 2.
Co się stanie, jeśli X-ONE przestanie działać?
Na życzenie udostępniamy depozyt kodu źródłowego platformy, uwalniany w zdarzeniach określonych w umowie. Ciągłość na co dzień zapewniają kopie zapasowe z odtworzeniem do punktu w czasie i trójwarstwowy failover kanału głosowego.
Szczegóły mechanizmów opisujemy na stronie Bezpieczeństwo, a pełny rozdział o zgodności znajdziesz w playbooku. Dokument architektury i zgodności, z mapowaniem na RODO, AI Act i NIS2, przygotowujemy w ramach PoC, zanim agent odbierze pierwszy telefon.