Zakaz rozpoznawania emocji w miejscu pracy a analiza rozmów AI

Zakaz rozpoznawania emocji w miejscu pracy to jeden z niewielu przepisów EU AI Act, które obowiązują już w pełni — od 2 lutego 2025 r., bez okresów przejściowych i bez odroczeń z pakietu Digital Omnibus. Jednocześnie rynek analityki rozmów wciąż jest pełen narzędzi reklamujących „sentiment analysis” i „wykrywanie emocji”. Dla menedżera call center sprowadza się to do praktycznego pytania: które funkcje wolno włączyć, a które narażają firmę na najwyższy próg kar w całym rozporządzeniu — do 35 mln euro lub 7% światowego obrotu?

Dobra wiadomość: granica jest ostrzejsza, niż sugeruje marketingowy szum. Poniżej rozkładamy ją na części — co dokładnie zakazuje art. 5(1)(f), czego zakaz nie obejmuje, gdzie leży ryzyko narzędzi analizujących ton głosu i jak zweryfikować dostawcę, zanim podpiszesz umowę.

Co dokładnie oznacza zakaz rozpoznawania emocji w AI Act

Art. 5(1)(f) rozporządzenia 2024/1689 zakazuje wprowadzania do obrotu, oddawania do użytku i wykorzystywania systemów AI służących do wyciągania wniosków na temat emocji osoby fizycznej w miejscu pracy i w instytucjach edukacyjnych. Klucz do zakresu leży w definicji z art. 3 pkt 39: „system rozpoznawania emocji” to system identyfikujący lub wywnioskowujący emocje lub zamiary osób na podstawie ich danych biometrycznych — a daną biometryczną jest m.in. głos, mimika czy sposób pisania na klawiaturze.

Trzy rzeczy warto podkreślić od razu. Po pierwsze, zakaz działa od 2 lutego 2025 r. i — inaczej niż obowiązki dla systemów wysokiego ryzyka, przesunięte na grudzień 2027 — nie został objęty żadnym odroczeniem. Po drugie, obejmuje nie tylko dostawcę narzędzia, ale i firmę, która go używa: „wykorzystywanie” to czynność deployera, więc call center nie zasłoni się umową z vendorem. Po trzecie, naruszenie art. 5 zagrożone jest najwyższym progiem kar: do 35 mln euro lub 7% rocznego światowego obrotu.

Wytyczne Komisji Europejskiej w sprawie praktyk zakazanych, zatwierdzone 4 lutego 2025 r. (formalnie niewiążące, ale pokazujące, jak KE zamierza czytać przepis), nie zostawiają branży wątpliwości: wśród przykładów praktyk zakazanych wprost wymieniono call center śledzące emocje pracowników — na przykład gniew — z użyciem analizy głosu i kamer. Uzasadnienie prawodawca opisał w motywie 44: wnioskowanie o emocjach ma wątpliwe podstawy naukowe, bo ekspresja emocji różni się między kulturami i sytuacjami, a nierównowaga sił w relacji pracodawca–pracownik czyni takie systemy szczególnie inwazyjnymi.

Wyjątki: względy medyczne i bezpieczeństwo — czytane wąsko

Art. 5(1)(f) przewiduje wyjątek dla systemów wdrażanych ze względów medycznych lub bezpieczeństwa. Wytyczne KE każą go interpretować wąsko: zastosowanie musi odpowiadać na konkretną potrzebę, ograniczać się do tego, co ściśle niezbędne — w czasie, zakresie osobowym i skali — i mieć realne zabezpieczenia.

W praktyce: system monitorujący oznaki zmęczenia zawodowych pilotów lub kierowców w ogóle nie wchodzi w zakres zakazu — motyw 18 AI Act wprost wyłącza z pojęcia „emocji” stany fizyczne, takie jak ból czy zmęczenie, więc taki system nie potrzebuje żadnego wyjątku. Wyjątek medyczny i bezpieczeństwa dotyczy zastosowań stricte medycznych, np. systemów terapeutycznych wspierających leczenie zaburzeń emocjonalnych. Nie legalizuje on natomiast monitorowania „poziomu stresu” czy ryzyka wypalenia zespołu — nawet w dobrej wierze — bo to wciąż wnioskowanie o emocjach z danych biometrycznych. „Bezpieczeństwo” też nie obejmuje interesów firmy — wykrywanie emocji w celu zapobiegania kradzieżom lub oszustwom w wyjątku się nie mieści. Wniosek dla contact center jest krótki: żaden realny scenariusz oceny jakości rozmów w tych wyjątkach się nie zmieści.

Czego zakaz nie obejmuje: ocena treści rozmowy to nie analiza emocji pracowników

Tu leży najczęstsze nieporozumienie. Zakaz dotyczy wnioskowania o emocjach z danych biometrycznych — nie dotyczy oceny tego, co zostało powiedziane. Wytyczne KE potwierdzają wprost: wnioskowanie o sentymencie wyłącznie z tekstu — na przykład z transkrypcji wypowiedzi — nie jest systemem rozpoznawania emocji w rozumieniu rozporządzenia, bo nie przetwarza danych biometrycznych.

Ocena merytoryczna rozmowy jest od zakazu jeszcze dalej, bo w ogóle nie wnioskuje o emocjach. Sprawdzenie, czy konsultant poinformował o nagrywaniu, czy zbadał potrzeby klienta pytaniami otwartymi, czy złożył obietnicę bez pokrycia — to ocena obserwowalnych zachowań. Dokładnie to samo robi trener przy ręcznym odsłuchu, tylko na próbce; automat robi to na 100% rozmów.

Wniosek z tabeli: automatyczna ocena jakości rozmów jest legalna — pod warunkiem, że system ocenia treść, a nie stany emocjonalne, i robi to na tekście, a nie na cechach akustycznych głosu. Pełną mapę obowiązków, które przy ocenie pracowników wchodzą w grudniu 2027, opisaliśmy w tekście o EU AI Act w call center.

AI Act a emocje w call center: klient to nie pracownik — ale to nie koniec tematu

Zakaz z art. 5(1)(f) chroni pracowników, nie klientów. Analiza emocji dzwoniącego nie jest więc praktyką zakazaną — ale nie jest też strefą wolną od regulacji. System rozpoznawania emocji użyty poza miejscem pracy to system wysokiego ryzyka (Załącznik III pkt 1 lit. c), a od 2 sierpnia 2026 r. trzeba informować osoby, wobec których taki system działa (art. 50(3)) — standardowy komunikat „rozmowa może być nagrywana” tego obowiązku nie realizuje.

Do tego dochodzi problem czysto praktyczny: w nagraniu rozmowy telefonicznej są dwa głosy. Narzędzie, które „analizuje emocje klienta” z audio, musi wiarygodnie wykazać, że kanał konsultanta nie trafia do analizy prozodii. A jeśli wynik „sentymentu rozmowy” ląduje potem w karcie oceny konsultanta, konstrukcja robi się bardzo trudna do obrony. Zmiana nazwy funkcji na „energię rozmowy” czy „indeks zaangażowania” niczego nie zmienia — o klasyfikacji decyduje to, co system robi z danymi, nie etykieta w ofercie.

Jak CallSea rozwiązuje to technicznie

W CallSea zgodność z art. 5(1)(f) nie jest zapisem w regulaminie, tylko właściwością architektury. Modele oceniające otrzymują wyłącznie tekst transkrypcji — nie mają dostępu do audio, więc analiza tonu głosu, prozodii ani żadnych cech akustycznych nie jest „wyłączona”, jest niewykonalna. Nagrania audio są przekazywane do transkrypcji i nie są trwale przechowywane.

Drugi bezpiecznik działa na poziomie konfiguracji: walidator uniemożliwia zapisanie kryteriów oceny wnioskujących o emocjach lub stanie psychicznym konsultantów — także takich, które próbowałyby wyciągać wnioski emocjonalne z samego tekstu. To celowo szerzej niż litera zakazu, bo kryterium „oceń entuzjazm konsultanta” jest nie tylko ryzykowne prawnie, ale i nieocenialne powtarzalnie. Zamiast niego oceniasz zachowania widoczne w transkrypcji: czy konsultant odpowiedział na każde pytanie klienta, czy odniósł się do obiekcji, czy zaproponował kolejny krok. Pełny opis architektury danych i klasyfikacji systemu publikujemy na stronie Zaufanie i bezpieczeństwo.

Checklista: 6 pytań do dostawcy analizy rozmów

Zanim podpiszesz umowę na narzędzie do analizy rozmów, zadaj dostawcy te pytania — i wpisz odpowiedzi do umowy, nie do notatek ze spotkania:

1. Czy modele oceniające przetwarzają audio, czy wyłącznie tekst transkrypcji? Na którym etapie nagranie znika z przepływu danych?
2. Czy da się skonfigurować kryterium typu „oceń nastawienie / entuzjazm konsultanta”? Jeśli nie — co je blokuje: zapis w umowie czy walidator w kodzie?
3. Czy funkcja „sentiment analysis” działa na prozodii i tonie głosu, czy na tekście? Czyje wypowiedzi obejmuje — klienta, konsultanta czy obu stron?
4. Czy wyniki analizy sentymentu klientów zasilają w jakikolwiek sposób oceny lub rankingi konsultantów? Jeśli tak, wracasz do pytania o art. 5.
5. Jak dostawca klasyfikuje system pod AI Act i czy potwierdzi architekturę przetwarzania pisemnie — tak, żeby dało się ją wpisać do DPIA i pokazać przy audycie?
6. Jeśli planujesz analizę emocji klientów: jak dostawca wesprze realizację obowiązku informacyjnego z art. 50(3), który wchodzi 2 sierpnia 2026 r.?

Sygnał ostrzegawczy jest jeden i prosty: dostawca, który na pierwsze pytanie odpowiada ogólnikiem albo „to szczegół techniczny”, każe Ci wziąć na siebie ryzyko najwyżej wycenionego zakazu w AI Act.