EU AI Act w call center: co naprawdę oznacza dla oceny konsultantów

Rozporządzenie UE 2024/1689, czyli EU AI Act, przestało być tematem konferencyjnym — to obowiązujące prawo, które wprost dotyczy call center oceniających pracę konsultantów z pomocą AI. Dobra wiadomość: obowiązki są konkretne i wykonalne. Zła: „jakoś to będzie” przestało być strategią.

Dlaczego ocena rozmów to system wysokiego ryzyka

Załącznik III AI Act w punkcie 4(b) wymienia systemy „przeznaczone do monitorowania i oceny wydajności oraz zachowania osób pozostających w stosunkach pracy”. System, który transkrybuje rozmowy konsultantów, ocenia je i agreguje wyniki per osoba, pasuje do tej definicji literalnie — niezależnie od tego, jak nazwie go dostawca.

Warto być podejrzliwym wobec dostawców, którzy twierdzą, że ich narzędzie oceny pracowników „nie jest systemem wysokiego ryzyka”. Taka klasyfikacja to nie wybór marketingowy, tylko konsekwencja przeznaczenia produktu.

Obowiązki pracodawcy jako deployera

Firma wdrażająca system oceny AI jest w nomenklaturze AI Act „deployerem” — i ma własne obowiązki, których nie da się scedować na dostawcę:

• Poinformowanie pracowników przed startem — konsultanci i ich przedstawiciele muszą wiedzieć, że podlegają ocenie systemu AI (art. 26(7) AI Act; w Polsce dochodzi art. 22³ Kodeksu pracy).
• Nadzór ludzki — wyniki ocen przeglądają przeszkolone osoby z realnym prawem ich zakwestionowania i korekty (art. 26(2)). AI scoring wspiera decyzje menedżerskie, nie zastępuje ich.
• Adekwatność danych wejściowych — nagrania trafiające do systemu powinny być odpowiedniej jakości i zgodne z przeznaczeniem systemu (art. 26(4)).
• Logi — przechowywanie logów użytkowania systemu przez minimum 6 miesięcy (art. 26(6)).
• DPIA — ocena skutków dla ochrony danych przed uruchomieniem monitoringu (art. 35 RODO); dostawca ma obowiązek dostarczyć niezbędne informacje (art. 26(9) AI Act).
• AI literacy — osoby pracujące z wynikami (menedżerowie, HR) muszą rozumieć, jak system działa i jakie ma ograniczenia (art. 4).

Czerwona linia: emocje z głosu

Art. 5(1)(f) AI Act zakazuje wnioskowania o emocjach pracowników w miejscu pracy z danych biometrycznych — a głos jest daną biometryczną. Praktyczny wniosek: system oceny rozmów nie powinien analizować tonu głosu ani prozodii konsultantów, a konfiguracja kryteriów „oceń nastawienie emocjonalne konsultanta” powinna być technicznie niemożliwa, nie tylko umownie zakazana.

Bezpieczna architektura wygląda tak: modele językowe otrzymują wyłącznie tekst transkrypcji. Ocena emocji czy stanu psychicznego konsultanta nie jest „wyłączona” — jest niewykonalna.

Czego wymagać od dostawcy

• Jawnej klasyfikacji systemu pod AI Act i uzasadnienia, nie strategii unikania.
• Wyjaśnialności ocen — z każdego wyniku musi dać się zejść do konkretnej rozmowy i cytatu z transkrypcji, żeby człowiek mógł ocenę zweryfikować.
• Technicznej blokady analizy emocji pracowników (walidator konfiguracji), zgodnie z art. 5.
• Planu zgodności providera — od oznaczania treści generowanych przez AI, przez rejestr ryzyk i dokumentację techniczną, po ocenę zgodności, deklarację UE i oznakowanie CE.
• Wsparcia w Twoich obowiązkach — wzorzec informacji dla pracowników, dane do DPIA, materiały szkoleniowe.

Jak podchodzi do tego CallSea

CallSea świadomie klasyfikuje się jako system wysokiego ryzyka i realizuje fazowy plan zgodności rozpisany aż po oznakowanie CE i rejestrację w unijnej bazie systemów AI. Guardraile art. 5 działają już dziś: walidator blokuje kryteria wnioskujące o emocjach konsultantów, a modele oceniają wyłącznie tekst transkrypcji. Klient dostaje pakiet wdrożeniowy: wzorzec informacji dla pracowników, dane niezbędne do DPIA i materiały AI literacy.