Słownik pojęć
EU AI Act: co rozporządzenie o AI oznacza dla call center
Rozporządzenie (UE) 2024/1689 klasyfikuje systemy oceniające pracowników jako AI wysokiego ryzyka i rozdziela obowiązki między dostawcę a wdrażającego.
Definicja
EU AI Act — rozporządzenie (UE) 2024/1689 — to pierwsza kompleksowa regulacja sztucznej inteligencji. Przyjmuje podejście oparte na ryzyku: od praktyk zakazanych (art. 5), przez systemy wysokiego ryzyka (Załącznik III), po obowiązki przejrzystości i systemy minimalnego ryzyka.
Dla call center kluczowe są dwa punkty. Po pierwsze, Załącznik III pkt 4(b) obejmuje systemy AI przeznaczone do monitorowania i oceny pracy osób pozostających w stosunkach pracy — automatyczna ocena rozmów konsultantów pasuje do tej definicji literalnie, więc to system wysokiego ryzyka. Po drugie, art. 5(1)(f) zakazuje rozpoznawania emocji osób w miejscu pracy. Obowiązki dzielą się między dostawcę systemu (providera) i firmę wdrażającą (deployera). CallSea przyjmuje klasyfikację wysokiego ryzyka transparentnie, realizuje fazowy plan zgodności do oznakowania CE, a modele oceniające rozmowy pracują wyłącznie na tekście transkrypcji — bez analizy emocji i tonu głosu. Pełny opis podejścia: zaufanie i bezpieczeństwo oraz artykuł AI Act w call center.
Przykład z praktyki call center
Firma wdraża automatyczną ocenę rozmów. Przed startem: informuje pracowników i ich przedstawicieli (art. 26(7) AI Act, w Polsce także art. 22³ KP), wyznacza osoby nadzorujące wyniki (art. 26(2)), przeprowadza DPIA. Od dostawcy egzekwuje: brak analizy emocji, możliwość weryfikacji każdej oceny przez człowieka i rezydencję danych w UE.
Najczęstsze pytania
Czy analiza rozmów AI to system wysokiego ryzyka?
Tak, jeśli służy do monitorowania i oceny pracy osób zatrudnionych — Załącznik III pkt 4(b) AI Act wymienia takie systemy wprost. Klasyfikacja nie zależy od tego, jak dostawca nazwie produkt, tylko od jego przeznaczenia.
Czy AI Act zakazuje analizy emocji w call center?
Rozpoznawanie emocji osób w miejscu pracy jest praktyką zakazaną (art. 5(1)(f) AI Act). Dlatego analiza cech akustycznych głosu konsultantów nakierowana na emocje jest niedopuszczalna — CallSea technicznie analizuje wyłącznie tekst transkrypcji.
Kto odpowiada za zgodność z AI Act — dostawca czy call center?
Obaj, w różnych zakresach. Dostawca (provider) odpowiada m.in. za dokumentację techniczną, zarządzanie ryzykiem i ocenę zgodności. Firma wdrażająca (deployer) — za użytkowanie zgodnie z instrukcją, nadzór człowieka, logi i poinformowanie pracowników.