Słownik pojęć
Nadzór człowieka: wyniki AI pod kontrolą ludzi
Zasada AI Act, zgodnie z którą wyniki systemu wysokiego ryzyka podlegają przeglądowi przez kompetentne osoby z prawem ich zakwestionowania i korekty.
Definicja
Nadzór człowieka (human oversight) ma w AI Act dwie strony. Art. 14 zobowiązuje dostawcę do zaprojektowania systemu wysokiego ryzyka tak, by nadzór był realnie możliwy: wyniki muszą być zrozumiałe, a człowiek musi móc zainterweniować. Art. 26(2) zobowiązuje deployera do powierzenia nadzoru osobom, które mają kompetencje, przeszkolenie i umocowanie, by oceny kwestionować.
W praktyce QA oznacza to, że ocena AI jest materiałem informacyjnym, a nie decyzją kadrową: człowiek może zejść do źródła każdego wyniku i go skorygować. W CallSea z każdej oceny można przejść do konkretnej rozmowy i cytatu z transkrypcji — od dashboardu po pojedyncze zdanie, na którym oparto wynik. Systematyczną formą nadzoru jest też kalibracja, w której trenerzy konfrontują oceny AI z własnym osądem.
Przykład z praktyki call center
Konsultant kwestionuje niezaliczoną pozycję checklisty „weryfikacja tożsamości”. Trener otwiera rozmowę, widzi cytat, na którym AI oparło ocenę, i odsłuchuje fragment nagrania. Jeśli ocena jest błędna — koryguje ją; jeśli słuszna — ma gotowy materiał do coachingu. Cała weryfikacja zajmuje minuty, bo nie wymaga odsłuchu całej rozmowy.
Najczęstsze pytania
Czy AI może samodzielnie oceniać pracowników bez udziału człowieka?
System oceniający pracowników to AI wysokiego ryzyka, którego wyniki wymagają nadzoru człowieka (art. 14 i 26(2) AI Act). Dodatkowo art. 22 RODO ogranicza decyzje oparte wyłącznie na zautomatyzowanym przetwarzaniu, które wywołują wobec osoby skutki prawne. W praktyce: AI dostarcza materiał, decyzje podejmują ludzie.
Kto powinien sprawować nadzór nad ocenami AI?
Osoby wyznaczone przez firmę wdrażającą, mające kompetencje, przeszkolenie i umocowanie — w call center zwykle trenerzy jakości i menedżerowie kampanii. Wymóg wyznaczenia takich osób nakłada art. 26(2) AI Act.
Jak nadzór człowieka wygląda w praktyce?
Każdy wynik da się prześledzić od dashboardu do cytatu z transkrypcji i odsłuchu fragmentu, a ocenę można zakwestionować i skorygować. Uzupełnieniem są regularne kalibracje ocen AI względem ocen trenerów.