Czy wideorekrutacja może oceniać mimikę kandydata? Rozpoznawanie emocji a zakazy AI Act

Wideorekrutacja może analizować obraz i dźwięk, ale nie wszystko, co technicznie da się wyczytać z nagrania, wolno wykorzystać do oceny kandydata. Granica przebiega między analizą treści odpowiedzi lub parametrów technicznych nagrania a próbą ustalenia, czy rozmówca jest zestresowany, szczery, entuzjastyczny albo pewny siebie.

Od 2 lutego 2025 roku AI Act zakazuje stosowania systemów sztucznej inteligencji do wnioskowania o emocjach osób w miejscu pracy. Zakaz obejmuje również proces rekrutacyjny, jeżeli analiza mimiki, głosu lub gestów ma wpływać na ocenę przydatności zawodowej. Nie ratuje jej zgoda kandydata, informacja w regulaminie ani pozostawienie ostatecznej decyzji rekruterowi.

Co system może analizować, a gdzie zaczyna się rozpoznawanie emocji

Sama obecność kamery nie oznacza jeszcze naruszenia. Pracodawca może przeprowadzić rozmowę wideo, nagrać odpowiedzi za zgodą i na właściwej podstawie prawnej, sporządzić transkrypcję albo użyć narzędzia pomagającego porządkować materiał. Problem zaczyna się wtedy, gdy system przypisuje kandydatowi stan emocjonalny lub intencję na podstawie danych biometrycznych.

Do systemów rozpoznawania emocji mogą należeć rozwiązania, które na podstawie obrazu lub głosu wyliczają między innymi:

• poziom stresu, zdenerwowania albo lęku;
• entuzjazm, zaangażowanie lub znudzenie;
• pewność siebie i odporność na presję;
• szczerość, wiarygodność lub skłonność do ukrywania informacji;
• złość, smutek, radość, zaskoczenie albo frustrację;
• intencję odejścia, współpracy lub podporządkowania się.

Nazwa funkcji nie ma decydującego znaczenia. Moduł opisany przez dostawcę jako „analiza zachowania”, „dopasowanie komunikacyjne”, „wskaźnik energii” czy „ocena autentyczności” nadal może być systemem rozpoznawania emocji. Liczy się to, co faktycznie wyprowadza z mimiki, ruchów, tonu głosu lub innych cech osoby.

Nie każda analiza gestów jest automatycznie zakazana. System może na przykład wykrywać, czy twarz znajduje się w kadrze, czy mikrofon działa albo czy nagranie nie zostało przerwane. Może też rozpoznawać wypowiedziane słowa w celu stworzenia transkrypcji. Takie operacje mają charakter techniczny, dopóki nie służą do ustalania emocji lub zamiarów.

W praktyce granica bywa przekraczana przez dodatkową funkcję ukrytą w panelu rekrutera. Główne narzędzie zbiera odpowiedzi wideo, ale obok nich wyświetla wynik „confidence: 78%” albo „engagement: low”. To właśnie ten moduł, a nie sama platforma wideorekrutacyjna, tworzy największe ryzyko.

Trzeba też odróżnić ocenę sposobu komunikacji dokonywaną przez człowieka od automatycznego wnioskowania przez AI. Rekruter może zauważyć, że kandydat odpowiada chaotycznie, unika pytania lub nie podaje przykładów. Nie powinien jednak bezkrytycznie przypisywać mu cech psychicznych na podstawie uśmiechu, ruchu oczu czy chwilowego napięcia. Taka ocena jest zawodna nawet bez udziału algorytmu, szczególnie wobec osób neuroróżnorodnych, osób z niepełnosprawnościami, kandydatów mówiących w obcym języku albo korzystających ze słabego łącza.

Dlaczego zgoda kandydata i „decyzja człowieka” nie rozwiązują problemu

Zakaz wynikający z AI Act dotyczy wprowadzania do obrotu, oddawania do użytku oraz używania systemów AI do wnioskowania o emocjach w obszarze zatrudnienia. Jeżeli funkcja jest zakazana, nie można zalegalizować jej przez zaznaczenie pola „wyrażam zgodę”.

W rekrutacji zgoda jest zresztą szczególnie problematyczna. Kandydat formalnie może ją wyrazić, lecz zazwyczaj wie, że odmowa może oznaczać wycofanie z procesu. Taka nierównowaga podważa dobrowolność zgody na gruncie RODO. Nawet prawidłowo odebrana zgoda na nagranie nie oznacza zgody na dowolne profilowanie.

Nie wystarczy również zapis: „wynik AI ma charakter pomocniczy”. System może wpływać na decyzję, mimo że kandydaturę formalnie odrzuca człowiek. Dzieje się tak, gdy rekruter:

• widzi ranking przed obejrzeniem nagrania;
• rozpoczyna analizę od kandydatów najwyżej ocenionych przez algorytm;
• dostaje ostrzeżenie o niskiej wiarygodności rozmówcy;
• musi uzasadnić odstępstwo od rekomendacji systemu;
• nie otrzymuje zgłoszeń, które algorytm odrzucił na wcześniejszym etapie.

W takich warunkach człowiek często tylko zatwierdza wynik. To pozorny nadzór, a nie niezależna ocena.

AI Act przewiduje wąski wyjątek dla systemów używanych ze względów medycznych lub bezpieczeństwa. Nie daje on pracodawcy prawa do badania stresu kandydata, aby sprawdzić jego odporność psychiczną. Wyjątek mógłby dotyczyć przykładowo rozwiązania rozpoznającego oznaki nagłego zagrożenia zdrowia, ale cel musi być rzeczywiście medyczny lub związany z bezpieczeństwem, a nie jedynie tak nazwany w dokumentacji.

Naruszenie zakazu praktyk z art. 5 AI Act może prowadzić do administracyjnej kary do 35 mln euro albo 7% całkowitego światowego rocznego obrotu przedsiębiorstwa z poprzedniego roku obrotowego — stosuje się wyższą wartość. Przy wymierzaniu sankcji bierze się pod uwagę między innymi charakter naruszenia, czas jego trwania, liczbę poszkodowanych oraz wielkość organizacji. Dla mniejszych przedsiębiorstw obowiązują mechanizmy ograniczające maksymalny poziom kary, ale nie zmienia to podstawowego wniosku: modułu emocji nie warto „testować” na prawdziwych kandydatach.

Obok AI Act pozostają inne obowiązki. Nagranie rozmowy zawiera dane osobowe, a analiza twarzy lub głosu może prowadzić do przetwarzania danych biometrycznych. Pracodawca musi więc osobno sprawdzić zgodność z RODO, zasadę minimalizacji danych, okres przechowywania, podstawę przetwarzania, obowiązek informacyjny, umowę powierzenia oraz potrzebę wykonania oceny skutków dla ochrony danych. Zgodność z jednym aktem nie zastępuje zgodności z drugim.

Jak zaprojektować wideorekrutację bez zakazanej analizy mimiki

Najbezpieczniejszy model jest prosty: kamera służy do komunikacji, transkrypcja pomaga porządkować odpowiedzi, a ocena dotyczy kompetencji wskazanych w ogłoszeniu. System nie przypisuje kandydatowi emocji, osobowości ani intencji.

Audyt należy rozpocząć od funkcji, a nie od nazwy produktu. W dokumentacji dostawcy trzeba wyszukać określenia takie jak:

• emotion recognition;
• sentiment analysis;
• facial expression analysis;
• behavioural scoring;
• personality inference;
• voice stress analysis;
• honesty, trustworthiness lub authenticity score;
• confidence, engagement albo enthusiasm score;
• gaze tracking używany do oceny zachowania;
• psychometric profiling na podstawie nagrania.

Następnie trzeba zażądać pisemnej odpowiedzi, jakie dane są pobierane z obrazu i dźwięku, jakie wyniki powstają oraz czy wpływają one na ranking kandydatów. Ogólne zapewnienie sprzedawcy, że produkt jest „AI Act ready”, nie wystarcza. W umowie powinno znaleźć się konkretne zobowiązanie, że dostawca nie uruchomi modułów rozpoznawania emocji ani nie doda ich przy aktualizacji bez wcześniejszej zgody klienta i ponownej oceny prawnej.

Dobrze zaprojektowany proces może wykorzystywać AI do zadań o znacznie mniejszym ryzyku, na przykład:

• zamiany nagrania na tekst;
• anonimizacji danych niezwiązanych z oceną;
• wykrywania braku dźwięku lub problemu z obrazem;
• porządkowania odpowiedzi według pytań;
• wyszukiwania w transkrypcji konkretnych kwalifikacji;
• przygotowania roboczej notatki, którą rekruter weryfikuje;
• planowania terminów rozmów i wysyłania przypomnień.

Ostrożności wymaga automatyczne ocenianie odpowiedzi. Systemy przeznaczone do analizy zgłoszeń, filtrowania aplikacji lub oceniania kandydatów są w AI Act wskazane jako systemy wysokiego ryzyka. Oznacza to rozbudowane obowiązki dotyczące między innymi zarządzania ryzykiem, jakości danych, dokumentacji, rejestrowania zdarzeń, przejrzystości i nadzoru człowieka. Pełny reżim dla tej kategorii jest odrębny od zakazu rozpoznawania emocji: jedno rozwiązanie może być dozwolonym systemem wysokiego ryzyka, a inne — rozwiązaniem całkowicie zakazanym.

W praktyce sensowna procedura wdrożenia wygląda następująco:

1. Rozpisz przepływ danych. Ustal, co dzieje się z obrazem, dźwiękiem, transkrypcją i metadanymi od momentu nagrania do usunięcia.
2. Wyłącz moduły behawioralne. Samo ukrycie wyniku w panelu nie wystarcza; funkcja nie powinna przetwarzać danych w tle.
3. Oddziel kryteria zawodowe od cech psychicznych. Punktuj doświadczenie, sposób rozwiązania zadania, znajomość narzędzi i jakość argumentacji, nie „energię” czy „autentyczność”.
4. Zapewnij alternatywną formę udziału. Kandydat powinien móc zgłosić potrzebę rozmowy na żywo, telefonicznej albo innego racjonalnego dostosowania, szczególnie gdy nagranie stwarza barierę związaną z niepełnosprawnością.
5. Ustal retencję. Nagrania nie powinny pozostawać w systemie „na wszelki wypadek”. Termin musi wynikać z celu rekrutacji oraz ewentualnej potrzeby obrony przed roszczeniami.
6. Przetestuj wynik na rzeczywistych przypadkach. Sprawdź, czy osoby oceniające dochodzą do podobnych wniosków na podstawie tych samych, wcześniej zdefiniowanych kryteriów.
7. Przeszkol rekruterów. Zakazany moduł można wyłączyć technicznie, ale nadal popełniać ten sam błąd ręcznie, traktując kontakt wzrokowy, uśmiech albo ton głosu jako miernik uczciwości.

Najbardziej irytujący problem platform rekrutacyjnych nie polega dziś na braku funkcji, lecz na ich nadmiarze. Moduły analityczne bywają domyślnie aktywne, nie są opisane w języku zrozumiałym dla działu HR albo pojawiają się po aktualizacji. Dlatego audyt należy powtarzać po każdej istotnej zmianie produktu, a nie tylko przy podpisywaniu pierwszej umowy.

Więcej informacji na: https://takieprawo.pl

FAQ

Czy można podczas rozmowy wideo obserwować mimikę kandydata?
Tak. Człowiek prowadzący rozmowę naturalnie widzi reakcje rozmówcy. Zakaz AI Act dotyczy używania systemu AI do wnioskowania o emocjach lub intencjach na podstawie danych biometrycznych. Nadal trzeba jednak uważać, by mimika nie zastępowała oceny kompetencji.

Czy można używać AI do tworzenia transkrypcji rozmowy?
Tak, o ile system zamienia mowę na tekst i nie wykorzystuje tonu głosu, pauz czy sposobu wypowiedzi do ustalania emocji, osobowości albo wiarygodności kandydata.

Czy zgoda kandydata pozwala włączyć analizę emocji?
Nie. Zgoda nie uchyla zakazu stosowania systemów rozpoznawania emocji w obszarze zatrudnienia. Może być natomiast jednym z elementów oceny legalności samego nagrania, jeżeli spełnia wymagania RODO.

Czy analiza kontaktu wzrokowego jest zakazana?
Zależy od celu. Techniczne sprawdzenie, czy twarz znajduje się w kadrze, nie musi być rozpoznawaniem emocji. Używanie ruchu oczu do wyliczania stresu, pewności siebie, szczerości albo zainteresowania wchodzi już w obszar wysokiego ryzyka prawnego i może podlegać zakazowi.

Czy zakaz dotyczy również kandydatów, którzy nie są jeszcze pracownikami?
Tak. Rekrutacja stanowi część obszaru zatrudnienia, a AI Act osobno wskazuje systemy używane do rekrutacji, selekcji, filtrowania aplikacji i oceniania kandydatów.

Czy ostateczna decyzja rekrutera wystarczy, aby system był legalny?
Nie. Jeżeli AI najpierw ocenia emocje, szereguje kandydatów albo oznacza ich jako niewiarygodnych, późniejsza decyzja człowieka nie usuwa zakazanego zastosowania.

Co sprawdzić najpierw w używanej platformie?
Najpierw otwórz konfigurację oraz dokumentację i ustal, czy system generuje jakikolwiek wynik dotyczący emocji, stresu, entuzjazmu, osobowości, autentyczności lub wiarygodności. Jeżeli taki moduł działa, wyłącz go przed kolejną rozmową i zażądaj od dostawcy potwierdzenia, że dane nie są analizowane również w tle. Dopiero później oceniaj pozostałe obowiązki dotyczące systemów wysokiego ryzyka i RODO.