Czy AI może analizować ton głosu pracownika na Teamsie? Gdzie według AI Act kończy się analiza zachowania, a zaczyna zakazane rozpoznawanie emocji?

Szef otrzymuje raport ze spotkania na Microsoft Teams. Oprócz listy ustaleń widzi ocenę uczestników: „Anna – zestresowana”, „Piotr – sfrustrowany”, „Marek – niski poziom zaangażowania”. Algorytm wyciągnął te wnioski z tempa mówienia, wysokości głosu i intonacji. Technicznie jest to możliwe, ale od 2 lutego 2025 r. AI Act zakazuje wykorzystywania systemów AI do rozpoznawania emocji pracowników na podstawie danych biometrycznych, poza ściśle określonymi wyjątkami medycznymi i związanymi z bezpieczeństwem. Nie oznacza to jednak zakazu każdej analizy rozmów. Granica przebiega między ustalaniem, co pracownik powiedział lub zrobił, a przypisywaniem mu emocji i intencji na podstawie cech głosu.

Co AI może analizować podczas spotkań na Teamsie, a czego zabrania AI Act?

Microsoft Teams i Microsoft 365 Copilot umożliwiają transkrypcję spotkań, przygotowywanie podsumowań, identyfikowanie ustaleń oraz przypisywanie wypowiedzi poszczególnym uczestnikom. To nie jest automatycznie rozpoznawanie emocji. Problem zaczyna się wtedy, gdy firma rozszerza analizę o cechy głosu i próbuje na ich podstawie oceniać stan psychiczny pracownika.

Przykładowo dział sprzedaży może wykorzystać transkrypcję spotkania do sprawdzenia, czy handlowiec przedstawił klientowi wszystkie warunki oferty. System identyfikuje wypowiedzi dotyczące ceny, terminu realizacji i możliwości odstąpienia od umowy. Takie zastosowanie służy analizie treści rozmowy, a nie emocji jej uczestników.

Sytuacja zmienia się, gdy dodatkowy algorytm analizuje drżenie głosu, tempo wypowiedzi lub zmiany intonacji, a następnie przypisuje pracownikowi etykietę „niepewny”, „zdenerwowany” czy „niezadowolony”.

Art. 3 pkt 39 rozporządzenia (UE) 2024/1689 definiuje system rozpoznawania emocji jako system AI służący do identyfikowania lub wywnioskowania emocji albo zamiarów osób fizycznych na podstawie ich danych biometrycznych. Natomiast art. 5 ust. 1 lit. f zakazuje stosowania takich systemów w miejscu pracy, z wyjątkiem zastosowań medycznych i związanych z bezpieczeństwem.

W praktyce trzeba rozróżnić trzy sytuacje:

• Analiza treści wypowiedzi: AI rozpoznaje, że pracownik zgłosił problem z terminem realizacji projektu. Nie jest to samo w sobie zakazane rozpoznawanie emocji.
• Analiza mierzalnych cech mowy: system rejestruje czas wypowiedzi, przerwy, podniesiony głos lub szept. Samo wykrycie takich cech nie przesądza o naruszeniu zakazu.
• Wnioskowanie o emocjach z głosu: AI stwierdza, że pracownik jest sfrustrowany, zawstydzony albo zły, ponieważ mówi szybciej lub podnosi głos. Taki system w środowisku pracy zasadniczo podlega zakazowi.

Istotne jest nie tylko to, jakie dane zbiera algorytm, lecz także w jakim celu są przetwarzane i jakie wnioski powstają. Samo przemianowanie „poziomu frustracji” na „wskaźnik jakości komunikacji” nie rozwiązuje problemu, jeśli za tą nazwą nadal kryje się rozpoznawanie emocji.

AI Act rozróżnia też emocje od stanów fizycznych. Motyw 18 rozporządzenia wyłącza z definicji rozpoznawania emocji takie stany jak ból czy zmęczenie. Przykładem jest system wykrywający senność kierowcy zawodowego w celu zapobiegania wypadkom. Nie daje to jednak pracodawcom swobody w monitorowaniu każdego objawu przemęczenia przy komputerze. Nadal obowiązują RODO, zasada proporcjonalności i przepisy prawa pracy.

Warto też oddzielić analizę sentymentu tekstu od analizy biometrycznej głosu. Narzędzie oceniające negatywny wydźwięk zdania „Nie akceptuję tego rozwiązania” nie staje się automatycznie systemem rozpoznawania emocji w rozumieniu art. 3 pkt 39, jeżeli pracuje wyłącznie na treści tekstowej. Nie oznacza to, że wolno bez ograniczeń tworzyć na tej podstawie profile psychologiczne zatrudnionych.

Najbezpieczniejsze zastosowanie AI w Teamsie polega na analizowaniu faktów, ustaleń i zadań, a nie domniemanych przeżyć pracownika. Copilot może przygotować listę decyzji ze spotkania. Nie powinien natomiast służyć do przypisywania uczestnikom emocji na podstawie ich głosów.

Kiedy monitoring zachowania pracownika staje się niedozwolonym profilowaniem emocjonalnym?

Wyobraźmy sobie polskie centrum obsługi klienta zatrudniające 80 konsultantów. Kierownictwo chce sprawdzać jakość rozmów prowadzonych przez Teams. Dostawca proponuje system, który automatycznie ocenia konsultantów w skali od 0 do 100, uwzględniając „pewność siebie”, „spokój” i „emocjonalne zaangażowanie”.

Taki produkt wymaga natychmiastowego sprawdzenia sposobu wyliczania punktacji. Jeżeli algorytm wykorzystuje charakterystykę głosu do określania emocji lub zamiarów, nie można go zalegalizować samą zgodą pracowników ani umieszczeniem odpowiedniego zapisu w regulaminie.

Problem nie dotyczy wyłącznie końcowej oceny. Samo wykorzystywanie zakazanego systemu do wnioskowania o emocjach pracowników może stanowić naruszenie AI Act, nawet jeśli kierownik nie wykorzysta wyników do przyznawania premii.

Znaczenie mają cztery kryteria.

1. Rodzaj analizowanych sygnałów. Czy system analizuje jedynie słowa, czy również parametry akustyczne głosu, mimikę i gesty? W tym drugim przypadku trzeba sprawdzić, czy dane biometryczne służą do wnioskowania o emocjach.

2. Charakter wyniku. Informacja „pracownik mówił przez 7 minut” opisuje mierzalne zachowanie. Komunikat „pracownik wykazuje oznaki lęku” przypisuje stan emocjonalny. To zasadnicza różnica.

3. Cel wykorzystania. Automatyczne tworzenie notatek ze spotkania nie jest tym samym co ocenianie lojalności, odporności psychicznej czy zaangażowania zatrudnionych.

4. Wpływ na sytuację pracownika. Jeżeli wyniki trafiają do przełożonego i wpływają na awans, wynagrodzenie lub rozwiązanie umowy, dochodzą kolejne ryzyka związane z profilowaniem, ochroną danych i prawem pracy.

W przypadku omawianego centrum obsługi rozsądniejszym rozwiązaniem jest punktacja oparta na sprawdzalnych elementach rozmowy: przedstawieniu obowiązkowych informacji, poprawności oferty, dotrzymaniu procedury i sposobie rozwiązania zgłoszenia.

Taki system również nie jest automatycznie zgodny z prawem. Jeżeli służy do monitorowania lub oceny wydajności i zachowania pracowników, może podlegać wymaganiom dotyczącym systemów AI wysokiego ryzyka przewidzianym w załączniku III do AI Act. Znaczenie mają konkretne przeznaczenie systemu, sposób jego wykorzystania i właściwe terminy stosowania przepisów. Nie wystarczy więc usunąć modułu emocji i uznać całego rozwiązania za bezpieczne.

W polskich realiach dochodzi art. 22³ Kodeksu pracy, regulujący monitoring poczty elektronicznej i odpowiednio inne formy monitoringu. Monitoring musi być konieczny dla dopuszczonych prawem celów związanych z organizacją pracy lub właściwym użytkowaniem narzędzi służbowych i nie może naruszać tajemnicy korespondencji ani innych dóbr osobistych pracownika. Cele, zakres i sposób monitorowania trzeba prawidłowo określić, a o jego wprowadzeniu poinformować zatrudnionych co najmniej 2 tygodnie wcześniej.

Nie należy również zakładać, że pracownicza zgoda załatwia sprawę. W stosunku pracy dobrowolność zgody budzi szczególne wątpliwości z uwagi na zależność między pracownikiem a pracodawcą.

Pracodawca powinien ustalić podstawę przetwarzania danych zgodnie z art. 6 RODO, ograniczyć zakres informacji do rzeczywiście potrzebnych i określić okres ich przechowywania. Jeżeli operacja może powodować wysokie ryzyko naruszenia praw i wolności osób, konieczna jest ocena skutków dla ochrony danych (DPIA) przed rozpoczęciem przetwarzania.

Jest jeszcze problem jakości wyników. Wysoki głos nie musi oznaczać stresu, a szybkie tempo mówienia nie dowodzi zdenerwowania. Akcent regionalny, wada wymowy, jakość mikrofonu, kompresja dźwięku i hałas w mieszkaniu mogą wpływać na analizę. Algorytm ignorujący te czynniki łatwo zamienia różnice indywidualne w pozorne wady zawodowe.

To jeden z powodów, dla których unijny prawodawca zakwestionował rozpoznawanie emocji w miejscu pracy. Nie istnieje uniwersalna, niezawodna zależność między brzmieniem głosu a rzeczywistym stanem emocjonalnym człowieka.

Jak legalnie wykorzystać AI w Teamsie i uniknąć naruszenia AI Act?

Firma nie musi rezygnować z transkrypcji spotkań ani automatycznych podsumowań. Musi jednak wiedzieć, co robi konkretny system, jakie dane pobiera i czy dodatkowe moduły nie wykraczają poza deklarowany zakres.

W październiku 2026 r. funkcje Microsoft Teams obejmują między innymi transkrypcję, inteligentne podsumowania spotkań i tworzenie notatek z pomocą Copilota. Dostępność zależy od konfiguracji Microsoft 365 oraz odpowiednich licencji, w tym Teams Premium lub Microsoft 365 Copilot dla określonych funkcji.

Nie należy utożsamiać standardowego Copilota z osobnym narzędziem analizującym emocje w głosie. Microsoft udostępnia funkcje AI do pracy z treścią spotkań, natomiast inne podmioty mogą oferować rozszerzenia przetwarzające nagrania, parametry akustyczne lub profile rozmówców. Dlatego kontrolę trzeba przeprowadzić na poziomie faktycznie wykorzystywanych aplikacji, integracji i przepływów danych.

Przykład: dział HR organizuje na Teamsie spotkania rekrutacyjne i chce automatycznie przygotowywać notatki. System zapisujący doświadczenie kandydata, deklarowaną dostępność i odpowiedzi na pytania może być dopuszczalny, jeżeli spełnione są właściwe wymagania prawne. System oceniający „szczerość”, „strach” albo „motywację” na podstawie barwy głosu wchodzi natomiast w obszar zakazanego rozpoznawania emocji. Dodatkowo narzędzia AI wykorzystywane przy selekcji i ocenie kandydatów są objęte szczególnymi regulacjami dotyczącymi zastosowań wysokiego ryzyka.

Przed wdrożeniem warto przeprowadzić kontrolę w następującej kolejności:

1. Sprawdź wyniki generowane przez system. Jeżeli raport zawiera pola „anger”, „frustration”, „happiness”, „emotional engagement” lub inne oceny emocji, ustal, z jakich sygnałów pochodzą. Nie pozwalaj na ich generowanie z danych biometrycznych w niedozwolonym zastosowaniu pracowniczym.
2. Prześledź przepływ danych. Ustal, czy dźwięk i transkrypcje pozostają w usługach Microsoft 365, czy trafiają do zewnętrznego dostawcy. Sprawdź lokalizację przetwarzania, podwykonawców, uprawnienia dostępu i zasady usuwania danych.
3. Zweryfikuj podstawę prawną. Oceń zgodność z RODO, Kodeksem pracy i AI Act. Sam zapis w polityce prywatności lub akceptacja regulaminu aplikacji nie wystarczą.
4. Ogranicz zakres analizy. Gdy celem jest przygotowanie protokołu, przetwarzaj transkrypcję i ustalenia. Nie zbieraj parametrów głosu tylko dlatego, że dostawca umożliwia ich techniczne odczytanie.
5. Sprawdź wykorzystanie wyników. Oddziel notatki i wskaźniki procesowe od systemów oceny pracowników, przyznawania premii i podejmowania decyzji kadrowych. W tych ostatnich zastosowaniach potrzebna jest dodatkowa ocena prawna.
6. Udokumentuj decyzję. Zachowaj opis funkcji, cel przetwarzania, podstawę prawną, analizę ryzyka oraz uzasadnienie wyłączenia zbędnych modułów.

W praktyce szczególnie niebezpieczne są narzędzia sprzedawane jako „AI coaching”, „conversation intelligence” lub „employee engagement analytics”. Nazwy brzmią neutralnie, lecz pod nimi mogą kryć się funkcje, które wyciągają wnioski o emocjach z głosu. O kwalifikacji prawnej decyduje działanie produktu, nie jego opis marketingowy.

Wyjątek medyczny lub związany z bezpieczeństwem nie jest furtką do zwykłej analityki HR. System pomagający osobie z niepełnosprawnością w komunikacji może realizować rzeczywisty cel medyczny. Narzędzie analizujące „zmęczenie emocjonalne” handlowców w celu przewidywania odejść z firmy nie staje się systemem bezpieczeństwa tylko dlatego, że dostawca nazywa je rozwiązaniem przeciwdziałającym wypaleniu.

Konsekwencje naruszenia zakazów AI Act są poważne. Art. 99 przewiduje administracyjne kary do 35 mln euro lub do 7% całkowitego rocznego światowego obrotu przedsiębiorstwa z poprzedniego roku obrotowego, zależnie od tego, która kwota jest wyższa. W odniesieniu do MŚP obowiązują szczególne zasady ograniczające maksymalny wymiar kary. Konkretna sankcja zależy też od okoliczności naruszenia i właściwych zasad egzekwowania przepisów. Równolegle mogą pojawić się konsekwencje na gruncie RODO i prawa pracy.

Największym błędem jest kupowanie modułu do analizy głosu bez sprawdzenia, czy dostawca nie przetwarza sygnałów akustycznych na oceny emocjonalne. Właśnie ten element powinien zostać zbadany jeszcze przed uruchomieniem pilotażu.

FAQ – najczęstsze pytania o analizę głosu w Teamsie i AI Act

Czy pracodawca może analizować ton głosu pracownika podczas spotkania na Teamsie?
Może analizować określone cechy wypowiedzi, jeśli ma odpowiednią podstawę prawną i uzasadniony cel. Nie może natomiast zasadniczo wykorzystywać AI do wnioskowania o emocjach pracownika na podstawie biometrycznych cech głosu, poza ustawowymi wyjątkami.

Czy Microsoft Copilot w Teamsie automatycznie rozpoznaje emocje uczestników spotkań?
Standardowe funkcje Copilota koncentrują się na treści rozmów, transkrypcjach, ustaleniach i podsumowaniach. Nie należy ich utożsamiać z systemem biometrycznego rozpoznawania emocji. Osobno trzeba sprawdzić działanie każdej zewnętrznej integracji.

Od kiedy obowiązuje zakaz rozpoznawania emocji pracowników?
Zakaz określony w art. 5 ust. 1 lit. f AI Act obowiązuje od 2 lutego 2025 r. Nie trzeba czekać na pełne rozpoczęcie stosowania pozostałych części rozporządzenia, aby traktować go jako obowiązujący.

Czy zgoda pracownika pozwala legalnie uruchomić taki system?
Nie. Zgoda nie znosi zakazu wynikającego z AI Act. Ponadto w relacji pracodawca–pracownik dobrowolność zgody na przetwarzanie danych osobowych jest szczególnie problematyczna.

Czy analiza sentymentu transkrypcji jest zakazana?
Nie automatycznie. Analiza oparta wyłącznie na tekście nie spełnia sama w sobie definicji rozpoznawania emocji opartego na danych biometrycznych. Nadal musi jednak spełniać wymagania RODO i prawa pracy, a jej zastosowanie do oceny pracowników wymaga dodatkowej kontroli.

Czy wykrywanie stresu lub zmęczenia jest dozwolone?
Trzeba rozróżnić emocje i stany fizyczne oraz zbadać rzeczywisty cel systemu. AI Act wyłącza z definicji rozpoznawania emocji takie stany fizyczne jak ból i zmęczenie. Nie oznacza to automatycznej legalności monitorowania stresu lub przemęczenia pracowników.

Jaki jest pierwszy krok dla firmy korzystającej z AI podczas spotkań?
Należy sprawdzić konfigurację narzędzi oraz przykładowe raporty. Jeśli występują w nich oceny emocji wywnioskowane z głosu, trzeba w pierwszej kolejności wstrzymać taką analizę i zweryfikować zgodność systemu z art. 5 AI Act, zanim będzie dalej wykorzystywany.

Więcej informacji na: https://takieprawo.pl