Stan prawny na dzień: 22 października 2026 r.
System głosowy może przetwarzać więcej niż sam komunikat: treść wypowiedzi, cel zgłoszenia, kontekst albo priorytet. Może też analizować cechy głosu, aby rozpoznać mówiącego albo wnioskować o jego stanie. To różne funkcje i różne kategorie oceny. Analiza tego, co ktoś mówi, to inna kategoria niż wnioskowanie z cech głosu o tym, kim jest mówiący albo jak się czuje. Ta druga może stanowić rozpoznawanie emocji, które AI Act w miejscu pracy i instytucjach edukacyjnych co do zasady zakazuje.
Dlaczego głos bywa pomijany w analizie AI
Oceniając systemy AI w security, najczęściej skupiamy się na obrazie i biometrii twarzy. Interkom, punkt pomocy albo system powiadamiania traktujemy wtedy jako kanał przekazujący głos do operatora. Współczesne rozwiązania mogą jednak robić więcej: transkrybować rozmowy, tłumaczyć je w czasie rzeczywistym, odpowiadać na typowe pytania albo klasyfikować połączenia. Każda taka funkcja oznacza przetwarzanie danych i generowanie wyniku, który może wpłynąć na reakcję operatora. Głos może stanowić daną biometryczną, jeżeli jest przetwarzany w sposób określony w art. 3 pkt 34 AI Act - poprzez specjalne przetwarzanie techniczne cech fizycznych, fizjologicznych lub behawioralnych osoby. Samo nagranie rozmowy nie oznacza automatycznie danych biometrycznych.
Co może analizować system głosowy
Funkcje systemów głosowych można ułożyć według tego, czego dotyczą i jakiej oceny mogą wymagać:
„Cel zgłoszenia" w dwóch znaczeniach. Rozpoznanie, że rozmówca pyta o godziny otwarcia albo zgłasza awarię windy, to analiza treści wypowiedzi. Art. 3 pkt 39 AI Act definiuje natomiast system rozpoznawania emocji jako system wnioskujący o emocjach lub zamiarach osób na podstawie ich danych biometrycznych - na przykład z tonu, tempa czy drżenia głosu. Pierwsza funkcja to przetwarzanie języka; druga może być rozpoznawaniem emocji.
Konsekwencje tej różnicy są istotne:
- Rozpoznawanie emocji w miejscu pracy i instytucjach edukacyjnych jest co do zasady zakazane, z wyjątkiem zastosowań z powodów medycznych lub bezpieczeństwa (art. 5 ust. 1 lit. f). Ma to znaczenie, gdy system analizuje głosy pracowników, np. ochrony lub dyspozytorów.
- Poza tym zakazanym kontekstem rozpoznawanie emocji może podlegać kwalifikacji jako system wysokiego ryzyka (załącznik III pkt 1 lit.
- Osoby narażone na działanie systemu rozpoznawania emocji lub kategoryzacji biometrycznej należy poinformować o jego funkcjonowaniu (art. 50 ust. 3).
Art. 50 ust. 1 wymaga, aby dostawca zaprojektował system AI przeznaczony do bezpośredniej interakcji z osobami tak, aby wiedziały one, że rozmawiają z AI. Wyjątek dotyczy sytuacji, w których jest to oczywiste dla rozsądnej, dobrze poinformowanej i uważnej osoby, z uwzględnieniem okoliczności i kontekstu użycia. W praktyce wdrożeniowej warto jednak zapewnić jasną informację o statusie asystenta, szczególnie gdy interakcja nie jest jednoznaczna.
Cztery pytania do systemu głosowego
Przed wdrożeniem systemu głosowego z funkcjami AI, albo przed włączeniem nowej funkcji w istniejącej instalacji, warto ustalić:
- Jakie dane są rejestrowane i jak długo są przechowywane? Nagrania audio, transkrypcje, tłumaczenia i metadane połączeń mogą zawierać dane osobowe. Warto też ustalić, gdzie odbywa się przetwarzanie: lokalnie czy w chmurze.
- Czy system dokonuje transkrypcji, klasyfikacji lub priorytetyzacji? I czy robi to na podstawie treści wypowiedzi, czy cech głosu? Od odpowiedzi zależy, czy dotykamy obszaru biometrii.
- Czy wynik analizy wpływa na reakcję operatora? Połączenie sklasyfikowane jako nieistotne albo o niskim priorytecie może zostać obsłużone później, albo wcale. Im większy wpływ wyniku na to, kto i kiedy otrzyma pomoc, tym ważniejsza staje się ocena.
- Czy operator może zweryfikować wynik przed dalszym działaniem? Czy ma dostęp do oryginalnego nagrania obok transkrypcji lub tłumaczenia? Czy może przejąć rozmowę od asystenta AI i zmienić automatyczną klasyfikację?
Te pytania rozwijają trzy pytania diagnostyczne - o dane, miejsce działania i rolę wyniku - omówione w artykule „Trzy pytania, które warto zadać systemowi AI w security".
Przykład: Ivy od Commend jako rozwiązanie z obszaru komunikacji głosowej
Ivy to wirtualny asystent dla systemów interkomowych Commend. Prowadzi rozmowy z wykorzystaniem przetwarzania języka naturalnego, odpowiada na często zadawane pytania, obsługuje połączenia puste lub złośliwe, a w rozwiązaniu Ivy Live Translation tłumaczy rozmowy w czasie rzeczywistym i wyświetla napisy. Panel Ivy może przechowywać transkrypcje rozmów. Transkrypcje mogą wspierać analizę jakości obsługi, ale ich przetwarzanie, dostęp i retencję trzeba określić przed wdrożeniem.
Ivy nie analizuje cech głosu pod kątem emocji ani nie identyfikuje mówiącego - algorytmy NLP rozpoznają intencję, nie stan emocjonalny. Usługa działa w chmurze Microsoft Azure; dane klientów europejskich przetwarzane są w europejskich regionach chmury Azure.
W przypadku Ivy warto ponownie przejść przez cztery pytania z poprzedniej sekcji: jak rozmówca dowiaduje się o rozmowie z AI lub tłumaczeniu; gdzie i jak długo przechowywane są transkrypcje i nagrania; jak operator weryfikuje połączenie o niskim priorytecie. W kolejnym artykule zbieramy najważniejsze punkty całej serii. Jeżeli chcesz omówić komunikację głosową w swoim obiekcie, skontaktuj się z naszym zespołem.
FAQ Najczęstsze pytania
Czy zwykły interkom podlega AI Act?Zwykły interkom, który tylko przekazuje głos, nie jest systemem AI. Znaczenie ma konkretna funkcjonalność: transkrypcja, tłumaczenie, automatyczne odpowiedzi czy analiza głosu.
Czy analiza głosu w interkomie może być rozpoznawaniem emocji?Może. Jeżeli system wnioskuje o emocjach lub zamiarach osoby na podstawie jej danych biometrycznych, może stanowić rozpoznawanie emocji w rozumieniu AI Act. W miejscu pracy i instytucjach edukacyjnych takie wnioskowanie o emocjach jest co do zasady zakazane, z wyjątkami przewidzianymi w przepisie.
Czy rozmówca musi wiedzieć, że rozmawia z asystentem AI?Co do zasady tak. Od 2 sierpnia 2026 r. art. 50 ust. 1 AI Act wymaga, aby systemy wchodzące w bezpośrednią interakcję z ludźmi były projektowane tak, aby osoby wiedziały, że rozmawiają z AI - chyba że jest to oczywiste.
Uwaga: artykuł ma charakter informacyjny i nie stanowi porady prawnej. Kwalifikacja systemu wymaga analizy konkretnej funkcji, celu, architektury i środowiska wdrożenia. Przy redakcji tekstu korzystaliśmy z narzędzi AI; treść została zweryfikowana przez zespół C&C Partners.
Źródła i dalsza lektura
Autor
