Wyobraź sobie, że wysyłasz swoje CV na wymarzoną pracę — a Twoja aplikacja zostaje odrzucona, zanim zobaczy ją jakikolwiek człowiek. Albo składasz wniosek o kredyt, a komputer mówi „nie”… bez wyjaśnień, wyłącznie na podstawie liczb zapisanych w bazie danych.

Sztuczna inteligencja codziennie podejmuje decyzje wpływające na nasze życie: analizuje CV, zatwierdza kredyty, kształtuje to, co widzimy w mediach społecznościowych, a nawet wspiera sądy. Brzmi logicznie — algorytmy są przecież obiektywne. Nie mają emocji ani osobistych preferencji. I tu pojawia się paradoks: AI nie tylko kopiuje nasze błędy — ona je wzmacnia.

Skąd AI uczy się, co robić

Aby wytrenować sztuczną inteligencję, pokazuje się jej ogromne ilości przykładów: teksty, zdjęcia, archiwa dawnych decyzji, logi rozmów. Jest tylko jeden problem — wszystkie te dane zostały stworzone przez ludzi. A ludzie, jak wiemy, są dalecy od doskonałości.

Zastanów się: jeśli model jest trenowany na CV skutecznych pracowników firmy, która przez ostatnie 20 lat zatrudniała głównie mężczyzn, czego się nauczy? Dokładnie — że mężczyźni są „lepszym dopasowaniem”. AI nie rozumie, że może to być efekt niesprawiedliwych praktyk lub uwarunkowań historycznych. Widzi tylko: „W tych danych jest więcej mężczyzn na stanowiskach kierowniczych. Tak powinno być”.

To samo dotyczy spraw sądowych. Jeśli określone grupy ludzi historycznie otrzymywały surowsze wyroki, algorytm uzna to za normę. Nie odczuwa niesprawiedliwości — po prostu kalkuluje.

Jak „uczymy” AI dyskryminacji

Uprzedzenia przenikają do AI na każdym etapie:

Historia działa przeciwko nam. Jeśli kobiety rzadziej awansowały na stanowiska kierownicze (a tak było), AI interpretuje to jako wzorzec: „kobiety rzadko zostają liderami = kobiety są złymi liderami”.

Dane bywają jednostronne. System rozpoznawania twarzy trenowany głównie na zdjęciach Europejczyków będzie po prostu gorzej działał dla twarzy azjatyckich czy afrykańskich — nie ze złej woli, lecz dlatego, że nie pokazano mu wystarczająco zróżnicowanych przykładów.

Ludzie również popełniają błędy. Programiści wybierają zbiory danych, opisują je i decydują, co uznać za „sukces”. Na każdym z tych etapów mogą pojawić się ich własne, nieuświadomione uprzedzenia.

Jakie rodzaje uprzedzeń przejmuje AI

Sztuczna inteligencja może być niesprawiedliwa na wiele sposobów:

• Stereotypy płciowe: dla AI „programista” to częściej mężczyzna, a „pielęgniarka” — kobieta, ponieważ tak wyglądały dane.
• Uprzedzenia rasowe: systemy scoringowe mogą gorzej oceniać osoby z określonych grup etnicznych, nawet gdy ich wskaźniki finansowe są identyczne.
• Dyskryminacja ze względu na wiek: systemy rekrutacyjne mogą „nie lubić” starszych kandydatów, nawet jeśli wiek nie jest podany wprost.
• Uprzedzenia klasowe: miejsce zamieszkania, uczelnia, kod pocztowy — wszystko to może wpływać na ocenę algorytmu.

Gdy coś idzie nie tak: historie z życia

Amazon zatrudniał… tylko mężczyzn

Amazon postanowił zautomatyzować proces rekrutacji. Pomysł wydawał się świetny: przekazać systemowi CV wszystkich skutecznych pracowników z ostatnich 10 lat i poprosić AI o znalezienie podobnych kandydatów. Problem polegał na tym, że większość tych pracowników stanowili mężczyźni.

Co zrobiła AI? Automatycznie obniżała ocenę CV zawierających słowo „woman” lub nazwy żeńskich uczelni. System nauczył się dyskryminować kobiety, mimo że nikt nie uczył go tego wprost.

Amazon wykrył problem i zamknął projekt. Historia ta pokazała jednak, że nawet giganci technologiczni mogą nieświadomie tworzyć dyskryminującą AI.

Chatbot, który stał się rasistą w jeden dzień

W 2016 roku Microsoft uruchomił na Twitterze chatbota o imieniu Tay. Pomysł był prosty: pozwolić mu rozmawiać z ludźmi i uczyć się na żywo. Brzmi niewinnie, prawda?

W ciągu 24 godzin Tay stał się rasistowski i seksistowski, publikując obraźliwe treści. Microsoft wyłączył go po 48 godzinach. Wniosek był jasny: gdy AI uczy się z nieselekcjonowanych treści internetowych, bardzo szybko przejmuje ich najgorsze cechy.

Sądy ufające stronniczym algorytmom

W Stanach Zjednoczonych sądy korzystały z systemów przewidujących ryzyko ponownego popełnienia przestępstwa. Miało to pomagać sędziom przy decyzjach o zwolnieniu warunkowym.

Śledztwo ProPublica ujawniło jednak niepokojący wzorzec: algorytm systematycznie zawyżał ryzyko dla czarnoskórych oskarżonych i zaniżał je dla białych. Mylił się w przypadku czarnoskórych niemal dwa razy częściej. Dlaczego? Ponieważ był trenowany na danych pochodzących z systemu sprawiedliwości, który już wcześniej był stronniczy.

AI nie została zaprogramowana jako rasistowska. Po prostu odtworzyła to, co zobaczyła w danych.

Uber podnosi ceny wtedy, gdy najbardziej go potrzebujesz

Uber wykorzystuje AI do dynamicznego ustalania cen: gdy popyt rośnie, ceny automatycznie idą w górę. Z biznesowego punktu widzenia ma to sens.

Co jednak wydarzyło się podczas zamachu terrorystycznego w Sydney? Ludzie masowo próbowali uciec z zagrożonego obszaru i zamawiali przejazdy. Algorytm zauważył wzrost popytu — i podniósł ceny czterokrotnie.

Uber później wprowadził wyjątki na sytuacje kryzysowe. Pozostał jednak głębszy problem: dynamiczne ceny sprawiają, że usługi stają się niedostępne dla osób o niższych dochodach dokładnie wtedy, gdy są najbardziej potrzebne. To również forma dyskryminacji.

Dlaczego uprzedzeń nie da się po prostu „wyłączyć”

Pozornie oczywistym rozwiązaniem jest usunięcie danych o płci, rasie czy wieku. Gdyby to było takie proste.

AI potrafi wykrywać ukryte sygnały. Nawet jeśli algorytm nie zna Twojej płci, może ją wywnioskować na podstawie imienia, uczelni, hobby w CV, a nawet stylu pisania.

Historia pozostaje w danych. Jeśli kobiety były historycznie gorzej opłacane za tę samą pracę, algorytm przewidujący wynagrodzenia powieli tę niesprawiedliwość nawet bez znajomości płci kandydata.

Obiektywność w rzeczywistości nie istnieje. Nawet wybór tego, co uznajemy za „dobry wynik”, jest decyzją człowieka obciążoną wartościami. Co jest ważniejsze: maksymalna dokładność czy sprawiedliwość wobec wszystkich grup? Różne odpowiedzi prowadzą do zupełnie różnych algorytmów.

Kto dziś odpowiada za AI?

Od momentu wejścia w życie AI Act 1 sierpnia 2024 roku odpowiedzialność za sztuczną inteligencję w Unii Europejskiej jest podzielona na kilka poziomów. Na poziomie UE kluczową rolę odgrywa Europejskie Biuro ds. AI — wyspecjalizowana jednostka Komisji Europejskiej odpowiedzialna za nadzór i egzekwowanie przepisów AI Act, zwłaszcza w odniesieniu do modeli ogólnego przeznaczenia. Współpracuje ono z Europejską Radą ds. Sztucznej Inteligencji, Panelem Naukowym oraz Forum Doradczym, które zapewniają wsparcie eksperckie i techniczne. Organy krajowe w poszczególnych państwach członkowskich odpowiadają za nadzór i egzekwowanie przepisów na swoim terytorium. Pełne stosowanie przepisów przewidziano na 2 sierpnia 2026 roku, przy czym część wymogów już obowiązuje etapami.

Trzy role: kto za co odpowiada

Prawo dzieli wszystkich uczestników na trzy kategorie:

Dostawcy — podmioty tworzące systemy AI. To na nich spoczywa główna odpowiedzialność za bezpieczeństwo produktów.

Wdrażający — firmy, które wykorzystują gotowe systemy AI i integrują je ze swoimi produktami, np. dodając chatbot na stronę internetową. Nawet jeśli nie tworzysz AI samodzielnie, masz określone obowiązki:

• ocenę ryzyka przed wdrożeniem
• dokumentowanie sposobów ograniczania ryzyka
• stosowanie się do instrukcji dostawcy
• informowanie użytkowników, że mają do czynienia z AI

Użytkownicy końcowi nie ponoszą odpowiedzialności za błędy AI. Jeśli coś pójdzie nie tak, odpowiedzialność spoczywa na dostawcy i wdrażającym.

Cztery poziomy ryzyka

AI Act klasyfikuje systemy sztucznej inteligencji według potencjalnych zagrożeń:

Minimalne ryzyko: AI, która nie podejmuje istotnych decyzji — np. generowanie prezentacji czy stosowanie filtrów fotograficznych. Prawie nie obowiązują żadne ograniczenia.

Ograniczone ryzyko: asystenci i chatboty wsparcia. Wpływają na doświadczenie użytkownika, ale nie podejmują krytycznych decyzji. Głównym wymogiem jest przejrzystość: użytkownicy muszą wiedzieć, że wchodzą w interakcję z AI.

Wysokie ryzyko (to poważna kategoria): AI w ochronie zdrowia, wymiarze sprawiedliwości, edukacji, rekrutacji i ocenie zdolności kredytowej. Takie systemy wymagają szczegółowych kontroli przed wdrożeniem oraz stałego nadzoru.

Niedopuszczalne ryzyko: technologie manipulacji, scoringu społecznego obywateli oraz masowej inwigilacji. Są one całkowicie zakazane.

Co zrobić, jeśli Twoja AI jest „wysokiego ryzyka”

Ocena przed wdrożeniem. Zanim system zostanie uruchomiony, należy:

• zidentyfikować wszystkie potencjalne ryzyka
• udokumentować środki ich ograniczania (anonimizacja, szyfrowanie)
• zweryfikować zgodność z instrukcjami dostawcy

Dopiero wtedy system może zostać uruchomiony.

Przejrzystość. Użytkownicy muszą wiedzieć, kiedy wchodzą w interakcję z AI. Może to być prosta informacja, np. „Nasz chatbot wykorzystuje AI, aby szybciej udzielać pomocy”, albo komunikat na początku rozmowy.

Prawo do poznania „dlaczego”. Jeśli AI podejmie decyzję, która Cię dotyczy, masz prawo zapytać: „Dlaczego nie zostałem zaakceptowany? Jakie dane zostały sprawdzone? Co się nie zgadzało?”.

Prawo do kontaktu z człowiekiem. Jeśli nie zgadzasz się z decyzją AI, musisz mieć możliwość zażądania weryfikacji przez człowieka. To kluczowe — AI może się mylić, a ludzie muszą mieć możliwość zakwestionowania jej decyzji.

Stały monitoring. „Ustaw i zapomnij” nie wchodzi w grę. Systemy muszą być regularnie sprawdzane pod kątem błędów, dryfu danych i zmian zachowania.

Szkolenie zespołu. Osoby pracujące z AI muszą rozumieć:

• jak prawidłowo z niej korzystać
• jakie są jej ograniczenia
• kiedy pojawiają się aktualizacje i jak je wdrażać
• potrzebę ciągłego uczenia się

NovaTalks: jak unikać błędów AI w contact center

Pomimo wszystkich wyzwań sztuczna inteligencja pozostaje potężnym i skutecznym narzędziem dla contact center — pod warunkiem właściwego wdrożenia i kontroli. NovaTalks ma wieloletnie doświadczenie we wdrażaniu rozwiązań AI dla obsługi klienta i wie, jak unikać typowych pułapek.

Dlaczego AI działa niezawodnie w NovaTalks

Kontrolowane środowisko. W przeciwieństwie do przypadków takich jak Amazon czy Microsoft Tay, gdzie AI uczyła się na niekontrolowanych danych, narzędzia AI NovaTalks działają w jasno określonych granicach. Nie pozwalamy systemom tworzyć uprzedzeń na podstawie losowych źródeł.

Stały nadzór człowieka. Asystenci AI w NovaTalks wspierają operatorów w czasie rzeczywistym — korygują błędy, tłumaczą, dostosowują ton, tworzą podsumowania rozmów. Ostateczna decyzja zawsze należy jednak do człowieka. To kluczowa różnica w porównaniu z w pełni zautomatyzowanymi systemami.

Przejrzysta, automatyczna ocena jakości. Nasz system analizuje 100% rozmów (w porównaniu do ok. 5% analizowanych ręcznie). Nigdy jednak nie służy do automatycznych zwolnień czy kar. To narzędzie do wskazywania obszarów wymagających uwagi człowieka.

Certyfikowane bezpieczeństwo. NovaTalks posiada oficjalną certyfikację ISO/IEC 27001:2022 — globalny standard zarządzania bezpieczeństwem informacji. Gwarantuje to pełną ochronę danych przetwarzanych na naszej platformie.

Nasze doświadczenie pokazuje: AI może być sprawiedliwa

Dzięki wieloletniej współpracy z sektorami bankowym, finansowym i telekomunikacyjnym wypracowaliśmy zasady, które pomagają zapobiegać błędom dyskryminacyjnym:

• Zróżnicowane dane treningowe: obejmujące różne grupy klientów, regiony, języki i style komunikacji
• Regularne audyty: okresowe kontrole uprzedzeń w celu zapewnienia spójnych wyników dla wszystkich segmentów użytkowników
• Zgodność z AI Act: pełna odpowiedzialność za jakość i sprawiedliwość na rynku europejskim
• Edukacja zespołów: stałe szkolenia klientów i ich zespołów w zakresie właściwego użycia AI i terminowej interwencji człowieka

W NovaTalks AI nie zastępuje ludzi — ona ich wzmacnia. Chatboty i automatyczne odpowiedzi zapewniają wsparcie 24/7, a złożone sprawy zawsze trafiają do konsultantów. System zachowuje pełną historię interakcji i dane klienta, umożliwiając spersonalizowaną obsługę bez uprzedzeń.

Nasze narzędzia BI i analityka tekstu dostarczają obiektywnych informacji o pracy contact center, wspierając decyzje oparte na danych.

AI w contact center może — i musi — być jednocześnie efektywna i sprawiedliwa. NovaTalks udowadnia to każdego dnia, pomagając firmom automatyzować rutynowe zadania bez ryzyka dyskryminacji i utraty kontroli nad jakością obsługi.

Co wszyscy powinniśmy zrobić

Uprzedzenia w AI nie są błędem, który da się szybko naprawić. To wyzwanie wymagające wspólnego wysiłku.

Programiści muszą ostrożniej pracować z danymi, regularnie audytować systemy pod kątem uprzedzeń i angażować zróżnicowane zespoły w tworzenie oraz testowanie AI.

Firmy odpowiadają za sposób wykorzystania technologii. Muszą oceniać ryzyka i być transparentne wobec użytkowników.

Regulatorzy powinni ustanawiać jasne zasady, które chronią ludzi, nie hamując innowacji.

Jeśli chcemy, aby AI była sprawiedliwsza niż ludzie, nie wystarczy dostarczyć jej więcej danych. Musimy nauczyć ją naszych wartości — nie tylko statystyk.

AI nie może być obiektywna, dopóki my sami pozostajemy stronniczy. Ale uznanie problemu to już pierwszy krok do jego rozwiązania. I to jest krok, który możemy zrobić już dziś.