Kiedy AI widzi mężczyznę, a kiedy kobietę – jak algorytmy kreują płeć i wpływają na nasze kariery

W świecie danych kobieta to wyjątek, nie reguła

Sztuczna inteligencja opiera swoje decyzje na danych, które otrzymała. Problem w tym, że te dane odzwierciedlają świat, w którym kobiety były – i często nadal są – marginalizowane. Przykład? AI wspierająca diagnostykę kardiologiczną może „przeoczyć” zawał u kobiety, ponieważ została wytrenowana głównie na przypadkach mężczyzn. Tymczasem objawy zawału serca u kobiet różnią się od tych typowych dla mężczyzn – częściej obejmują duszności, nudności, ból pleców czy skrajne zmęczenie, co sprawia, że są mniej oczywiste i trudniejsze do rozpoznania dla algorytmu nieuwzględniającego tej różnorodności.

Inny przykład? Generatywna AI, która – proszona o stworzenie scenariusza z udziałem lekarza i pielęgniarki – przypisuje pierwszą rolę mężczyźnie, a drugą kobiecie, odzwierciedlając stereotypy obecne w danych treningowych (choć w języku angielskim słowa doctor i nurse nie wskazują na płeć, algorytm i tak przypisuje je według utartych schematów).

Takich przykładów jest więcej. Jak wynika z analizy Berkeley Haas Center for Equity „Gender and Leadership”, aż 44% badanych systemów AI wykazuje uprzedzenia płciowe, a 25% – jednocześnie płciowe i rasowe.

Algorytm wybiera – ale według czyich reguł?

Coraz więcej firm korzysta także z algorytmów i agentów AI do preselekcji aplikacji. W opublikowanym w kwietniu 2025 roku raporcie „Who Gets the Callback? Generative AI and Gender Bias” zbadano, jak duże modele językowe oceniają kandydatów i kandydatki. Wnioski są niepokojące: mężczyźni byli wybierani jako „lepsi kandydaci” w 67% przypadków – nawet gdy ich profile były identyczne z żeńskimi. Uprzedzenia nasilały się szczególnie w sektorach technicznych i inżynieryjnych. Dlaczego? Bo algorytmy uczą się na podstawie danych historycznych, a te często odzwierciedlają świat, w którym mężczyźni dominowali w tych branżach.

Dla AI luka w zatrudnieniu może być „sygnałem ryzyka”, a nie kontekstem – mówiącym np. o opiece nad dzieckiem. W testach naukowych modele językowe uzasadniały wybór mężczyzny jako „bardziej stabilnego” lub „bardziej zaangażowanego zawodowo” niż kobieta – pomimo identycznych kwalifikacji.

Lepszy niż kampania za 7 milionów? Sztuczna Polska z własną wersją spotu promującego Polskę

Według najnowszego badania dr Natalie Sheard z Melbourne Law School, systemy oparte na sztucznej inteligencji często „karzą” kandydatów i kandydatki za luki w zatrudnieniu – nawet jeśli są one w pełni uzasadnione, jak urlop macierzyński. Co więcej, te same algorytmy nie oferują transparentnych wyjaśnień dla odrzuceń, co czyni cały proces jeszcze bardziej nieprzejrzystym. A przecież to właśnie kobiety najczęściej wypadają z rynku pracy z powodów opiekuńczych.

Z perspektywy makro skala problemu również rośnie. Według raportu Międzynarodowej Organizacji Pracy (ILO) z maja 2025, aż 9,6% miejsc pracy typowo wykonywanych przez kobiety jest zagrożonych automatyzacją, podczas gdy w „męskich” zawodach – zaledwie 3,5%.

A język? Też nie jest neutralny. Z badania UNESCO „Bias Against Women and Girls in Large Language Models” wynika, że modele takie jak Llama 2 wyraźnie przypisują kobietom role stereotypowo „opiekuńcze”, a mężczyznom – zawody prestiżowe jak inżynier czy lekarz. W analizowanych scenariuszach kobiety były opisywane jako pracujące w domu i zajmujące się dziećmi cztery razy częściej niż mężczyźni – nawet wtedy, gdy kontekst był całkowicie neutralny.

AI uczy się od ludzi – i może ich także wykluczać

Czy tak musi być? Niekoniecznie. Kluczowa okazuje się jakość danych i różnorodność zespołów, które je tworzą. Bo tylko wtedy możliwe jest dostrzeżenie błędów i uprzedzeń, zanim staną się one częścią automatycznej decyzji.

Różnorodne zespoły to nie tylko etyczna konieczność, ale też praktyczne rozwiązanie. Gdy zespoły projektujące rozwiązania AI są zróżnicowane pod względem płci, wieku, pochodzenia czy doświadczenia, potrafią szybciej wychwytywać luki w danych i unikać utrwalania szkodliwych schematów. To realnie zwiększa jakość systemów, ich skuteczność i zdolność do działania w bardziej sprawiedliwy, pozbawiony niepotrzebnych uprzedzeń sposób.

Równość i inkluzywność są wpisane w architekturę rozwiązań Capgemini od samego początku. Nasze wartości to nie tylko hasła – to fundamenty, które przekładamy na praktykę. To dlatego w branży AI coraz więcej mówi się o zasadzie „fair by design” – czyli projektowaniu systemów tak, by transparentność była wbudowana w ich podstawy, a nie dodawana na późniejszym etapie jako poprawka.

W odpowiedzi na wyzwania związane z uprzedzeniami algorytmicznymi organizacje i instytucje na całym świecie wdrażają konkretne rozwiązania. Przykładem jest unijny akt o sztucznej inteligencji – AI Act, który zakłada m.in. obowiązek przejrzystości danych treningowych, ograniczenie stosowania AI w obszarach wysokiego ryzyka (jak rekrutacja czy opieka zdrowotna) oraz wprowadzenie nadzoru nad działaniem systemów.

Firmy technologiczne rozwijają także narzędzia do oceny i monitorowania modeli pod kątem uprzedzeń, takie jak Know Your Data od Google, które umożliwiają identyfikację potencjalnych schematów dyskryminacyjnych w zbiorach danych, jeszcze przed rozpoczęciem treningu modelu. Z kolei środowiska naukowe pracują nad tworzeniem bardziej inkluzywnych zasobów, takich jak The Pile of Law (uwzględniający różnorodność językową i społeczną) czy DiverseQA – zestaw testowy do sprawdzania, jak modele językowe radzą sobie z pytaniami dotyczącymi różnych grup społecznych.

Dlaczego to dotyczy nas wszystkich?

Jako konsumenci i konsumentki, pacjenci i pacjentki czy kandydaci i kandydatki – często jesteśmy dziś oceniani/oceniane nie tylko przez ludzi, ale i przez algorytmy. Od jakości tych ocen zależy, czy dostaniemy szansę np. na pracę, kredyt, czy trafną diagnozę. Dlatego tak ważne jest, by mówić głośno o uprzedzeniach, które przenikają do AI. Nie po to, by z niej rezygnować – ale by budować ją lepiej. Bo technologia nie musi dzielić. Ale najpierw musimy nauczyć ją widzieć nie tylko mężczyznę w garniturze, ale też kobietę z przerwą w CV, osobę niebinarną czy pacjentkę z nietypowymi objawami.

W dniach 4–5 czerwca 2025 roku Warszawa stanie się miejscem globalnej debaty o przyszłości technologii. Podczas Perspektywy Women in Tech Summit blisko 10 000 uczestniczek i uczestników z ponad 80 krajów spotka się, by porozmawiać o AI, inżynierii i roli różnorodności w rozwoju innowacji. Jednym z partnerów technologicznych wydarzenia jest Capgemini – pełna agenda dostępna >> TUTAJ.