Aj umelá inteligencia môže byť rodovo zaujatá. Doplácajú na to najmä ženy

Online stretnutiu preto dominovala otázka, či a za akých okolností pomôže pokrok v technológiách znižovať sociálne nerovnosti. O tom, aký dosah majú stereotypy umelej inteligencie na prácu a životy žien porozprávala Marine Rabeyrin, EMEA Education Segment Director zo spoločnosti LENOVO.

Využívanie umelej inteligencie zrýchľuje a zefektívňuje mnohé procesy – automatizované spracovávanie obrovského množstva dát a strojové učenie prináša nové spôsoby fungovania do čoraz viac strategických oblastí, akými sú energetika, doprava, zdravotná starostlivosť alebo bezpečnosť. Mnohí odborníci predpokladali, že pokrok v technológiách so sebou prinesie aj zníženie sociálnej nerovnosti, no opak je zatiaľ pravdou – umelá inteligencia často preberá a zosilňuje rodové stereotypy.

Svoj podiel má na tom najmä nízke zastúpenie žien v technologických odvetviach. V oblasti umelej inteligencie pracuje len 12 % žien, a tak najmodernejšie riešenia často reflektujú mužský pohľad na svet. „Ak chceme predchádzať diskriminácii a budovať spoločenskú zodpovednosť, je nevyhnutné zapojiť do navrhovania a riadenia digitálnych systémov väčší počet žien,” povedala M. Rabeyrin.

Príklady rodovej zaujatosti umelej inteligencie

• Amazon vytvoril experimentálnu umelú inteligenciu pre prijímanie zamestnancov –kandidátom a kandidátkam udeľovala skóre v rozmedzí od jednej do piatich hviezdičiek. Ukázalo sa však, že systém bol zaujatý voči ženám. Keď totiž zistil, že na niektorých pozíciách pracujú prevažne muži, začal vyhľadávať iba mužov a vynechávať ženy.
• Google Prekladač uvádzal pri prekladoch pracovné pozície v tvare mužského rodu, a to najmä v oblastiach, ktoré sú stereotypne spájané s mužmi (veda, technológia, inžinierstvo, matematika).
• Vydavateľ kreditnej karty Apple Card ponúkal ženám automaticky nižšie úverové limity ako ich manželom, hoci spolu zdieľali všetky aktíva a účty, a teda ich bonita bola rovnaká.
• Príznaky srdcových chorôb nie sú rovnaké u žien a u mužov, napriek tomu je diagnostika založená najmä na príznakoch, ktoré sa vyskytujú u mužov.

„Údaje, ktoré zbierame, môžu podporovať stereotypy. Záleží však na tom, čo sa pýtame, aj na spôsobe, akým sa otázku pýtame,” upozornila M. Rabeyrin. Pred rokom a pol spustili v spoločnosti Lenovo program Women & AI – ide o dobrovoľnícku iniciatívu, ktorej členmi sú zamestnanci a zamestnankyne z rôznych oddelení firmy. Ich úlohou je nielen dohliadať na to, aby firma vyrábala a používala rodovo neutrálne systémy umelej inteligencie, ale aj rozširovať povedomie o posilňovaní rodových stereotypov zo strany digitálnych systémov.

M. Rabeyrin zdôraznila, že pre zmenu je potrebná najmä silná podpora diverzity naprieč celou spoločnosťou. Lenovo svoj dobrovoľný záväzok k rodovo neutrálnej umelej inteligencii deklarovalo aj pridaním sa k iniciatíve Cercle InterElles – tá združuje 16 francúzskych firiem z vedeckých a technologických sektorov, ktoré sa zaviazali k podpore rozmanitosti a rodovej rovnosti.

Tipy pre firmy: Ako na vývoj rodovo neutrálnych systémov umelej inteligencie?

• Je vhodné zriadiť etickú komisiu, ktorá bude dohliadať na nediskriminačné systémy umelej inteligencie.
• Vymedzenie sa voči rodovej zaujatosti by malo byť deklarované vo firemných hodnotách, v stratégii firmy aj v interných postupoch spoločnosti.
• Jednotlivé tímy by mali dbať na dodržiavanie zásad nediskriminácie v každej fáze vývoja a nasadenia systémov umelej inteligencie.
• Nevyhnutnosťou je dôkladná analýza dát na zistenie prípadnej nerovnováhy. V prípade potreby sa skreslené údaje opravia alebo vymažú.
• Tímy, ktoré vyvíjajú umelé inteligencie, by mali byť cielene diverzifikované. Zmiešané tímy totiž prispievajú k odstraňovaniu rodovej diskriminácie.
• Nízke zastúpenie žien v tejto oblasti zvyšuje riziko vzniku diskriminačnej umelej inteligencie. Firmy by sa preto mali zamerať na zvýšenie podielu žien v tímoch, aj na školenia a rekvalifikáciu žien na prácu v digitálnych systémoch.
• Dôležité je tiež zvyšovať povedomie zamestnancov a zamestnankýň v otázkach rodových stereotypov, najmä u tých, ktorí sa priamo podieľajú na vývoji a implementácii systémov umelej inteligencie.

Online nástroj zmeria úroveň diverzity na pracovisku

Súčasťou výročného stretnutia signatárov bolo aj predstavenie Indexu diverzity, unikátneho nástroja na meranie úrovne diverzity vo firmách. Vyvinula ho Nadácia Pontis v spolupráci so Slovenským národným strediskom pre ľudské práva, s podporou z Programu Európskej únie pre práva, rovnosť a občianstvo (2014 – 2020). Ide o dotazník obsahujúci súbor otázok (merateľných ukazovateľov), ktoré pokrývajú rôzne oblasti diverzity. Autorkou metodiky indexu je Oľga Pietruchová, odborníčka na rodovú rovnosť a diverzitu, ktorá pri zostavovaní nástroja vychádzala zo zavedenej analytickej metódy 3R, využívanej v oblasti rodovej rovnosti.

Dotazník sa zameriava na zastúpenie znevýhodňovaných skupín vo firme, benefity, rovnosť v odmeňovaní, ale aj na konkrétne politiky a opatrenia prijaté na podporu diverzity na pracovisku. Hodnotí sa aj strategický prístup k rozmanitosti. Podľa počtu získaných bodov je firme následne pridelený status – od začiatočníka v diverzite až po šampióna. O. Pietruchová však upozornila, že nejde o súťaž. „Je to nástroj na sebahodnotenie – firme má pomôcť vyhodnotiť, ako na tom v oblasti diverzity je. Jednotlivé otázky zároveň slúžia aj ako možné opatrenia v danej oblasti.”

Index diverzity je voľne dostupný na www.indexdiverzity.sk.

Online stretnutie ponúklo priestor aj pre odprezentovanie noviniek vybraných signatárov.

Microsoft: Zamestnanci volajú po hybridnom modeli práce

Z prieskumu, ktorý pre Microsoft vypracovala agentúra Focus vyplynulo, že viac ako polovica zamestnancov (57 %) uprednostňuje po skončení pandémie prácu v kancelárii, a to až 4 dni v týždni. Pomerne veľká skupina (43 %) by však rada naďalej pracovala z domu, v priemere 3 dni v týždni. „Je to tzv. paradox hybridnej práce, keď polovica zamestnancov volá po návrate do kancelárie a rovnaká skupina chce naďalej pracovať z domu,” povedala Andrea Rybárová, produktová manažérka pre Microsoft 365.

Firma preto vytvorila novú koncepciu fungovania – hybridný model práce postavený na troch pilieroch, ktorými sú: zamestnanci s rovnakými príležitosťami a možnosťami vzdelávať sa s dôrazom na ich duševné zdravie, kancelárie, resp. konferenčné miestnosti vybavené kvalitnými audio/video zariadeniami, a bezpečné a digitalizované pracovné procesy. To všetko podporené dostupnými technológiami a flexibilitou.

Accenture: Podporujeme zamestnancov vo všetkých fázach rodičovstva

Accenture vníma rodinu ako prioritu svojich zamestnancov a zamestnankýň a samozrejmú súčasť ich života. Firma kladie dôraz na flexibilitu – rodičom ponúka možnosť skráteného úväzku, práce z domu aj flexibilnej pracovnej doby. Zamestnancom tiež poskytuje rodinne orientované benefity, ktoré zahŕňajú finančný bonus aj deň voľna v prípade svadby, voľno pri narodení dieťaťa, rodičovský príspevok k materskej dovolenke, bonus na dieťa, ale aj rôzne podujatia pre deti či príspevok na denné tábory. „Podporujeme rodinu v akejkoľvek podobe, nielen tradičnej – pestúnov, adoptívnych aj LGBT rodičov,” povedala Maria Pitel, projektová manažérka pre diverzitu a inklúziu.

Kolegom a kolegyniam poskytuje firma podporu v každej fáze rodičovstva. Pre budúcich rodičov organizuje spoločné stretnutia a dôležité informácie, z pohľadu náležitostí aj benefitov zo strany firmy i štátu, im ponúka vo forme prehľadného manuálu. Ďalšie stretnutia organizuje aj pre pracovne neaktívnych rodičov, ktorí sú na materskej/otcovskej alebo rodičovskej dovolenke – spoločne sa tak pripravujú na návrat do práce. Pre rodičov, ktorí sa po kariérnej pauze vracajú späť do práce, zasa Accenture vyvinulo tzv. rodičovský buddy systém, v rámci ktorého im pridelí spriateleného kolegu pre ľahší návrat do pracovného prostredia.

Lidl: Ako na certifikáciu EQUAL-SALARY?

Veronika Bátorová, ambasádorka pre diverzitu a inklúziu v Lidli, sa podelila o skúsenosti so získaním certifikácie EQUAL-SALARY. Firma si nechala vypracovať externý audit, aby zistila, ako je na tom z hľadiska platovej rovnosti a rovnosti príležitostí a mohla tak inšpirovať ostatné spoločnosti. Súčasťou auditu bola štatistická analýza, ktorá neskôr prešla do fázy on-site auditu. Ten zahŕňal audit smerníc, procesov, zamestnanecký prieskum aj individuálne stretnutia s vybranými zamestnancami a zamestnankyňami na všetkých úrovniach.

Po oznámení výsledku bol audit zaslaný organizácii EQUAL – SALARY Foundation, ktorá rozhoduje o udelení alebo neudelení certifikácie. Spoločnosť Lidl takto certifikáciu získala. „Jej ziskom to však nekončí. Nasledovať budú dva monitorovacie roky, aby audítorské spoločnosti videli, ako v tejto téme pokračujeme a či nám stále môže byť certifikát udelený,” dodala V. Bátorová.

Tesco: Transparentné zverejňovanie dát v oblasti inklúzie a diverzity

Tesco Stores chce byť inšpiráciou pre firmy a zároveň upriamovať pozornosť na dôležité témy tým, čo už spoločnosť dosiahla alebo plánuje dosiahnuť – aj preto v júni 2021 zverejnila Správu o diverzite a inklúzii. „Chceli sme v nej zosumarizovať všetko, čo o téme D&I vieme, zverejniť dáta a priniesť skutočné príbehy našich kolegov a kolegýň,” uviedla Miroslava Rychtarechová, personálna riaditeľka Tesca na Slovensku.

Správa obsahuje plán podpory kolegov a kolegýň, informácie o začleňovaní ľudí so zdravotným znevýhodnením, sumár zamestnaneckých benefitov aj aktivít podporujúcich inkluzívnu kultúru. Tesco tiež transparentne zverejnilo aj údaje o odmeňovaní mužov a žien, ktorých zamestnáva.