Odpowiedzialna, sztuczna inteligencja – wyzwanie dla Przemysłu 4.0?

Stronnicze algorytmy i inne wyzwania związane z AI

Eksperci już od kilku lat podnoszą alarm i walczą z mitem o nieomylnej sztucznej inteligencji. Ten temat wielokrotnie pojawiał się m. in. na łamach MIT Sloan Management Review. Również Trendwatching.com w swoim raporcie o najważniejszych trendach 2019 wskazywał, że niwelowanie negatywnych skutków działania tzw. biased alghoritms, będzie jednym z kluczowych wyzwań minionego roku.

Tzw. stronnicze algorytmy zawierają ukryte założenia, a w efekcie są szkodliwe i niesprawiedliwe. Najczęściej przytaczanym w mediach przykładem są procesy rekrutacji, które dyskryminują kobiety lub osoby rasy innej niż biała. Wynika to z faktu, iż algorytmy te bazują na danych historycznych, a z nich często wynika, że największe sukcesy w danej organizacji osiągali jak dotąd głównie biali mężczyźni. Podobne problemy mogą dotyczyć też sytuacji takich jak decyzje kredytowe, obliczanie składki ubezpieczenia czy oceny pracownicze.

Dziś jesteśmy u progu roku 2021. Czy coś się zmieniło w tym obszarze? Wg badań przeprowadzonych przez grupę ekspertów, zajmujących się odpowiedzialną sztuczną inteligencją, wynika, że obecnie firmy produkcyjne będące liderami w tym obszarze, mierzą się z wyzwaniem wdrożenia ustanowionych już etycznych zasad tworzenia AI.

Odpowiedzialna sztuczna inteligencja – stan na dziś

Analiza kodeksów etycznych organizacji, których celem jest tworzenie rozwiązań AI w duchu odpowiedzialności, wskazuje na 5 głównych obszarów-wyzwań w tym temacie. Są to:

• transparentność,
• sprawiedliwość i równe traktowanie,
• brak szkodliwych skutków ubocznych działania AI,
• odpowiedzialność,
• prywatność.

Z pewnością można cieszyć się z faktu, że co do ogólnych zasad leżących u podstaw odpowiedzialnej sztucznej inteligencji panuje zgoda. Jednak pytaniem numer jeden na dziś jest: jak wdrożyć je w życie? Z wywiadów przeprowadzonych z osobami odpowiedzialnymi za ten obszar w wielu firmach z różnych branż (od inżynierów AI i data scientists, przez prawników po psychologów organizacji) wynika, że jest to poważne i niełatwe wyzwanie.

Aktualnym problemem jest reaktywność wielu firm produkcyjnych. Oznacza to, że na potencjalne ryzyka odpowiada się nie z wyprzedzeniem, a dopiero wtedy, kiedy wystąpią lub w odpowiedzi na zewnętrzną presję – np. związaną z kryzysem medialnym czy uszczerbkiem na reputacji.

Ta reaktywność jest też mocno powiązana z innym problemem – brakiem pomiarów w zakresie skutecznego wdrożenia zasad odpowiedzialnej sztucznej inteligencji w fabrykach. Bez procesów monitorowania i oceny, odpowiedź na pytanie, na ile owe zasady udało się zaimplementować w przypadku konkretnego algorytmu, jest po prostu niemożliwa. I zwykle okazuje się to dopiero wtedy, kiedy mleko jest już rozlane.

Wyzwania jutra i droga do celu

Mimo tych wszystkich trudności, osoby, które wzięły udział w badaniu, w przyszłość patrzą raczej z optymizmem. W firmach produkcyjnych wdrażane są pierwsze procesy, które służyć mają zarządzaniu ryzykiem związanym z etycznością działań i komunikacją wewnętrzną w tym zakresie. Rośnie też liczba inicjatyw edukacyjnych na temat odpowiedzialności sztucznej inteligencji.

Z pewnością to jednak dopiero początek drogi. Pojawiają się choćby takie pytania, w jaki sposób powiązać kwestie odpowiedzialności z indywidualną oceną pracowników, tym bardziej, że w obszar ten zaangażowanych jest coraz więcej funkcji – od programistów, przez HR po marketing.

Głównym celem na dziś jest osiągnięcie takiego stanu, w którym na problemy się nie tylko reaguje, ale przewiduje je z wyprzedzeniem. I właśnie temu mają służyć wdrażane procesy, komunikacja oraz transparentność. Nie mniejsze znaczenie mają pomiary, w tym między innymi powiązanie wskaźników przypisanych zarówno konkretnym produktom, jak i pracownikom. Przede wszystkim jednak zmiany muszą dotyczyć kultury organizacyjnej firmy produkcyjnej, w której wszyscy członkowie zespołu wiedzą, że zgłaszanie problemów czy wątpliwości natury etycznej jest zachowaniem pożądanym, a także znają sposób postępowania w takich sytuacjach.