W debacie o sztucznej inteligencji często pojawiają się dwa skrajne stanowiska. Jedni przekonują, że AI wkrótce rozwiąże większość problemów biznesu i administracji. Drudzy ostrzegają przed technologiczną katastrofą i utratą kontroli nad maszynami. Tymczasem rzeczywistość jest znacznie mniej spektakularna, ale za to dużo bardziej pouczająca.
Sztuczna inteligencja miała być narzędziem optymalizacji, automatyzacji i przewagi konkurencyjnej. Problem zaczyna się wtedy, gdy organizacje wdrażają AI nie jako element dobrze zaprojektowanego procesu, ale jako modny trend.
Najciekawsze problemy związane ze sztuczną inteligencją nie wynikają z buntu maszyn. Powstają wtedy, gdy organizacje próbują rozwiązywać przy pomocy AI problemy, których same do końca nie rozumieją.
Dobrym przykładem jest sprawa Pizza Hut i systemu Dragontail. Rozwiązanie oparte na sztucznej inteligencji miało usprawnić dostawy, lepiej koordynować pracę kuchni i skracać czas oczekiwania klientów. W praktyce, według pozwu franczyzobiorcy Chaac Pizza Northeast, system rozregulował dobrze działający model operacyjny. Przed wdrożeniem ponad 90 proc. dostaw trafiało do klientów w ciągu 30 minut. Po wdrożeniu kierowcy zyskali większy wgląd w status zamówień, zaczęli selekcjonować bardziej opłacalne kursy, a część klientów otrzymywała pizzę później i w gorszym stanie. Technologia nie naprawiła procesu. Zmieniła zachowania uczestników systemu w sposób, którego najwyraźniej nikt nie przewidział.
Najciekawsze jest jednak to, że sam algorytm nie zawiódł w klasycznym znaczeniu tego słowa. Problem pojawił się dlatego, że system zmienił zachowania kierowców. Dostawcy zaczęli wybierać bardziej opłacalne kursy, pomijać mniej atrakcyjne zamówienia i inaczej planować swoją pracę. Model logistyczny został zoptymalizowany, ale rzeczywisty system biznesowy już nie.
To jeden z najważniejszych wniosków dotyczących wdrożeń AI. Organizacje często analizują procesy, ale nie analizują ludzi uczestniczących w tych procesach.
Podobny mechanizm widać w sprawie Air Canada. Chatbot przewoźnika udzielił klientowi błędnej informacji dotyczącej zwrotu kosztów po podróży związanej ze śmiercią bliskiej osoby. Firma próbowała później argumentować, że chatbot był osobnym narzędziem, a nie właściwym przedstawicielem przedsiębiorstwa. Sąd uznał jednak, że organizacja odpowiada za system, który sama udostępnia klientom. To istotny sygnał dla wszystkich firm wdrażających generatywną AI w obsłudze klienta: automatyzacja kontaktu nie automatyzuje odpowiedzialności.
W świecie biznesu to niezwykle istotny sygnał. Odpowiedzialności za decyzje nie można delegować na algorytm. Dla klienta nie ma znaczenia, czy błędną informację przekazał konsultant, chatbot czy model językowy. Odpowiada organizacja.
Jeszcze mocniej wybrzmiała sprawa nowojorskiego chatbota MyCity, stworzonego z myślą o przedsiębiorcach. Narzędzie miało pomagać w poruszaniu się po przepisach, ale w praktyce potrafiło udzielać porad sprzecznych z prawem. W takim przypadku problemem nie jest sama halucynacja modelu, lecz błędne określenie ryzyka. Jeżeli system udziela odpowiedzi w obszarze prawa, zdrowia, finansów lub obowiązków administracyjnych, nie może być traktowany jak niewinna wyszukiwarka z ładnym interfejsem. To element infrastruktury decyzyjnej.
Problem nie polegał wyłącznie na błędach modelu. Znacznie większym problemem było przekonanie, że technologia generatywna nadaje się do pełnienia roli eksperta prawnego bez odpowiednich mechanizmów kontroli i weryfikacji. Innymi słowy – organizacja pomyliła możliwości narzędzia z zakresem odpowiedzialności, jaki chciała mu powierzyć.
Takie przypadki nie dotyczą wyłącznie obsługi klienta. Kilka lat temu Amazon pracował nad systemem wspierającym proces rekrutacji. Algorytm analizował historyczne dane dotyczące zatrudnienia i oceniał kandydatów. Efekt okazał się daleki od oczekiwań. System zaczął preferować kandydatów płci męskiej, ponieważ właśnie taki wzorzec dominował w danych historycznych.
To jeden z najbardziej znanych przykładów pokazujących, że sztuczna inteligencja nie jest obiektywna. AI nie tworzy własnego obrazu świata. Odtwarza wzorce obecne w danych, na których została wytrenowana. Jeżeli dane zawierają uprzedzenia, błędy lub nierówności, model może je utrwalać, a nawet wzmacniać.
Jeszcze większe konsekwencje pojawiają się wtedy, gdy algorytmy zaczynają wpływać na decyzje publiczne. W czasie pandemii Wielka Brytania wykorzystała algorytm do wyznaczania wyników egzaminów po odwołaniu tradycyjnych testów. System miał zapewnić sprawiedliwą ocenę uczniów. W praktyce wywołał ogromny kryzys społeczny. Wyniki wielu uczniów zostały obniżone na podstawie historycznych rezultatów szkół, do których uczęszczali. Matematycznie model działał zgodnie z założeniami. Społecznie został uznany za niesprawiedliwy i musiał zostać wycofany.
To przypadek szczególnie ważny dla administracji publicznej. Algorytm może być statystycznie poprawny, a jednocześnie społecznie nieakceptowalny. Skuteczne wdrożenie AI wymaga więc nie tylko kompetencji technologicznych, ale również zrozumienia konsekwencji biznesowych, prawnych i społecznych.
Tymczasem obserwujemy zjawisko, które można nazwać automatyzacją oczekiwań. Coraz częściej zakłada się, że skoro rozwiązanie wykorzystuje AI, będzie działać szybciej, taniej i skuteczniej od tradycyjnych metod.
W Polsce widać to choćby w rosnącej liczbie projektów publicznych opartych na sztucznej inteligencji. Państwo przeznacza dziesiątki milionów złotych na rozwój systemów analizujących i prognozujących ruch turystyczny. Powstają nowe regulacje wdrażające AI Act. Tworzone są instytucje mające nadzorować wykorzystanie sztucznej inteligencji. To naturalny kierunek rozwoju.
Zainteresowanie tematem w mainstreamie pokazała również niedawna dyskusja wokół teledysku Dawida Podsiadły do utworu Na błysk. Choć sztuczna inteligencja została wykorzystana jedynie do części efektów wizualnych w postprodukcji, a nad realizacją projektu pracował kilkudziesięcioosobowy zespół, to właśnie AI stała się głównym tematem rozmów po premierze klipu. W komentarzach pojawiły się zarzuty, że artysta sięga po narzędzia, które ograniczają rolę grafików, animatorów i specjalistów od efektów specjalnych, a część odbiorców uznała taki wybór za sprzeczny z wizerunkiem twórcy kojarzonego z autentycznością i wspieraniem kreatywności.
Warto jednak pamiętać, że historia technologii pokazuje pewną prawidłowość. Problemy organizacyjne bardzo rzadko mają charakter technologiczny. Najczęściej wynikają z błędnie zdefiniowanych celów, niepełnych danych, źle zaprojektowanych procesów lub braku odpowiedzialności za podejmowane decyzje.
Właśnie dlatego największym zagrożeniem związanym ze sztuczną inteligencją nie jest technologia sama w sobie. Największym zagrożeniem jest przekonanie, że wdrożenie technologii zwalnia organizację z obowiązku rozumienia własnego biznesu.
Dlatego najważniejszym pytaniem nie jest dziś: Jak wdrożyć AI?.
Znacznie ważniejsze brzmi: Czy naprawdę rozumiemy problem, który chcemy za jej pomocą rozwiązać?.
Czytaj także:
