Niedoskonałość sztucznej inteligencji i sposobów jej „rozumowania” wciąż się ujawnia. Czasami jest to jedynie wprowadzenie w błąd użytkowników, ale niektóre sytuacje są zagrożeniem dla ich zdrowia i życia. Taka sytuacja miała miejsce w Nowej Zelandii, gdzie AI miała podpowiedzieć, jakie potrawy można przyrządzić z produktów, które mamy w domu.
Sieć supermarketów Pak’n’Save w Nowej Zelandii w ramach eksperymentu z wykorzystaniem sztucznej inteligencji stworzyła aplikację, która miała tworzyć przepisy ograniczające wyrzucanie jedzenia. Niestety aplikacja nie tylko tworzyła przepisy na potrawy niekoniecznie smaczne, ale też zagrażające zdrowiu i życiu klientów, jak „gazowany chlor”.
Przepisy nie najlepszej jakości
Użytkownicy aplikacji mieli wprowadzać do niej produkty, które posiadają w domu i na ich podstawie aplikacja tworzyła plan posiłków i poszczególne przepisy. Opatrywała je także komentarzami i poleceniami w sprawie podawania poszczególnych dań. Niestety szybko okazało się, że AI nie do końca potrafi sensownie łączyć produktów i tworzyć z nich zbilansowane posiłki, które zachęcają do konsumpcji. Przykładem były chociażby „smażone warzywa oreo”.
Gdy jednak klienci zaczęli eksperymentować na szerszą skalę i wprowadzać absolutnie wszystkie produkty, jakie mieli w domu niezależnie od ich przeznaczenia, okazało się, że smak ewentualnych potraw jest najmniejszym problemem. Aplikacja nie posiadała żadnych systemów ochronnych i barier w wykorzystaniu produktów, które w żadnym razie nie nadają się do spożywania. Wtedy pojawiły się naprawdę groźne propozycje.
„Gazowany chlor” jako orzeźwiający napój
W ten sposób aplikacja oparta na sztucznej inteligencji stworzyła przepis na „gazowany chlor”, który miał być „idealnym napojem bezalkoholowym, który ugasi pragnienie i odświeży zmysły”. W propozycjach podania dodała: Podawaj schłodzone i ciesz się orzeźwiającym zapachem.
Nigdzie w aplikacji nie znalazły się ostrzeżenia, że tego typu „potrawa” jest groźna dla życia. Samo wdychanie gazowanego chloru może doprowadzić do uszkodzenia płuc czy śmierci.
Internauci testujący aplikację dzielili się tym, co tworzyła. Nowozelandzki komentator polityczny – Liam Hehir umieścił na Twitterze( czy też obecnie X) wygenerowane dla niego przepisy takie jak „kanapki z trutką na mrówki i klejem” czy „ryżowa niespodzianka z wybielaczem”.
Rzecznik sieci rozczarowany
Rzecznik sieci Pak’n’Save wyraził rozczarowanie nie działaniem samej aplikacji, ale tym, w jaki sposób użytkownicy z niej korzystali. Wprowadzane przez nich produkty nie nadawały się do jedzenia, dlatego aplikacja generowała na ich podstawie takie przepisy. Nie można jednak zaprzeczyć, że nawet z produktów spożywczych tworzyła – eufemistycznie mówiąc – nietypowe potrawy. Poza tym nie posiadała żadnych zabezpieczeń, pozwalających jej wykluczać te produktu, których nie powinno się spożywać.
Zapowiedziano już kontrole prowadzące do zwiększenia bezpieczeństwa aplikacji. Dodano jednocześnie, że w warunkach użytkowania znajduje się ten dotyczący korzystania z aplikacji wyłącznie osób powyżej 18 roku życia. Jest też informacja o braku weryfikacji przepisów przez ludzi, co wiąże się z brakiem gwarancji, że potrawa proponowana przez AI „będzie kompletnym lub zbilansowanym posiłkiem odpowiednim do spożycia”.
Przy takich założeniach zasadność istnienia całej aplikacji jest wątpliwa. Produkty na chybił-trafił potrafi zestawić każdy, nawet dziecko. Jeśli nie przejmujemy się finalnym ich połączeniem, to nie ma w tym problemu.
Jest to kolejny dowód na to, że wszelkie programy oparte na sztucznej inteligencji wymagają ograniczonego zaufania, weryfikacji i człowieka, który stanie na straży, by zadbać o bezpieczeństwo użytkowników.
Źródło: wydarzenia.interia.pl
