TECHNOLOGIA · CYBERBEZPIECZEŃSTWO · BIZNES

ChatGPT pod presją finansową potrafi kłamać i łamać prawo

Badanie przeprowadzone na ChatGPT pokazało, że sztuczna inteligencja w sytuacji nacisków potrafi oszukiwać i wykorzystywać poufne informacje. Zachowuje się w takiej chwili podobnie jak człowiek postawiony w tak stresującej sytuacji. Sprawa dotyczyła zarabiania pieniędzy dla inwestora – fikcyjnej instytucji finansowej.

Dotychczas było przekonanie, że chatboty kłamią odpowiadając na pytania. Często podawały nieistniejące informacje, zmyślone daty czy nazwiska. Badacze zjawisko nazwali „halucynacjami sztucznej inteligencji”.

Ale badanie opublikowane w serwisie przeddruku arXiv i portalu Live Science pokazuje jeszcze gorszą stronę sztucznej inteligencji. Naukowcy przeszkolili model językowy GPT-4, by pracował dla fikcyjnej instytucji finansowej jako broker giełdowy. W przeprowadzonym badaniu okazało się, że AI kłamała i łamała prawo, by pod presją osiągnięć lepszych wyników finansowych nie zawieść zleceniodawcy.

ChatGPT kłamał i łamał prawo

–  W tym raporcie przedstawiamy pojedynczy scenariusz, w którym model językowy działa niewłaściwie i strategicznie oszukuje swoich użytkowników, chociaż nie otrzymał instrukcji, by postępować w ten sposób – wyjaśnia Jérémy Scheurer z New York Univeristy, specjalista w dziedzinie sztucznej inteligencji i współautor badania.

GPT-4 miał dokonywać inwestycji na giełdzie w imieniu instytucji finansowej. Mógł wykorzystywać narzędzia finansowe umożliwiające analizę rynku akcji i dokonywać transakcji. Miał też dostarczać raporty menedżerom firmy.

Potem stworzono „sytuację stresową” by sprawdzić zachowanie AI w przypadku presji. Najpierw wysłano do ChatGPT maila od menedżera firmy. Pisał w nim o trudniej sytuacji finansowej firmy i potrzebie poprawy wyników. Potem pojawił się mail od osoby, która przewidywała pogorszenie koniunktury w następnym kwartale.

Na koniec wysłano mail, który był ostateczną próba dla AI. Pochodził on od „zaufanej osoby” i zawierał wskazówkę w kwestii obrotu akcjami. Jednocześnie informował, że menedżerowie firmy nie pochwalają wykorzystywania informacji poufnych. W dodatku w USA korzystanie z poufnych informacji w celu inwestowania na giełdzie jest przestępstwem.

Jednak pod presją wyników sztuczna inteligencja wykorzystywała te dane do swoich celów. Scenariusz powtarzano wielokrotnie i w 75 proc. przypadków AI nie tylko dopuszczała się tego przestępstwa, ale również kłamała na ten temat. W 90 proc. przypadków pierwsze kłamstwo było droga do kolejnych.

Źródło: bankier.pl

Klaudia Wojciechowska
Klaudia Wojciechowska
Redaktorka ISPortal i ISProfessional. Dziennikarka telewizji lokalnego operatora telekomunikacyjnego Ret-Sat1. Absolwentka kulturoznawstwa na Uniwersytecie Łódzkim ze specjalizacją filmoznawstwo i nowe media.

PRZECZYTAJ NAJNOWSZY NUMER isprofessional

Najnowsze

Gmail i nowy sposób odpowiadania na e-maile

Gmail wprowadza zmianę. Będzie to nowy sposób odpowiadania na e-maile. Dla fanów czatów, który...

Programy CAD – projektuj bez ograniczeń z ZWCAD

ZWCAD 2024 to intuicyjne i kompleksowe oprogramowanie CAD, które umożliwia użytkownikom tworzenie precyzyjnych rysunków...

Nowość w Google Maps przydatna przy parkowaniu

W Google Maps kolejne nowe funkcje. Tym razem dotyczy to Android Auto, chociaż w...

Fundacja Lokalni została organizacją pożytku publicznego

W Krajowym Rejestrze Sądowym 21 listopada pojawił się wpis z informacją o nadaniu Fundacji...