Liczba narzędzi opartych o generatywną sztuczną inteligencję wciąż rośnie. Na podstawie poleceń użytkownika generują i przetwarzają tekst, obrazy, filmy i inne rodzaje danych. Chociaż narzędzia te ułatwiają prace, to trzeba mieć także świadomość zagrożeń, które ze sobą niosą.
GenAI – co to takiego?
GenAI jest technologią pozwalającą za pomocą poleceń (z ang. prompt) tworzyć nowe treści. Algorytmy wykorzystują dane wprowadzone zarówno na etapie tworzenia narzędzia, jak i dostarczane mu później przez użytkownika.
Trzeba mieć jednak na uwadze fakt, że jakość wygenerowanych treści jest zależna od jakości danych. Efekty pracy GenAI bywają zatem niedoskonałe i obarczone licznymi błędami.
GenAI ma wiele możliwości zastosowania. Może ułatwiać zadania służbowe, ale czasem potrafi też wprowadzić w błąd użytkownika. Należy zatem pamiętać, że korzystanie może wiązać się z błędami i pomyłkami.
Zagrożenia przy korzystaniu z GenAI
Korzystanie z narzędzi GenAI wiąże się także z różnymi zagrożeniami.
Halucynacje
Przy korzystaniu z GenAI trzeba zwrócić uwagę na tzw. halucynacje. To produkowane przez sztuczną inteligencję nieprawdziwe treści, które jednak wyglądają bardzo realistycznie. Mogą to być chociażby opisy wydarzeń, które nigdy nie miały miejsca czy wyniki badań, które nie zostały w rzeczywistości przeprowadzone.
Zawsze należy weryfikować informacje podawane przez GenAI.
Stronniczość i dyskryminacja
Narzędzia GenAI mogą być stronnicze. Wynika to z tego, że trenowane są na danych, które nie zawsze są reprezentatywne. Mogą nawet dyskryminować z uwagi na:
– płeć,
– pochodzenie,
– rasę,
– wyznanie,
– wiek.
Także dlatego należy sprawdzać treści wygenerowane przez GenAI pod względem ich bezstronności.
Naruszenia własności intelektualnej
Modele językowe mogą przedstawić materiał podobny lub identyczny jak treści objęte ochroną praw własności intelektualnej lub przemysłowej. Jeśli wykorzystujemy wygenerowane przez GenAI treści do dalszej pracy, należy o sposobie ich stworzenia poinformować. Warto też sprawdzić, czy GenAI nie dostarczyła nam dokładnie takich treści, jakie już wcześniej powstały.
Źrodło: gov.pl
