Geoffrey Hinton, który w Google zajmował się rozwojem sztucznej inteligencji, odszedł z firmy i teraz ostrzega przez zagrożeniem, jakim może być AI. Jest jedną z osób, które domagają się wstrzymania prac nad sztuczną inteligencją.
Geoffrey Hinton zwany jest ojcem chrzestnym sztucznej inteligencji. Pracował nad jej rozwojem w Google, ale odszedł z firmy. Teraz ostrzega przed zagrożeniami, jakie może nieść AI. Nie chodzi mu jedynie o działania podejmowane w Google, ale wszelkie prace nad rozwojem tej nowej gałęzi.
– Rozwój modeli sztucznej inteligencji, takich jak związany z Microsoftem ChatGPT czy konkurencyjnego oprogramowania opracowywanego przez Google’a, jest coraz bardziej niebezpieczny – ostrzega Geoffrey Hinton .
Takie słowa nie są czymś, czego spodziewalibyśmy się po człowieku, który całą karierę akademicką i zawodową zajmował się rozwojem sztucznej inteligencji. Jednak to właśnie on mówi o możliwości wywrócenia do góry nogami dotychczasowego rynku pracy przez AI. I to nie jedyne zagrożenia na jakie wskazuje Hinton.
AI można wykorzystać do złych celów
– Przyszłe wersje AI mogą być ostatecznie zagrożeniem dla ludzkości, ponieważ analizują ogromne ilości danych i często uczą się zupełnie nieoczekiwanego zachowania. To ma znaczenie, ponieważ ludzie i firmy pozwalają sztucznej inteligencji nie tylko na pisanie oprogramowania, ale również na uruchamianie go, co pewnego dnia może doprowadzić do powstania autonomicznej broni – przekonuje naukowiec.
Ponadto ostrzega przed brakiem możliwości zabezpieczenia AI przed wykorzystaniem do niewłaściwych, złych celów. Natomiast obecny wyścig między koncernami technologicznymi może przekształcić się w wyścig między państwami. Tego mogą nie być w stanie kontrolować międzynarodowe regulacje, a będzie to przypadek podobny do tego dotyczącego broni jądrowej.
– Największą nadzieją jest porozumienie naukowców dotyczące sposobów panowania nad AI; sądzę, że ta technologia nie powinna być rozwijana do czasu, gdy uda się zrozumieć, czy możemy ją kontrolować – mówi Hinton.
Źródło: dobreprogramy.pl
