TECHNOLOGIA · CYBERBEZPIECZEŃSTWO · BIZNES

Pracował w Google nad AI – teraz przed nią ostrzega

Geoffrey Hinton, który w Google zajmował się rozwojem sztucznej inteligencji, odszedł z firmy i teraz ostrzega przez zagrożeniem, jakim może być AI. Jest jedną z osób, które domagają się wstrzymania prac nad sztuczną inteligencją.

Geoffrey Hinton zwany jest  ojcem chrzestnym sztucznej inteligencji. Pracował nad jej rozwojem w Google, ale odszedł z firmy. Teraz ostrzega przed zagrożeniami, jakie może nieść AI. Nie chodzi mu jedynie o działania podejmowane w Google, ale wszelkie prace nad rozwojem tej nowej gałęzi.

–  Rozwój modeli sztucznej inteligencji, takich jak związany z Microsoftem ChatGPT czy konkurencyjnego oprogramowania opracowywanego przez Google’a, jest coraz bardziej niebezpieczny – ostrzega Geoffrey Hinton .

Takie słowa nie są czymś, czego spodziewalibyśmy się po człowieku, który całą karierę akademicką i zawodową zajmował się rozwojem sztucznej inteligencji. Jednak to właśnie on mówi o możliwości wywrócenia do góry nogami dotychczasowego rynku pracy przez AI. I to nie jedyne zagrożenia na jakie wskazuje Hinton.

AI można wykorzystać do złych celów

– Przyszłe wersje AI mogą być ostatecznie zagrożeniem dla ludzkości, ponieważ analizują ogromne ilości danych i często uczą się zupełnie nieoczekiwanego zachowania. To ma znaczenie, ponieważ ludzie i firmy pozwalają sztucznej inteligencji nie tylko na pisanie oprogramowania, ale również na uruchamianie go, co pewnego dnia może doprowadzić do powstania autonomicznej broni  – przekonuje naukowiec.

Ponadto ostrzega przed brakiem możliwości zabezpieczenia AI przed wykorzystaniem do niewłaściwych, złych celów. Natomiast obecny wyścig między koncernami technologicznymi może przekształcić się w wyścig między państwami. Tego mogą nie być w stanie kontrolować międzynarodowe regulacje, a będzie to przypadek podobny do tego dotyczącego broni jądrowej.

– Największą nadzieją jest porozumienie naukowców dotyczące sposobów panowania nad AI; sądzę, że ta technologia nie powinna być rozwijana do czasu, gdy uda się zrozumieć, czy możemy ją kontrolować – mówi Hinton.

Źródło: dobreprogramy.pl

Klaudia Wojciechowska
Klaudia Wojciechowska
Redaktorka ISPortal i ISProfessional. Dziennikarka telewizji lokalnego operatora telekomunikacyjnego Ret-Sat1. Absolwentka kulturoznawstwa na Uniwersytecie Łódzkim ze specjalizacją filmoznawstwo i nowe media.

przeczytaj najnowszy numer isporfessional

Najnowsze