W szkole w USA uczniów oceniał system sztucznej inteligencji. Ci nagle zorientowali się, że coś jest nie tak i w rezultacie wykiwali AI.
Lazare Simmons, 12-letni siódmoklasista z USA otrzymał 50/100 punktów z testu z historii. Zaniepokoiło to jego mamę, która sama wykłada ten przedmiot i zainteresowała się sprawą. Najpierw myślała, że nauczyciel jest wyjątkowy surowy, ale gdy syn wyjawił jej resztę historii i to, że otrzymał ocenę dosłownie sekundę po przesłaniu odpowiedzi, Dona Simmons wiedziała, że coś tu nie gra. Czy jakikolwiek człowiek mógłby tak szybko ocenić pracę.
Okazało się, że pracę oceniał algorytm sztucznej inteligencji. Mama wraz z synem postanowili go złamać. Okazało się, że system Edgenuity oceniał pracę na podstawie specyficznych słów-kluczy, które miały pojawić się w pracach uczniów.
Nie trzeba było pisać nawet poprawnych zdań, lecz naszpikować tekst jakimikolwiek pasującymi do tematu wyrażeniami. “Jakie były zalety położenia Konstantynopolu i jak miasto to przyczyniło się do rozkwitu Bizancjum?” brzmiało jedno z pytań. Wystarczyło rzucić obok siebie hasełka, takie jak “bogactwo, karawana, statek, Indie, Chiny, Bliski Wschód”.
Można było otrzymać maksymalną liczbę punktów bez jakiegokolwiek uczenia się. Z podobnej taktyki korzystało przynajmniej ośmiu innych uczniów. Co ciekawe, system Edgenuity jest wykorzystywany przez 20 tys. szkół, w tym 80 proc. największych z nich w USA.
Źródło: dobreprogramy
