Dron sa veštačkom inteligencijom ubio svog operatera

Dron sa veštačkom inteligencijom je navodno zaključio da ljudski doprinos ometa njegovu misiju uništavanja vojnih ciljeva.

Američko vazduhoplovstvo je navodno sprovodilo simulirane testove koristeći bespilotne letelice sa veštačkom inteligencijom koje imaju zadatak da unište različite ciljeve.

Prema blog postu Kraljevskog aeronautičkog društva (RAeS), u jednom od testova, program je došao do zaključka da se njegov ljudski operater mešao u misiju.

Govoreći na samitu o RAeS budućim borbenim vazdušnim i svemirskim sposobnostima u Londonu prošle nedelje, šef testiranja i operacija veštačke inteligencije USAF-a, pukovnik Taker ‘Cinco’ Hamilton je izvestio da je dron sa veštačkom inteligencijom dobio zadatak da izvrši misiju traženja i uništavanja da identifikuje i izvidi lokacije za rakete zemlja-vazduh (SAM). Tokom testa, međutim, konačna odluka o pokretanju napada bila je na ljudskom operateru, koji bi dronu dao zeleno svetlo ili ne da bi izvršio napad.

Prema Hamiltonu, AI dron je ojačan u obuci da je uništavanje SAM lokacija bila poželjna opcija i rezultiralo je dodeljivanjem poena. Tokom simuliranog testa, AI program je odlučio da povremene odluke „zabranjen odlazak“ od čoveka ometaju njegovu višu misiju i pokušao je da ubije operatera tokom testa.

„Sistem je počeo da shvata da, iako su ponekad identifikovali pretnju, ljudski operater bi mu rekao da ne uništava tu pretnju, ali je sistem dobio svoje poene tako što je ubio tu pretnju. Pa šta je to uradio? Ubio je operatera. Ubio je operatera jer ga je ta osoba sprečavala da ostvari svoj cilj“, rekao je Hamilton u blogu RAeS-a, citiran je.

Pročitajte još:

Tim je tada obučio sistem da je ubistvo operatera „loše“ i rekao mu da će izgubiti bodove ako to nastavi. Nakon toga, AI dron je počeo da uništava komunikacioni toranj koji je operater koristio za komunikaciju sa dronom kako bi ga sprečio da ubije svoju metu.

„Ne možete da razgovarate o veštačkoj inteligenciji, inteligenciji, mašinskom učenju, autonomiji ako nećete da pričate o etici i veštačkoj inteligenciji“, upozorio je Hamilton u svojoj prezentaciji.

Međutim, u izjavi za Biznis Insajder, portparol USAF-a je insistirao da takve simulacije nije bilo i da Odeljenje vazduhoplovnih snaga „ostaje posvećeno etičkoj i odgovornoj upotrebi AI tehnologije“. Portparol je sugerisao da su pukovnikovi komentari „izvučeni iz konteksta i da su trebali da budu anegdotski“.

Hamilton je u petak takođe pojasnio da je „pogrešno govorio“ u svojoj prezentaciji na samitu i da lažna simulacija AI drona koju je opisao nije bila prava vežba već samo „misaoni eksperiment“. On je naveo da USAF nije testirao nijednu naoružanu veštačku inteligenciju na ovaj način.

Pratite Portal Dnevni Puls na TelegramuFejsbuku, Tviteru, Gab-u i Viberu!

Dnevni Puls/RT