Više od 1.100 potpisnika, uključujući Ilona Maska, Stiva Voznijaka i Tristana Harisa iz Centra za humanu tehnologiju, potpisalo je otvoreno pismo pozivajući na pauzu u razvoju i primeni AI sistema moćnijih od GPT-4.
U pismu se tvrdi da postoji „zaključana trka van kontrole za razvoj i primenu sve moćnijih digitalnih umova koje niko, čak ni njihovi kreatori, ne mogu razumeti, predvideti niti pouzdano kontrolisati.
Potpisnici pozivaju na šestomesečnu pauzu koja bi trebalo da bude „javna i proverljiva i da uključuje sve ključne aktere“. Ako se navedena pauza „ne može brzo doneti, vlade bi trebalo da uđu i uvedu moratorijum“, kaže se u pismu.
Dok su neki stručnjaci za veštačku inteligenciju potpisali pismo, OpenAI, koji stoji iza velikog jezičkog modela GPT-4, nije ga potpisala.
Izvršni direktor OpenAI Sem Altman rekao je da je kompanija dugo davala prioritet bezbednosti u razvoju i da je provela više od šest meseci radeći bezbednosne testove na GPT-4 pre njegovog lansiranja.
Altman je takođe dodao da OpenAI nije započeo obuku GPT-5.
U otvorenom pismu se navodi sledeće:
Savremeni sistemi veštačke inteligencije sada postaju konkurentni ljudima u opštim zadacima i moramo se zapitati: da li treba da dozvolimo mašinama da preplave naše informacione kanale propagandom i neistinom? Da li treba da automatizujemo sve poslove? Da li treba da razvijamo neljudske umove koji bi nas na kraju mogli nadmašiti, nadmudriti i zameniti nas? Da li treba da rizikujemo gubitak kontrole nad našom civilizacijom? Takve odluke ne smeju biti delegirane neizabranim tehnološkim liderima. Moćne AI sisteme treba razvijati tek kada budemo sigurni da će njihovi efekti biti pozitivni i da će se njihovi rizici moći upravljati.
Pratite Portal Dnevni Puls na Telegramu, Fejsbuku, Tviteru, Gab-u i Viberu!
Dnevni Puls/Mediji