Gugl suspendovao inženjera

Gugl je stavio jednog od svojih inženjera na plaćeno administrativno odsustvo zbog navodnog kršenja njegove politike poverljivosti nakon što je javno izjavio da je postao zabrinut oko sistema za razgovor sa veštačkom inteligencijom koja je dostigla razum, preneo je  Vašington Post.

Inženjer, Blejk Limojn, radi za Guglovu odgovornu AI organizaciju i testirao je da li njen LaMDA model generiše diskriminatorski jezik ili govor mržnje.

Zabrinutost inženjera je navodno izrasla iz ubedljivih odgovora da je video sistem veštačke inteligencije koji generiše o svojim pravima i etici robotike.

U aprilu je podelio dokument sa rukovodiocima pod naslovom „Da li je LaMDA osećajna?“ koji sadrži transkript njegovih razgovora sa AI (nakon što je stavljen na odsustvo, Limojn je objavio transkript preko svog naloga na Medijumu), za koji tvrdi „da je osećajan jer ima osećanja, emocije i subjektivno iskustvo“.

Gugl veruje da su Limojnove radnje u vezi sa njegovim radom na LaMDA-i prekršile njegovu politiku poverljivosti.

Navodno je pozvao advokata da predstavlja sistem veštačke inteligencije i razgovarao sa predstavnikom pravosudnog odbora Predstavničkog doma o navodnim neetičkim aktivnostima u Guglu.

U postu od 6. juna, na dan kada je Limojn stavljen na administrativno odsustvo, inženjer je rekao da je tražio „minimalni iznos spoljnih konsultacija koje bi mu pomogle da vodi istragu“ i da lista ljudi sa kojima je razgovarao uključuje vladu SAD zaposlenih.

Gigant za pretragu je javno najavio LaMDA na Google I/O prošle godine, za koji se nada da će poboljšati svoje konverzacijske AI asistente i omogućiti prirodnije razgovore.

Kompanija već koristi tehnologiju sličnog jezičkog modela za Gmail-ovu funkciju Smart Compose ili za upite pretraživača.

U izjavi datoj Vašington Postu, portparol Gugla je rekao da nema „dokaza“ da je LaMDA razuman.

Naš tim, uključujući etičare i tehnologe, pregledao je Blejkovu zabrinutost u skladu sa našim principima veštačke inteligencije i obavestio ga da dokazi ne podržavaju njegove tvrdnje. Rečeno mu je da nema dokaza da je LaMDA razumna (i mnogo dokaza protiv toga) – rekao je portparol Brajan Gabrijel.

Naravno, neki u široj zajednici AI razmatraju dugoročnu mogućnost razumne ili opšte veštačke inteligencije, ali nema smisla to činiti antropomorfizacijom današnjih konverzacijskih modela, koji nisu razumni – rekao je Gabrijel.

Ovi sistemi imitiraju vrste razmene koje se nalaze u milionima rečenica i mogu da se bave bilo kojom fantastičnom temom.

Stotine istraživača i inženjera razgovaralo je sa LaMDA-om i nismo svesni da je neko drugi iznosio široke tvrdnje ili antropomorfizovao LaMDA, na način na koji je Blejk – rekao je Gabrijel.

Profesorka lingvistike složila se da je netačno poistovećivati ubedljive pisane odgovore sa razumom.

Sada imamo mašine koje mogu bezumno da generišu reči, ali nismo naučili kako da prestanemo da zamišljamo um iza njih – rekla je profesorka Univerziteta u Vašingtonu Emili M. Bender.

Timnit Gebru, istaknuti etičar veštačke inteligencije kojeg je Gugl otpustio 2020. (iako gigant tvrdi da je ona dala otkaz), rekla je da rasprava o osećaju veštačke inteligencije rizikuje da „izvuče iz koloseka” važnije etičke razgovore o upotrebi veštačke inteligencije.

„Umesto da se raspravlja o šteti ovih kompanija, seksizmu, rasizmu, kolonijalizmu veštačke inteligencije, centralizaciji moći, (izgradnja dobrog „AGI“ [veštačke opšte inteligencije] da nas spase dok ono što rade je eksploatisanje), potrošili su ceo vikend raspravljajući o osećaju“, napisala je ona na Tviteru.

Misija iskakanja iz šina je ostvarena.

Uprkos zabrinutosti, Limojn je rekao da namerava da nastavi da radi na veštačkoj inteligenciji u budućnosti.

Moja namera je da ostanem u sferi veštačke inteligencije bez obzira da li me Gugl zadrži ili ne – napisao je u tvitu.

Pratite nas na društvenim mrežama Fejsbuk i Telegram

Izvor: The Verge