Stable Diffusion je najsavremeniji model dubokog učenja koji može da transformiše reči u veštačke slike jasnog kvaliteta. Ova mreža za mašinsko učenje se obično hostuje u oblaku, ali se takođe može instalirati na računarima velike snage za korišćenje van mreže. Štaviše, uz dodatna usavršavanja, model se može efikasno pokrenuti na Android pametnim telefonima.
Qualcomm je uspešno prilagodio mogućnosti stvaranja slike na jednom Android pametnom telefonu koji radi na Snapdragon 8 Gen 2 SoC uređaju.
Ovo dostignuće je značajno, jer otvara mogućnosti za AI aplikacije kojima se upravlja na ivičnim računarskim uređajima bez potrebe za internet vezom, prema kompaniji iz San Dijega.
Qualcomm-ov korporativni blog objašnjava da je Stable Diffusion osnovni model sa ogromnom neuronskom mrežom koja je obučena na ogromnoj količini podataka. Generativni AI model za pretvaranje teksta u sliku sadrži zapanjujuću milijardu parametara, a do sada je uglavnom bio ograničen na oblak ili na tradicionalne x86 računare opremljene najnovijim GPU-ovima.
Qualcomm AI Research je koristio „potpune AI optimizacije“ da bi prvi put primenio Stable Diffusion na Android pametnom telefonu, sa vrstom performansi koje opisuje kompanija. Kompletna veštačka inteligencija uključuje prilagođavanje aplikacije, modela neuronske mreže, algoritama, softvera i hardvera prema specifičnim zahtevima zadatka, iako su za postizanje ovog podviga bili neophodni neki kompromisi.
Qualcomm je prvo morao da konvertuje Stable Diffusion format podataka sa pomičnim zarezom jedne preciznosti (FP32) u INT8 tip podataka niže preciznosti. Ovo je postignuto korišćenjem njihovog novorazvijenog kompleta alata za efikasnost modela AI (AIMET) za kvantizaciju nakon obuke, što je rezultiralo poboljšanim performansama, smanjenom potrošnjom energije i održanom preciznošću modela bez potrebe za skupom ponovnom obukom.
Ishod ovog kompletnog procesa optimizacije bila je mogućnost izvršavanja stabilne difuzije na pametnom telefonu, stvarajući sliku od 512 x 512 piksela za manje od 15 sekundi u 20 ključnih koraka.
Prema Qualcomm-u, ovo je najbrže vreme na pametnom telefonu i uporedivo sa kašnjenjem u oblaku. Pored toga, korisnički unos za tekstualni upit ostaje potpuno neograničen.
Pratite Portal Dnevni Puls na Telegramu, Fejsbuku, Tviteru, Gab-u i Viberu!
Dnevni Puls/DurovsCode