Qualcomm ha pubblicato una demo video del celebre elaboratore di immagini basato sull'intelligenza artificiale, Stable Diffusion, che per la prima volta vediamo in esecuzione su uno smartphone Android alimentato da un SoC Snapdragon 8 Gen 2. L'azienda dice che in effetti si tratta della prima dimostrazione di questo genere su un hardware pensato per il segmento mobile.

Stable Diffusion è un modello di apprendimento automatico divenuto molto popolare molto popolare e che rientra nella categoria delle intelligenze artificiali generative. È in grado di creare immagini fotorealistiche da un qualsiasi input di tipo testuale e riesce a farlo con tempistiche dell'ordine di poche decine di secondi.

Dovendo processare oltre 1 miliardo di parametri, inizialmente Stable Diffusion era stato principalmente limitato all'esecuzione nel cloud, ma questa demo mostra che la soluzione può essere eseguita anche su uno smartphone Android. Scopriamo così che Qualcomm AI Research ha eseguito ottimizzazioni AI full-stack utilizzando Qualcomm AI Stack per implementarlo su questo dispositivo.

L'azienda spiega che l'intelligenza artificiale sul dispositivo offre molti vantaggi tra cui affidabilità, latenza, privacy, uso efficiente della larghezza di banda della rete e costi complessivi. Ecco cosa dice Qualcomm a tal proposito.

Eseguire Stable Diffusion su uno smartphone è solo l'inizio. Tutta la ricerca e l'ottimizzazione dell'intero stack che hanno reso possibile tutto ciò, confluiranno nello stack AI di Qualcomm. La nostra unica roadmap tecnologica ci consente di scalare e utilizzare un singolo stack di intelligenza artificiale che funziona non solo su dispositivi finali diversi, ma anche su modelli diversi. Ciò significa che le ottimizzazioni per Stable Diffusion per funzionare in modo efficiente sui telefoni possono essere utilizzate anche per altre piattaforme come laptop, cuffie XR e praticamente qualsiasi altro dispositivo alimentato da Qualcomm Technologies. L'esecuzione di tutta l'elaborazione AI nel cloud sarà troppo costosa, motivo per cui un'elaborazione AI edge efficiente è così importante. L'elaborazione Edge AI garantisce la privacy dell'utente durante l'esecuzione di Stable Diffusion (e altri modelli di intelligenza artificiale generativa) poiché il testo di input e l'immagine generata non devono mai lasciare il dispositivo: questo è un grosso problema per l'adozione di applicazioni sia consumer che aziendali. Le nuove ottimizzazioni dello stack AI significano anche che diminuirà anche il time-to-market per il prossimo modello di base che vogliamo eseguire sull'edge. Questo è il modo in cui ci ridimensioniamo tra dispositivi e modelli di base per rendere l'IA edge davvero onnipresente.

Qualcomm ha anche pubblicato una demo video che vi proponiamo a seguire.