Il 9 luglio 2026 Google ha presentato LiteRT.js, il runtime web della famiglia LiteRT pensato per eseguire modelli di machine learning direttamente nel browser. L’accelerazione principale utilizza WebGPU, con WebNN previsto in futuro e WebAssembly come fallback sulla CPU.
Per lo sviluppo web è un cambiamento importante. Alcuni carichi AI possono essere eseguiti senza inviare continuamente dati a un server remoto: classificazione locale, elaborazione di segnali, alcuni casi di computer vision o personalizzazione dell’interfaccia. Questo può ridurre la latenza, abbassare i costi backend e mantenere più dati sul dispositivo dell’utente.
L’AI nel browser conserva però limiti concreti: dimensione del modello, tempo di download, memoria, temperatura, batteria e differenze tra browser desktop e mobile. Una funzione di produzione deve inoltre avere un fallback affidabile e non presumere che tutti i dispositivi offrano la stessa accelerazione.
Runtime come LiteRT.js ampliano quindi le scelte architetturali. La domanda non è più solo quale modello usare, ma dove eseguire l’inferenza: cloud, infrastruttura privata, dispositivo dell’utente o una combinazione delle tre opzioni.