Home Homebrew WoozyLLM porta l’AI offline su PlayStation Vita: SmolLM 135M gira direttamente sulla...

WoozyLLM porta l’AI offline su PlayStation Vita: SmolLM 135M gira direttamente sulla console

85
0

La scena homebrew della console PlayStation Vita continua a sorprendere e questa volta lo fa portando l’intelligenza artificiale direttamente sulla storica console portatile Sony.

Si chiama WoozyLLM ed è un client di chat AI completamente locale sviluppato da LuckyI13I, capace di funzionare direttamente sulla PlayStation Vita senza connessione a Internet e senza affidarsi a server esterni.

WoozyLLM v.0.1P fix1 by Luckyl13l can now be downloaded from VitaDB or VitaDB Downloader! More info: https://www.rinnegatamante.eu/vitadb/#/info/1455

(@vitadb.bsky.social) 2026-08-14T19:31:25.266Z

L’idea è tanto semplice quanto interessante: basta accendere una PlayStation Vita, avviare l’applicazione e conversare con un modello linguistico che viene eseguito interamente sull’hardware della console. Nessun cloud, nessun abbonamento e nessun dato inviato online. Tutto rimane sulla macchina.

WoozyLLM utilizza SmolLM 135M, un modello linguistico compatto da 135 milioni di parametri, distribuito in formato quantizzato Q8_0.

Per l’inferenza viene utilizzato un motore basato su llama2.c di Andrej Karpathy, adattato per funzionare sulle risorse decisamente più limitate della PlayStation Vita.

Nonostante l’hardware risalga al 2011, l’applicazione offre un’esperienza sorprendentemente completa. L’interfaccia richiama quella dei moderni chatbot, con bolle per i messaggi, animazioni, una barra laterale dedicata alla cronologia delle conversazioni e la possibilità di visualizzare la risposta dell’intelligenza artificiale in streaming, token dopo token.

Anche l’interazione con la console è stata curata in modo particolare. WoozyLLM sfrutta la tastiera di sistema nativa tramite sceImeDialog e supporta completamente il touchscreen, compreso il pannello touch posteriore della PlayStation Vita.

Il tutto è racchiuso in un’interfaccia caratterizzata da un tema arancione e nero che si integra bene con l’esperienza della console.

L’installazione richiede il VPK dell’applicazione e due file aggiuntivi che devono essere copiati manualmente nella memoria della PlayStation Vita.

Si tratta di model.bin, dalle dimensioni di circa 137 MB, e tokenizer.bin, che occupa circa 1 MB. Entrambi devono essere inseriti nella directory ux0:data/woozyllm/.

Naturalmente non bisogna aspettarsi la velocità dei moderni chatbot basati sul cloud. La PlayStation Vita deve eseguire localmente un modello da 135 milioni di parametri utilizzando un processore progettato più di quindici anni fa.

La generazione delle risposte è quindi piuttosto lenta, ma il sistema rimane comunque utilizzabile e dimostra concretamente che anche un dispositivo con risorse limitate può eseguire un piccolo modello linguistico.

Ed è proprio questo l’aspetto più interessante di WoozyLLM. Il progetto non vuole competere con i moderni servizi di intelligenza artificiale, ma dimostra quanto sia ormai possibile fare con dispositivi che, almeno sulla carta, sembrerebbero completamente inadatti a questo tipo di applicazioni.

Un chatbot AI offline su una console portatile del 2011 rappresenta infatti un curioso incontro tra tecnologia moderna, privacy e scena homebrew.

Non serve una connessione permanente e non è necessario inviare le proprie conversazioni a un servizio esterno: il modello e l’elaborazione rimangono direttamente sulla console.

Il progetto è ancora nelle sue prime fasi mentre alcune funzioni devono ancora essere completate, tra cui il menu delle impostazioni.

Le fondamenta dell’applicazione sono però già presenti e l’esperienza di conversazione è sufficientemente completa da rendere il progetto particolarmente interessante per i possessori di una PlayStation Vita.

Caratteristiche

  • Chat offline con un LLM locale (SmolLM 135M, quantizzato in Q8_0).
  • Output dei token in streaming — l’interfaccia rimane reattiva durante la generazione.
  • Cronologia delle chat salvata per ogni sessione in ux0:data/woozyllm/recents/
  • Barra laterale con apertura/chiusura fluida e aree sensibili al tocco ottimizzate per il touch.
  • Titolo “WoozyLLM” con font Impact.
  • Tastiera di sistema (sceImeDialog) con sincronizzazione del testo in tempo reale.
  • Log di debug scritto in ux0:data/woozyllm.log

Configurazione su PS Vita

  1. Scaricare e installare WoozyLLM.vpk tramite VitaShell o un’applicazione simile.
  2. Copiare i seguenti file nella directory ux0:data/woozyllm/ sulla PlayStation Vita:
    • model.bin — i pesi SmolLM Q8_0.
    • tokenizer.bin — il tokenizzatore BPE.

Nota: Questi due file non sono inclusi nel repository; consultare la sezione seguente.

Come ottenere i file del modello

WoozyLLM utilizza il modello SmolLM2 135M quantizzato nel formato Q8_0. La directory degli strumenti include script Python per la conversione e la quantizzazione:

ini

# 1. Scarica i file Safetensors originali da Hugging Face
#    (HuggingFaceTB/SmolLM2-135M-Instruct)

# 2. Converti in Q8_0:
python tools/convert_smollm.py path/to/model.safetensors tools/smollm/model-q80.bin

# 3. Verifica:
python tools/validate_smollm.py tools/smollm/model-q80.bin

Dimensioni previste dei file:

File Dimensione
model.bin ~137 MB
tokenizer.bin ~1 MB

Comandi

Input Azione
Touch Tocca i pulsanti, trascina per scorrere, scorri per chiudere la tastiera
Touch posteriore Input alternativo
☰ (in alto a sinistra) Apre / chiude la barra laterale con la cronologia
+ Nuova chat Avvia una nuova sessione
Campo messaggio Tocca per aprire la tastiera di sistema

Changelog

Correzione

  • Il cambio della cronologia delle chat ora funziona correttamente: aprendo una vecchia chat dalla barra laterale, i relativi messaggi vengono caricati correttamente.

Problemi noti

  • Il menu delle impostazioni è ancora in fase di sviluppo e al momento non funziona.

Download: WoozyLLM legacy v0.1P fix1

Download: Source code WoozyLLM legacy v0.1P fix1

Alcune parti di questo articolo sono state generate con l’aiuto dell’intelligenza artificiale.

🔥 Prodotti in promozione e articoli più venduti: PS4

Vedi altri prodotti PS4

Questo articolo contiene link affiliati a Amazon. Se acquisti tramite questi link, potrei guadagnare una commissione senza costi aggiuntivi per te.

Ultimo aggiornamento 2026-09-09 / Link di affiliazione / Immagini da Amazon Product Advertising API

LASCIA UN COMMENTO

Per favore inserisci il tuo commento!
Per favore inserisci il tuo nome qui
Captcha verification failed!
Punteggio utente captcha non riuscito. Ci contatti per favore!

Questo sito utilizza Akismet per ridurre lo spam. Scopri come vengono elaborati i dati derivati dai commenti.