Nel panorama in evoluzione dell’intelligenza artificiale, il modello Llama (Large Language Model Meta AI) si erge come un protagonista significativo. Rilasciato da Meta AI nel febbraio 2023, Llama ha già raggiunto traguardi notevoli con la sua versione 3.2, lanciata nel settembre 2024. Questo modello linguistico rappresenta il primo tentativo di Meta di offrire un sistema open source capace di elaborare simultaneamente testo e immagini, un avanzamento che non solo arricchisce il panorama dell’AI open source, ma accelera anche l’innovazione in un settore sempre più competitivo.
La caratteristica che distingue Llama 3.2 è la sua natura multimodale, che apre a una gamma di opportunità per gli sviluppatori, tra cui applicazioni di realtà aumentata e motori di ricerca visiva avanzati. Questa versatilità permette a Meta di confrontarsi con colossi del settore come OpenAI e Google, che hanno già introdotto modelli simili. In un’epoca in cui i confini tra reale e virtuale si fanno sempre più sfocati, la capacità di Llama di comprendere e interpretare sia il testo che le immagini è cruciale per il futuro delle interazioni digitali.
Llama 3.2 si presenta sul mercato con modelli diversificati, progettati per soddisfare varie esigenze, inclusi modelli di visione da 11 e 90 miliardi di parametri. Nonostante la superiorità teorica del modello Llama 3.1, lanciato a luglio con 405 miliardi di parametri, Meta si impegna a mantenere i suoi modelli più anziani rilevanti e funzionali. Grazie a una piccola app chiamata PocketPal AI, gli utenti possono utilizzare Llama 3.2 in locale sui propri iPhone. Questa applicazione, completamente gratuita e priva di pubblicità, consente l’uso di modelli LLM di piccole dimensioni, ma estremamente potenti, in modo semplice e accessibile. PocketPal AI offre un chatbot che, anche in assenza di connessione a Internet, è in grado di generare testi, effettuare traduzioni e persino scrivere codice.
Nonostante l’app PocketPal possa avere un’icona poco attraente, si distingue per la sua interfaccia snella e la sua intelligenza. Al primo avvio, l’utente deve scegliere un modello tra diverse opzioni disponibili. Tra queste, troviamo Gemma, Danube, Phi, Qwen e il Llama di Facebook, che nella versione 3.2 da 3 miliardi di parametri, quantizzato a 8 bit, risulta essere il preferito dagli utenti. Questo modello occupa circa 3.2 GB di spazio, e per chi possiede un iPhone meno recente, è consigliabile optare per un modello di dimensioni più contenute.
Una volta scaricato il modello Llama 3.2 3b Q8K, le impostazioni dell’app offrono alcune opzioni utili. Una di queste consente di liberare la memoria del modello quando l’app passa in secondo piano, evitando l’occupazione di 4 GB di RAM (opzione attiva di default). Un’altra impostazione permette di attivare Metal per l’accelerazione delle prestazioni. Gli utenti possono anche personalizzare il tema e la finestra di contesto secondo le loro preferenze.
Dopo aver configurato le impostazioni, il chatbot è pronto per rispondere a qualsiasi domanda. Gli utenti possono chiedere al modello di analizzare pagine web esterne per riassunti e traduzioni, inventare racconti, scrivere codice o persino leggere una pagina e fornirne una sintesi. Sebbene il modello Llama 3.2 abbia pochi miliardi di parametri, il fatto che tutte queste operazioni avvengano in locale offre una velocità paragonabile a quella dei sistemi in cloud, senza alcun costo aggiuntivo.
Inoltre, sugli iPhone recenti, grazie al tasto azione, gli utenti possono personalizzare l’app PocketPal per avviare direttamente il chatbot. L’app integra anche una tastiera con funzione di dettatura, che consente di impartire comandi vocali senza la necessità di digitare, rendendo l’esperienza d’uso ancora più fluida e intuitiva.
In sintesi, Llama 3.2 rappresenta un notevole passo avanti nel campo dell’intelligenza artificiale, fornendo uno strumento potente e accessibile per la generazione di contenuti e l’elaborazione di informazioni. Con la sua versatilità e le sue funzionalità avanzate, è destinato a diventare un attore chiave nel mercato mobile, trasformando il modo in cui interagiamo con le tecnologie digitali.
