A ottobre 2024 Meta AI, l’assistente di Intelligenza artificiale dell’azienda di Mark Zuckerberg, superava 500 milioni di utenti mensili, e a dicembre ne ha raggiunti quasi 600 milioni. Questa notizia arriva in parallelo al rilascio di Llama 3.3 70b, l’ultimo modello linguistico dell’azienda, in grado di offrire prestazioni simili al precedente Llama 3.1 405b, ma a un costo inferiore.
Ahmad Al-Dahle, vice presidente dell’unità ‘Generative AI’ di Meta, ha condiviso un grafico su X che mostra come la nuova iterazione del modello sia superiore sia a Gemini Pro 1.5 di Google sia a Gpt-4o di OpenAI.
Un migliore rapporto performance/costo
Nonostante il ceo di Meta sia rimasto vago, ha rivelato che il modello è in fase di addestramento tramite 100 mila schede grafiche Nvidia H100, e che una delle versioni ‘più piccole0 dovrebbe essere rilasciata all’inizio del prossimo anno.
Meta offre attualmente tre modelli linguistici, per un totale di sette versioni. Llama 3.1 (solo testo) è disponibile con 8 e 405 miliardi di parametri, Llama 3.2, disponibile con 1 e 3 miliardi di parametri (solo testo, on-device) e 11 e 90 miliardi di parametri (multimodale). E l’ultimo, Llama 3.3 (solo testo) è disponibile con 70 miliardi di parametri.
Nonostante le dimensioni ridotte, Llama 3.3 70B offre prestazioni simili a quelle di Llama 3.1 405B.
Grazie all’uso di avanzate tecniche di post-training, il nuovo modello è ottimizzato al massimo, quindi ha un migliore rapporto performance/costo.
Open source (ma non per tutti)
In alcuni test, Llama 3.3 70B ha superato i concorrenti Nova Pro (Amazon), GPT-4o (OpenAI), Gemini Pro 1.5 (Google) e Claude 3.5 Sonnet (Anthropic), ma a vincere nettamente è sul fronte dei prezzi (API): solo 0,1 dollari per un milione di token in input e 0,4 dollari per un milione di token in output.
Oltre che dal sito ufficiale della società, può essere scaricato anche da Hugging Face. Come tutti i modelli Llama, anche l’ultima versione è open source. Secondo Open Source Initiative, però, questo non è vero, perché l’azienda di Menlo Park obbliga alle piattaforme con più di 700 milioni di utenti mensili a chiedere una speciale licenza.
“L’ultimo grande aggiornamento AI dell’anno”
Per l’occasione, Zuckerberg ha anche anticipato l’arrivo del prossimo Llama 4, definendo il rilascio di Llama 3.3 come “l’ultimo grande aggiornamento AI dell’anno”. Il chatbot però, riferisce Punto Informatico, non è ancora disponibile in Europa poiché non rispetta il GDPR, ma le capacità base sono accessibili con gli occhiali smart Ray-Ban.
Meta ha comunque avviato la costruzione di un data center da 10 miliardi di dollari in Louisiana per l’addestramento dei futuri modelli.