Microsoft ha rivelato il suo nuovo impressionante modello di intelligenza artificiale Phi-3. Questo è un modello minuscolo rispetto a modelli come GPT-4, Gemini o Llama 3 ma ha un impatto notevole per le sue dimensioni.
Conosciuti come piccoli modelli linguistici, queste IA leggere rendono più semplice ed economico eseguire determinate attività senza dover utilizzare la grande potenza di calcolo dei modelli più grandi.
Nonostante le sue dimensioni ridotte, Phi-3 mini ha già ottenuto le stesse prestazioni di Llama 2 in alcuni benchmark e Microsoft afferma che è reattivo quanto un modello 10 volte più grande.
Ciò che non è chiaro è se questo potrebbe far parte di un futuro aggiornamento di Copilot poiché Microsoft cerca di portare più funzionalità sul dispositivo o se rimarrà un progetto autonomo.
Cos’è Microsoft Phi-3?
Microsoft Phi-3 è stato addestrato con un “curriculum”, secondo il vicepresidente di Azure Eric Boyd. Parlando con Il limite, Boyd ha detto di aver preso un elenco di 3000 parole e di aver chiesto a un modello linguistico più ampio di realizzare libri per bambini per insegnare il Phi. Si è poi formato su questi nuovi libri.
Presentiamo phi-3-mini… le cui prestazioni complessive, misurate sia da benchmark accademici che da test interni, rivaleggiano con quelle di modelli come Mixtral 8x7B e GPT-3.5 nonostante siano abbastanza piccole da poter essere utilizzate su un telefono.
Ricerca Microsoft
Phi-3 è disponibile in tre dimensioni; mini che contiene solo 3,8 miliardi di parametri, un modello piccolo da 7 miliardi di parametri e il modello medio da 14 miliardi di parametri. In confronto GPT-4 ha più di un trilione di parametri e il modello più piccolo Llama 3 ne ha 8 miliardi.
Phi-3 si basa sull’apprendimento di Phi-1, incentrato sulla codifica, e Phi-2 a cui è stato insegnato a ragionare. Questo ragionamento migliorato spiega come può eguagliare GPT-3.5 in termini di qualità della risposta nonostante l’addestramento su un set di dati molto più piccolo.
Questo passaggio a modelli più piccoli che performano altrettanto bene, o addirittura superano, i grandi player è una tendenza in crescita. Il Llama 3 70B di Meta ha quasi raggiunto i livelli GPT-4 in alcuni benchmark e i modelli più piccoli sembrano trovare nicchie specifiche.
Le prestazioni del Phi-3 “rivaleggiano con quelle di modelli come Mixtral 8x7B e GPT-3.5”, hanno spiegato i ricercatori di Microsoft in un carta sul nuovo modello. Ciò è avvenuto “nonostante fosse abbastanza piccolo da poter essere utilizzato su un telefono”.
Secondo il team, l’innovazione è dovuta interamente al set di dati. Questo era costituito da dati web fortemente filtrati e da dati sintetici provenienti da libri per bambini realizzati da altre IA.
Perché abbiamo bisogno di Phi-3?
Microsoft Phi-3 è progettato per funzionare su una gamma più ampia di dispositivi e molto più velocemente di quanto sia possibile con i modelli più grandi. Fa parte di una famiglia di modelli come StabilityAI Zephyr, Google Gemini Nano e Claude 3 Haiku di Anthropic che potrebbero funzionare su un laptop o telefono, senza bisogno di Internet.
In futuro questi modelli potrebbero essere abbinati a uno smartphone, integrati in un chip inserito in un altoparlante intelligente o addirittura integrati nel tuo frigorifero per darti consigli sulle tue abitudini alimentari.
Sebbene i modelli basati su cloud come Google Gemini Ultra, Claude 3 Opus e GPT-4-Turbo supereranno sempre i modelli più piccoli in tutte le aree, presentano persi inconvenienti tra cui costi, velocità e richiedono una connessione Internet per essere utilizzabili.
Questi minuscoli modelli ti permetteranno di chattare con il tuo assistente virtuale anche se non hai una connessione Internet, di fare in modo che l’intelligenza artificiale riepiloghi i contenuti senza inviare dati offline o addirittura di lavorare in un dispositivo Internet of Things senza che tu sappia che l’intelligenza artificiale è in gioco.
Si dice che Apple faccia affidamento quasi interamente su questi modelli locali per alimentare la prossima generazione di funzionalità di intelligenza artificiale generativa in iOS 18 e Google ha implementato Gemini Nano su più telefoni Android.
- Apple GPT: ultime notizie, data di rilascio prevista e funzionalità previste
- Bing con ChatGPT è ora Copilot: cosa significa per te
- Google svela Gemini AI per il chatbot Bard e potrebbe battere ChatGPT