Quando si parla di intelligenza artificiale generativa si tende a immaginare quegli strumenti noti e di uso generale che sono ormai entrati a far parte delle nostre vite quotidiana. Questi sistemi, basati sui cosiddetti Large Language Model (LLM), sono in grado di scrivere, riassumere, codificare e conversare con notevole fluidità. La loro rapida evoluzione ha subito raccolto grande entusiasmo in tutti i settori, ma ha anche altrettanto velocemente messo in luce importanti limiti per l'uso aziendale.
Gli LLM richiedono enormi quantità di potenza di calcolo, energia e infrastrutture, rendendoli costosi da addestrare e gestire su larga scala. Per le aziende sollevano anche preoccupazioni in merito alla privacy dei dati, al controllo e alla latenza, in particolare quando le informazioni sensibili devono essere elaborate tramite piattaforme esterne. Di conseguenza molte aziende stanno ora esplorando un approccio alternativo: modelli di AI più piccoli e mirati, progettati per compiti specifici.
Gli small language models (SLM) sono addestrati per eseguire compiti specifici utilizzando molte meno risorse di calcolo rispetto ai tradizionali LLM. Possono essere utilizzati per gestire informazioni aziendali sensibili riducendo al minimo il rischio di fuga di dati. Sono inoltre progettati per essere utilizzati in modo continuativo all'interno di un'azienda, fornendo risultati ottimali senza le grosse esigenze di calcolo dei modelli più grandi.
Come visto nell'ultimo report dell'Innovation Radar di SDG Group, questo cambiamento sta prendendo piede in tutti i settori, con gli analisti che sottolineano il ridimensionamento dei Language Model. Grazie alle loro caratteristiche tecniche, questi SLM possono essere integrati nell'infrastruttura IT esistente per ottenere un ROI maggiore.
In un report di S&S Insider, invece, si evidenzia come il mercato globale degli SLM fosse valutato 7,9 miliardi di dollari nel 2023 e dovrebbe raggiungere i 29,64 miliardi di dollari entro il 2032, con un tasso di crescita medio annuo di circa il 16% tra il 2024 e il 2032.
Man mano che guadagnano terreno, le aziende stanno iniziando a chiedersi se sia meglio utilizzare un unico strumento per ogni problema o implementare sistemi specializzati per compiti chiaramente definiti.
Uno dei principali vantaggi degli SLM è la maggiore specializzazione. Riducendo le dimensioni e i requisiti di calcolo, l'AI diventa più veloce e più accessibile, oltre che utilizzabile su hardware già a disposizione della maggior parte delle aziende. Ciò riduce gli ostacoli all'adozione e consente alle organizzazioni più piccole di sperimentare l'AI anche senza necessariamente impegnarsi in grandi investimenti economici.
Ci sono due ragioni principali per cui le aziende si orientano verso gli SML. La prima è il costo. Tecniche come la quantizzazione, il pruning e la distillazione consentono agli sviluppatori di ridurre i requisiti di calcolo, rispettivamente, abbassando la precisione numerica, rimuovendo le connessioni ridondanti o addestrando un modello più piccolo utilizzando uno più grande come riferimento. Il principio guida è sempre più pragmatico: scegliere il modello più piccolo in grado di svolgere il lavoro in modo affidabile, piuttosto che ricorrere automaticamente al sistema più grande disponibile.
Il secondo motivo è l'efficienza. Gli LLM "generalisti" solitamente funzionano bene per un'ampia gamma di attività, ma le aziende spesso hanno bisogno di un qualcosa in più per rimanere davanti alla concorrenza. Raggiungere quel margine di prestazioni con un modello generico può essere costoso e inefficiente.
È qui che il fine-tuning offre un'alternativa. Adattando un modello pre-addestrato a un set di dati più ristretto, le organizzazioni possono migliorare le prestazioni. Tecniche come il low-rank adaptation (LoRA), che consiste nell'ottimizzazione di una rete neurale per migliorare le prestazioni del modello su compiti specifici, hanno reso questo processo più efficiente utilizzando i dati già esistenti di un'azienda.
Nessuno di questi approcci è privo di costi. Il fine-tuning e l'ottimizzazione richiedono hardware ad alte prestazioni e una formazione costosa, mentre i sistemi più complessi possono allungare i cicli di sviluppo e aumentare i costi di manutenzione.
In alcuni casi, un'azienda richiederà un modello più complesso e capace, mentre in altri sarà più adatta un'opzione meno sofisticata che può essere sviluppata più rapidamente, consentendo al progetto di decollare prima e di competere in modo efficace. La sfida consiste nel valutare diversi approcci e determinare quale aggiungerà realmente valore.
Esplora il portafoglio completo dei servizi Orbitae e scopri come i nostri servizi e soluzioni end-to-end possono aiutare la tua organizzazione ad accelerare la trasformazione, ridurre i rischi e massimizzare il valore.