LLM: cosa sono i modelli linguistici

Cosa vuol dire LLM?

LLM sta per Large Language Model: "modello" perché è una rappresentazione matematica del linguaggio, "linguistico" perché lavora con le parole, "large" perché è enorme, sia per i testi su cui è stato addestrato sia per il numero di parametri, i valori interni che regola mentre impara.

ChatGPT, Claude, Gemini, Llama e Mistral sono esempi noti. Sono nati da aziende diverse, ma funzionano tutti sullo stesso principio.

Come funziona un modello linguistico?

Semplificando molto: un LLM ha letto miliardi di frasi e ha imparato quali parole tendono a seguirne altre, in quale contesto. Quando gli scrivi qualcosa, costruisce la risposta un pezzo alla volta (i pezzi si chiamano token), scegliendo ogni volta il seguito più adatto.

Detto così sembra poco, ma da questo meccanismo nascono capacità sorprendenti: riassumere, tradurre, rispondere a domande, seguire istruzioni, cambiare tono. Dopo l'addestramento di base i modelli vengono affinati per seguire istruzioni e per comportarsi in modo sicuro.

Cosa sa fare e cosa non sa fare un LLM?

Sa capire frasi scritte male, rispondere in decine di lingue, adattare il registro, estrarre dati da un testo. Ha però due limiti importanti per un'azienda.

Il primo: non conosce la tua attività. Sa cos'è una e-bike in generale, non quali modelli hai in negozio o a che ora chiudi il sabato. Il secondo: quando non sa, può inventare una risposta plausibile ma sbagliata. Si chiama allucinazione.

Perché un'azienda non usa un LLM da solo?

Per rispondere ai clienti serve legare il modello ai contenuti dell'azienda. Si fa con la RAG: prima si cercano le informazioni giuste nella knowledge base, poi il modello le usa per scrivere la risposta. A questo si aggiungono istruzioni chiare (cosa può dire, cosa no) e il passaggio a una persona quando la domanda esce dal perimetro. Il risultato è un agente AI, non un modello lasciato libero.