I Large Language Model (LLM) sono modelli di machine learning in grado di comprendere e generare testo in linguaggio umano. Funzionano analizzando enormi set di dati di linguaggio.
Dopo aver letto questo articolo sarai in grado di:
Argomenti correlati
Cos'è l'intelligenza artificiale (IA)?
Cos'è l'IA generativa?
Cos'è il machine learning?
IA predittiva
Cos'è l'IA agentica?
Abbonati a theNET, il riepilogo mensile di Cloudflare sulle tematiche più discusse in Internet.
Copia link dell'articolo
Un Large Language M (LLM) è un tipo di programma di intelligenza artificiale (IA) in grado di riconoscere e generare testo, tra le altre attività. Gli LLM vengono addestrati su enormi set di dati, da cui il nome "large", ovvero "grande". Gli LLM sono basati sul machine learning: nello specifico, un tipo di rete neurale chiamata modello transformer.
In termini più semplici, un LLM è un programma informatico a cui sono stati forniti esempi sufficienti per renderlo in grado di riconoscere e interpretare il linguaggio umano o altri tipi di dati complessi. Molti LLM vengono addestrati sui dati raccolti da Internet, ovvero su migliaia o milioni di gigabyte di testo. Dopo l'addestramento iniziale, alcuni LLM continuano a scansionare il web per acquisire ulteriori contenuti. La qualità dei campioni, tuttavia, influisce sul modo in cui gli LLM apprenderanno il linguaggio naturale. Per questo motivo, almeno all'inizio, i programmatori di un LLM tendono a usare set di dati attentamente selezionati.
Gli LLM utilizzano un tipo di machine learning chiamato deep learning per capire come funzionano caratteri, parole e frasi nel loro complesso. Il deep learning comporta l'analisi probabilistica dei dati non strutturati, che alla fine consente al modello di deep learning di riconoscere le distinzioni tra parti di contenuto senza l'intervento umano.
Gli LLM vengono quindi ulteriormente addestrati tramite l'ottimizzazione: vengono messi a punto oppure vengono ottimizzati in termini di prompt per le attività particolari che il programmatore desidera che svolgano, come interpretare le domande e generare risposte o tradurre il testo da una lingua all'altra.
Gli LLM possono essere addestrati per eseguire una serie di attività. Uno degli usi più noti è la loro applicazione come IA generativa: alla ricezione di un prompt o quando viene posta una domanda, possono produrre testo in risposta. L'LLM disponibile al pubblico ChatGPT, ad esempio, può generare saggi, poesie e altre forme testuali in risposta agli input degli utenti.
Qualsiasi set di dati grande e complesso può essere utilizzato per addestrare gli LLM, compresi i linguaggi di programmazione. Alcuni LLM possono aiutare i programmatori a compilare codice. Possono compilare funzioni su richiesta oppure, in base a codice fornito come punto di partenza, possono terminare la compilazione di un programma. Gli LLM possono essere utilizzati anche nei seguenti casi:
Esempi di LLM reali includono ChatGPT (da OpenAI), Bard (Google), Llama (Meta) e Bing Chat (Microsoft). Copilot di GitHub è un altro esempio, ma per la codifica, non per il linguaggio umano naturale.
A livello di base, gli LLM si basano sul machine learning. Il machine learning è un sottoinsieme dell'intelligenza artificiale e si riferisce alla pratica di alimentare un programma con grandi quantità di dati per addestrare il programma a identificare le caratteristiche di tali dati senza l'intervento umano.
Gli LLM utilizzano un tipo di machine learning chiamato deep learning. I modelli di deep learning possono essenzialmente essere addestrati a riconoscere le distinzioni senza l'intervento umano, sebbene in genere sia necessaria una certa messa a punto da parte dell'uomo.
Il deep learning utilizza la probabilità per "apprendere". Ad esempio, nella frase "The quick brown fox jumped over the lazy dog", le lettere "e" e "o" sono le più comuni, e compaiono quattro volte ciascuna. Sulla base di questo, un modello di deep learning potrebbe concludere (correttamente) che questi caratteri sono tra i più probabili che appaiano nel testo in lingua inglese.
Realisticamente, un modello di deep learning non può effettivamente concludere nulla da una singola frase. Ma dopo aver analizzato trilioni di frasi, potrebbe imparare abbastanza per prevedere come terminare logicamente una frase incompleta o persino generare le proprie frasi.
Per abilitare questo tipo di deep learning, gli LLM sono basati su reti neurali. Proprio come il cervello umano è composto da neuroni che si connettono e inviano segnali tra loro, una rete neurale artificiale (tipicamente abbreviata in "rete neurale") è costituita da nodi di rete che si connettono tra loro. Sono composte da diversi "livelli": un livello di input, un livello di output e uno o più livelli intermedi. I livelli si scambiano informazioni solo se i loro stessi output superano una determinata soglia.
Il tipo specifico di reti neurali utilizzate per gli LLM sono chiamati modelli transformer. I modelli transformer sono in grado di apprendere il contesto, particolarmente importante per il linguaggio umano, che dipende notevolmente dal contesto. I modelli transformer utilizzano una tecnica matematica chiamata auto-attenzione per rilevare i modi sottili in cui gli elementi di una sequenza si relazionano tra loro. In questo modo, riescono a comprendere con maggiore efficienza il contesto rispetto ad altri tipi di machine learning. Consente loro di capire, ad esempio, come la fine di una frase si collega all'inizio e come le frasi in un paragrafo si relazionano tra loro.
In questo modo, gli LLM possono interpretare il linguaggio umano, anche quando tale linguaggio è vago o mal definito, organizzato in combinazioni che non hanno mai incontrato prima o contestualizzato in modi nuovi. A un certo livello "capiscono" la semantica in quanto possono associare parole e concetti in base al loro significato, dopo averli visti raggruppati in quel modo milioni o miliardi di volte.
Una caratteristica chiave degli LLM è la loro capacità di rispondere a query imprevedibili. Un programma informatico tradizionale riceve comandi nella sua sintassi accettata o da un determinato insieme di input dall'utente. Un videogioco ha un set finito di pulsanti, un'applicazione ha un set finito di elementi su cui un utente può fare clic o che può digitare e un linguaggio di programmazione è composto da precise istruzioni if/then.
Al contrario, un LLM può rispondere al linguaggio umano naturale e utilizzare l'analisi dei dati per rispondere a una domanda o a un prompt non strutturati in un modo sensato. Mentre un tipico programma informatico non è in grado di riconoscere un messaggio come "Quali sono le quattro più grandi band di genere funk della storia?", un LLM potrebbe rispondere con un elenco di quattro di queste band e una difesa ragionevolmente convincente del perché sono le migliori.
In termini di informazioni che forniscono, tuttavia, gli LLM possono essere affidabili solo quanto i dati che assimilano. Se basati su informazioni false, forniranno informazioni false in risposta alle query degli utenti. Gli LLM a volte producono "allucinazioni": creano informazioni false quando non sono in grado di produrre una risposta accurata. Ad esempio, nel 2022 l'agenzia di stampa Fast Company ha chiesto a ChatGPT informazioni sul precedente trimestre finanziario dell'azienda Tesla. Sebbene ChatGPT abbia fornito un articolo di notizie coerente in risposta, molte delle informazioni al suo interno erano inventate.
In termini di sicurezza, le applicazioni rivolte agli utenti basate su LLM sono soggette a bug come qualsiasi altra applicazione. Gli LLM possono anche essere manipolati tramite input dannosi per fornire determinati tipi di risposte rispetto ad altri, comprese risposte pericolose o non etiche. Infine, uno dei problemi di sicurezza con gli LLM è che gli utenti possono caricare al loro interno dati sicuri e riservati per aumentare la propria produttività. Ma gli LLM utilizzano gli input che ricevono per addestrare ulteriormente i loro modelli e non sono progettati per essere depositi sicuri; possono esporre dati riservati in risposta alle query di altri utenti. Scopri di più sui modi migliori per proteggere gli LLM.
Per creare applicazioni LLM, gli sviluppatori hanno bisogno di accedere agevolmente a molteplici set di dati, e hanno bisogno di "luoghi" in cui farli risiedere. Per questi scopi, sia l'archiviazione nel cloud che in locale possono comportare investimenti infrastrutturali al di fuori della portata dei budget degli sviluppatori. Inoltre, i set di dati per l'addestramento vengono in genere archiviati in più ubicazioni, ma il loro spostamento verso una posizione centralizzata può comportare il pagamento di enormi tariffe di uscita.
Per fortuna, Cloudflare offre diversi servizi per consentire agli sviluppatori di avviare rapidamente le applicazioni LLM e altri tipi di intelligenza artificiale. Vectorize è un database vettoriale distribuito a livello globale per l'esecuzione di query sui dati memorizzati nell'archiviazione a oggetti senza costi di uscita (R2) o sui documenti archiviati in Workers Key Value. In combinazione con la piattaforma di sviluppo Cloudflare Workers AI, gli sviluppatori possono utilizzare Cloudflare per iniziare rapidamente a sperimentare con i propri LLM.
Un modello linguistico di grandi dimensioni è un modello di intelligenza artificiale addestrato su enormi quantità di dati per riconoscere, interpretare e generare testo. In risposta a un prompt, i modelli linguistici di grandi dimensioni possono produrre testo o blocchi di codice in pochi secondi. Gli utenti possono inviare prompt di modelli linguistici di grandi dimensioni utilizzando il linguaggio naturale, anziché tramite un'interfaccia utente predefinita o tramite linguaggi di programmazione.
Gli LLM utilizzano un processo chiamato apprendimento profondo per analizzare grandi quantità di dati non strutturati e imparare da essi. Sono costruiti su reti neurali artificiali — in particolare, modelli di trasformatori — che utilizzano una tecnica chiamata auto-attenzione che consente al modello di apprendere e comprendere il contesto, il che è fondamentale per interpretare il linguaggio umano.
Gli LLM possono essere addestrati per svolgere molte attività. Uno degli utilizzi più diffusi è l'intelligenza artificiale generativa, che crea testo in risposta a un prompt dell'utente. Sono utilizzati anche nell'analisi del sentiment, nei chatbot del servizio clienti, nella ricerca online e persino per aiutare i programmatori a scrivere codice.
Tra gli esempi più noti figurano ChatGPT di OpenAI, Gemini di Google, Llama di Meta e Bing Chat di Microsoft. Per quanto riguarda la programmazione, Copilot di GitHub è un esempio rilevante.
Un vantaggio importante degli LLM è la loro capacità di rispondere a query imprevedibili e non strutturate. A differenza di un programma informatico tradizionale che richiede comandi specifici, un LLM è in grado di comprendere e rispondere al linguaggio umano naturale, anche se la domanda è vaga o formulata in un modo mai visto prima. Gli utenti potrebbero dover perfezionare un po' i loro prompt per ottenere esattamente il risultato desiderato, ma anche i prompt poco chiari solitamente danno luogo a risposte comprensibili.
Gli LLM sono affidabili solo quanto i dati su cui sono addestrati e possono fornire informazioni errate se alimentati con dati non corretti. Sono anche noti per "avere allucinazioni" o inventare informazioni. Dal punto di vista della sicurezza, possono essere manipolati tramite input dannosi e non sono progettati per essere archivi sicuri. Ciò significa che gli utenti rischiano di esporre dati riservati tramite i loro input.