Gli LLM generano linguaggio?
Trasformare predizioni locali in strutture globali di significato
Quando interagiamo con un modello linguistico abbiamo l’impressione che stia scrivendo, o addirittura pensando. In effetti, i modelli di linguaggio apprendono la parola successiva (o meglio, il token) dato un contesto (una sequenza di parole già generate): producono quindi del testo da sinistra a destra, come farebbe un...
La gerarchia di Chomsky
Come la linguistica dà una mano all'informatica
Il legame tra linguistica e informatica è molto più profondo di quanto si possa pensare: è proprio dallo studio della struttura dei linguaggi che nascono alcune delle idee fondamentali dell’informatica moderna. La formalizzazione del linguaggio ha avuto inizio negli anni ‘50 del secolo scorso, con lo scopo di...
Gli LLM ragionano davvero?
Pattern statistici e logica simbolica
Gli sviluppi più recenti nell’ambito dell’intelligenza artificiale hanno mostrato risultati sorprendenti, soprattutto per quanto riguarda i modelli di linguaggio. I cosidetti LLM (Large Language Models) sanno ad esempio rispondere alle domande, tradurre, o scrivere codice. In generale, sembrano in grado di ragionare. Sorge quindi naturale chiedersi: gli LLM...
Il peso del linguaggio
Come e perchè gli LLM imparano a parlare
I Large Language Models (o LLM) sono modelli linguistici con un’ampia gamma di applicazioni, tra cui ad esempio la generazione di codice, la sintesi di documenti, o la traduzione. La loro versatilità deriva dalla loro caratteristica principale: la capacità di elaborazione e la produzione del linguaggio naturale.
Il costo nascosto dell'AI generativa
Attenzione e apprendimento nell'epoca della GenAI
L’attenzione è la capacità di concentrazione di un individuo su un fenomeno o compito predefinito, con la capacità di escludere stimoli esterni. E’ quindi profondamente legata all’abilità di applicarsi a una materia, di estrarre dal contesto informazioni rilevanti e creare schemi mentali generali. Di recente, è nato un...