Ingegneria delle applicazioni LLM

Gli assistenti basati su modelli linguistici sembrano funzionare al primo tentativo, poi si rompono in produzione: rispondono con i dati sbagliati, si lasciano convincere da un allegato non fidato a rivelare le proprie istruzioni, esauriscono un budget di token che nessuno aveva previsto, o eseguono un'azione irreversibile senza che nessuno l'abbia approvata.

Questo libro non è un'introduzione a un framework: è un percorso ordinato attraverso le decisioni che ogni sistema basato su LLM deve affrontare prima di reggere in produzione, dalla gestione dei token nella prima chiamata API fino agli audit trail multi-utente dell'ultimo capitolo. Nelle quattro sezioni Fondamenta, Controllo, Architettura, Produzione si costruiscono via via: prompting come disciplina misurabile, output strutturato e affidabile, difese contro input non fidato e prompt injection, flussi di approvazione umana per le azioni rischiose, resilienza e observability, RAG, pattern agentici, MCP, orchestrazione e routing dei modelli, testing ed evals, contenimento dei costi, sicurezza a scala ed etica/legale.

Ogni principio è illustrato con codice reale scritto con Laravel AI, applicato in modo continuo a un unico caso di studio: un assistente di finanza personale che legge estratti conto, categorizza le spese, propone azioni finanziarie e chiede conferma prima di eseguirle. Laravel AI è lo strumento usato per mostrare le idee, non l'argomento del libro: i principi restano validi anche cambiando framework o provider del modello.

Per chi deve portare in produzione un sistema basato su LLM e cerca un metodo, non solo un tutorial.