E-time | the software company
Cos’è RAFT (Retrieval-Augmented Fine-Tuning) e come funziona
Il Retrieval-Augmented Fine-Tuning (RAFT) è una tecnica di addestramento progettata per adattare i Modelli di Linguaggio di Grande Taglia (LLM) a domini altamente specializzati. Il metodo prevede l’addestramento del modello attraverso domande a cui vengono associati sia il quesito di partenza sia un insieme di documenti recuperati.
Rispetto ai metodi di addestramento tradizionali, RAFT insegna al modello a interpretare il contesto, individuare ed estrarre le informazioni rilevanti dai documenti pertinenti, definiti oracle, e a riconoscere e ignorare attivamente quelli non pertinenti o potenzialmente fuorvianti, chiamati distractor.
Come RAFT combina RAG e Fine-Tuning
RAFT combina la flessibilità della Retrieval-Augmented Generation (RAG) con l’adattamento specifico offerto dal Fine-Tuning supervisionato. Nella RAG tradizionale, i documenti esterni vengono messi a disposizione del modello esclusivamente durante la fase di inferenza, senza che il modello sia stato precedentemente addestrato a valutarli e selezionarli.
Il Fine-Tuning tradizionale (SFT), invece, si concentra principalmente sull’apprendimento delle informazioni e del formato, senza preparare il modello a utilizzare un contesto documentale reale.
RAFT supera questa distinzione inserendo direttamente nel dataset di Fine-Tuning i documenti recuperati, comprendendo sia quelli corretti sia i documenti distrattori. In questo modo, l’LLM apprende non solo la struttura e il linguaggio caratteristici del dominio di riferimento, ma anche la capacità di valutare dinamicamente il contesto e di individuare ed estrarre le informazioni corrette in tempo reale.
Quali sono i vantaggi di RAFT per gli LLM
I principali vantaggi di RAFT riguardano una maggiore accuratezza delle risposte e una significativa robustezza nei confronti di recuperi imprecisi o rumorosi. Attraverso l’addestramento con documenti distrattori e ragionamenti Chain-of-Thought, il modello impara a non farsi condizionare da contenuti non pertinenti recuperati dal sistema di retrieval.
Inoltre, RAFT consente a modelli di dimensioni relativamente contenute di ottenere prestazioni superiori rispetto alla RAG zero-shot e al Fine-Tuning di dominio tradizionale, sia con sia senza RAG. In diversi contesti applicativi, questi modelli possono raggiungere risultati migliori anche rispetto a modelli di dimensioni maggiori, combinato con RAG.
Limiti e criticità del Retrieval-Augmented Fine-Tuning
Nonostante i vantaggi, il Retrieval-Augmented Fine-Tuning presenta alcuni limiti sia dal punto di vista operativo sia metodologico. Innanzitutto, l’efficacia della tecnica può variare in funzione della natura del compito. Nei test condotti su dataset caratterizzati da risposte sintetiche o binarie, RAFT non mostra miglioramenti particolarmente significativi rispetto alla combinazione tra Fine-Tuning di dominio tradizionale e RAG. Questo evidenzia come i benefici del metodo possano essere più limitati nei casi in cui non sia richiesto un processo di ragionamento articolato.
Un secondo aspetto riguarda la fase di preparazione dei dati. La costruzione del dataset richiede infatti la generazione accurata di risposte spiegate passo dopo passo attraverso il Chain-of-Thought, oltre a un’attenta selezione dei documenti oracle e distractor. Questo comporta un investimento significativo di tempo e risorse nella preparazione del dataset.
Infine, le prestazioni del modello possono risultare sensibili alla configurazione degli iperparametri del dataset, tra cui la percentuale P e il numero di documenti distrattori utilizzati durante l’addestramento.
Come ottimizzare il RAG con Margot AI
Nel customer service aziendale, la tecnologia RAG può essere integrata in soluzioni come Margot, l’Agente AI di E-time, integrata con Rexpondo, la piattaforma di ticketing e IT Service Management.
Margot integra la tecnologia RAG (Retrieval-Augmented Generation), che rappresenta un elemento centrale del suo funzionamento. Grazie a questo approccio, Margot recupera in tempo reale le informazioni dalle fonti aziendali e le utilizza per generare risposte più accurate, affidabili e contestualizzate, basate sulle informazioni disponibili all’interno dell’organizzazione.
