Fine-Tuning, RAG O Prompt: Quanto Costa Ciascuno

La domanda sul fine-tuning contro RAG arriva raramente come domanda. Arriva come affermazione: ci serve un modello addestrato sui nostri dati. È una delle frasi più costose dell’IA aziendale, e nella maggior parte dei casi è sbagliata. Non sempre, ma quasi sempre. Dietro c’è quasi immancabilmente una di due lamentele: il modello non conosce la nostra attività, oppure il modello non risponde come vorremmo. Il fine-tuning è una cattiva soluzione al primo problema e una soluzione costosa al secondo.

Scegliere fra fine-tuning, RAG e prompting non è una preferenza tecnica. Ciascuno dei tre risolve una categoria di problema diversa, e sbagliare scelta produce mesi di lavoro che non toccano nemmeno la lamentela di partenza.

La regola che fa risparmiare di più: se il problema è che il modello non sa qualcosa, usate il recupero. Se il modello lo sa ma risponde nello stile, nel formato o nella lunghezza sbagliati, migliorate prima il prompt e valutate il fine-tuning solo se questo non basta. Il fine-tuning insegna comportamenti, non fatti, e i team che lo usano per iniettare conoscenza ottengono un modello che sbaglia con sicurezza, in un nuovo stile aziendale.

Fine-tuning contro RAG contro prompting: che cosa fa ciascuno

La distinzione è più semplice di quanto il dibattito lasci intendere.

Il prompting cambia le istruzioni che inviate insieme a ogni richiesta. Modella il tono, il formato, la struttura e l’impostazione del ragionamento, e può trasportare in linea una quantità modesta di contesto. Ha effetto immediato, non costa nulla oltre ai token e si può modificare in produzione nel giro di pochi secondi.

Il recupero preleva al momento della richiesta il materiale pertinente dai vostri contenuti e lo inserisce nel contesto prima che il modello risponda. Dà al modello accesso a informazioni su cui non è mai stato addestrato, comprese quelle cambiate stamattina. Il modello in sé resta identico; state semplicemente migliorando ciò che gli mettete a disposizione. La nostra spiegazione della generazione aumentata dal recupero ne descrive la meccanica nel dettaglio.

Il fine-tuning modifica i pesi del modello a partire da esempi del comportamento desiderato. È davvero efficace nell’insegnare un formato coerente, un tono preciso e schemi specifici di un compito, difficili da descrivere a parole ma facili da mostrare. È invece scadente nell’insegnare fatti, perché una conoscenza appresa così non si può aggiornare, verificare o citare, e il modello non ha modo di segnalarvi quando vi si sta appoggiando in modo errato.

La confusione nasce dal fatto che tutti e tre cambiano l’output. Solo il recupero cambia ciò che il modello sa.

Quanto costa ciascun approccio

Le cifre riflettono una tipica realizzazione nel Regno Unito per un’applicazione aziendale di media dimensione.

Prompting. Giorni anziché settimane, di norma da 1.000 a 5.000 sterline, incluso il set di valutazione che dovreste costruire in parallelo. Il costo di esercizio è quello dei token; un prompt di sistema più lungo lo alza leggermente, e la memorizzazione in cache dei prompt compensa in buona parte questo aumento.

Recupero. Da quattro a dodici settimane, comunemente da 15.000 a 60.000 sterline a seconda di quanto siano disordinati i contenuti di partenza. Il costo di costruzione sta soprattutto nell’ingestione: estrarre i documenti dai sistemi che li trattengono, suddividerli in modo sensato, gestire i permessi perché ciascuno recuperi solo ciò che può vedere, e mantenere aggiornato l’indice. All’esercizio si aggiungono l’archivio vettoriale e un contesto un po’ più ampio a ogni richiesta.

Fine-tuning. Da due a otto settimane di ingegneria più il set di dati, comunemente da 20.000 a 80.000 sterline. Il calcolo di addestramento è quasi sempre la voce più piccola; il costo sta nel produrre da diverse centinaia a diverse migliaia di esempi di alta qualità, lavoro umano svolto da persone che conoscono il dominio. Anche l’esercizio può risultare più caro, perché un modello affinato spesso comporta un sovrapprezzo o richiede un hosting dedicato.

L’asimmetria è il punto centrale. Il prompting costa abbastanza poco da valere un tentativo iniziale anche quando siete ragionevolmente certi che non basterà: l’impalcatura di valutazione vi servirà comunque, e nel frattempo scoprirete quale sia davvero la modalità di errore.

L’ordine in cui provarli

Percorrere questi passaggi in sequenza costa meno che saltare direttamente alla fine, anche quando alla fine ci arrivate lo stesso.

Partite dal set di valutazione. Da trenta a cento input reali con output noti come corretti. Senza questa base non potete stabilire se una modifica abbia migliorato qualcosa, e ogni decisione successiva diventa una scommessa. È lo stesso apparato descritto nella nostra guida all’integrazione delle API OpenAI .

Poi migliorate il prompt. Siate precisi sul formato, inserite in linea qualche esempio di output buono, dite esplicitamente cosa fare quando la risposta non è nota. Una quota sorprendente delle lamentele secondo cui il modello non sarebbe abbastanza bravo si risolve già qui, in particolare su prolissità e struttura.

Poi provate un modello più grande o diverso. È spesso più economico di qualsiasi lavoro di personalizzazione e si valuta in un pomeriggio. La nostra guida su come lasciare OpenAI spiega come impostare correttamente questo confronto.

Poi aggiungete il recupero, se il problema è di conoscenza. Se il modello risponde in modo errato alle domande sui vostri prodotti, sulle vostre politiche o sui vostri documenti, oppure si rifiuta di rispondere, questo è il passaggio che risolve.

Poi valutate il fine-tuning, se il problema è di comportamento. A questo punto avete un set di valutazione, un prompt messo a punto e, dove serve, una pipeline di recupero. Se l’output continua a non corrispondere a quanto vi occorre per stile o struttura, e potete mostrare il comportamento desiderato in centinaia di esempi più facilmente di quanto sappiate descriverlo, il fine-tuning è lo strumento giusto.

La maggior parte dei progetti si ferma al terzo o al quarto passaggio. È lì che sta il risparmio.

Quando il fine-tuning vince davvero

Esistono casi reali, e liquidarli in blocco sarebbe sbagliato quanto ricorrervi per primi.

Output strutturato coerente su larga scala. Quando ogni risposta deve seguire un formato rigido, noioso da specificare in un prompt, un modello affinato lo produce con più affidabilità e con molti meno token in ingresso, cosa che si ripaga da sola quando i volumi salgono.

Un tono specialistico o un registro di settore. Redazione legale, note cliniche, comunicazione finanziaria regolamentata: stili con convenzioni forti che i professionisti riconoscono immediatamente e che le istruzioni faticano a catturare.

Classificazione con confini sottili e difficili da esprimere. Quando il vostro team sa etichettare esempi in modo coerente ma non sa enunciare la regola, è esattamente a questo che serve l’addestramento per esempi.

Riduzione dei costi ad alto volume. Un modello affinato più piccolo che eguaglia un modello generalista più grande su un compito ristretto abbatte sensibilmente il costo per richiesta. Ha senso solo oltre un volume in cui il risparmio supera il costo di costruzione e di manutenzione.

Il filo conduttore è il comportamento, non la conoscenza. Se riuscite a dire in un paragrafo che cosa volete, mettetelo nel prompt. Se riuscite soltanto a mostrarlo, addestratelo.

I costi che nessuno mette a preventivo

Tre oneri ricorrenti mancano quasi sempre dai business case del fine-tuning.

Il set di dati invecchia. Il vostro modello affinato riflette gli esempi che ha visto. Quando cambiano prodotti, politiche o stile aziendale, quegli esempi diventano obsoleti e il modello continua a produrre il vecchio comportamento con la stessa sicurezza di prima. Mettete a budget un riaddestramento periodico come voce permanente, non come spesa una tantum.

Siete vincolati a un modello di base. Il fine-tuning si aggancia a una versione specifica. Quando quella base viene ritirata o arriva un modello migliore, per spostarvi dovete riaddestrare: un costo di cambiamento concreto, che un prompt semplicemente non ha.

La valutazione diventa obbligatoria anziché facoltativa. Con il prompting una regressione si nota spesso a occhio. Con un modello affinato non potete ispezionare il motivo per cui il comportamento è cambiato, e l’impalcatura di valutazione resta l’unico strumento a vostra disposizione.

Il recupero ha un equivalente più contenuto: l’indice deve restare aggiornato, i permessi devono restare corretti quando le persone cambiano ruolo, e qualcuno deve accorgersi se l’ingestione si ferma in silenzio. Più economico di un riaddestramento, ma non gratuito.

Prima la diagnosi, poi la costruzione

Mecanik realizza sistemi di recupero, impalcature di valutazione e pipeline di fine-tuning nell’ambito dei propri servizi di integrazione IA , e parte sempre dallo stabilire quale dei tre problemi avete davvero.

Quella diagnosi si risolve di solito in un incarico breve e si chiude spesso con una raccomandazione che vi costa molto meno del progetto che avevate in mente. Dove il fine-tuning è davvero la risposta giusta lo diciamo e stimiamo onestamente il lavoro sul set di dati, perché è quella la parte che decide se funzionerà. Per il quadro di budget più ampio, la nostra guida ai costi dell’integrazione IA separa con chiarezza costi di costruzione ed esercizio.

Raccontateci che cosa sbaglia il modello, con le parole che userebbero i vostri utenti, e vi diremo quale dei tre casi avete davanti.

Post correlati: Sviluppo software con IA - Guida per le aziende britanniche , Self-hosting di Kimi K3: hardware, costi e sovranità , Migrazione Drupal 2026: costi, opzioni e scadenze , Creare un chatbot OpenAI API: guida 2026 .

Domande frequenti

Devo fare il fine-tuning di un modello sui dati della mia azienda? Di solito no. Il fine-tuning insegna comportamenti anziché fatti, e la conoscenza appresa in quel modo non si può aggiornare, citare o verificare. Se il problema è che il modello non conosce i vostri prodotti, le vostre politiche o i vostri documenti, il recupero è l’approccio corretto ed è più economico sia da costruire sia da mantenere.

Qual è la differenza fra fine-tuning e RAG? Il recupero preleva il materiale pertinente dai vostri contenuti al momento della richiesta e lo mette nel contesto, così il modello può rispondere partendo da informazioni che non ha mai visto in addestramento. Il fine-tuning modifica i pesi del modello a partire da esempi, cambiando come si comporta anziché ciò che sa.

Quanto costa il fine-tuning? Di norma da 20.000 a 80.000 sterline per un’applicazione aziendale di media dimensione, con due a otto settimane di ingegneria. Il calcolo di addestramento è quasi sempre la componente più piccola; gran parte del costo sta nel produrre da diverse centinaia a diverse migliaia di esempi di alta qualità, che richiedono persone esperte del dominio.

Quanto costa costruire un sistema RAG? Comunemente da 15.000 a 60.000 sterline in quattro a dodici settimane, in funzione soprattutto di quanto siano disordinati i contenuti di partenza. La maggior parte dello sforzo va nell’ingestione, nella suddivisione, nei permessi perché ciascuno recuperi solo ciò che può vedere e nel mantenere aggiornato l’indice.

In quale ordine dovrei provare questi approcci? Prima il set di valutazione, poi il prompt, poi un modello più grande o diverso, poi il recupero se il problema riguarda la conoscenza, e solo allora il fine-tuning se il problema riguarda il comportamento. La maggior parte dei progetti si risolve prima dell’ultimo passaggio.