Come scegliere gemini-4-carbon: guida alla selezione per attività, contesto, intensità di ragionamento e costi

Definire prima con chiarezza il problema di selezione

L'errore più comune nella scelta di un modello è trattare «quale modello è più forte» come una questione a variabile singola. I punteggi delle classifiche, il numero di parametri e le dichiarazioni promozionali sono solo segnali esterni; ciò che determina davvero il comportamento di un modello nel tuo sistema sono il compito in cui viene inserito, la forma dell'output che deve produrre e il costo che deve sostenere. Perciò, prima di aprire la documentazione di qualsiasi modello, metti per iscritto queste tre precondizioni.

Tipo di compito: generazione, estrazione o giudizio

Compiti diversi impongono requisiti molto diversi al modello. La generazione creativa privilegia la diversità e la naturalezza linguistica; l'estrazione strutturata privilegia la stabilità del formato e la fedeltà a input lunghi; i compiti di classificazione e giudizio privilegiano la coerenza, cioè la capacità di produrre risultati prevedibili chiamando più volte lo stesso input. Classificando il compito in una di queste categorie, saprai su cosa concentrare i test.

Forma dell'output: cosa può consumare il sistema a valle

La forma dell'output è un vincolo cogente, non una preferenza. Se a valle hai un parser, una scrittura su database o un componente frontend, conta molto di più che il modello produca in modo stabile strutture di testo analizzabili, rispetto a quanto scriva bene. L'output di questa interfaccia è testo puro: i vincoli di formato vanno aggiunti da te nel prompt o nel livello di post-elaborazione; sul lato input sono supportati testo e immagini, mentre audio, video e PDF non rientrano nel supporto, quindi gli scenari che coinvolgono queste modalità vanno esclusi già in fase di selezione o convertiti in uno stadio precedente.

Vincolo di costo: i costi strutturali oltre al prezzo unitario

Per i modelli fatturati a Token, il costo non è un numero ma una funzione che varia con la struttura della richiesta. Lunghezza dell'input, lunghezza dell'output, numero di tentativi, numero di riscritture multi-turno: tutto modifica la fattura finale. A ciò si aggiungono costi di ingegneria spesso trascurati: il lavoro di adattamento dei prompt, la manutenzione del parser di output, la costruzione della valutazione di regressione. Se nella valutazione confronti solo il prezzo unitario, quasi certamente prenderai una decisione sbagliata.

Scrivi questi tre punti in una breve nota dei requisiti: solo così tutti i confronti successivi avranno una base di giudizio comune.

Trasformare i requisiti in una griglia valutabile

Un approccio pratico è assegnare un peso a ciascuna delle tre dimensioni ed estrarre separatamente gli elementi «obbligatori» come veto assoluto. Ad esempio, la forma dell'output è di solito un elemento di veto: se non è supportata, non è utilizzabile e non deve entrare nella ponderazione. I restanti gradi di corrispondenza al compito e di sensibilità al costo vanno poi ponderati in base alla situazione aziendale reale. Così, anche se le informazioni successive sono incomplete, il team non oscillerà nelle discussioni.

Confini di capacità e modalità di chiamata di gemini-4-carbon

gemini-4-carbon viene chiamato tramite un'interfaccia compatibile con Chat Completions, con endpoint https://api.hiapi.ai/v1/chat/completions, e supporta l'output in streaming. Ogni modello dispone di due linee: la linea standard usa direttamente il nome del modello, la linea Vertex aggiunge @vertex dopo il nome (ad esempio gemini-4-carbon@vertex). Le due linee si chiamano allo stesso modo ma hanno prezzi diversi, vedi la tabella prezzi più avanti.

Per l'inquadramento occorre innanzitutto distinguere tre modelli: Carbon è il modello più potente della famiglia Gemini 4, pensato per i compiti multi-step e a lungo ciclo più complessi; gemini-4-argon è adatto alla maggior parte dell'ingegneria del software e del lavoro intellettuale, con un equilibrio tra capacità e costo; gemini-3.8-flash è veloce e a basso costo, adatto a compiti ad alta concorrenza e bassa latenza.

Noto: input testo e immagini, output testo puro

L'input supporta testo e immagini, l'output è testo: ciò significa che è adatto a compiti di conversazione, riassunto, riscrittura, estrazione, classificazione, generazione di codice e simili. Significa anche che, se la tua catena di prodotto richiede che il modello produca direttamente immagini o altre modalità, questa strada non è percorribile nella forma attuale: occorre progettare una soluzione di composizione a livello esterno o escluderla; anche audio, video e PDF non possono essere usati direttamente come input e vanno convertiti in testo o immagini in uno stadio precedente.

Noto: contesto e limite di output, fatturazione a Token

Il contesto è di 1.048.576 token, l'output massimo per singola chiamata è di 65.536 token. Questi due numeri determinano direttamente la strategia di segmentazione: gli input che superano il contesto vanno ridotti o suddivisi, la parte di output oltre i 65.536 token va suddivisa a livello applicativo in più richieste. La fatturazione a Token implica che il costo varia con la lunghezza di input e output; input, input in cache e output sono misurati separatamente.

Capacità note come non supportate: non progettare come se lo fossero

Questa interfaccia attualmente non supporta il tool calling / function calling, la ricerca web, il computer use, né l'output strutturato / modalità JSON. Queste capacità vanno implementate da te a livello applicativo: se servono dati esterni, procurateli tu e inseriscili nel prompt; se serve un formato fisso, concordalo nel prompt e applica una validazione tollerante agli errori nel livello di parsing; non dare per scontato che l'interfaccia imponga i vincoli al posto tuo.

Scrivere i confini come elenco di vincoli

Si consiglia di creare nella documentazione di selezione una scheda delle capacità: compila voce per voce il percorso dell'interfaccia, la linea, le modalità di input e output, il contesto e il limite di output, i livelli di intensità di ragionamento, gli elementi non supportati; le parti non ancora quantificate, come le prestazioni multilingua, vanno inserite in un elenco di verifica e misurate con test su piccola scala per ottenere dati propri. Qualsiasi decisione architetturale che aggiri questi vincoli dovrebbe indicare esplicitamente il livello di rischio nella soluzione.

Confronto trasversale per requisiti del compito, contesto, intensità di ragionamento e costo

La chiave del confronto trasversale è costruire un elenco di dimensioni stabile, riutilizzabile e verificabile da altri, non raccogliere tutti i dati. I gruppi di dimensioni seguenti coprono sostanzialmente le esigenze di giudizio nella selezione di un modello testuale.

Dimensione uno: prestazioni sul compito

Costruisci piccoli set di valutazione separati per ciascun tipo di compito che hai definito, invece di assegnare un punteggio con un insieme generico. Per la generazione guarda il tasso di utilizzabilità e la preferenza umana, per l'estrazione l'accuratezza dei campi e il tasso di conformità al formato, per il giudizio la coerenza su più chiamate. Ogni dimensione deve avere criteri di giudizio e numerosità campionaria espliciti.

Dimensione due: contesto, limite di output e intensità di ragionamento

Include il limite di lunghezza del contesto, il limite di output per singola chiamata, il supporto o meno dell'output in streaming e la capacità dei livelli di intensità di ragionamento di corrispondere alla distribuzione di difficoltà dei compiti. Il contesto di questa interfaccia è di 1.048.576 token, l'output massimo per singola chiamata è di 65.536 token, l'output in streaming è supportato; l'intensità di ragionamento si controlla tramite reasoning_effort, con valori opzionali low / medium / high. L'output strutturato non rientra nel supporto: i vincoli di formato vanno gestiti a livello applicativo.

Dimensione tre: struttura dei costi

Oltre ai rapporti di prezzo per Token, vanno considerate le differenze tra i tre livelli di prezzo — input, input in cache e output — e il numero di chiamate necessarie per raggiungere la stessa qualità. Un modello che richiede più tentativi per ottenere un output accettabile ha un costo nominale basso ma un costo effettivo alto. Includere il tasso di tentativi nel modello di costo è indispensabile.

Dimensione quattro: stabilità e latenza

Include la distribuzione della latenza di coda, il tasso di timeout e la distinguibilità dei tipi di errore. Guardare solo la latenza media ha un valore limitato: sono P95 e P99 a determinare l'esperienza utente.

Dimensione cinque: costi di migrazione e operativi

Se i prompt esistenti sono riutilizzabili, quanto va modificato il parser di output, se occorre ricostruire la baseline di valutazione, come integrare log e monitoraggio. Questa voce è spesso trascurata nei confronti di breve periodo, ma è proprio dove, dopo il passaggio, si concentrano i costi più alti e i problemi più numerosi.

Dimensione sei: osservabilità

Se richieste e risposte possono essere registrate integralmente, se il consumo di Token è attribuibile alla specifica linea di business, se le anomalie sono localizzabili. L'osservabilità determina se, dopo il rilascio, sarai in grado di individuare i problemi.

Come usare questo elenco

Assegna un punteggio a ogni modello candidato per ogni riga, imposta i pesi in base al business e conserva note sui motivi del punteggio. Il valore del confronto trasversale sta nel dare al team ragioni comuni e verificabili per «perché lo scegliamo», non nel produrre una classifica assoluta. Per le caselle con informazioni mancanti, segna «da misurare» invece di riempire con una supposizione.

Stima del costo reale con fatturazione a Token

La trappola intuitiva della fatturazione a Token è moltiplicare il prezzo unitario per il numero di richieste. Il numero così ottenuto di solito è molto lontano dalla fattura, perché ignora la struttura della richiesta. Il percorso più affidabile è dal basso verso l'alto, partendo da una richiesta tipica.

Mettiamo prima i prezzi (USD / milione di token, input / input in cache / output):

• gemini-4-carbon linea standard 1,00 / 0,05 / 5,00; linea @vertex 1,64 / 0,09 / 8,20
• gemini-4-argon linea standard 1,00 / 0,05 / 5,00; linea @vertex 1,64 / 0,09 / 8,20
• gemini-3.8-flash linea standard 0,19 / 0,02 / 0,92; linea @vertex 0,62 / 0,07 / 3,08

Il prezzo unitario è solo il punto di partenza: la stima vera deve basarsi sulla struttura della richiesta.

Primo passo: scomporre la composizione dei Token di una richiesta

Una chiamata comprende Token di input e Token di output, con prezzi unitari diversi, e l'input in cache ha un prezzo unitario separato. Il lato input comprende system prompt, contesto, input utente ed esempi; il lato output comprende il corpo della risposta e, se nel prompt è concordato un formato fisso, anche i caratteri della struttura di involucro. Misurando una richiesta tipica secondo questa struttura, scoprirai subito che i costi fissi come il system prompt pesano molto negli scenari ad alta frequenza.

Secondo passo: moltiplicare per il coefficiente di tentativi e rigenerazioni

Nel traffico reale le richieste raramente riescono al primo colpo. Tentativi dopo errori di parsing, rigenerazioni per qualità insufficiente, accumulo di contesto dovuto a domande successive: tutto amplifica il consumo di Token. Calcolare dal log reale il rapporto tra richieste valide e chiamate totali per ottenere un coefficiente di amplificazione è molto più affidabile che stimarlo a sensazione.

Terzo passo: convertire in costo per mille richieste

Moltiplica il numero atteso di Token per richiesta (incluso il coefficiente di amplificazione) per il volume di business, ottenendo l'ordine di grandezza del costo per mille richieste. Il prodotto di questo passo è un numero confrontabile nella stessa unità, utile per confrontare i modelli candidati tra loro invece di scambiarsi prezzi unitari.

Quarto passo: analisi di sensibilità

Aumenta separatamente la quota di lunghezza dell'output e il tasso di tentativi, e osserva la pendenza della curva dei costi. Se il costo è estremamente sensibile alla lunghezza dell'output, limitare la lunghezza dell'output nel prompt e passare a formati più compatti porta benefici molto diretti. Viceversa, se dominano i costi fissi di input, l'ottimizzazione va concentrata sul ritaglio del contesto e sulla riduzione dei prompt fissi.

Errori di stima comuni

Guardare solo il prezzo unitario, contare solo le richieste riuscite, ignorare l'accumulo di contesto multi-turno, estrapolare alla produzione le proporzioni di piccoli campioni del periodo di test: questi sono gli errori più diffusi. Il modo per evitarli è semplice: usa come parametri la distribuzione reale delle lunghezze del traffico di produzione, non qualche esempio scritto a mano. I prezzi unitari sono nella tabella sopra, mentre il modello di stima deve essere determinato dalla tua struttura di richieste.

Consigli di selezione per scenario

Applicando le dimensioni precedenti a scenari concreti, il giudizio diventa molto più chiaro. Le tre categorie seguenti sono le forme di carico più comuni per i modelli testuali; i criteri di giudizio si basano su indicatori misurabili.

Compiti leggeri ad alta concorrenza

Tipici esempi: riconoscimento di intenti, classificazione di testi brevi, estrazione di campi, riscrittura breve. Questi scenari hanno pochi Token per richiesta, QPS elevati e sono sensibili alla latenza. I criteri di selezione, in ordine, sono: se la latenza P95 è adeguata, se il tasso di conformità al formato è stabile, se il costo per richiesta è controllabile. gemini-3.8-flash è la prima scelta per questo tipo di carico: è veloce e a basso costo, con prezzo unitario della linea standard di 0,19 / 0,02 / 0,92; il livello di intensità di ragionamento va scelto in base alla valutazione del compito reale; ma devi prima verificare la stabilità del formato con i tuoi input reali, soprattutto quando l'output deve essere analizzato da un programma.

Elaborazione di testi lunghi

Tipici esempi: riassunto di documenti, confronto di contratti, analisi di conversazioni lunghe. Il contesto di questa interfaccia è di 1.048.576 token, l'output massimo per singola chiamata è di 65.536 token, l'input supporta solo testo e immagini; PDF, audio e video vanno prima convertiti in testo e poi inviati. Si consiglia di fare prima uno stress test con l'input reale più lungo del tuo business, per verificare la curva di degrado delle prestazioni alle diverse lunghezze, e poi decidere se segmentare; se la segmentazione è davvero necessaria, il modello di costo va adeguato, perché la segmentazione introduce costi di contesto ripetuti. Questo tipo di carico rientra di solito nell'ambito di gemini-4-argon, più equilibrato tra capacità e costo.

Scenari a priorità di qualità

Tipici esempi: contenuti generati rivolti all'utente, ragionamento complesso, assistenza alla scrittura che richiede un alto tasso di utilizzabilità. In questi scenari la sensibilità al costo per richiesta è bassa, ma i requisiti di qualità e coerenza sono elevati. gemini-4-carbon è il modello più potente della famiglia Gemini 4, pensato per i compiti multi-step e a lungo ciclo più complessi, adatto come modello principale per questo tipo di traffico; anche il livello di intensità di ragionamento va scelto in base alla valutazione del compito reale. In fase di selezione il peso del set di valutazione va spostato maggiormente sulla preferenza umana e sulla coerenza su più chiamate, e va configurato un piano di degradazione: se il modello principale non raggiunge la soglia, degrada a gemini-4-argon o gemini-3.8-flash, oppure passa a un operatore umano. La coesistenza di più modelli aumenta la complessità operativa, ma negli scenari sensibili alla qualità di solito vale la pena.

Principi generali di giudizio

Giudica secondo quattro linee: quanto ragionamento profondo richiede il compito — per compiti multi-step e a lungo ciclo privilegia Carbon, per l'ingegneria del software e il lavoro intellettuale ordinari usa Argon, per compiti leggeri ad alta concorrenza usa Flash; se l'input rientra nel contesto e nelle modalità supportate — se troppo lungo segmenta prima, se non testuale converti prima; se il livello di intensità di ragionamento corrisponde alla difficoltà del compito; se il costo per richiesta rientra nel budget. Non sacrificare la corrispondenza allo scenario per uniformare lo stack tecnologico, né comprimere il traffico a priorità di qualità su un modello inadeguato per risparmiare.

Note su migrazione e integrazione

Passare da un modello esistente a gemini-4-carbon, o costruire direttamente nuovi scenari su di esso, concentra il lavoro di ingegneria in tre punti. Estraili e pianificali in anticipo per evitare problemi concentrati prima del rilascio.

Riscrittura dei prompt

Modelli diversi hanno diversa sensibilità alla struttura del prompt, all'ordine delle istruzioni e agli esempi di formato. I prompt ottimizzati per un altro modello, se migrati direttamente, spesso peggiorano i risultati. Si consiglia di mantenere un prompt di base indipendente dal modello e di gestire per ogni modello uno strato di adattamento leggero, in cui inserire le convenzioni di formato e gli esempi. Così, cambiando di nuovo modello in futuro, l'area di modifica resta controllabile.

Parsing dell'output

L'output in testo puro implica che il parser debba avere aspettative chiare sul formato. La pratica comune è concordare la struttura nel prompt e applicare una validazione tollerante nel livello di parsing: campi mancanti, caratteri di involucro in eccesso, risposte vuote devono avere rami di gestione espliciti. I fallimenti di parsing vanno registrati con la risposta originale per l'attribuzione, non ritentati silenziosamente — i tentativi silenziosi nascondono i problemi e amplificano i costi.

Valutazione di regressione

Prima di cambiare modello è necessario stabilire una baseline di valutazione. Il metodo è fissare un set di valutazione che copra i tuoi principali tipi di compito e gli input limite (molto lunghi, input vuoti, multilingua, con caratteri speciali), registrare output e indicatori del modello esistente, poi eseguire il nuovo modello sullo stesso insieme e confrontare voce per voce. Qualsiasi calo di un indicatore va spiegato, non liquidato con «nel complesso sembra meglio».

Modalità di integrazione

Per l'integrazione usa l'interfaccia compatibile con Chat Completions, con base_url https://api.hiapi.ai/v1, e passa il nome del modello come parametro invece di codificare le differenze di chiamata nel codice: così cambio, rilascio graduale e rollback richiedono solo una modifica di configurazione. Anche la linea si esprime tramite il nome del modello: la linea standard usa direttamente il nome, la linea Vertex aggiunge @vertex dopo il nome. Si consiglia di incapsulare in modo uniforme a livello di richiesta retry, timeout e log, evitando che ogni team di business ne scriva una versione propria.

POST https://api.hiapi.ai/v1/chat/completions
{
  "model": "gemini-4-carbon",
  "messages": [{"role": "user", "content": "Riassumi i confini di input di questo documento di progettazione"}],
  "reasoning_effort": "high",
  "stream": true
}

Sostituendo model con gemini-4-carbon@vertex si usa la linea Vertex, lasciando invariato il resto del corpo della richiesta.

Rilascio graduale e ordine di verifica

Verifica prima sul set di valutazione offline, poi esegui un confronto shadow con una piccola quota di traffico reale, e solo alla fine aumenta gradualmente il volume. Ogni fase deve avere criteri di superamento espliciti, ad esempio tasso di conformità al formato non inferiore alla baseline, latenza P95 entro il budget, costo per richiesta senza aumenti anomali.

Osservazione continua e strategia di rollback dopo il rilascio

La selezione non è una decisione una tantum. Le prestazioni del modello cambiano con la deriva della distribuzione degli input e con l'evoluzione dei prompt; l'osservazione dopo il rilascio determina se saprai individuare e correggere tempestivamente le deviazioni.

La quota di traffico deve essere controllabile

Il rilascio graduale non è un'azione una tantum ma una capacità permanente. Mantieni la possibilità di instradare il traffico per linea di business e per gruppo di utenti, così che il rollback sia una modifica di configurazione e non un rilascio. Quota di instradamento, ambito di applicazione e percorso di rollback vanno documentati, per garantire che anche chi non è l'autore originale possa operare.

Gli indicatori di qualità vanno automatizzati

Non affidarti al campionamento manuale per scoprire cali di qualità. Rendi il tasso di conformità al formato, il tasso di fallimenti di parsing, il tasso di risposte vuote e il tasso di timeout indicatori di allarme automatici, e prepara per i compiti generativi una valutazione automatica su piccola scala o una revisione manuale a campione. Al superamento della soglia, l'instradamento del traffico deve poter degradare automaticamente.

Il monitoraggio dei costi deve essere attribuibile

Il consumo di Token deve poter essere analizzato per linea di business, per interfaccia e per modello. Altrimenti, se una funzione diventa silenziosamente più costosa, vedrai solo un numero sulla fattura totale senza poterlo localizzare. Impostare un allarme per anomalie di consumo giornaliero è molto più efficace della riconciliazione di fine mese.

Costruire un elenco di rollback

Il rollback non finisce quando il traffico è stato reindirizzato. Dopo il rollback occorre verificare: se i vecchi prompt sono ancora validi, se il parser è compatibile con entrambi i formati, se la cache va pulita, se gli indicatori di monitoraggio sono tornati alla baseline. Scrivi questi passi come elenco, per evitare confusione sotto pressione.

Rieseguire periodicamente la valutazione

Si consiglia di rieseguire a intervalli fissi con lo stesso set di valutazione, registrando la tendenza delle prestazioni e dei costi del modello. Quando la variazione cumulata supera la soglia, ripercorri l'intero processo di selezione. Il set di valutazione e gli script usati per la valutazione vanno versionati insieme al codice, per garantire che chiunque usi lo stesso metro di misura.