Fidarsi del codice generato dall'intelligenza artificiale: il paradosso che ogni leader tecnologico deve affrontare

C'è un numero che dovrebbe disturbare chiunque sia a capo di team di ingegneri. L’adozione dell’intelligenza artificiale nello sviluppo di software continua ad aumentare, ma la fiducia nei risultati si sta muovendo nella direzione opposta.

Il sondaggio Stack Overflow 2025, con oltre 49mila intervistati, mostra che l’84% degli sviluppatori utilizza o prevede di utilizzare l’intelligenza artificiale nel processo di sviluppo, rispetto al 76% dell’anno precedente. La metà (51%) lo usa quotidianamente. E, allo stesso tempo, il 46% diffida della precisione degli strumenti, più del 33% che ne è convinto. Solo il 3% ne ha molta fiducia.

Questo è il paradosso. Usiamo ancora un altro strumento di cui ci fidiamo meno. E questa non è una contraddizione da parte di chi non capisce. È il segno che la maturità è arrivata.

Il collo di bottiglia si è spostato

Per decenni, il poco tempo a disposizione dello sviluppo è stato dedicato alla scrittura del codice. Digita la logica, ricorda la sintassi, assembla il boilerplate. L'IA ha attaccato esattamente questo punto e lo ha risolto bene. Oggi, generare un blocco funzionale di codice è quasi istantaneo.

Il problema è che ciò non ha accelerato la consegna nella misura in cui il marketing degli strumenti aveva promesso. Produzione di bozze accelerata. E la bozza non è un software già pronto.

Il collo di bottiglia si è spostato. Non è più scrivere, è rivedere. Valutare se quel codice è corretto, se è sicuro, se non introduce un debito che pagheremo con gli interessi in sei mesi. L’intelligenza artificiale ha spostato lo sforzo dalla creazione alla verifica e pochi team hanno riorganizzato il processo per farlo.

Chiunque consideri l’intelligenza artificiale come un acceleratore di battitura misura la cosa sbagliata. Il vero guadagno si manifesta solo quando la squadra diventa anche più brava a giudicare ciò che riceve.

L'errore plausibile ma sbagliato

La caratteristica più pericolosa del codice generato dall’intelligenza artificiale non è l’errore evidente. E' un errore plausibile.

Un modello linguistico non capisce le tue intenzioni. Produce la continuazione statisticamente probabile del tuo prompt. Il più delle volte questo coincide con quello che volevi. Ma quando non corrisponde, il risultato è solitamente ben scritto, ben nominato, con l'esatto aspetto di qualcosa di corretto.

È un codice che passa al primo sguardo. Compila, funziona nel migliore dei casi, usa i nomi giusti. E porta con sé un falso presupposto: un vantaggio non trattato, una race condition, una chiamata a un'API che non esiste così, una convalida che sembra esistere ma non copre il caso reale.

Lo sviluppatore rileva un errore evidente. L'errore plausibile lo approva. Ed è proprio questo che trapela nella produzione, perché pensato, involontariamente, per ingannare la frettolosa recensione.

Il debito tecnico del Blind Trust

Quando un team accetta i suggerimenti dell’IA senza discrezione, il debito tecnico non cresce lentamente. Si accumula silenziosamente e velocemente.

Pensa al meccanismo. L’intelligenza artificiale tende a ripetere schemi. Se genera un approccio non ottimale e nessuno lo corregge, quel modello rimane bloccato in decine di punti. Ogni copia appare innocua. Il tutto diventa un problema strutturale che nessuno ha deciso di creare.

Peggio ancora: gran parte di questo codice non è mai stato letto da un essere umano. È stato accettato. C'è un'enorme differenza tra il codice che hai scritto con il pensiero e il codice che hai appena consentito. Il secondo è un territorio inesplorato all'interno del tuo sistema.

Il conto per questa fiducia cieca è il mantenimento. Nell'incidente di prima mattina, quando qualcuno ha bisogno di comprendere una logica che nessuno nel team ha mai veramente capito. Quindi l'aumento di velocità della scorsa settimana si trasforma nel costo del trimestre.

La sicurezza non è un dettaglio della revisione

C’è un fattore aggravante specifico nell’asse sicurezza. Il modello è stato addestrato sul codice pubblico e il codice pubblico è pieno di esempi non sicuri: credenziali codificate, query vulnerabili all'iniezione, dipendenze obsolete, convalida dell'input allentata.

L'intelligenza artificiale non distingue tra esempi di libri di testo e codice pronto per la produzione. Riproduce lo schema che ha visto. Se la maggior parte dei tutorial concatenano stringhe in una query, questo è ciò che suggerirà naturalmente.

Pertanto, la verifica della sicurezza non può costituire un passaggio facoltativo alla fine. L'analisi statica, la scansione delle dipendenze e il controllo dei segreti devono essere automatici ed essere eseguiti prima di qualsiasi fusione. L'intelligenza artificiale ridimensiona la generazione del codice e qualsiasi errore di processo si ridimensiona con essa. Quello che era un lapsus isolato è diventato uno schema distribuito.

Come un leader stabilisce il processo di revisione

Questa è la parte che dipende da te, non dallo strumento. La fiducia non è né decretata né vietata. È costruito attraverso il processo. Alcune decisioni concrete che separano una squadra matura da una squadra esposta.

Innanzitutto, chiarisci che l’autore della richiesta pull è responsabile del codice, anche se l’ha scritto l’intelligenza artificiale. Non esiste "l'intelligenza artificiale che lo ha fatto". Chi si sottomette, firma qui sotto. Questo cambia il tuo atteggiamento quando rivedi il tuo lavoro.

In secondo luogo, calibrare la revisione in base al rischio, non alla fonte. Il codice che tocca [autenticazione, pagamento o dati sensibili richiede una revisione umana approfondita, qualunque sia la sua provenienza. Un aggiustamento del testo o un test banale non necessitano dello stesso rigore. Trattare tutto allo stesso modo spreca attenzione dove conta.

In terzo luogo, automatizzare la meccanica per liberare il cervello umano dal giudizio. I linter, i test e gli scanner di sicurezza dovrebbero fermare da soli l’ovvio. Quindi il revisore spende energie sulla logica aziendale, sull'architettura e sui presupposti nascosti, che è dove la macchina non arriva.

In quarto luogo, richiedere al richiedente di essere in grado di spiegare ciò che ha presentato. Uno standard semplice e potente: se non riesci a giustificare il motivo per cui quel codice è corretto, non è ancora pronto per la revisione. Questo filtro elimina gran parte del codice accettato senza lettura. Vale anche la pena leggere come questo si inserisce nel flusso dell'IA in ogni fase dell'SDLC, perché la revisione è solo un anello della catena.

L'intelligenza artificiale è un eccellente generatore di prime versioni e una terribile fonte di verità finale. Il compito del leader è progettare un processo che sfrutti la prima qualità senza cadere vittima della seconda.

La cifra del 46% non è un verdetto contro la tecnologia. È un modo per ricordare che la professione è maturata abbastanza per poter utilizzare lo strumento con gli occhi aperti. La sfiducia, qui, è segno di competenza.

Se il tuo team ha adottato l'intelligenza artificiale ma continua a revisionare allo stesso modo di due anni fa, inizia da lì. Ridisegna la revisione prima di aumentare la generazione. È l’inversione di priorità che oggi tutela maggiormente la qualità del tuo prodotto.