Esperti di sicurezza informatica e ingegneria del software hanno lanciato un severo avvertimento questa settimana: la dipendenza incontrollata dagli strumenti di Intelligenza Artificiale per la scrittura di codice ci sta spingendo verso un “apocalisse del software”. Il rapporto indica che la velocità con cui l’IA genera nuove righe di codice ha superato la capacità umana di revisionare, controllare e mantenere questi sistemi.

Il fenomeno, descritto come un “debito tecnico su scala industriale”, suggerisce che grandi basi di codice stanno diventando ingovernabili. Errori logici sottili e vulnerabilità di sicurezza, che sfuggirebbero a semplici revisioni automatizzate, si stanno accumulando nelle infrastrutture digitali critiche di aziende e governi.

Il Ciclo di Degrado

Secondo l’analisi, il problema è aggravato dal fatto che i nuovi modelli di IA vengono addestrati su codice generato da versioni precedenti di IA, creando un ciclo di feedback negativo che degrada la qualità e la sicurezza del software. “Stiamo costruendo castelli di sabbia digitale senza fondamenta verificate”, afferma lo studio.

Rischi Critici

La saturazione di codice non verificato aumenta esponenzialmente la superficie di attacco per gli hacker. Inoltre, la perdita di know-how umano — con sviluppatori junior che si affidano ciecamente alla macchina — potrebbe portare a uno scenario in cui, di fronte a un guasto catastrofico, non ci saranno abbastanza esperti qualificati per risolvere il problema in tempo.