Inteligența artificială nu reușește să înlocuiască inginerii IT: testele arată că majoritatea task-urilor sunt eșuate

Inteligența artificială (AI) este promovată ca tehnologia care va transforma complet lumea muncii, inclusiv domeniul IT. Ideea că AI-ul ar putea înlocui inginerii software umani a captivat imaginația publicului și a industriei tehnologice însă studiile dezvăluie o realitate mai complicată: aceste sisteme, bazate pe modele de limbaj extinse (LLM - Large Language Models), întâmpină dificultăți semnificative în a finaliza corect sarcinile primite, iar promisiunile mărețe ale companiilor par să fie mult exagerate.

AI-ul promovat ca „inginer software” este de fapt bazat pe modele de limbaj extinse. Aceste modele sunt algoritmi antrenați pe cantități uriașe de text – cod, articole, documentații și alte surse – pentru a învăța tiparele din datele existente. În esență, ele funcționează ca un generator de text predictiv, care sugerează ce urmează să fie scris pe baza contextului oferit.

Deși pot genera cod și răspunsuri bine structurate în anumite scenarii, LLM-urile nu „înțeleg” cu adevărat problemele, așa cum o face un inginer uman. Ele nu au capacitatea de a raționa sau de a analiza logic sarcinile. În schimb, doar urmează tiparele învățate, ceea ce le face vulnerabile la erori, mai ales în situații complexe sau necunoscute.

Un grup de cercetători independenți a testat un astfel de sistem, promovat ca fiind capabil să „creeze și să implementeze aplicații cap-coadă.” Studiul s-a desfășurat pe parcursul unei luni, iar rezultatele sunt dezamăgitoare: din 20 de sarcini testate, doar 3 au fost finalizate cu succes, în timp ce 14 au eșuat complet, iar 3 au avut rezultate neconvingătoare. Practic, AI-ul a avut un succes de doar 15%.

Problemele nu s-au limitat la rata scăzută de succes. Cercetătorii au remarcat că AI-ul a întâmpinat dificultăți în a recunoaște sarcinile imposibil de realizat. De exemplu, a încercat să implementeze aplicații pe o platformă care nu suporta funcționalitatea dorită, dar a continuat să încerce, generând instrucțiuni incorecte sau fabricate. Acest comportament, cunoscut ca „halucinație,” este o limitare comună a modelelor de limbaj, care produc răspunsuri ce sună convingător, dar nu sunt corecte.

Limitările AI-ului în ingineria software provin din designul fundamental al modelelor de limbaj:

• Lipsa de raționament: Modelele de limbaj nu pot gândi logic sau analiza situații. Ele se bazează pe tipare, ceea ce le face eficiente în cazuri simple, dar le împiedică să gestioneze provocările complexe sau să ia decizii în funcție de context.
• Incapacitatea de a identifica problemele: AI-ul nu poate recunoaște când o sarcină este imposibilă sau când a ales o abordare greșită. În schimb, persistă în direcții ineficiente.
• Halucinații: În încercarea de a găsi o soluție, modelele pot inventa informații sau genera cod care pare valid, dar este inutilizabil sau incorect.

Deși companiile de tehnologie continuă să susțină că astfel de sisteme ar putea înlocui inginerii umani în curând, realitatea este că AI-ul este încă departe de a putea îndeplini acest rol. Mai mult, promisiunile companiilor de a crea „ingineri AI autonomi” par să fie mai degrabă o strategie de marketing decât o realizare tehnologică.

În același timp, aceste sisteme nu sunt complet inutile. Ele pot fi folosite pentru a ajuta inginerii umani în sarcini repetitive sau în rezolvarea unor probleme bine definite. Însă, pentru a deveni cu adevărat autonome și utile în procesele complexe de dezvoltare software, vor fi necesare progrese semnificative în tehnologia AI.

Inginerii software umani pot sta liniștiți. AI-ul nu este pregătit să le ia locul, ci rămâne un instrument care poate completa munca lor, dar nu o poate înlocui.