Dependența de decizii generate de inteligența artificială fără validare umană devine un risc major pentru securitatea operațională. Un caz recent din China, unde un fermier a pierdut 10 hectare de recolte de susan într-o singură noapte după ce a urmat rețeta chimică a unui chatbot, demonstrează pericolul delegării deciziilor către AI în agrobusiness.
Dinamica incidentului arată vulnerabilitățile proceselor decizionale automatizate. Chatbotul i-a recomandat fermierului un amestec care includea fomesafen — un erbicid destinat combaterii buruienilor cu frunză lată în culturile de soia. Deoarece susanul este, de asemenea, o plantă cu frunză lată, tratamentul a distrus 100.000 mp de cultură în mai puțin de 24 de ore.
Dimensiunea financiară este amplificată de datele privind acuratețea tehnologiei: studii recente arată că 45% dintre răspunsurile oferite de AI conțin erori semnificative, iar 20% includ „halucinații” (informații complet fabricate). Cu toate acestea, presiunea de eficientizare și promovarea agresivă a instrumentelor generative împing tot mai mulți utilizatori să contacteze algoritmii în locul experților tehnici.
În agribusiness, implementarea AI fără protocoale clare de verificare (“human-in-the-loop”) expune companiile la riscuri financiare majore, daune de mediu și perturbări de lanț de aprovizionare. În plus, riscul juridic și de asigurare crește, deoarece nicio politică standard nu acoperă daunele produse de o recomandare eronată a unui soft fără licență tehnică.
Adoptarea inteligenței artificiale în sectoare cu risc operațional ridicat trebuie să rămână un instrument de suport, nu un substituent al expertizei autorizate. Fără o guvernanță clară a datelor și consultarea specialiștilor, eficiența promisă de AI se poate transforma rapid în pierderi financiare directe.
Editor: Didina Ferenczy
Sursa: Antena 3 CNN
***