Inteligența artificială nu mai este utilizată exclusiv prin aplicații aprobate și implementate la nivelul companiei. Tot mai mulți angajați experimentează cu instrumente AI pentru a automatiza sarcini repetitive, a procesa informații sau a rezolva probleme pentru care departamentele tehnice nu au încă soluții dedicate.
Următorul pas este dezvoltarea propriilor agenți AI: sisteme capabile să execute sarcini în mai multe etape, să utilizeze instrumente externe și să interacționeze cu aplicațiile și datele unei organizații.
Fenomenul deschide noi oportunități pentru digitalizarea proceselor de business, dar ridică și o întrebare importantă pentru manageri: cine controlează agenții AI care lucrează deja cu datele și sistemele companiei?
Cât de răspândită este utilizarea agenților AI de către angajați?
Potrivit unui sondaj recent realizat de compania de recrutare în domeniul ingineriei Howdy.com, citat în articolul-sursă, două treimi dintre angajații care utilizează instrumente AI folosesc și agenți AI, iar 16% au început să își construiască propriii agenți.
Datele indică și dificultățile asociate acestor experimente. Aproximativ un sfert dintre utilizatorii de agenți AI au fost nevoiți să îi dezactiveze, în principal pentru că rezultatele erau inconsistente sau instrumentele nu funcționau conform așteptărilor. În plus, 7% dintre angajații cu activități bazate pe cunoaștere au declarat că au fost nevoiți să oprească agenți care au funcționat în moduri neprevăzute.
Aceste rezultate trebuie interpretate în contextul sondajului, însă evidențiază o tendință relevantă: dezvoltarea agenților AI nu mai este exclusiv responsabilitatea echipelor de programare.
Angajații din marketing, vânzări, financiar, resurse umane sau operațiuni pot identifica procese care ar putea fi automatizate și pot începe să construiască soluții cu ajutorul platformelor low-code, no-code sau al instrumentelor de dezvoltare asistată de AI.
Problema apare atunci când aceste soluții sunt implementate fără reguli clare, fără testare și fără o evaluare a impactului asupra securității și activității companiei.
De la automatizare individuală la riscuri organizaționale
Un agent AI creat pentru a economisi câteva ore de muncă poate deveni rapid o componentă importantă a unui proces de business. De exemplu, un angajat poate configura un agent care colectează informații despre clienți dintr-un sistem CRM, generează rapoarte comerciale sau transferă date între aplicații.
Dacă agentul funcționează corect și respectă regulile organizației, beneficiile sunt evidente: reducerea activităților manuale, accelerarea proceselor și utilizarea mai eficientă a resurselor.
În absența unor mecanisme de control, însă, apar mai multe categorii de riscuri:
-
Acces necontrolat la date: agentul poate primi permisiuni prea extinse asupra informațiilor comerciale, financiare sau personale.
-
Modificarea incorectă a informațiilor: actualizarea automată a unor înregistrări din CRM sau ERP poate produce erori care se propagă în alte sisteme.
-
Expunerea datelor confidențiale: informațiile pot ajunge în servicii externe care nu respectă politicile de securitate ale companiei.
-
Acțiuni neprevăzute: un agent poate interpreta greșit o instrucțiune, poate repeta o operațiune sau poate executa acțiuni pentru care nu au fost definite limite suficient de clare.
-
Lipsa trasabilității: fără loguri și monitorizare, organizația poate avea dificultăți în a identifica ce a făcut agentul, ce date a accesat și de ce a luat o anumită decizie.
-
Costuri necontrolate: utilizarea repetată a modelelor AI și a serviciilor conectate poate genera cheltuieli care nu sunt vizibile în bugetele IT obișnuite.
Din acest motiv, un agent AI nu ar trebui evaluat doar în funcție de cât timp economisește. Contează și ce permisiuni primește, ce acțiuni poate executa, ce consecințe pot avea erorile și cât de ușor poate fi oprit sau corectat.
Shadow AI: noua provocare pentru departamentele IT
În multe organizații, angajații au început deja să utilizeze instrumente AI care nu au fost selectate sau aprobate oficial. Acest fenomen este cunoscut drept Shadow AI și reprezintă o extensie a conceptului de Shadow IT, prin care angajații folosesc aplicații și tehnologii în afara proceselor oficiale de achiziție și administrare IT.
Apariția agenților AI amplifică această provocare. Spre deosebire de un instrument care oferă recomandări sau generează conținut la cerere, un agent poate executa acțiuni, poate interacționa cu alte aplicații și poate continua un flux de lucru cu un grad variabil de intervenție umană.
Prin urmare, întrebarea nu mai este doar ce instrumente AI utilizează angajații, ci și ce pot face aceste instrumente în numele lor și la ce sisteme au acces.
Pentru departamentele IT, identificarea agenților existenți ar trebui să devină o prioritate. O evaluare relevantă trebuie să urmărească sursele de date utilizate, conturile și cheile API asociate, permisiunile acordate, acțiunile pe care agentul le poate executa și mecanismele prin care activitatea sa poate fi verificată.
Este important și principiul accesului minim necesar: fiecare agent ar trebui să aibă doar permisiunile de care are nevoie pentru a-și îndeplini sarcina, nu toate drepturile utilizatorului care l-a creat.
Cum pot companiile să încurajeze dezvoltarea agenților AI în siguranță?
Interzicerea experimentelor cu inteligența artificială nu este neapărat o soluție eficientă. Angajații vor continua să caute modalități de a-și simplifica activitatea, iar restricțiile excesive pot împinge inițiativele în afara vizibilității organizației.
O abordare mai eficientă presupune crearea unui cadru controlat în care angajații pot testa idei, iar echipele IT pot evalua și valida soluțiile cu potențial de utilizare la scară largă.
1. Inventarierea agenților AI existenți
Companiile trebuie să identifice agenții utilizați sau dezvoltați intern, inclusiv pe cei creați prin platforme externe. Pentru fiecare agent, este util să fie documentate responsabilul, scopul, aplicațiile conectate, datele accesate și nivelul de autonomie.
2. Stabilirea unor reguli de utilizare
Politicile interne ar trebui să precizeze ce date pot fi utilizate, ce instrumente sunt aprobate, ce tipuri de acțiuni pot fi automatizate și în ce situații este obligatorie aprobarea unei persoane. Procesele cu impact financiar, contractual sau asupra datelor sensibile pot necesita controale suplimentare.
3. Testarea înainte de implementare
Un agent nu ar trebui introdus direct într-un proces operațional doar pentru că a funcționat în câteva teste. Este necesară verificarea rezultatelor în scenarii normale și excepționale, a comportamentului în cazul unor date incorecte și a modului în care gestionează instrucțiunile contradictorii.
4. Monitorizarea activității și a costurilor
Companiile au nevoie de vizibilitate asupra utilizării agenților, a acțiunilor executate și a eventualelor erori. Logurile, alertele, limitele de consum și posibilitatea de dezactivare rapidă pot reduce impactul incidentelor.
5. Introducerea aprobării umane pentru acțiunile cu risc ridicat
Nu toate procesele trebuie automatizate integral. Pentru plăți, ștergerea unor date, modificări importante în sistemele operaționale sau comunicări cu implicații contractuale, agentul poate pregăti acțiunea, în timp ce aprobarea finală rămâne în responsabilitatea unei persoane autorizate.
6. Transformarea experimentelor reușite în soluții reutilizabile
Atunci când un angajat identifică o automatizare utilă, compania ar trebui să poată evalua soluția, să o standardizeze și să o pună la dispoziția altor echipe. Astfel, o inițiativă individuală poate deveni o capabilitate digitală administrată și îmbunătățită la nivelul organizației.
De ce guvernanța AI trebuie să susțină inovația, nu doar să limiteze riscurile
O strategie eficientă de guvernanță AI nu se rezumă la aprobarea sau respingerea unor instrumente. Ea trebuie să creeze condițiile în care soluțiile utile pot fi identificate, validate și extinse fără a compromite securitatea, conformitatea sau continuitatea operațională.
Acest lucru presupune colaborarea dintre departamentele IT, responsabilii de securitate, management și echipele de business. Fiecare are o perspectivă diferită: angajații cunosc problemele concrete ale proceselor, echipele tehnice evaluează integrarea și arhitectura, iar managementul stabilește prioritățile și nivelul de risc acceptat.
În acest context, platformele de dezvoltare asistată de AI, soluțiile low-code/no-code și instrumentele de administrare a agenților pot facilita experimentarea, cu condiția să ofere mecanisme adecvate de control și monitorizare.
Companiile au nevoie și de criterii clare pentru a decide când un experiment merită transformat într-o soluție oficială: economie de timp, reducerea erorilor, impact asupra costurilor, calitatea rezultatelor, securitate și posibilitatea de integrare cu infrastructura existentă.
Cum pot companiile să identifice soluțiile AI potrivite?
Dezvoltarea agenților AI adaugă o nouă dimensiune procesului de digitalizare, dar nu elimină necesitatea de a alege tehnologiile potrivite pentru obiectivele de business.
Înainte de implementarea unui agent, organizațiile ar trebui să stabilească dacă procesul poate fi automatizat în siguranță, dacă există deja o aplicație software care rezolvă problema și dacă integrarea cu sistemele existente este justificată din punct de vedere al costurilor și al complexității.
Pentru unele activități, un agent AI poate fi soluția potrivită. Pentru altele, un CRM, un ERP, o platformă de automatizare a proceselor sau o integrare între aplicații poate oferi rezultate mai predictibile și mai ușor de controlat.
Concluzia este simplă: companiile nu trebuie să aleagă între inovație și control. Au nevoie de un cadru care să le permită să beneficieze de potențialul agenților AI, păstrând în același timp vizibilitatea asupra datelor, accesului și acțiunilor executate.
Pe măsură ce aceste tehnologii devin mai accesibile, avantajul competitiv nu va veni doar din numărul agenților AI utilizați, ci din capacitatea organizațiilor de a-i integra responsabil în procesele de business și de a măsura rezultatele obținute.
