Microsoft Project Perception: agenți AI sub control uman
Microsoft a prezentat pe 27 iulie 2026 Project Perception, o inițiativă de securitate agentică pe care compania spune că o va pune în public preview din 3 august. Descrierea propune o buclă formată din agenți de red team, blue team și green team, conectați la semnale, context de securitate și „actuatori” care transformă deciziile în acțiuni.
Este un anunț de produs, nu un standard și nu o demonstrație independentă de eficiență. Totuși, arhitectura formulată de Microsoft este un bun cadru de evaluare pentru orice organizație care introduce agenți AI în SecOps: un agent are nevoie nu doar de date, ci de context verificat, drepturi limitate, acțiuni reversibile și un om care rămâne responsabil.
Ce anunță Microsoft
Microsoft spune că Project Perception unește semnale, context, modele și agenți specializați într-un sistem care poate identifica, prioritiza și acționa cu viteză de mașină, păstrând oamenii la control. Compania descrie trei roluri: red team pentru căi potențiale de compromitere, blue team pentru investigare și evaluarea riscului și green team pentru acțiuni corective.
Conform postării, primul scenariu este managementul vulnerabilităților software, iar public preview-ul este planificat pentru 3 august. Acestea sunt afirmații ale furnizorului; organizațiile trebuie să verifice separat disponibilitatea regională, condițiile comerciale, integrarea efectivă și comportamentul în propriul mediu înainte de a se baza pe ele.
Semnalele fără context produc zgomot
Microsoft pune accent pe un „security context” care leagă active, identități, relații, riscuri și activități. Ideea este solidă chiar și fără un produs nou: o alertă CVE devine prioritate abia după ce știi dacă produsul și versiunea sunt prezente, dacă activul este expus, cine îl deține și ce serviciu de business depinde de el.
Începe cu date pe care le poți verifica: inventar de active și versiuni, owner tehnic, criticitate, expunere, identități privilegiate și stare de patch. Fără ele, un agent poate rezuma multe alerte, dar nu poate lua o decizie defensivă credibilă.
Separă observarea de acțiune
Un agent care citește, corelează și propune poate primi o autonomie mai largă decât unul care resetează parole, blochează acces, schimbă configurări sau izolează endpointuri. Aceste acțiuni au impact operațional și pot fi abuzate dacă agentul este indus în eroare de date, prompturi sau o integrare compromisă.
Definește niveluri clare: observare, recomandare, execuție cu aprobare și execuție automată strict limitată. Pentru fiecare acțiune, păstrează scopul, identitatea care a autorizat-o, sistemul afectat, rezultatul și o cale de rollback. În mod normal, acțiunile ireversibile sau cu impact larg trebuie să rămână în spatele aprobării umane.
Cinci întrebări pentru un pilot de AI în SecOps
- ▸Ce date vede agentul și ce date nu vede? Documentează sursele, clasificarea, retenția și filtrele de date personale sau secrete.
- ▸Ce sisteme poate modifica? Acordă permisiuni minime, scoped pe mediu, cu tokenuri scurte și fără acces implicit la producție.
- ▸Care acțiuni cer aprobare umană? Leagă aprobarea de un ticket, un owner și un timeout, nu de o simplă confirmare în chat.
- ▸Cum detectezi o concluzie greșită sau un comportament anormal? Monitorizează tool calls, egress, modificări, rate limits și deviațiile de la playbook.
- ▸Cum oprești și revii? Testează kill switch-ul, revocarea tokenurilor și rollback-ul înainte de a activa automatizări cu impact.
Conectarea cu guvernanța și evidențele de audit
Un audit util nu înseamnă să înregistrezi fiecare interogare a agentului. Înseamnă să poți explica deciziile importante: ce alertă a fost evaluată, ce context a fost folosit, ce recomandare a apărut, cine a aprobat sau respins-o, ce acțiune s-a executat și cum a fost verificat rezultatul.
Această distincție sprijină atât operațiunile, cât și cerințele de responsabilitate. Nu declară automat conformitate cu NIS2, CRA, AI Act sau ISO 27001; încadrarea depinde de serviciu, rol și sector. Dar reduce golul dintre „agentul a recomandat” și o decizie defensivă pe care o poți reconstitui ulterior.
Surse primare și de referință
Leagă alertele de context și ownership
Awarely Monitor urmărește surse de vulnerabilități, le corelează cu produse și active urmărite și păstrează un audit al deciziilor. Orice automatizare cu impact trebuie să rămână limitată, verificabilă și sub controlul echipei.