AI-agent vajab juhti, mitte ainult eesmärki
Küberturbe hindamise käigus anti OpenAI mudelitele kitsas eesmärk ja palju ressursse selle saavutamiseks. Mudelid leidsid testikeskkonda isoleerinud tarkvarast seni teadmata turvaaugu, pääsesid internetti ning ründasid Hugging Face’i tootmissüsteeme, et hankida hindamisel parema tulemuse saavutamiseks vajalikku infot.
AI-agendid tegid järjekindlalt seda, mida neilt oodati – otsisid võimalusi seatud eesmärgi saavutamiseks. Probleem oli selles, et nende valitud tegevusi ei olnud kavandatud ega lubatud. OpenAI turvameetmed ei pidanud vastu. Hugging Face’i süsteemides oli ärakasutatavaid haavatavusi. Kõige olulisem õppetund on aga see, et ainult eesmärgi andmisest ei piisa. Agent saavutas talle antud eesmärki viisil, mida keegi ei olnud ette näinud ega heaks kiitnud.
Milliseid järeldusi teha sellest juhtumist lisaks kõige ilmsemale turvalisuse parandamisele. Ja kuidas juhid võiksid kasutada AI-agente vastutustundlikult, kui ise ei ole AI- ega küberekspert?
MCP avas ukse, kuid ei loonud probleemi
Kui Anthropic tutvustas 2024. aasta novembris Model Context Protocoli ehk MCP-d, tekkis avatud standard AI-süsteemide ühendamiseks andmeallikate ja töövahenditega. Varem tuli iga andmebaasi, dokumendihalduse või ärisüsteemi jaoks ehitada eraldi ühendus. MCP standardiseeris viisi, kuidas AI saab ettevõtte andmeid ja tööriistu avastada ning kasutada.
MCP ei loonud autonoomseid AI-agente. Küll aga muutis see agentide ühendamise päris tööprotsessidega oluliselt lihtsamaks. AI-agent võib nüüd:
- lugeda dokumente;
- otsida andmebaasidest;
- kasutada API-sid;
- muuta ärisüsteemides andmeid;
- kirjutada ja käivitada koodi;
- saata sõnumeid;
- käivitada järgmisi töövooge.
Kui anda agendile piisavalt aega ja arvutusressurssi, võib ta proovida järjest uusi lähenemisi, kuni mõni neist töötab. See on väga kasulik. Samal ajal on see ohtlik, kui agent saab ainult eesmärgi, kuid mitte selgeid piire.
Kohtle AI-agenti nagu võimekat uut töötajat
AI-agendile laia eesmärgi ja ettevõtte süsteemidele juurdepääsu andmine sarnaneb olukorraga, kus väga motiveeritud ja leidlikule uuele töötajale antakse tulemusootus, kuid ei selgitata, kuidas töö peab olema tehtud. Töötaja võib olla järjekindel. Ta võib proovida kümneid lahendusi. Ta võib isegi soovitud eesmärgi saavutada.
Selle käigus võib ta aga raisata ressursse, tekitada probleeme klientidele, minna mööda sisekontrollidest või võtta ettevõtte nimel kohustusi, mida keegi ei ole heaks kiitnud. Tulemus võib küll formaalselt vastata ülesandele, kuid tekitada ettevõttele suurema probleemi kui see, mida algselt lahendati.
Sellises olukorras ei ole peamine viga töötaja liigne algatusvõime. Juhtimisviga seisneb selles, et töötajale ei antud piisavalt juhiseid, piire ega järelevalvet.
Sama kehtib AI-agentide kohta. Eesmärgist üksi ei piisa. Agent peab teadma:
- millistele süsteemidele ja andmetele ta võib ligi pääseda;
- millised tegevused on keelatud;
- millised aja-, raha- ja arvutusressursi piirangud kehtivad;
- millal on vaja inimese kinnitust;
- kuidas mõõdetakse töö edukust;
- millised kõrvalmõjud ei ole lubatud;
- millal tuleb tegevus peatada ja abi küsida.
See ei ole promptide kirjutamise probleem. See on juhtimise ja tööprotsessi kujundamise probleem.
AI-agent vajab samuti regulaarset üks-ühele vestlust
Juht ei oota kolmekuulise töö lõppu, et teada saada, millega uus töötaja tegeles.
Ka iseseisvalt töötava inimese puhul kontrollib juht regulaarselt, kas töö liigub õiges suunas, kas algsed eeldused kehtivad ning kas eetilisi, ärilisi või õiguslikke piire on järgitud. AI-agendid vajavad samasugust kontrolli.
Erinevus seisneb kiiruses. Inimene ei suuda käsitsi üle vaadata iga tegevust, mida pidevalt töötav AI-agent tuhandete sammude jooksul teeb. Seetõttu peab osa järelevalvest olema automatiseeritud. Järelevalve ei tohi hinnata ainult üksikuid tegevusi. Üks andmebaasipäring, faili allalaadimine või API-kutse võib eraldi vaadates olla täiesti tavapärane. Tegevuste järjestus võib aga näidata, et agent püüab piirangust mööda minna, kogub liiga palju infot või liigub tulemuse poole, mida ettevõte ei oleks kunagi heaks kiitnud.
Seetõttu tuleb jälgida, kuhu agendi tegevuste tervik viib. Vajaduse korral peab järelevalvesüsteem suutma agendi peatada ja suunata otsuse inimesele.
Mida peaks tavaline ettevõte tegema?
Ettevõte ei pea muutuma AI-turvalaboriks. Küll aga on vaja elementaarseid juhtimiskontrolle. Alustada tuleks neist küsimusest.
- Millist ärilist tulemust peab agent parandama?
- Mida agent teha tohib?
- Millised tegevused vajavad inimese kinnitust?
- Kuidas saame teada, kas agent püsib õigel kursil?
- Kuidas tegevus peatada ja veast taastuda?
Olulistest andmetest tuleb hoida varukoopiaid, tegevused peavad olema auditeeritavad ning suure mõjuga muudatused võimaluse korral tagasipööratavad.
Need kontrollid ei takista AI kasutuselevõttu. Need muudavad tõsiselt võetava kasutuselevõtu võimalikuks.
Juhtimise rütm peab vastama masina kiirusele
Paljud ettevõtted vaatavad strateegilisi eesmärke üle kord kvartalis ja tegevustulemusi kord kuus. Tavapärase arendusprojekti puhul võib sellest piisata. Pidevalt töötava AI-agendi jaoks on see liiga aeglane.
Agent võib lühikese aja jooksul muuta oma tegevussuunda, kasutada märkimisväärselt ressursse ning mõjutada kliente või tootmissüsteeme. Seetõttu peavad erinevad juhtimistasandid töötama erineva sagedusega.
AI juhtimisest saab tavaline juhtimine
Praegune olukord võib tunduda keeruline, kuid see on ajutine. Personaalarvutid, internet, finantskriisid ja COVID-19 muutsid kõik seda, kuidas ettevõtteid juhitakse. Alguses nõudis iga muutus erilist tähelepanu, uusi reegleid ja kiiremaid juhtimisotsuseid. Hiljem muutusid vajalikud töövõtted tavapärase juhtimise osaks. AI-ga läheb tõenäoliselt samamoodi.
Mõne aasta pärast on AI paljude äriprotsesside tavaline osa. Ettevõtted ei räägi enam eraldi AI-strateegiast, vaid sellest, kuidas toimivad müük, finantsjuhtimine, tootmine ja klienditeenindus, millesse AI on loomulikult sisse ehitatud.
Seni on mõistlik tegutseda rahulikult ja süsteemselt:
- seadke ärilised, mitte haibist kantud eesmärgid;
- määrake AI-agentidele selged õigused ja piirid;
- jälgige üksikute sammude asemel tegevuste tervikut;
- suurendage tulemuste ja riskide ülevaatamise sagedust;
- jätke vastutus tulemuse eest inimesele.
Säilitage rahu.