Andro Kullerkupp
Vertex Consultingu asutaja

Kas AI väljub kontrolli alt? Blendrisse ei pista ju ka näppe

3. okt 2026

AI ei välju kontrolli alt iseenesest. Nagu iga tööriista puhul otsustab ohutuse see, kas ohutusjuhendit järgitakse. Jagan, kuidas hoian oma AI-agentide tiimi reeglite järgi töötamas.

Iga nädal ilmub mõni pealkiri, mis kuulutab, et tehisintellekt väljub varsti kontrolli alt ja inimkond on ohus. Mina juhin iga päev tiimi, kus töötab kümmekond AI-agenti, ja ütlen oma kogemusest: AI ei välju kontrolli alt iseenesest. Kontrolli alt väljub ta siis, kui keegi jätab ohutusjuhendi lugemata.

Blender ei võta sõrmi, kui sa neid sinna ei pista

Mõtle korraks teistele tööriistadele, mida me iga päev kasutame. Kui pistad näpud töötavasse blenderisse, oled neist ilma. Keegi ei järelda sellest, et varsti elab maailmas sõrmedeta inimkond ja blenderid tuleb ära keelata. Järeldus on lihtsam: blenderil on kaas ja ohutusjuhend ning neid tasub kasutada.

Mootorsaag, auto, trükipress, elekter. Iga võimas tööriist on valesti kasutatuna ohtlik ja õigesti kasutatuna asendamatu. Ühegi puhul ei ole lahenduseks hirm, vaid ohutuskultuur: juhendid, reeglid, järelevalve ja kasutaja enda vastutus. AI on täpselt sama loogikaga tööriist. Erinevus on vaid selles, et ta on uus ja seetõttu tundub salapärasem.

Kus hirmul on päriselt iva sees

Üks mure on siiski põhjendatud ja sellest räägitakse vähe. Kui AI-agente ja töövoogusid saab palju, tekib sama probleem mis kiiresti kasvanud ettevõttes: sa ei pruugi enam mäletada, kellele millised reeglid said antud. Ühele agendile ütlesid pool aastat tagasi üht, teisele eelmisel kuul teist ja kolmas sai juhised hoopis kolleegilt.

Siis juhtubki see, mida kardetakse: reeglid lähevad omavahel vastuollu ja vastuolu korral hakkab agent ise tõlgendama, milline reegel on õigem. Agent ei tee seda pahatahtlikkusest. Ta teeb seda samal põhjusel, miks uus töötaja teeb segaste juhiste peale oma parima pakkumise. Probleem ei ole tehnoloogias, vaid juhtimises.

Minu lahendus: kõik reeglid ühes kohas

Olen selle probleemi lahendamiseks loonud agentide keskuse. See on üks koht, kus elavad kõik reeglid, ja mitte kusagil mujal reegleid ei hoita. Iga agent on kohustatud enne igat töösessiooni keskuse dokumendid läbi lugema. Alles siis võib ta tööle asuda.

Keskuses on peale reeglite veel kolm asja. Ülesannete tahvel, mille kaudu agendid omavahel tööd jagavad, ilma et mina peaksin iga sõnumit vahendama. Õppetundide register, kuhu iga agent kirjutab vea juurpõhjuse kohe, kui ta selle leiab, ja mida kõik teised on kohustatud järgima. Nii õpivad kõik agendid igast veast, mitte ainult see, kes vea tegi. Ja iga agendi töölogi, millest näen tagantjärele, mida ta tegi ja miks.

Siin on üks praktiline tasakaal, mida tasub teada. Reeglid ei tohi muutuda liiga pikaks ja faile ei tohi olla liiga palju, sest iga agent loeb need enne igat sessiooni läbi. Iga lisalehekülg maksab aega ja tokeneid ning mida pikem on juhend, seda suurem on oht, et oluline upub ebaolulisse. Sama kehtib muide inimeste töökordade kohta: kümneleheküljelist juhendit ei loe keegi, ühte lehekülge loevad kõik.

Revident: agent, kes valvab agente

Teine kiht on agentide revident. See on eraldi agent, kelle ainus töö on järelevalve: ta kontrollib, et kõik agendid lähtuksid minu antud reeglitest, jälgib, et saladusi hoitaks ainult arendusseadmes, ja vastutab turvalise arhiveerimise eest.

Kõige olulisem on aga see, et kõik uued agendid sünnivad läbi revidendi. Revident loob uuele agendile vajalikud kaustad ja sundviited reeglitele juba enne, kui agent oma esimese ülesande saab. Nii ei teki kunagi agenti, kes reegleid ei tunne. Ja kui tahan reegleid muuta, muudan neid ühes kohas ja kõik agendid saavad muudatuse järgmise sessiooni alguses automaatselt kätte.

Veel kihte, mis hoiavad tööriista kontrolli all

Lisaks keskusele ja revidendile on meil veel mõned põhimõtted, mida soovitan igale AI kasutajale.

Igas projektis töötab küberturbe järelevalve, mis kontrollib koodi turvaauke ja simuleerib ründeid enne, kui muudatus avalikuks saab. Sellest kirjutasin pikemalt vibe codingu postituses: ükski funktsioon ei lähe välja enne, kui ründesimulatsioonid enam auke ei leia.

AI töötab seadetes, kus sisestatud andmeid ei kasutata avaliku mudeli õpetamiseks, ja agentide mälu hoitakse autonoomselt meie enda arendusseadmes. Kliendi andmed ei rända kuhugi teisi õpetama.

Agent ei saa kunagi rohkem õigusi, kui tema roll vajab. Kodulehe agent ei pääse ligi raamatupidamisele ja turundusagent ei muuda koodi. Kui agendil on vaja midagi väljaspool oma rolli, loob ta ülesande teisele agendile või küsib minult.

Ja kõige tähtsam: inimene vastutab alati tulemuse eest. Agendid teevad tööd, aga eesmärgid püstitan mina, lahenduse arhitektuuri töötan välja mina, kvaliteeti kontrollin mina ja otsused teen mina. AI on tööjõud, mitte juhatus.

Ohutusjuhend AI kasutajale

Kui võtad siit kaasa ainult ühe asja, siis selle: hirm ei ole juhtimisvahend, reeglid on. Minu soovitused igaühele, kes AI endale tööle paneb.

Hoia kõik reeglid ühes kohas ja lase AI-l need enne tööd läbi lugeda. Ära puista juhiseid vestlustesse laiali, sest sealt need ei kandu edasi. Hoia reeglid lühikesed. Ära anna tööriistale rohkem õigusi, kui ülesanne vajab. Kontrolli tulemust nagu uue töötaja oma, eriti esimestel nädalatel. Nõua logi, et saaksid tagantjärele vaadata, mida ja miks tehti. Ja kui avastad, et kaks reeglit on omavahel vastuolus, lahenda vastuolu ise, ära jäta seda masina tõlgendada.

Blenderi kaas ei ole märk sellest, et blender on ohtlik koletis. See on märk sellest, et insener mõtles kasutaja peale. Ehita oma AI-le samasugune kaas ja saad rahulikult keskenduda sellele, milleks tööriist on loodud: töö tegemisele.

Kui tahad näha, kuidas selline agentide tiim päriselt välja näeb, vaata meie meeskonna lehte. Ja kui tahad sama töömudelit oma ettevõttes proovida, võta ühendust.