Većina organizacija već koristi veštačku inteligenciju — u proizvodima, internim alatima i svakodnevnom radu sa AI asistentima. Znatno manje njih odlučilo je ko je za nju odgovoran, koji su rizici prihvatljivi i kako se njeno korišćenje kontroliše.
AI je već u organizaciji
U tipičnoj softverskoj ili inženjerskoj kompaniji od stotinak zaposlenih, AI se istovremeno pojavljuje na tri mesta. Programeri ugrađuju funkcionalnosti mašinskog učenja u proizvode. Timovi koriste AI asistente za pisanje, sažimanje i analizu. A neki procesi tiho zavise od modela koje niko formalno ne poseduje.
Ništa od toga samo po sebi nije problem. Problem je što se odluke o veštačkoj inteligenciji donose pojedinačno, od strane pojedinaca, bez zajedničkih pravila. Kada klijent, auditor ili regulator pita kako se AI kontroliše, iskren odgovor često glasi: zavisi koga pitate.
Šta je zapravo ISO/IEC 42001
ISO/IEC 42001 je međunarodni standard za sistem menadžmenta veštačkom inteligencijom (AI Management System, AIMS). Kao ISO 9001 za kvalitet ili ISO/IEC 27001 za bezbednost informacija, on ne propisuje tehnologiju. Definiše kako organizacija uspostavlja politiku, dodeljuje odgovornosti, procenjuje rizike i uticaje, kontroliše životni ciklus AI sistema i stalno se unapređuje.
Organizacijama koje su već sertifikovane prema ISO 9001 ili ISO/IEC 27001 struktura će biti poznata. Veliki deo okvira menadžmenta — upravljanje dokumentima, interna provera, preispitivanje od strane rukovodstva — može se deliti, umesto da se duplira.
Prvo governance, sertifikacija kasnije
Sertifikacija je razuman cilj, ali ne bi trebalo da bude polazna tačka. Mnoge organizacije najveći deo vrednosti ostvare mnogo pre spoljnog audita: jasno vlasništvo, registar AI sistema, doslednu procenu rizika i dogovorena pravila za korišćenje AI alata.
Praktičan redosled izgleda ovako:
- Popis — koji AI sistemi, proizvodi sa AI funkcionalnostima i AI alati se koriste i ko je njihov vlasnik
- Gap analiza — gde je postojeća praksa u odnosu na zahteve standarda
- Politika i uloge — AI politika koju je odobrilo rukovodstvo i jasna odgovornost
- Procena rizika i uticaja — jedna metoda, dosledno primenjena na svaki relevantan sistem
- Kontrole životnog ciklusa — kako se AI sistemi projektuju, validiraju, puštaju u rad, prate i povlače
- Obuka — ljudi koji koriste AI znaju šta smeju da dele, kako da provere rezultate i kako da prijave probleme
Tek kada ovo funkcioniše u svakodnevnoj praksi, sertifikacioni audit ima smisla. Tada se proverava sistem kakav jeste, a ne kakav je napisan za tu priliku.
Regulatorni kontekst
U Evropi, EU AI Act uvodi obaveze koje stupaju na snagu postepeno tokom nekoliko godina, uključujući zahteve za AI pismenost zaposlenih koji koriste AI sisteme. ISO/IEC 42001 nije zamena za usklađenost sa propisima, ali sistem menadžmenta veštačkom inteligencijom daje organizaciji strukturu kroz koju se regulatorni zahtevi mogu prepoznati, dodeliti i dokazati. Kompanijama van EU koje rade za klijente iz EU ista očekivanja sve češće stižu kroz ugovore i tendere.
Srazmerno, a ne birokratski
Najčešća greška je izgraditi sistem menadžmenta veštačkom inteligencijom koji izgleda kao sistem multinacionalne kompanije. Kompaniji srednje veličine potrebna je dokumentacija dovoljno kratka da bi se čitala, procesi koji se uklapaju u postojeći način rada i kontrole koje odgovaraju stvarnom riziku korišćenja AI. Interni asistent koji piše nacrte mejlova ne zahteva isti tretman kao model koji utiče na odluke o ljudima ili javnim finansijama.
Srazmernost nije prečica. Ona je ono što sistem čini održivim i kada konsultanti odu.
- AI governance je odluka rukovodstva pre nego što je tehničko pitanje.
- Počnite popisom i jasnim vlasništvom; sertifikacija može doći kasnije.
- Integrišite sa postojećim sistemima menadžmenta umesto da ih duplirate.
- Dokumentaciju i kontrole prilagodite stvarnom riziku svakog AI sistema.