Zakaj preveriti, kako vaši zaposleni uporabljajo AI, še preden pride do težav

1. Zaupni dokumenti v brezplačnih orodjih

Najpogostejša ugotovitev ob prvem pregledu: zaposleni v brezplačna orodja lepijo pogodbe, ponudbe, zapisnike in interna poročila, da bi hitreje dobili povzetek ali osnutek. Delajo v dobri veri, vodstvo pa za to ne ve. Ko dokument enkrat zapusti podjetje, nad njim nimate več nadzora.

2. Osebni podatki zunaj EU

Številna AI orodja podatke obdelujejo v ZDA ali drugih tretjih državah. Če zaposleni vanje vnašajo imena, kontakte ali druge podatke o strankah in sodelavcih, gre za prenos osebnih podatkov, za katerega GDPR in ZVOP-2 zahtevata ustrezno pravno podlago in zaščitne ukrepe. Brez pregleda rabe ne veste, ali do tega prihaja.

3. Halucinacije v ponudbah in pogodbah

Jezikovni modeli si včasih izmislijo številke, člene zakonov ali vire, ki zvenijo povsem verodostojno. Če taka napaka brez preverjanja pristane v uradni ponudbi ali pogodbi, odgovarja vaše podjetje, ne orodje. Pregled pokaže, kje se rezultati AI uporabljajo brez človeške kontrole.

4. Shadow IT na osebnih napravah

Kar je na službenem računalniku blokirano, se hitro preseli na zasebni telefon. Aplikacije, ki jih nihče ni preveril, lahko dostopajo do fotografij, dokumentov in kontaktov ter podatke pošiljajo neznanim ponudnikom. Pregled rabe razkrije, katera orodja so v resnici v uporabi, tudi zunaj vašega omrežja.

5. Avtorske pravice v marketingu

Generirane slike in besedila lahko spominjajo na obstoječa dela ali vsebujejo zaščitene elemente, pogoji orodij pa pravice uporabnika urejajo zelo različno. Marketing, ki AI vsebine objavlja brez preverjanja, podjetje izpostavlja zahtevkom imetnikov pravic. Vedeti morate, katera orodja ekipa uporablja in pod kakšnimi pogoji.

6. Tihi strah pred izgubo službe

Mnogi zaposleni AI doživljajo kot grožnjo, a tega ne povedo na glas. Strah se pokaže kot tihi odpor: orodja ignorirajo, delo podvajajo ali uporabo skrivajo. Pogovor o rabi AI je priložnost, da strahove slišite in jasno poveste, kakšno vlogo bodo ljudje imeli v prihodnje.

7. Neenakomerna AI pismenost med oddelki

V enem oddelku AI uporabljajo vsak dan, v drugem ga skoraj ne poznajo. Posledica so različni standardi kakovosti, nezdružljivi postopki in napake na stikih med ekipami. Pregled pokaže, kje so vrzeli, in vam pomaga usmeriti usposabljanja tja, kjer so najbolj potrebna.

8. AI pri izbiri kandidatov

Orodja za razvrščanje življenjepisov lahko nehote zapostavljajo kandidate zaradi spola, starosti ali porekla. ZDR-1 in Zakon o varstvu pred diskriminacijo (ZVarD) prepovedujeta diskriminacijo pri zaposlovanju, Akt o umetni inteligenci pa sisteme za izbiro kandidatov uvršča med visokotvegane. Če kadrovska služba tako orodje uporablja na lastno pest, je tveganje veliko.

9. Zavajajoča sporočila za javnost

AI v nekaj sekundah napiše prepričljivo sporočilo za javnost, tudi z napačnimi številkami ali pretiranimi obljubami. Če tako besedilo pride do medijev ali investitorjev, škoda za ugled in zaupanje ostane dolgo. Vsako javno sporočilo mora pred objavo pregledati odgovorna oseba.

10. Izguba ključnih strokovnih kompetenc

Ko AI prevzame vedno več rutinskega dela, ljudje postopoma izgubljajo znanje, ki ga potrebujejo za presojo njegovih rezultatov. Mlajši sodelavci se nekaterih veščin morda sploh ne naučijo. Pregled rabe vam pomaga določiti, katere kompetence morate v podjetju zavestno ohranjati.

11. Razkritje strategij in kalkulacij

Poslovni načrti, cene, marže in kalkulacije so med najobčutljivejšimi podatki podjetja. Ko jih zaposleni vnesejo v javno orodje, je lahko ogrožena tudi njihova zaščita kot poslovne skrivnosti, saj jo ZPOSM priznava le, če podjetje skrivnost varuje z razumnimi ukrepi. Pregled pokaže, kateri taki podatki že odhajajo iz podjetja.

12. Klepetalniki, ki govorijo namesto vas

Klepetalnik na spletni strani ali AI pomočnik v e-pošti govori v imenu podjetja, tudi ko obljubi nekaj, česar ne bi smel. Akt o umetni inteligenci (50. člen) zahteva, da ljudje praviloma vedo, kdaj komunicirajo s sistemom AI. Preverite, kje AI že odgovarja strankam in kdo nadzira njegove odgovore.

13. Pristranske ocene uspešnosti sodelavcev

Nekateri vodje si pri letnih ocenah ali povratnih informacijah pomagajo z AI. Orodje ne pozna konteksta in lahko ponovi pristranskosti iz podatkov, ocena pa vpliva na plačo, napredovanje in zaupanje. Namenski sistemi AI za ocenjevanje uspešnosti so po Aktu o umetni inteligenci visokotvegani, a jasna pravila potrebuje tudi občasna raba splošnih orodij.

14. Zasebni računi za službene naloge

Ko podjetje ne ponudi poslovne različice orodja, zaposleni uporabljajo zasebne račune. Podatki tako ostanejo v računih, do katerih podjetje nima dostopa, tudi ko zaposleni odide. Za zasebne račune pogosto veljajo drugačni pogoji hrambe in uporabe podatkov kot za poslovne.

15. Napredni phishing in globoki ponaredki

Napadalci z AI pišejo brezhibna lažna sporočila v slovenščini in ponarejajo glasove ter videoposnetke vodilnih. Klic »direktorja«, ki nujno zahteva nakazilo, je danes lahko povsem prepričljiv. Pregled pokaže, ali zaposleni take napade prepoznajo in ali imate postopek za preverjanje nenavadnih zahtev.

16. Kje se konča pomoč AI

Zaposleni pogosto ne vedo, ali je za napako odgovoren človek ali orodje. Odgovor je jasen: za rezultat dela odgovarja človek, ki ga odda. To mora biti zapisano in razloženo, sicer se odgovornost v praksi razblini.

17. Neskladje z internimi akti

Interni akti so pogosto nastali, preden je AI postal del vsakdana, zato rabe orodij ne omenjajo ali ji celo nasprotujejo. Ko se praksa in pravila razhajajo, podjetje ob kršitvi težko ukrepa. Pregled rabe pokaže, katere akte je treba posodobiti.

18. Občutljivi podatki v deljenih promptih

Uspešni prompti se hitro širijo po ekipah, v klepetih, dokumentih in knjižnicah predlog. Pogosto vsebujejo imena strank, cene ali interne podatke, ki so ostali iz prvega primera. Pregled razkrije, kje so taki prompti shranjeni in kdo vse ima dostop do njih.

19. Kdo je avtor rezultatov AI

Pri rešitvah, ki nastanejo s pomočjo AI, ni vedno jasno, ali so sploh zaščitene in komu pripadajo. Avtorsko pravo varuje stvaritve človeka, zato je pomembno, da je človeški prispevek dokumentiran. Pogodbe in interni akti naj jasno določijo, komu pripadajo rezultati dela, ustvarjeni z AI med delovnim časom.

20. Lažna varnost brezplačnih orodij

Brezplačno orodje se zdi nedolžno, a tudi njegov ponudnik ima poslovni model, pogosto povezan prav s podatki uporabnikov. Številni ponudniki vsebino brezplačnih uporabnikov hranijo dlje in jo lahko uporabijo za razvoj modelov. Zaposleni morajo razumeti, da »brezplačno« ne pomeni »varno«.

21. Spori zaradi neustreznega nadzora

Neustrezen nadzor ima dve plati. Če pravil ni, podjetje težko ukrepa, ko zaposleni z AI povzroči škodo. Če pa delodajalec zaposlene prikrito spremlja, lahko krši ZDR-1 in pravila o varstvu zasebnosti. Pregled rabe zato izvedite odkrito: zaposlene vnaprej obvestite, zbirajte le potrebne podatke in se osredotočite na orodja in procese, ne na posameznike.

Začnite z odkritim pregledom

Vseh 21 tveganj ima skupen izvor: vodstvo ne ve, kako zaposleni AI v resnici uporabljajo. Zato ne začnite s prepovedmi, ampak s kratkim, odkritim pregledom: anonimno anketo, pogovorom z vodji oddelkov in popisom orodij. V nekaj tednih boste vedeli, kje so največja tveganja, in lahko ukrepate premišljeno, ne v krizi.

Za prvi vpogled preverite, ali je vaše podjetje pripravljeno na AI.