Priznam, ko sem prvič naletel na omembo AI Acta, sem se takoj prijel za glavo. Ob misli na še eno GDPR-ju podobno evropsko regulacijo se mi je stemnilo. Še en kup energije, vržene v zrak, namesto v rast poslovanja.
Po prvem pogovoru z Mirom (naš DPO) in razmisleku, zakaj (in za koga) pa bi to vseeno lahko bilo koristno, sem se kar pomiril. V resnici bomo potrebovali nekakšna pravila igre prej ali slej. Predstavljajte si, kakšen “teksas” bi bil pri delu z osebnimi podatki, če ne bi bilo nobenih omejitev. Mobilno telefonsko številko imam še vedno isto kot leta 1996. Ne poznam Američana, ki mu je ni bilo treba vsaj enkrat zamenjati v teh skoraj 30 letih.
Kaj sploh je AI Act in zakaj bi moral marketingaše skrbeti (ali veseliti)?
Na kratko: AI Act je nova uredba EU, ki od avgusta 2024 že velja, prve konkretne obveznosti pa so začele veljati februarja 2025 (v celoti stopi v veljavo v avgustu 2027). Uredba ureja uporabo umetne inteligence v podjetjih, predvsem tam, kjer ima AI pomembnejši vpliv na uporabnike, denimo pri segmentaciji, personaliziranih nagovorih, priporočilih, avtomatskem odločanju ali ocenjevanju kreditne sposobnosti.
Ja, prav ste prebrali – marketing, e-commerce, CRM in podobna področja, kjer uporabljamo AI, bodo vsekakor pod drobnogledom.
Zakaj je AI Act pravzaprav dobra stvar?
V FrodXu se zavedamo, da regulativa običajno pomeni dodaten korak ali dva. Toda AI Act bi se po mojem mnenju vseeno lahko izkazal kot pravi korak. Na nek srednji rok. Ko usvojimo in v prakso prenesemo ukrepe, ki jih nalaga.
Zakaj? Ker končno prinaša jasnost, posledično pa to pomeni stabilnost. Trenutno podjetja, ki jim ponujamo z umetno inteligenco podprte CX rešitve in AI agente za avtomatizacijo s strankami povezanih procesov, precej kolebajo pri sprejemanju tovrstnih rešitev v prakso. Menim, da so praviloma preveč zadržana pri izrabi tehnologije, ki smo jim jo prinesli v hišo. Vidim ogromno strahu. Kot sem jo vsakič doslej z novo tehnologijo, ki se uvaja v podjetja.
Menim, da se je danes za implementacijo direktnega marketinga enemu resnemu podjetju lažje odločiti, kot je bilo to npr. 2012, ko smo začeli postavljati prve marketing automation sisteme. Ker jim GDPR daje okvire, znotraj katerih se igra. Podoben učinek – vsaj tako pričakujem – bo doprinesel AI Act na uporabo CX rešitev za personalizacijo in segmentacijo z uporabo umetne inteligence. Dobili bomo okvire, kaj je »še v redu« in kdaj smo morda že korak predaleč. AI Act bo tudi v praksi izoblikoval jasne smernice, kje so meje odgovorne uporabe AI, predvsem pa, kako naj svoje sisteme uredimo, da bomo lahko mirno spali tudi avgusta 2026 oz. avgusta 2027, ko bodo obveznosti popolnoma zaživele.
Koga točno zadeva?
Uredba zadeva vsa podjetja, ki na trgih EU uporabljajo AI za interakcijo s strankami (morda je to ozek pogled FrodXa kot ponudnika CX rešitev). Velikost podjetja tukaj niti ni tako pomembna – res pa je, da bodo manjša podjetja v primeru težav plačevala nekoliko nižje kazni (kar sicer ni ravno tolažba, ampak vseeno).
Če imate torej v podjetju implementirane rešitve za avtomatsko segmentacijo kupcev, AI-driven priporočila (recommended product, next best action,…), dinamično določanje cen, AI-chatbote ali drugačne AI agente, potem AI Act nedvomno zadeva tudi vas. Če pa vaša proizvodnja uporablja AI za notranje optimizacije, ki nimajo vpliva na uporabnike, je skrb precej manjša.
Kazni? Vzemimo jih kot dodatno motivacijo. Po zgledu GDPR. 😏
Kazni so visoke – do 7 % letnega prometa ali 35 milijonov evrov – a predvsem jih velja razumeti kot motivacijo za pravočasno in učinkovito prilagoditev.
V praksi AI Act pomeni predvsem, da boste morali:
- jasno označevati, kje in kako uporabljate AI,
- omogočiti uporabnikom, da zavrnejo uporabo AI v njihovi obravnavi,
- voditi pregledne evidence delovanja AI (t.i. audit trail),
- imeti možnost človeškega posredovanja ali ustavitve avtomatskih odločitev,
- redno preverjati, ali vaši AI modeli morda niso pristranski.
Kako točno bo res dovolj dobro, vam ta trenutek še ne znam povedati. Čas bo oblikoval dobre prakse. Osebno pri tem največ stavim na globalne proizvajalce programske opreme – v našem primeru HubSpot in SAP (Emarsys). Zelo verjetno bomo tudi to regulacijo na začetku zagrabili preveč resno (enako kot GDPR) in vse pipice zaprli, potem pa nekoliko osvobodili svoje poglede in vse skupaj naredili bolj življenjsko. Vedno tako odreagiramo na nov zakon in na novo tehnologijo. Jaz osebno žal ne vidim veliko razlogov, da bi bilo tokrat precej drugače.
Kako naj se podjetje pripravi?
Kot sam razumem, je najboljša pot, da najprej naredite popis vseh AI rešitev, ki jih že uporabljate (vključno z zunanjimi izvajalci). To v resnici ni čisto trivialna naloga, če dobro razmislite in želite biti pri tem res temeljiti. Nato določite stopnjo tveganja posamezne rešitve in vzpostavite sistem dokumentiranja ter preverjanja.
| Raven tveganja | Tipični primeri uporabe | Kriterij za razvrstitev | Potencialni vpliv | Zahtevani ukrepi |
| Minimalno | Spam filtri, osnovne avtomatizacije brez stika z uporabniki | Ali sistem vpliva na uporabnikovo izkušnjo ali pravice? → NE | Brez vpliva na uporabnika | Ni posebnih ukrepov |
| Omejeno | Personalizirani e-maili, segmentacija, priporočilni sistemi, chatboti | Ali sistem vpliva na uporabnikove odločitve ali izkušnjo? → DA, brez neposrednih posledic | Posredno vpliva na vedenje uporabnika | Jasna označitev, možnost izklopa, osnovna dokumentacija, transparentnost |
| Visoko | Dinamične cene, avtomatska odobritev kreditov, AI odločanje o bonitetah | Ali sistem vpliva na pravice ali finančni/pravni položaj uporabnika? → DA | Neposreden vpliv na pravice ali pomembne odločitve uporabnika | Podrobna dokumentacija, audit trail, četrtletno testiranje, kill-switch, human-in-the-loop |
Mi v FrodXu uvajamo audit-log in kill-switch za naše AI agente po meri, precej razmisleka pa gre v to, kako v AI agenta smiselno vpeljati t.i. “human-in-the-loop”, da z njim ne ubijemo ekonomskih učinkov avtomatizacije. Precej bolj enostavno je vse skupaj, ko se rešitev giblje znotraj platform Emarsys ali HubSpot, kjer sta za regulatorne okvire in priporočila poskrbela proizvajalca. Sploh ker je Emarsys evropski proizvajalec. 😁
Open mike: Pridite vprašat Mira – preden pride inšpektor
Vprašanj o AI Actu še ni konec – a časa zanj bo vedno manj. Zato organiziramo »open mike« z Miroslavom Ekartom, našim DPO-jem. Brez prezentacij. Brez PR-a. Samo iskrena vprašanja, odkrite dileme in praktični odgovori iz prve roke.
Kako bodo nadzorni organi preverjali uporabo AI? Kaj pomeni »pristranskost« v kontekstu vašega sistema? Bo vaš AI agent še lahko delal avgusta 2026 oz. 2027 – ali ga boste morali izklopiti?
Če vas karkoli od tega zadeva, mi pišite na [email protected]. Zbiramo interesente, da določimo lokacijo in termin dogodka. Vaš odziv nam bo pomagal dogodek oblikovati po vaši meri – in pravočasno.
Ker zadnja stvar, ki si jo kdorkoli želi slišati avgusta 2026, je: »Zakaj pa niste ukrepali že leto prej?”