Politika uporabe umetne inteligence (v nadaljevanju: »Politika AI«) določa načela, pravila in standarde, po katerih Go Online d.o.o. uporablja umetno inteligenco, AI sisteme, AI agente, avtomatizacije ter druga orodja, ki vključujejo tehnologije umetne inteligence.
Namen Politike AI je zagotoviti, da se umetna inteligenca v okviru Go Online uporablja:
Go Online umetno inteligenco razume kot pomembno tehnologijo za izboljševanje produktivnosti, kakovosti storitev, analitike, avtomatizacije procesov, razvoja digitalnih rešitev in ustvarjanja novih poslovnih modelov.
Uporaba umetne inteligence pa ne odpravlja odgovornosti oseb, ki AI uporabljajo ali sprejemajo odločitve na podlagi njegovih rezultatov.
Cilji te politike so predvsem:
Politika AI se uporablja za vse osebe in organizacije, ki uporabljajo AI sisteme v okviru sodelovanja z Go Online, kadar je to glede na naravo njihovega sodelovanja relevantno.
To lahko vključuje zlasti:
Za naročnike se določbe te politike uporabljajo v obsegu, v katerem so vključene v pogodbeno razmerje, ponudbo, projektno dokumentacijo ali drug dogovor z Go Online.
Politika AI se uporablja pri uporabi umetne inteligence v okviru:
Politika velja ne glede na to, ali AI sistem upravlja Go Online neposredno ali se uporablja preko zunanjega ponudnika.
Za potrebe te politike izraz »AI« oziroma »umetna inteligenca« predstavlja širši skupni izraz za programske sisteme, modele in tehnologije, ki lahko na podlagi vhodnih podatkov ustvarjajo rezultate, kot so napovedi, vsebine, priporočila, klasifikacije, analize, odločitveni predlogi ali druga digitalna dejanja.
To lahko vključuje zlasti:
Politika ni vezana na posameznega ponudnika, platformo ali model.
AI agent je za potrebe te politike sistem, ki lahko poleg ustvarjanja ali analiziranja informacij izvaja tudi določena dejanja oziroma uporablja druga digitalna orodja.
AI agent lahko na primer:
AI agent lahko deluje samo v okviru pooblastil, dostopov in omejitev, ki so mu določeni.
Večja stopnja avtonomije AI sistema praviloma zahteva večjo stopnjo nadzora, varnostnih mehanizmov in upravljanja tveganj.
Go Online razlikuje med klasično avtomatizacijo in sistemi, ki vključujejo umetno inteligenco.
Klasična avtomatizacija praviloma izvaja vnaprej določena pravila ali zaporedje aktivnosti, medtem ko lahko AI sistem na podlagi podatkov, modela ali konteksta generira oziroma izbira rezultate, ki niso v celoti vnaprej določeni.
Kadar avtomatizacija vsebuje AI komponento, se zanjo uporabljajo določbe te politike v obsegu, ki je relevanten za uporabo umetne inteligence.
Politika AI predstavlja del širšega sistema pravil in dokumentacije Go Online.
Uporablja se skupaj zlasti z:
Če posamezna pogodba ali projekt zaradi narave uporabe umetne inteligence zahteva posebna pravila, se lahko ta določijo v pogodbi, ponudbi, prilogi, projektnem načrtu ali drugem pisnem dogovoru.
Uporaba umetne inteligence mora biti skladna z veljavno zakonodajo in drugimi zavezujočimi predpisi, ki se uporabljajo glede na konkretni AI sistem, namen uporabe, vrsto podatkov ter vlogo Go Online pri posameznem projektu.
To lahko vključuje zlasti pravila s področja:
Če veljavna zakonodaja določa strožje zahteve od te politike, se uporabljajo zahteve veljavne zakonodaje.
Go Online pri uporabi umetne inteligence sledi naslednjim osnovnim načelom:
Zakonitost
AI se uporablja skladno z veljavno zakonodajo in pogodbenimi obveznostmi.
Odgovornost
Uporaba AI ne odpravlja odgovornosti osebe ali organizacije, ki AI uporablja oziroma odloča o uporabi njegovih rezultatov.
Človeški nadzor
Kadar lahko rezultat AI pomembno vpliva na naročnika, posameznika, projekt, finančno odločitev, pravice osebe ali druge pomembne interese, se zagotovi ustrezna raven človeškega nadzora.
Varstvo podatkov
Pri uporabi AI se upoštevajo načela varstva osebnih podatkov, minimizacije podatkov ter ustreznega upravljanja dostopov.
Zaupnost
Poslovnih skrivnosti, gesel, dostopnih podatkov in drugih zaupnih informacij ni dovoljeno vnašati v neodobrena AI okolja.
Varnost
AI sistemi morajo imeti dostop samo do podatkov, sistemov in funkcij, ki jih potrebujejo za svoj namen.
Preverjanje rezultatov
Rezultat AI se ne šteje avtomatično za pravilen, popoln ali strokovno preverjen.
Transparentnost
Go Online si prizadeva zagotavljati primerno stopnjo transparentnosti glede uporabe AI, kadar je to potrebno glede na naravo storitve, tveganje ali zakonske zahteve.
Sorazmernost
Stopnja nadzora in varnostnih ukrepov mora biti prilagojena tveganju posamezne uporabe AI.
Nediskriminacija in poštenost
AI se ne uporablja z namenom neupravičene diskriminacije, zavajanja ali drugega nepoštenega ravnanja.
Temeljno načelo Go Online je:
AI lahko pomaga pri analizi, pripravi, priporočanju in izvedbi procesov, vendar mora biti raven človeškega nadzora prilagojena posledicam posameznega procesa.
Pri pomembnih ali visoko tveganih procesih Go Online praviloma uporablja pristop:
AI PREDLAGA → ČLOVEK PREVERI → ODGOVORNA OSEBA ODLOČI
Pri nizko tveganih in rutinskih procesih je lahko dovoljena višja stopnja avtomatizacije, če so vzpostavljene ustrezne omejitve, nadzor in varnostni mehanizmi.
Ker se področje umetne inteligence hitro razvija, se ta politika ne omejuje na trenutno uporabljene AI modele, ponudnike ali tehnologije.
Pravila se smiselno uporabljajo tudi za nove:
ki jih Go Online začne uporabljati po sprejetju te politike.
Go Online spodbuja uporabo umetne inteligence tam, kjer lahko ta izboljša kakovost, učinkovitost, inovativnost ali uporabniško izkušnjo, vendar mora biti njena uporaba vedno sorazmerna s tveganjem in izvedena ob ustreznem varovanju ljudi, podatkov, naročnikov in poslovnih interesov.
Cilj Politike AI ni omejevanje smiselne uporabe novih tehnologij, temveč vzpostavitev jasnega okvira, v katerem jih je mogoče uporabljati varno, odgovorno in dolgoročno.
Go Online uporablja umetno inteligenco kot podporno tehnologijo za izboljševanje kakovosti, hitrosti, učinkovitosti in skalabilnosti poslovnih procesov ter storitev.
AI se lahko uporablja pri internih procesih Go Online in pri izvajanju storitev za naročnike.
Uporaba AI sama po sebi ne pomeni, da je posamezen proces popolnoma avtomatiziran ali da pri njem ni človeškega sodelovanja.
Stopnja avtomatizacije in človeškega nadzora se določa glede na namen, kompleksnost in tveganje posameznega procesa.
AI se lahko uporablja kot pomoč pri:
Informacije, pridobljene ali ustvarjene s pomočjo AI, se ne štejejo avtomatično za preverjene ali pravilne.
Pri pomembnih informacijah je potrebno ustrezno preverjanje virov oziroma človeška presoja.
Go Online lahko AI uporablja pri pripravi:
AI se lahko uporablja v različnih fazah ustvarjalnega procesa, od razvoja ideje do priprave ali izboljšave končne vsebine.
Kadar je glede na namen potrebno, se vsebina pred objavo pregleda, dopolni ali potrdi.
AI se lahko uporablja pri ustvarjanju ali obdelavi:
Pri takšni uporabi se upoštevajo relevantne pravice intelektualne lastnine, pravice posameznikov ter morebitne zahteve glede označevanja AI-generiranih ali manipuliranih vsebin.
AI se lahko uporablja pri:
AI-generirane analize in priporočila predstavljajo podporo pri odločanju in ne jamstva za doseganje poslovnih ali marketinških rezultatov.
AI se lahko uporablja kot pomoč pri:
AI brez ustreznega pooblastila ne sme samostojno sklepati pogodb, določati končnih cen, odobravati komercialnih pogojev ali ustvarjati drugih zavezujočih obveznosti v imenu Go Online ali naročnika.
AI se lahko uporablja znotraj CRM sistemov za:
Dostop AI sistema do CRM podatkov mora biti omejen glede na njegov namen in potrebna pooblastila.
Go Online lahko AI povezuje z avtomatizacijskimi sistemi in drugimi poslovnimi orodji.
AI lahko v okviru takšnih procesov:
Pri procesih z večjim tveganjem se lahko zahteva dodatna človeška potrditev pred izvedbo dejanja.
AI se lahko uporablja kot pomoč pri:
AI-generirana koda ali tehnična rešitev se ne šteje avtomatično za pravilno, varno ali primerno za produkcijsko uporabo.
Pri pomembnih sistemih je pred produkcijsko uporabo potreben ustrezen tehnični pregled in testiranje.
AI se lahko uporablja za:
Rezultati AI analiz so lahko odvisni od kakovosti, popolnosti in pravilnosti vhodnih podatkov.
AI analiza zato sama po sebi ne predstavlja jamstva za pravilnost poslovne odločitve.
AI se lahko uporablja pri:
Kadar AI ne more zanesljivo rešiti vprašanja ali kadar narava zahtevka zahteva človeško presojo, se lahko zahtevek preusmeri odgovorni osebi.
Go Online lahko razvija ali uporablja interne in naročnikove AI asistente.
AI asistenti lahko pomagajo pri:
Dostopi in zmogljivosti posameznega asistenta se določijo glede na njegov namen.
Go Online lahko uporablja ali razvija AI agente, ki lahko poleg analiziranja informacij izvajajo tudi določene aktivnosti v povezanih sistemih.
AI agenti lahko glede na dodeljena pooblastila uporabljajo:
Vsak AI agent mora delovati v okviru določenega namena, dostopov in pooblastil.
Za aktivnosti z večjim tveganjem se lahko zahteva predhodna človeška odobritev.
AI se lahko uporablja tudi za podporo internemu poslovanju Go Online, vključno z:
Go Online lahko AI uporablja za:
AI ne nadomešča strokovnega usposabljanja, kadar je to potrebno za opravljanje posamezne dejavnosti.
Go Online spodbuja odgovorno testiranje novih AI tehnologij.
Novi AI sistemi se lahko najprej uporabljajo v:
Pred širšo uporabo se lahko ocenijo:
Go Online lahko pri svojem delu uporablja AI sisteme in modele zunanjih ponudnikov.
Uporaba zunanjega AI ponudnika ne pomeni, da Go Online nadzoruje:
Pri izbiri AI storitev se glede na naravo uporabe upoštevajo njihove funkcionalnosti, varnost, način obdelave podatkov, pogodbena ureditev in druga relevantna tveganja.
Go Online umetno inteligenco obravnava predvsem kot tehnologijo, ki lahko poveča sposobnosti ljudi in poslovnih sistemov.
AI lahko:
analizira → predlaga → ustvarja → avtomatizira → pomaga pri izvedbi.
Stopnja samostojnosti posameznega AI sistema pa mora biti vedno prilagojena tveganju procesa.
Pri procesih, kjer lahko napaka povzroči pomembne pravne, finančne, varnostne ali druge posledice, se zagotovi ustrezna raven človeškega nadzora.
Go Online uporablja umetno inteligenco tam, kjer lahko njena uporaba smiselno izboljša kakovost storitve, učinkovitost procesa, dostop do informacij, uporabniško izkušnjo ali sposobnost razvoja novih rešitev.
Umetna inteligenca ni cilj sama po sebi.
Cilj Go Online je tehnologijo uporabljati premišljeno in tam, kjer ustvarja dejansko vrednost za podjetje, njegove naročnike, partnerje, talente in uporabnike.
To poglavje določa dovoljene in običajne načine uporabe umetne inteligence v okviru Go Online.
AI se lahko uporablja kot podporno orodje pri ustvarjalnih, analitičnih, tehničnih, administrativnih in poslovnih procesih, kadar je njegova uporaba skladna z namenom posameznega procesa, to Politiko AI, pogodbenimi obveznostmi ter veljavnimi pravili.
Dovoljena uporaba AI sama po sebi ne pomeni dovoljenja za dostop do vseh podatkov, sistemov ali funkcij Go Online oziroma naročnika.
AI se lahko uporablja za pripravo predlogov, priporočil in možnih rešitev.
To lahko vključuje:
AI-generiran predlog predstavlja izhodišče za nadaljnje delo in se ne šteje avtomatično za potrjeno odločitev.
AI se lahko uporablja za povzemanje:
Pri obdelavi vsebin mora biti AI sistem upravičen do dostopa do podatkov, ki jih obdeluje.
Pri pomembnih povzetkih je treba upoštevati možnost, da AI izpusti, napačno interpretira ali nepravilno povzame posamezne informacije.
AI se lahko uporablja kot pomoč pri analiziranju:
AI lahko pomaga pri interpretaciji podatkov in pripravi možnih zaključkov.
Rezultat AI analize predstavlja podporo strokovni presoji in ni avtomatično zagotovilo za pravilnost ugotovitev.
AI se lahko uporablja za pripravo prvih različic oziroma osnutkov:
Stopnja potrebnega človeškega pregleda je odvisna od namena in tveganja uporabe posameznega osnutka.
AI se lahko uporablja za:
Pri razvrščanju podatkov, ki lahko pomembno vpliva na posameznika ali poslovno odločitev, se zagotovi ustrezna stopnja preverjanja in nadzora.
AI se lahko uporablja za generiranje ali pomoč pri pripravi:
Pred javno ali komercialno uporabo se glede na naravo vsebine preverijo kakovost, ustreznost, točnost in morebitna tveganja glede pravic tretjih oseb.
AI se lahko uporablja kot pomoč pri:
AI-generirana koda se ne šteje avtomatično za varno, pravilno ali pripravljeno za produkcijsko uporabo.
Kadar je to glede na tveganje potrebno, mora biti pred uporabo ustrezno pregledana in testirana.
AI se lahko uporablja za avtomatizacijo ponavljajočih se in rutinskih aktivnosti.
To lahko vključuje:
Pri avtomatizaciji se določijo ustrezna pooblastila in omejitve.
Procesi z večjim tveganjem lahko zahtevajo človeško potrditev pred izvedbo posameznega dejanja.
AI se lahko uporablja za prepoznavanje:
Takšni rezultati predstavljajo signal oziroma podporno informacijo in ne nujno dokončnega zaključka.
AI se lahko uporablja za podporo poslovnemu in strokovnemu odločanju.
AI lahko:
AI lahko pomaga pri odločanju, vendar pri pomembnih odločitvah ne nadomešča odgovorne osebe.
AI se lahko uporablja pri komunikaciji z uporabniki oziroma kot podpora osebam, ki izvajajo komunikacijo.
AI lahko:
Kadar AI komunicira neposredno z uporabnikom, morajo biti njegove pristojnosti in dostopi omejeni glede na namen sistema.
AI agent lahko izvaja določena dejanja v povezanih sistemih, če ima za to izrecno določena pooblastila.
Takšna dejanja lahko vključujejo:
AI agent ne sme samovoljno širiti svojih pooblastil ali dostopati do sistemov in podatkov, za katere nima dovoljenja.
AI se lahko uporablja za:
Pri eksperimentalni uporabi se glede na tveganje uporabljajo testna okolja, omejeni podatki, anonimizirani podatki ali drugi ustrezni zaščitni ukrepi.
Ne glede na dovoljeno uporabo AI velja načelo, da AI sistem pridobi samo tiste podatke, funkcije in dostope, ki jih potrebuje za izvajanje konkretne naloge.
Dovoljenje za uporabo AI zato ne pomeni avtomatičnega dovoljenja za:
Takšna pooblastila se določijo posebej.
Go Online lahko posameznemu AI sistemu glede na namen in tveganje določi različno stopnjo samostojnosti.
AI lahko deluje kot:
Višja stopnja samostojnosti praviloma zahteva strožji nadzor, jasnejša pooblastila, ustrezno beleženje aktivnosti ter dodatne varnostne mehanizme.
Pri uporabi umetne inteligence Go Online uporablja naslednje osnovno načelo:
AI lahko opravlja nalogo, če je naloga dovoljena, podatki ustrezno zaščiteni, AI ima potrebna pooblastila in je raven nadzora sorazmerna s tveganjem.
Tehnična sposobnost AI sistema, da določeno dejanje izvede, sama po sebi ne pomeni, da je takšno dejanje dovoljeno.
Go Online spodbuja smiselno uporabo umetne inteligence pri procesih, kjer lahko ta poveča učinkovitost, kakovost, hitrost, dostopnost informacij ali sposobnost razvoja novih rešitev.
Dovoljena uporaba AI mora biti vedno povezana z jasnim namenom, ustreznimi pooblastili, varovanjem podatkov in stopnjo nadzora, ki ustreza potencialnim posledicam njegovega delovanja.
To poglavje določa omejitve samostojnega delovanja umetne inteligence v okviru Go Online.
Dejstvo, da je AI sistem tehnično sposoben izvesti določeno dejanje, ne pomeni, da je takšno dejanje dovoljeno.
AI mora vedno delovati znotraj:
Pri procesih, kjer lahko odločitev ali dejanje pomembno vpliva na posameznika, naročnika, finance, pogodbeno razmerje, podatke, varnost ali ugled, se zagotovi ustrezna raven človeškega nadzora.
AI brez ustreznega nadzora ne sme samostojno sprejemati pomembnih odločitev, ki imajo lahko bistvene pravne, finančne, poslovne ali druge posledice.
AI lahko pri takšnih odločitvah:
Končna odločitev mora biti sprejeta oziroma potrjena na način, ki ustreza tveganju in veljavnim pravilom.
AI brez ustreznega pooblastila ne sme:
AI lahko pomaga pri pripravi, analizi in administrativni obdelavi pogodbenih dokumentov.
Končno odobritev oziroma sklenitev pravnega posla mora izvesti ustrezno pooblaščena oseba, kadar je takšna odobritev potrebna.
AI brez ustreznega pooblastila ne sme naročniku samostojno:
AI lahko pripravi predlog ponudbe ali izračuna na podlagi vnaprej določenih pravil.
Kadar AI uporablja že odobren cenik ali druga jasno določena poslovna pravila, lahko avtomatizira posamezne korake v obsegu dodeljenih pooblastil.
AI brez ustreznih podatkov in pooblastila ne sme naročniku zagotavljati ali obljubljati:
AI lahko poda informativno oceno ali uporabi že potrjen rok, če je jasno razviden iz odobrenega sistema oziroma projektne dokumentacije.
AI brez posebej določenega pooblastila in ustreznih varnostnih mehanizmov ne sme samostojno:
Pri finančnih procesih se uporabljajo povečani varnostni ukrepi in ustrezna raven človeške potrditve.
AI ne sme neupravičeno:
AI agent ne sme samostojno širiti lastnih dostopnih pravic.
AI ne sme neupravičeno razkrivati:
Dostop AI do zaupnih informacij mora biti omejen na informacije, ki jih sistem potrebuje za dovoljen namen.
AI ne sme obdelovati osebnih podatkov brez ustreznega namena, pravne podlage oziroma drugega veljavnega temelja za obdelavo ter brez upoštevanja pravil varstva osebnih podatkov.
Posebej previdno se obravnavajo podatki, katerih neupravičeno razkritje ali uporaba bi lahko pomembno posegla v zasebnost posameznika.
AI ne sme pridobivati, povezovati, profilirati ali posredovati osebnih podatkov zgolj zato, ker je to tehnično mogoče.
AI-generiranih informacij ni dovoljeno zavestno predstavljati kot preverjena dejstva, kadar njihova pravilnost ni bila ustrezno ugotovljena.
AI ne sme biti uporabljen za ustvarjanje lažnih:
Go Online ne dovoljuje uporabe AI za ustvarjanje zavajajočega prikaza poslovne uspešnosti ali kredibilnosti.
AI lahko ustvari prepričljiv odgovor tudi takrat, ko so informacije napačne, nepopolne ali izmišljene.
Zato AI-generirane trditve pri pomembnih vsebinah ne smejo biti avtomatično predstavljene kot preverjena dejstva.
Posebna previdnost je potrebna pri:
AI brez ustreznega pooblastila ne sme ustvarjati vtisa, da je sprejel odločitev ali podal zavezujočo izjavo v imenu:
AI se lahko uporablja za pripravo komunikacije in, kjer je to posebej odobreno, tudi za avtomatizirano komunikacijo znotraj določenih pravil.
AI brez ustreznega pooblastila ne sme samostojno objavljati vsebin na:
če takšna možnost ni bila vnaprej odobrena.
Pri avtomatiziranem objavljanju se lahko določijo dovoljeni kanali, vrste vsebin, pravila, omejitve in postopki za zaustavitev sistema.
AI brez ustreznega pooblastila ne sme samostojno:
AI lahko takšne spremembe pripravi ali predlaga.
Izvedba mora biti skladna z določenim postopkom odobritve in stopnjo tveganja.
AI brez ustreznega pooblastila ne sme izvajati nepovratnih oziroma težko popravljivih dejanj, kot so:
Kjer je smiselno, se pred takšnimi dejanji uporabljajo varnostne kopije, dodatne potrditve ali drugi zaščitni mehanizmi.
AI sistem oziroma AI agent sme izvajati samo dejanja, za katera ima določeno pooblastilo.
AI ne sme:
Velja načelo:
AI LAHKO NAREDI SAMO TISTO, KAR MU JE DOVOLJENO – NE VSEGA, KAR JE TEHNIČNO SPOSOBEN NAREDITI.
AI sistema ni dovoljeno namerno konfigurirati ali uporabljati tako, da bi obšel zahtevano človeško odobritev, varnostno kontrolo ali drug določen nadzorni mehanizem.
Če proces zahteva potrditev odgovorne osebe, AI takšne potrditve ne sme nadomestiti, ponarediti ali obiti.
AI se ne sme uporabljati za:
Uporaba sintetičnega glasu, slike, videa ali digitalne podobe druge osebe mora biti skladna z njenimi pravicami, potrebnimi dovoljenji in veljavnimi pravili.
AI brez ustrezne pravne podlage, ocene tveganja in potrebnega človeškega nadzora ne sme samostojno sprejemati odločitev, ki bi lahko imele pomembne učinke na posameznika.
To je posebej pomembno pri procesih, povezanih z:
AI se lahko uporablja kot podporno orodje, kadar je takšna uporaba dovoljena in ustrezno nadzorovana.
Če AI sistem:
mora, kadar je to tehnično in organizacijsko predvideno, proces ustaviti, zahtevati dodatne informacije ali ga predati odgovorni osebi.
Osnovno načelo je:
KADAR AI NI DOVOLJ PREPRIČAN, JE PRAVILEN NASLEDNJI KORAK ESKALACIJA – NE UGIBANJE.
Go Online mora imeti pri pomembnejših AI agentih in avtomatizacijah možnost omejitve, deaktivacije ali zaustavitve sistema, kadar njegovo nadaljnje delovanje predstavlja nesprejemljivo tveganje.
Razlog za zaustavitev je lahko zlasti:
Po potrebi se pred ponovno aktivacijo izvede pregled sistema in odprava ugotovljenih težav.
Posamezno dejanje, ki ga AI po splošnih pravilih tega poglavja ne sme izvajati samostojno, je lahko dovoljeno, če je za konkretni proces vzpostavljen ustrezen sistem pooblastil, varnostnih kontrol, pravnih podlag in nadzora.
Takšna izjema mora biti sorazmerna s tveganjem.
Pri procesih z večjimi posledicami se lahko zahteva:
Go Online pri samostojnem delovanju AI uporablja načelo nadzorovane avtonomije.
Večja kot je potencialna posledica dejanja, večja mora biti raven:
POOBLASTILA → NADZORA → PREVERJANJA → SLEDLJIVOSTI → ODGOVORNOSTI.
AI je lahko visoko avtomatiziran pri jasno opredeljenih in nizko tveganih procesih.
Pri dejanjih, ki lahko pomembno vplivajo na ljudi, pogodbe, finance, podatke, varnost, infrastrukturo ali ugled, mora biti stopnja njegove samostojnosti ustrezno omejena.
Končna odgovornost za način uporabe AI ostaja pri ljudeh in organizacijah, ki določajo njegov namen, pooblastila in uporabo.
Go Online uporablja umetno inteligenco kot podporo ljudem, poslovnim procesom in avtomatizacijam, pri čemer mora biti stopnja človeškega nadzora prilagojena namenu, stopnji samostojnosti in potencialnim posledicam posameznega AI sistema.
Namen človeškega nadzora je predvsem:
Človeški nadzor mora biti dejanski in učinkovit ter ne zgolj formalna potrditev AI rezultata.
Pri pomembnih procesih Go Online uporablja naslednje osnovno načelo:
AI PREDLAGA → ČLOVEK PREVERI → ODGOVORNA OSEBA ODLOČI
AI lahko:
Kadar je zahtevana človeška odločitev, končno presojo oziroma odobritev izvede oseba, ki ima za to ustrezno pristojnost.
Go Online lahko pri pomembnih AI procesih uporablja pristop »Human-in-the-loop« (HITL), pri katerem je človek vključen v proces pred izvedbo pomembnega dejanja ali sprejetjem pomembne odločitve.
Primer procesa:
AI ANALIZIRA → AI PREDLAGA → ČLOVEK PREGLEDA → ČLOVEK POTRDI → SISTEM IZVEDE
Human-in-the-loop se uporablja predvsem tam, kjer bi napačen rezultat ali dejanje lahko povzročilo pomembne:
Pri določenih avtomatiziranih procesih lahko Go Online uporablja tudi pristop »Human-on-the-loop«.
V takšnem procesu AI oziroma avtomatiziran sistem izvaja vnaprej dovoljena dejanja samostojno, odgovorna oseba pa spremlja njegovo delovanje in lahko po potrebi poseže v proces.
Takšen način je lahko primeren predvsem za:
Vsako posamezno AI dejanje ne zahteva človeške potrditve.
AI lahko samostojno izvaja določene nizko tvegane aktivnosti, kadar:
S tem Go Online omogoča učinkovito avtomatizacijo, ne da bi človeški pregled postal nepotrebno ozko grlo vsakega procesa.
Človeški pregled oziroma odobritev je praviloma potrebna, kadar lahko AI rezultat ali dejanje pomembno vpliva na:
Človeški pregled se zahteva tudi, kadar ga določajo zakonodaja, pogodba, naročnik, interni proces ali posebna ocena tveganja.
Za kritične se štejejo predvsem odločitve, pri katerih bi napačna odločitev lahko povzročila večjo škodo ali pomemben vpliv na posameznika oziroma organizacijo.
AI pri takšnih odločitvah praviloma ne predstavlja končnega odločevalca.
AI lahko pripravi:
Končno odločitev sprejme ustrezno pooblaščena oseba.
Za pomembnejši AI proces se lahko določi odgovorna oseba oziroma lastnik procesa.
Odgovorna oseba je lahko glede na naravo procesa:
Odgovorna oseba mora imeti dovolj informacij in pristojnosti, da lahko rezultat AI ustrezno oceni in po potrebi zavrne, spremeni ali zaustavi njegovo uporabo.
Kadar je za posamezno odločitev zahtevana človeška odobritev, odgovornost za končno odločitev nosi oseba oziroma organizacija, ki je pristojna za njeno sprejetje v skladu z veljavno zakonodajo, pogodbo in notranjo organizacijo odgovornosti.
Uporaba AI priporočila sama po sebi ne prenese odgovornosti za odločitev na AI sistem.
Oseba, ki potrjuje pomembno odločitev, mora imeti dejansko možnost:
Stopnja preverjanja AI rezultata mora biti sorazmerna z njegovim namenom in tveganjem.
Preverjanje lahko vključuje:
Pri nizko tveganih kreativnih ali administrativnih nalogah je lahko obseg preverjanja manjši.
AI sistemi lahko ustvarijo rezultat, ki je videti prepričljiv, čeprav je:
Zato samozavesten način, na katerega AI poda odgovor, ne predstavlja dokaza o njegovi pravilnosti.
Pri pomembnih trditvah je treba uporabiti ustrezne načine preverjanja.
Oseba, ki pregleduje AI rezultat, mora ohraniti sposobnost neodvisne presoje.
AI priporočila ni dovoljeno nekritično potrjevati samo zato, ker ga je ustvaril napreden sistem ali ker AI rezultat vsebuje visoko oceno zaupanja.
Človeški nadzor mora omogočati dejansko možnost nestrinjanja z AI in izbire drugačnega ukrepa.
AI proces mora biti, kadar je glede na naravo sistema to potrebno, zasnovan tako, da lahko posamezno vprašanje ali odločitev preda človeku.
Eskalacija je posebej pomembna kadar:
Odgovorna oseba mora imeti pri pomembnejših AI sistemih možnost, da:
Pri pomembnejših AI agentih se lahko vzpostavi mehanizem za hitro oziroma izredno zaustavitev sistema.
Go Online lahko stopnjo človeškega nadzora prilagodi tveganju posameznega procesa.
NIZKO TVEGANJE
Primeri:
Dovoljena je visoka stopnja avtomatizacije.
SREDNJE TVEGANJE
Primeri:
Zahteva se ustrezno preverjanje, monitoring ali periodični človeški nadzor.
VISOKO TVEGANJE
Primeri:
Zahteva se okrepljen nadzor in, kadar je potrebno, človeška odobritev pred izvedbo.
Pri pomembnejših AI procesih lahko Go Online zagotavlja ustrezno sledljivost uporabe sistema.
Glede na tveganje se lahko beležijo:
Obseg beleženja mora biti sorazmeren namenu sistema ter skladen s pravili varstva podatkov in informacijske varnosti.
Pomembnejši AI sistemi in avtomatizacije se lahko periodično pregledujejo.
Pregled lahko vključuje:
Sistem, ki je bil ob uvedbi ocenjen kot ustrezno nadzorovan, se lahko ponovno oceni, če se njegov namen, zmogljivosti ali tveganja pomembno spremenijo.
Kadar Go Online razvija AI sistem za naročnika, se lahko odgovornost za posamezne ravni človeškega nadzora razdeli med Go Online in naročnika.
Go Online lahko zagotavlja:
Naročnik pa je lahko odgovoren za imenovanje oseb, ki izvajajo poslovne odločitve, potrditve ali nadzor sistema.
Natančna razdelitev odgovornosti se lahko določi v pogodbi, ponudbi, projektni dokumentaciji ali drugem pisnem dogovoru.
Go Online ne uporablja enake stopnje človeškega nadzora za vse AI procese.
Temeljno pravilo je:
VEČJE TVEGANJE → VEČ NADZORA
in
VEČJA AVTONOMIJA → VEČJA POTREBA PO OMEJITVAH, SLEDLJIVOSTI IN MOŽNOSTI POSREDOVANJA ČLOVEKA.
Namen tega načela je omogočiti učinkovito uporabo avtomatizacije pri rutinskih procesih in hkrati ohraniti ustrezen nadzor tam, kjer lahko AI pomembno vpliva na ljudi, podatke, finance, pogodbe, varnost ali poslovanje.
Človeški nadzor je eno temeljnih načel odgovorne uporabe umetne inteligence v Go Online.
AI lahko pomembno izboljša hitrost analize, kakovost priprave informacij in učinkovitost izvedbe procesov, vendar njegova uporaba ne sme povzročiti izgube nadzora nad pomembnimi poslovnimi ali drugimi odločitvami.
Osrednje načelo Go Online zato ostaja:
AI PREDLAGA → ČLOVEK PREVERI → ODGOVORNA OSEBA ODLOČI.
Kjer je tveganje nizko in so vzpostavljene ustrezne varovalke, lahko AI izvaja tudi avtomatizirane aktivnosti brez predhodne človeške potrditve.
Cilj človeškega nadzora ni omejevanje avtomatizacije, temveč zagotavljanje, da stopnja avtonomije AI nikoli ne preseže stopnje nadzora, ki jo zahteva tveganje posameznega procesa.
Go Online pri uporabi umetne inteligence posebno pozornost namenja varstvu osebnih podatkov, podatkov naročnikov, poslovnih skrivnosti in drugih zaupnih informacij.
Uporaba umetne inteligence ne zmanjšuje zahtev glede varstva podatkov.
Če AI sistem obdeluje osebne podatke, se takšna obdelava izvaja skladno z veljavno zakonodajo o varstvu osebnih podatkov, pogodbenimi obveznostmi, Politiko zasebnosti Go Online ter drugimi relevantnimi pravili.
Go Online pri uporabi AI upošteva zlasti načela:
Za osebne podatke se štejejo informacije, ki se nanašajo na določenega ali določljivega posameznika, v skladu z veljavno zakonodajo.
To lahko vključuje zlasti:
AI sme osebne podatke obdelovati samo, kadar za to obstajajo ustrezen namen, pravna podlaga oziroma drug veljaven temelj za obdelavo ter ustrezni zaščitni ukrepi.
Pred uporabo osebnih podatkov v AI sistemu mora biti razviden namen njihove obdelave.
Podatki se ne smejo uporabljati za drug, nezdružljiv namen zgolj zato, ker AI tehnologija omogoča njihovo dodatno analizo.
Pri presoji uporabe podatkov se upoštevajo zlasti:
Kadar AI sistem obdeluje osebne podatke, mora za obdelavo obstajati ustrezna pravna podlaga oziroma drug veljaven pravni temelj.
AI tehnologija sama po sebi ni pravna podlaga za obdelavo osebnih podatkov.
Pred uvedbo novega AI procesa se zato glede na okoliščine preveri:
Podatki, do katerih Go Online dostopa zaradi izvajanja projekta za naročnika, se uporabljajo samo v obsegu, potrebnem za izvajanje dogovorjene storitve oziroma drugega dovoljenega namena.
Takšni podatki lahko vključujejo:
Dostop do podatkov naročnika ne pomeni dovoljenja za njihovo uporabo za druge namene.
Go Online lahko glede na konkretni proces nastopa kot:
Vloga se določi glede na dejansko razmerje, namen obdelave in odločanje o sredstvih obdelave, ne zgolj glede na naziv, uporabljen v pogodbi.
Kadar Go Online obdeluje osebne podatke v imenu naročnika, se razmerje po potrebi dodatno uredi z ustreznim dogovorom o obdelavi osebnih podatkov.
AI se lahko poveže s CRM sistemi samo v obsegu, ki je potreben za določen in dovoljen namen.
AI sistemu se praviloma ne omogoči dostopa do celotne CRM baze, če za opravljanje naloge zadostuje dostop do omejenega nabora podatkov.
Pri povezovanju AI in CRM sistemov se lahko uporabljajo:
Velja načelo:
AI DOSTOPA SAMO DO PODATKOV, KI JIH POTREBUJE ZA DOLOČENO NALOGO.
Posebna pozornost se namenja informacijam, ki sicer niso nujno osebni podatki, vendar predstavljajo poslovno skrivnost ali drugo zaupno informacijo.
To lahko vključuje:
Takšnih informacij ni dovoljeno vnašati v neodobrena zunanja AI okolja.
Pri posebnih vrstah osebnih podatkov se uporablja povečana stopnja previdnosti.
To lahko vključuje podatke, za katere veljavna zakonodaja določa posebno varstvo.
Takšni podatki se v AI sisteme vključujejo samo, kadar:
Če namen AI procesa ne zahteva takšnih podatkov, se jih ne uporablja.
Pri obdelavi podatkov otrok ali drugih posebej ranljivih skupin se uporablja povečana stopnja previdnosti.
Pred uporabo takšnih podatkov v AI sistemih se preverijo namen, pravna podlaga, nujnost obdelave, potencialna tveganja ter potrebni dodatni zaščitni ukrepi.
Pred vnosom osebnih, zaupnih ali naročnikovih podatkov v zunanji AI sistem je treba preveriti, ali je takšna uporaba dovoljena.
Pri tem se lahko preverijo zlasti:
Brez ustreznega preverjanja ni dovoljeno domnevati, da je vsak javno dostopen AI sistem primeren za obdelavo poslovnih ali osebnih podatkov.
Go Online lahko določi seznam AI sistemov, ki so odobreni za posamezne vrste uporabe.
Sistem je lahko na primer odobren za:
Odobritev AI orodja za eno vrsto podatkov ne pomeni avtomatične odobritve za vse vrste podatkov.
Pri uporabi AI se uporablja načelo minimizacije podatkov.
AI sistemu se posreduje samo toliko podatkov, kolikor jih dejansko potrebuje za izvedbo naloge.
Če lahko AI nalogo izvede brez:
se takšni podatki praviloma odstranijo oziroma ne posredujejo.
Načelo je:
ČE AI PODATKA NE POTREBUJE, GA AI NE DOBI.
Kadar je mogoče namen doseči brez identifikacije posameznika, se lahko pred uporabo podatkov v AI sistemu uporabi anonimizacija.
Pri dejanski anonimizaciji mora biti posameznik na podlagi razumno razpoložljivih sredstev neidentificiran oziroma ne sme biti več določljiv.
Samo odstranitev imena sama po sebi ne pomeni nujno, da so podatki anonimizirani.
Kadar popolna anonimizacija ni mogoča ali primerna, se lahko uporabi psevdonimizacija.
Identifikacijski podatki se lahko nadomestijo z:
Informacije, ki omogočajo ponovno povezavo z določeno osebo, se hranijo ločeno in ustrezno zaščiteno.
Psevdonimizirani podatki se lahko še vedno štejejo za osebne podatke in se zato obravnavajo skladno z veljavnimi pravili varstva osebnih podatkov.
Podatki naročnikov, partnerjev, talentov ali drugih oseb se ne smejo avtomatično uporabljati za učenje, dodatno treniranje ali izboljševanje AI modelov zgolj zato, ker so bili uporabljeni pri izvajanju posamezne storitve.
Pred takšno uporabo je treba preveriti:
Enako velja za uporabo podatkov za izdelavo internih baz znanja, fine-tuning, evalvacijo modelov ali druge oblike razvoja AI sistemov, kadar takšna uporaba predstavlja nadaljnjo obdelavo podatkov.
Podatki, uporabljeni v AI sistemih, se ne hranijo dlje, kot je potrebno glede na namen obdelave, zakonske zahteve, pogodbeno razmerje oziroma drug veljaven razlog za hrambo.
Pri določanju obdobja hrambe se upoštevajo tudi:
Kadar podatki niso več potrebni, se jih skladno z veljavnimi pravili izbriše, anonimizira ali drugače ustrezno obravnava.
Prompt lahko vsebuje osebne podatke, poslovne skrivnosti ali druge zaupne informacije.
Zato se prompti in zgodovina komunikacije z AI obravnavajo glede na vsebino, ki jo vsebujejo, in ne zgolj kot tehnični podatki.
Če prompt vsebuje osebne podatke, se z njim ravna skladno s pravili, ki veljajo za takšne podatke.
Kadar AI uporablja interno bazo znanja ali sistem za pridobivanje informacij iz dokumentov, se dostop do vsebin omeji glede na namen in uporabniške pravice.
Posebej se preprečuje, da bi AI uporabniku razkril dokument ali informacijo, do katere uporabnik sicer nima pravice dostopa.
Pravice AI sistema ne smejo postati način za obhod običajnih pravil dostopa do podatkov.
Če uporaba AI sistema vključuje posredovanje ali dostop do osebnih podatkov izven Evropskega gospodarskega prostora oziroma drug mednarodni prenos, se preveri, ali so izpolnjeni pogoji veljavne zakonodaje za takšen prenos.
Glede na konkretni primer se lahko uporabljajo:
Lokacija ponudnika sama po sebi ni edini dejavnik; preveriti je treba tudi dejanske tokove podatkov in vključene ponudnike.
Kadar zunanji AI ponudnik obdeluje osebne podatke v imenu Go Online oziroma naročnika, se pred uporabo glede na okoliščine preverijo njegova vloga in potrebna pogodbena ureditev.
To lahko vključuje:
Go Online si prizadeva izbirati ponudnike, katerih pogoji in tehnični ukrepi so primerni glede na naravo podatkov in tveganje konkretnega procesa.
AI storitev lahko vključuje več ponudnikov infrastrukture, modelov, podatkovnih storitev ali drugih podobdelovalcev.
Kadar je to relevantno, se preveri:
Pri AI sistemih, ki obdelujejo osebne ali zaupne podatke, se glede na tveganje uporabljajo ustrezni tehnični in organizacijski ukrepi.
Ti lahko vključujejo:
Go Online si prizadeva varstvo osebnih podatkov vključiti že v načrtovanje AI sistemov in procesov.
Pri razvoju nove AI rešitve se zato že v fazi načrtovanja preverja:
Privzete nastavitve naj, kadar je mogoče, zagotavljajo obdelavo najmanjšega potrebnega obsega osebnih podatkov.
Pred uvedbo AI procesa, ki bi lahko predstavljal visoko tveganje za pravice in svoboščine posameznikov, se preveri potreba po izvedbi ocene učinka v zvezi z varstvom osebnih podatkov (DPIA) oziroma druge ustrezne ocene tveganja.
Pri oceni se lahko upoštevajo:
Uporaba AI ne zmanjšuje pravic posameznikov, ki jih zagotavlja veljavna zakonodaja o varstvu osebnih podatkov.
Go Online oziroma ustrezni upravljavec mora glede na konkretno razmerje omogočati uresničevanje relevantnih pravic posameznikov v skladu z veljavnimi predpisi.
AI sistem ne sme biti zasnovan tako, da bi neupravičeno onemogočal ali oteževal uveljavljanje teh pravic.
Če AI sistem izvaja profiliranje ali avtomatizirano odločanje, ki lahko pomembno vpliva na posameznika, se pred uporabo posebej preverijo:
AI se ne uporablja za pomembne avtomatizirane odločitve o posameznikih zgolj zato, ker tehnologija takšno odločanje omogoča.
Če pri uporabi AI pride do suma:
mora biti incident čim prej posredovan odgovorni osebi in obravnavan skladno z internimi postopki ter veljavno zakonodajo.
Po potrebi se:
Vsaka oseba, ki uporablja AI v okviru Go Online, je dolžna podatke uporabljati odgovorno in skladno z dodeljenimi pooblastili.
Uporabnik ne sme v AI sistem vnesti podatkov zgolj zato, ker mu jih tehnologija omogoča vnesti.
Pred uporabo osebnih, naročnikovih ali zaupnih podatkov mora presoditi, ali:
JE PODATEK POTREBEN → JE UPORABA DOVOLJENA → JE AI SISTEM ODOBREN → SO PODATKI USTREZNO ZAŠČITENI.
Če uporabnik glede tega ni prepričan, podatkov ne vnese, dokler ne pridobi ustreznega pojasnila oziroma odobritve.
Go Online pri uporabi umetne inteligence uporablja načelo:
NAJMANJ PODATKOV → JASEN NAMEN → USTREZEN AI SISTEM → OMEJEN DOSTOP → VARNA OBDELAVA → NADZOROVANA HRAMBA.
Umetna inteligenca ne predstavlja razloga za zmanjšanje standardov varstva podatkov.
Nasprotno – večja kot je sposobnost AI sistema za dostop, povezovanje, analiziranje ali samostojno uporabo podatkov, večja mora biti pozornost namenjena zakonitosti, minimizaciji, varnosti, nadzoru in odgovornosti.
Cilj Go Online je uporabljati AI na način, ki omogoča razvoj naprednih digitalnih rešitev in hkrati ohranja visoko raven varstva osebnih podatkov, podatkov naročnikov, poslovnih skrivnosti in drugih zaupnih informacij.
Go Online pri uporabi umetne inteligence posebno pozornost namenja varovanju zaupnih informacij, poslovnih skrivnosti, dostopnih podatkov, informacij naročnikov ter drugega poslovno občutljivega gradiva.
Namen tega poglavja je preprečiti, da bi bile zaupne informacije zaradi nepremišljene ali nepooblaščene uporabe AI:
Za zaupne informacije se za potrebe te politike štejejo informacije, ki niso namenjene javnosti in katerih razkritje bi lahko škodovalo Go Online, naročniku, partnerju, talentu ali drugi osebi oziroma organizaciji.
To lahko vključuje zlasti:
Informacija je lahko zaupna tudi, če ni izrecno označena z oznako »ZAUPNO«.
Zaupnih informacij ni dovoljeno vnašati, nalagati, kopirati ali drugače posredovati v AI sistem, če ni ugotovljeno, da je takšna uporaba ustrezno dovoljena in zaščitena.
Velja osnovno pravilo:
ČE NE VEŠ, ALI SME PODATEK V AI, GA NE VNAŠAJ, DOKLER NE PREVERIŠ.
Pri presoji se upoštevajo zlasti:
Gesel praviloma ni dovoljeno vnašati v generativne AI sisteme.
To vključuje zlasti gesla za:
Če AI agent potrebuje avtentikacijo za izvajanje dovoljenega procesa, se dostop uredi preko ustreznega sistema za upravljanje poverilnic, integracije ali drugega varnega mehanizma.
Geslo se AI modelu ne posreduje kot običajen del prompta.
API ključev, access tokenov, private keyev in drugih varnostnih poverilnic ni dovoljeno nekontrolirano posredovati AI modelom.
Pri AI agentih in avtomatizacijah se takšni podatki praviloma hranijo v:
AI agent lahko uporablja poverilnico za dovoljeno dejanje, ne da bi moral poznati oziroma razkrivati njeno dejansko vrednost.
Celotnih CRM baz oziroma njihovih večjih delov ni dovoljeno nekontrolirano nalagati v zunanje AI sisteme.
Če AI potrebuje CRM podatke, se mu praviloma omogoči:
Velja načelo:
AI NE POTREBUJE CELOTNE BAZE, ČE ZA NALOGO POTREBUJE PET PODATKOV.
Interni ceniki, nabavne cene, marže, provizije, posebni popusti in drugi nejavni komercialni pogoji se obravnavajo kot zaupne poslovne informacije, kadar niso namenjeni javnosti.
Takšne informacije se lahko uporabljajo v AI sistemih samo, kadar:
Pogodb in drugih pravnih dokumentov ni dovoljeno nekontrolirano nalagati v javna ali neodobrena AI okolja.
AI se lahko uporablja za:
če je uporabljeno okolje primerno za obdelavo takšnih informacij.
Posebej se preveri, ali pogodba vsebuje osebne podatke, poslovne skrivnosti ali druge posebej zaščitene informacije.
Informacije, ki predstavljajo poslovno skrivnost Go Online, naročnika ali druge osebe, se lahko vključijo v AI proces samo, kadar je takšna uporaba nujna, dovoljena in ustrezno zaščitena.
Posebna previdnost velja za:
Informacij naročnika ni dovoljeno uporabljati v AI sistemih zunaj dogovorjenega namena sodelovanja.
Podatek, ki ga naročnik posreduje Go Online za izvedbo projekta, s tem ne postane prosto uporabljiv za:
če za to ni ustrezne podlage oziroma dovoljenja.
Neobjavljene poslovne, prodajne, marketinške, finančne, razvojne in druge interne strategije se obravnavajo kot zaupne informacije.
AI se lahko uporablja pri njihovem razvoju in analizi, vendar samo v okolju, ki je primerno glede na občutljivost informacij.
Zaupne izvorne kode, konfiguracij, arhitekture sistemov in druge tehnične dokumentacije ni dovoljeno nekontrolirano posredovati zunanjim AI sistemom.
Pred uporabo AI pri programiranju se upoštevajo:
Pred posredovanjem kode se odstranijo gesla, API ključi in druge poverilnice, če niso tehnično nujne in ustrezno zaščitene.
Sistemski prompti, navodila agentov, baze znanja, konfiguracije, pravila avtomatizacij in drugi elementi AI rešitev lahko predstavljajo intelektualno lastnino, know-how ali poslovno skrivnost Go Online oziroma naročnika.
Takšnih informacij ni dovoljeno neupravičeno:
Pri sistemih, ki obdelujejo podatke več naročnikov, se mora preprečevati neupravičeno prehajanje informacij med posameznimi naročniki.
AI sistem za naročnika A ne sme uporabniku razkriti zaupnih informacij naročnika B.
Kadar je potrebno, se uporabljajo:
Pred uporabo zunanjega AI sistema za zaupne informacije se glede na tveganje preverijo zlasti:
Brezplačna ali javno dostopna različica AI orodja se ne šteje avtomatično za primerno okolje za zaupne poslovne informacije.
Go Online lahko določi različne stopnje AI okolij glede na dovoljeno uporabo.
Primer:
JAVNO AI OKOLJE
Samo javne oziroma nezaupne informacije.
INTERNO ODOBRENO AI OKOLJE
Določene interne informacije v skladu z dovoljenji.
ZAŠČITENO POSLOVNO AI OKOLJE
Dovoljena obdelava določenih poslovnih oziroma naročnikovih podatkov.
POSEBNO OMEJENO OKOLJE
Za posebej občutljive procese, kjer se uporabljajo dodatni varnostni ukrepi.
Dovoljene kategorije podatkov se lahko določijo za posamezno platformo oziroma projekt.
Tudi kadar je uporaba zaupne informacije v AI sistemu dovoljena, se uporabi najmanjši obseg informacij, potreben za izvedbo naloge.
Če je mogoče nalogo opraviti z:
se prednostno uporabi takšen pristop.
Pri razvoju, testiranju in eksperimentiranju z AI se, kadar je mogoče, uporabljajo:
Produkcijski podatki se v razvojna ali testna AI okolja ne prenašajo brez ustreznega razloga in zaščite.
AI sistem mora biti, kadar je to relevantno, zasnovan tako, da zmanjšuje možnost neupravičenega razkritja zaupnih informacij.
To lahko vključuje:
Dejstvo, da AI pozna določeno informacijo, ne pomeni, da jo sme razkriti vsakemu uporabniku.
Go Online upošteva možnost, da uporabnik, dokument, spletna stran ali drug vhod poskuša AI sistem pripraviti do tega, da razkrije informacije ali izvede dejanja zunaj svojih pooblastil.
AI agenti in drugi povezani sistemi morajo biti glede na tveganje zaščiteni pred:
AI navodilo ne sme imeti prednosti pred varnostnimi pravili in pravili dostopa.
Tudi rezultat, ki ga ustvari AI, lahko vsebuje zaupne informacije.
Pred posredovanjem AI rezultata tretji osebi je zato treba glede na okoliščine preveriti, ali rezultat vsebuje:
Zaposleni, partnerji, talenti, podizvajalci in druge osebe, ki uporabljajo AI v okviru Go Online, morajo spoštovati pravila zaupnosti ne glede na to, katero AI orodje uporabljajo.
Uporabnik je dolžan pred vnosom zaupne informacije preveriti, ali je njena uporaba v konkretnem AI okolju dovoljena.
Neznanje o načinu delovanja AI platforme samo po sebi ne predstavlja razloga za nekontrolirano posredovanje zaupnih informacij.
Če uporabnik ugotovi ali sumi, da je bila zaupna informacija pomotoma posredovana neustreznemu AI sistemu ali neupravičeni osebi, mora o tem čim prej obvestiti odgovorno osebo.
Glede na okoliščine se lahko izvedejo:
Če incident vključuje tudi osebne podatke, se dodatno uporabljajo pravila glede varstva osebnih podatkov in obravnave kršitev varnosti osebnih podatkov.
Ob prenehanju sodelovanja z zaposlenim, partnerjem, talentom, podizvajalcem ali drugim uporabnikom AI sistemov se po potrebi:
Obveznost varovanja zaupnih informacij lahko velja tudi po prenehanju sodelovanja, skladno s pogodbo in veljavnimi pravili.
Osnovno pravilo Go Online pri uporabi zaupnih informacij v AI je:
ZAUPNA INFORMACIJA → PREVERI NAMEN → PREVERI DOVOLJENJE → PREVERI AI OKOLJE → ZMANJŠAJ OBSEG PODATKOV → ŠELE NATO UPORABI AI.
AI ni avtomatično varno okolje samo zato, ker gre za poslovno ali tehnološko priznano platformo.
Pred uporabo zaupnih informacij morajo biti ustrezni namen, dostop, okolje in način obdelave.
Go Online želi umetno inteligenco uporabljati intenzivno in inovativno, vendar ne na račun zaupnosti naročnikov, varnosti sistemov ali zaščite lastnega in tujega poslovnega znanja.
Go Online pri svojem poslovanju, razvoju rešitev in izvajanju storitev uporablja oziroma lahko uporablja tehnologije zunanjih ponudnikov umetne inteligence.
To lahko vključuje:
Go Online nima popolnega nadzora nad infrastrukturo, modeli, poslovnimi odločitvami ali razpoložljivostjo takšnih tretjih ponudnikov.
Go Online lahko uporablja modele in storitve različnih ponudnikov umetne inteligence.
Izbira posameznega ponudnika je lahko odvisna od:
Go Online ni vezan na uporabo enega samega ponudnika ali modela.
Go Online lahko uporablja tehnologije OpenAI ter drugih ponudnikov AI rešitev.
Navedba posameznega ponudnika v dokumentaciji, projektu ali tehnični rešitvi ne pomeni, da bo isti ponudnik oziroma isti model nujno uporabljan ves čas življenjske dobe sistema.
Če pogodba z naročnikom ne določa drugače, lahko Go Online zaradi:
zamenja model oziroma ponudnika s primerljivo ali ustreznejšo rešitvijo.
Pri tem se upoštevajo dogovorjene zahteve glede varstva podatkov, zaupnosti, funkcionalnosti in varnosti.
AI funkcionalnosti so lahko vključene tudi v druge programske rešitve, ki jih uporablja Go Online.
AI je lahko sestavni del:
Pri uporabi takšnih rešitev veljajo pravila te politike tudi takrat, kadar AI funkcionalnost ni glavni namen platforme.
Go Online lahko AI modele uporablja preko API povezav.
API lahko omogoča:
Pri API integracijah se glede na tveganje uporabljajo ustrezni varnostni ukrepi, omejitve dostopa, upravljanje ključev, spremljanje porabe in drugi zaščitni mehanizmi.
API ključi in druge poverilnice predstavljajo varnostno občutljive informacije.
Zato se:
Kadar je mogoče, se posameznemu sistemu omogoči samo najmanjši potreben obseg pooblastil.
Zunanji AI ponudnik lahko pri zagotavljanju storitve uporablja druge ponudnike infrastrukture, gostovanja, varnosti, podatkovnih centrov ali drugih storitev.
Takšni ponudniki lahko v določenih okoliščinah nastopajo kot podizvajalci oziroma podobdelovalci.
Kadar se preko takšne infrastrukture obdelujejo osebni ali zaupni podatki, Go Online glede na naravo procesa preverja ustreznost pogodbenih, varnostnih in podatkovnih pogojev.
Uporaba zunanjega AI sistema lahko pomeni, da se določeni podatki tehnično posredujejo tretjemu ponudniku.
Pred takšno uporabo se glede na naravo podatkov preveri:
Zaupnih ali osebnih podatkov ni dovoljeno posredovati zunanjemu AI ponudniku samo zato, ker je njegova storitev tehnično dostopna.
Isti AI ponudnik lahko ponuja več različnih produktov oziroma paketov, ki imajo različne pogoje glede:
Zato se ustreznost AI storitve presoja glede na konkretni produkt, paket, konfiguracijo in namen uporabe, ne samo glede na ime ponudnika.
AI ponudniki lahko svoje modele spreminjajo, posodabljajo, nadgrajujejo ali ukinjajo.
Takšne spremembe lahko vplivajo na:
Go Online ne more zagotoviti, da bo zunanji AI model v prihodnosti deloval popolnoma enako kot ob začetku projekta.
Go Online lahko zaradi razvoja tehnologije preide na:
Pred pomembnejšo zamenjavo se lahko glede na tveganje izvede testiranje kakovosti, varnosti in združljivosti.
Ponudnik lahko posamezen:
preneha zagotavljati.
V takšnem primeru si Go Online prizadeva poiskati ustrezno alternativno rešitev, kadar je to tehnično in poslovno smiselno.
Migracija na drugo rešitev lahko zahteva dodatno:
Če ni drugače dogovorjeno, takšna dodatna dela niso avtomatično vključena v prvotni obseg projekta.
Zunanji AI ponudniki lahko zagotavljajo storitve z različnimi stopnjami razpoložljivosti.
Go Online ne more zagotoviti neprekinjene razpoložljivosti storitve, ki je odvisna od infrastrukture tretjega ponudnika.
Na razpoložljivost lahko vplivajo:
Ob izpadu zunanjega AI ponudnika lahko posamezna AI funkcija začasno:
Go Online lahko pri pomembnejših sistemih vzpostavi dodatne mehanizme za odpornost sistema, če je to del dogovorjene arhitekture.
Pri pomembnejših AI sistemih lahko Go Online uporabi več ponudnikov oziroma rezervni način delovanja.
Sistem lahko na primer ob nedostopnosti primarnega modela:
MODEL A → MODEL B → OMEJENA AVTOMATIZACIJA → ČLOVEŠKA ESKALACIJA
Takšna redundanca ni avtomatično vključena v vsak projekt.
Če naročnik zahteva povečano razpoložljivost, se lahko ustrezna redundanca, monitoring in SLA določijo posebej.
AI ponudniki lahko spremenijo:
Go Online nima nadzora nad takšnimi spremembami.
Če sprememba cen zunanjega ponudnika pomembno vpliva na stroške zagotavljanja storitve, se lahko skladno s pogodbo oziroma dogovorom ustrezno prilagodijo:
Zunanji ponudniki lahko določajo:
Takšne omejitve lahko vplivajo na delovanje AI rešitve.
Go Online lahko sistem prilagodi omejitvam ponudnika, vendar ne more zagotoviti, da jih ponudnik v prihodnosti ne bo spremenil.
Zunanji ponudniki lahko spreminjajo:
Go Online lahko zaradi takšne spremembe omeji uporabo ponudnika, spremeni konfiguracijo ali preide na drugo rešitev, če oceni, da obstoječa rešitev ni več primerna.
Za delovanje infrastrukture, modelov in storitev tretjega ponudnika odgovarja ta ponudnik v obsegu svojih pogodbenih obveznosti in veljavnega prava.
Go Online ne prevzema odgovornosti ponudnika za njegove:
razen v delu, za katerega Go Online odgovarja na podlagi lastnih obveznosti, ravnanja ali veljavnega prava.
Uporaba zunanjega ponudnika ne pomeni, da Go Online nima nobene odgovornosti.
Go Online je v okviru svojih obveznosti odgovoren za razumno presojo ponudnika in konfiguracijo sistema glede na:
Go Online ne more jamčiti za prihodnja dejanja neodvisnega ponudnika, lahko pa ustrezno reagira, ko je z njimi seznanjen.
Kadar naročnik zahteva uporabo določenega AI ponudnika, modela, računa ali infrastrukture, se lahko odgovornost za izbiro oziroma določena tveganja takšne rešitve ustrezno razdeli med naročnika in Go Online.
Če naročnik uporablja lastne licence oziroma račune, je lahko odgovoren tudi za:
Licence in naročnine zunanjih AI ponudnikov niso avtomatično vključene v ceno storitve Go Online, razen če je tako izrecno določeno v ponudbi, pogodbi ali paketu.
Stroške lahko glede na projekt krije:
Kadar je mogoče in smiselno, se lahko ključne zunanje storitve za naročnika vzpostavijo na računu oziroma organizaciji naročnika.
S tem se lahko naročniku omogoči večji nadzor nad:
Go Online lahko v takšnem okolju pridobi potrebne administrativne ali tehnične pravice za izvedbo projekta.
Pri načrtovanju pomembnejših AI sistemov si Go Online lahko prizadeva zmanjšati nepotrebno odvisnost od enega samega ponudnika.
To lahko vključuje:
Popolna neodvisnost od ponudnika ni vedno tehnično ali ekonomsko smiselna in zato ni avtomatično zagotovljena.
Pri pomembnejših AI sistemih lahko Go Online spremlja:
Obseg monitoringa je odvisen od projekta, pogodbe in izbranega paketa podpore.
Go Online lahko uporabo določenega AI ponudnika omeji ali prekine, če ugotovi pomembno tveganje, povezano z:
Kadar je to potrebno za delovanje naročnikovega sistema, se z naročnikom dogovori nadaljnji način izvedbe oziroma migracije.
AI trg se razvija hitro.
Model, ki je bil ob začetku projekta optimalna izbira, čez določeno obdobje morda ni več najbolj primeren.
Go Online zato ohranja možnost tehnološkega razvoja svojih rešitev in uporabe novejših oziroma primernejših tehnologij, kadar s tem ne krši dogovorjenih obveznosti do naročnika.
Če je AI del sistema, katerega nedelovanje bi lahko povzročilo pomembno poslovno škodo, se lahko z naročnikom posebej določijo:
Takšni ukrepi predstavljajo dodatno raven storitve in niso samodejno vključeni v vsako AI rešitev.
Go Online ne zagotavlja, da bo posamezna zunanja AI platforma:
Go Online lahko zagotavlja lastno strokovno izvedbo in upravljanje rešitev v dogovorjenem obsegu, ne more pa prevzeti popolnega nadzora nad neodvisnimi tehnološkimi ponudniki.
Pri pomembnejših AI rešitvah se lahko dokumentirajo ključne zunanje odvisnosti.
To lahko vključuje:
Takšna evidenca omogoča lažje upravljanje sistema ob spremembah ponudnika.
Go Online gradi AI rešitve z zavedanjem, da sodobni digitalni sistemi pogosto temeljijo na ekosistemu več neodvisnih ponudnikov.
Osnovno načelo je:
IZBERI USTREZNEGA PONUDNIKA → OMEJI DOSTOPE → ZAŠČITI PODATKE → SPREMLJAJ ODVISNOSTI → PREDVIDI SPREMEMBE → OMOGOČI MIGRACIJO, KJER JE SMISELNO.
Go Online prevzema odgovornost za svoje delo in odločitve v obsegu dogovorjenih ter zakonskih obveznosti, ne more pa zagotavljati ali nadzorovati prihodnjega ravnanja neodvisnih AI ponudnikov.
Cilj je graditi AI sisteme, ki niso samo funkcionalni danes, temveč jih je mogoče razumno prilagajati spremembam modelov, ponudnikov, cen, infrastrukture in tehnološkega razvoja.
Go Online uporablja in razvija AI agente ter avtomatizirane sisteme, ki lahko poleg analiziranja in ustvarjanja vsebin izvajajo tudi konkretna dejanja v digitalnih sistemih.
AI agent lahko predstavlja pomembno nadgradnjo klasičnega AI asistenta, saj lahko:
Ker lahko takšni sistemi neposredno vplivajo na podatke, komunikacijo, CRM, naročnike, poslovne procese ali tehnično infrastrukturo, se zanje uporabljajo povečane zahteve glede:
POOBLASTIL → DOSTOPOV → NADZORA → SLEDLJIVOSTI → VARNOSTI → MOŽNOSTI ZAUSTAVITVE.
Za potrebe te politike je AI agent sistem, ki uporablja umetno inteligenco za razumevanje cilja, obdelavo informacij ter izbiro ali izvajanje enega oziroma več dejanj.
AI agent lahko na primer:
AI agent lahko deluje samostojno ali v sodelovanju s človekom.
AI agent nima splošnega pooblastila za delovanje v imenu Go Online ali naročnika.
Vsak agent mora imeti določen:
Osnovno pravilo je:
AI AGENT SME IZVAJATI SAMO DEJANJA, ZA KATERA JE BIL POOBLAŠČEN.
Pred uvedbo pomembnejšega AI agenta mora biti mogoče jasno opredeliti, kaj je njegov namen.
Primeri:
PRODAJNI AGENT
→ kvalifikacija leadov
→ priprava povzetka
→ priprava predloga naslednjega koraka
→ posodobitev dovoljenih CRM polj
SUPPORT AGENT
→ analiza zahtevka
→ iskanje odgovora
→ priprava ali pošiljanje standardnega odgovora
→ eskalacija zahtevnejšega primera človeku
MARKETING AGENT
→ priprava vsebine
→ analiza rezultatov
→ priprava predlogov
→ sprožanje dovoljenih vsebinskih procesov
PROJECT AGENT
→ spremljanje nalog
→ priprava povzetkov
→ ustvarjanje opravil
→ opozarjanje na zamude
DATA AGENT
→ analiza podatkov
→ priprava poročil
→ zaznavanje odstopanj
→ opozarjanje odgovorne osebe
Agent ne sme samovoljno širiti svojega namena.
Vsak AI agent mora imeti samo tista pooblastila, ki jih potrebuje za izvajanje svojega namena.
Pooblastila se lahko določijo glede na:
Velja načelo najmanjšega potrebnega pooblastila:
NAJMANJŠE POOBLASTILO, KI ŠE OMOGOČA IZVEDBO NALOGE.
Kadar je mogoče, se ločuje med pravico AI agenta do:
READ
branja oziroma pridobivanja informacij,
in
WRITE / ACTION
spreminjanja podatkov oziroma izvajanja dejanj.
Agent, ki mora samo analizirati CRM, praviloma ne potrebuje pravice do brisanja kontaktov.
Agent, ki pripravlja e-pošto, ne potrebuje avtomatično tudi pravice do njenega pošiljanja.
Agent, ki analizira finančne podatke, ne potrebuje pravice do izvajanja plačil.
Dostopi AI agentov morajo biti omejeni glede na njihov namen.
Agent lahko dobi dostop samo do:
Dostop do sistema ne pomeni avtomatičnega dovoljenja za uporabo vseh podatkov ali funkcij tega sistema.
Pri sistemih, ki vključujejo več naročnikov, se dostopi agentov ustrezno ločujejo.
AI agent naročnika A ne sme zaradi napačne konfiguracije pridobiti dostopa do podatkov naročnika B.
Kjer je potrebno, se uporabljajo:
AI agent se lahko uporablja za delo s CRM sistemi.
Dovoljena dejanja lahko vključujejo:
Posebej občutljiva dejanja se lahko omejijo.
To lahko vključuje:
AI agent se lahko uporablja pri elektronski komunikaciji.
Stopnje pooblastila se lahko določijo na primer kot:
STOPNJA 1 – READ
AI lahko bere dovoljeno komunikacijo in pripravlja povzetke.
STOPNJA 2 – DRAFT
AI lahko pripravi osnutek odgovora.
STOPNJA 3 – APPROVAL REQUIRED
AI pripravi sporočilo, človek ga potrdi pred pošiljanjem.
STOPNJA 4 – AUTO SEND
AI lahko samostojno pošilja vnaprej dovoljene vrste sporočil.
Samodejno pošiljanje se uporablja samo v obsegu, ki je bil posebej odobren.
AI agent lahko samostojno pošilja standardizirana oziroma nizko tvegana sporočila, kadar so določeni:
Za pomembna komercialna, pravna, konfliktna ali druga občutljiva sporočila se lahko zahteva človeška potrditev.
AI agent se lahko povezuje z avtomatizacijskimi sistemi in sproža določene procese.
Primer:
NOV LEAD → AI ANALIZA → KVALIFIKACIJA → CRM → NALOGA → E-POŠTA → FOLLOW-UP
ali:
SUPPORT ZAHTEVEK → AI KLASIFIKACIJA → BAZA ZNANJA → ODGOVOR → CRM → ESKALACIJA
AI lahko določi naslednji korak samo znotraj pravil in pooblastil konkretnega procesa.
AI agenti lahko uporabljajo API povezave za komunikacijo z drugimi sistemi.
API dostopi morajo biti glede na tveganje:
Kjer ponudnik omogoča granularna pooblastila, se agentu dodelijo samo potrebne funkcije.
AI agent lahko uporablja različna orodja oziroma funkcije.
Primeri:
Vsako dodatno orodje povečuje sposobnosti agenta in lahko povečuje tudi tveganje.
Zato se dostopi določajo namensko.
Pri pomembnih dejanjih se lahko zahteva človeška potrditev pred izvedbo.
Primer:
AI PRIPRAVI → ČLOVEK PREGLEDA → ČLOVEK POTRDI → AGENT IZVEDE
Human approval je posebej pomemben pri:
Go Online lahko AI agentom določi različne stopnje avtonomije.
AI samo spremlja in analizira.
Ne izvaja dejanj.
AI pripravi predlog dejanja.
Človek ga izvede.
AI pripravi dejanje oziroma spremembo.
Človek jo potrdi pred izvedbo.
AI samostojno izvaja vnaprej dovoljena dejanja znotraj določenih omejitev.
AI samostojno izvaja več zaporednih dejanj znotraj jasno določenega procesa, pravil, dostopov in varnostnih omejitev.
Višja stopnja avtonomije zahteva ustrezno višjo raven nadzora in varnostnih mehanizmov.
Če AI agent sodeluje v procesu, ki lahko povzroči finančno obveznost, se lahko določijo:
AI agent brez posebej določenega pooblastila ne sme izvajati plačil.
Za preprečevanje množičnih napak se lahko določijo omejitve, kot so:
S tem se lahko omeji obseg škode v primeru nepravilnega delovanja agenta.
Pri pomembnejših AI agentih se glede na tveganje zagotavlja ustrezno beleženje aktivnosti.
Log lahko vsebuje:
Namen beleženja je omogočiti:
Logging mora biti sorazmeren tveganju in ne sme povzročiti nepotrebnega zbiranja občutljivih podatkov.
V log se ne vključujejo gesla, API ključi ali druge poverilnice, razen če je to tehnično nujno in ustrezno zaščiteno.
Pomembnejši AI agenti se lahko aktivno spremljajo.
Monitoring lahko vključuje:
AI agent ne sme avtomatično zaupati vsakemu podatku ali navodilu, ki ga prejme.
Vhod lahko izvira iz:
Takšni vhodi lahko vsebujejo napačne, manipulativne ali zlonamerne informacije.
Agent mora zato delovati znotraj lastnih varnostnih pravil ne glede na vsebino zunanjega navodila.
AI agenti, ki dostopajo do zunanjih informacij, morajo upoštevati tveganje prompt injection napadov.
Zlonamerno navodilo v:
ne sme samodejno pridobiti enake veljave kot sistemska navodila oziroma dovoljenja agenta.
Posebej se preprečuje, da bi takšno navodilo povzročilo:
AI agent brez posebej vzpostavljenega nadzornega mehanizma ne sme:
Spremembo pooblastil mora odobriti ustrezno pooblaščena oseba oziroma nadzorni sistem.
Pri pomembnejših AI agentih mora biti glede na tveganje omogočena hitra zaustavitev njihovega delovanja.
Kill switch lahko pomeni:
Namen kill switch mehanizma je preprečiti nadaljevanje škodljivega ali nepričakovanega delovanja.
Pri določenih sistemih se lahko določijo tudi avtomatski pogoji za zaustavitev.
Primeri:
Sistem lahko v takšnem primeru:
USTAVI DEJANJE → BLOKIRA AGENTA → OBVESTI ODGOVORNO OSEBO → ZAHTEVA PREGLED.
Za incident AI agenta se lahko šteje zlasti:
Ob pomembnem incidentu se lahko glede na okoliščine izvede:
Pomembnejši AI agent se po varnostnem incidentu ne aktivira ponovno, dokler ni glede na okoliščine ustrezno preverjeno:
Pomembnejši AI agent se pred polno produkcijsko uporabo praviloma testira v omejenem oziroma kontroliranem okolju.
Kadar je mogoče, se uporabljajo:
Prehod v produkcijsko okolje se izvede, ko je stopnja tveganja ocenjena kot sprejemljiva.
Go Online lahko AI agente uvaja postopoma.
Primer:
TEST → PILOT → OMEJENA PRODUKCIJA → MONITORING → ŠIRITEV
S tem se zmanjšuje možnost, da bi napaka v novem sistemu takoj vplivala na celotno poslovanje.
Pomembna sprememba:
lahko zahteva ponovno testiranje oziroma oceno tveganja.
Agent, ki po spremembi pridobi nove sposobnosti, se ne šteje avtomatično za enako tvegan sistem kot pred spremembo.
Za pomembnejšega AI agenta se lahko določi odgovorna oseba oziroma AI Agent Owner.
Ta je glede na organizacijo odgovoren za:
Tehnični skrbnik in poslovni lastnik procesa sta lahko različni osebi.
Kadar Go Online razvije AI agenta za naročnika, se lahko v projektni dokumentaciji določi:
Po predaji sistema lahko določene odgovornosti za uporabo, uporabnike, dostope in poslovne odločitve preidejo na naročnika, skladno s pogodbo in dejanskim upravljanjem sistema.
Za pomembnejše AI agente lahko Go Online vodi kratek interni ali projektni dokument AI AGENT CARD.
Ta lahko vsebuje:
IME AGENTA
NAMEN
LASTNIK
MODEL / PONUDNIK
DOSTOPI
ORODJA
DOVOLJENA DEJANJA
PREPOVEDANA DEJANJA
STOPNJA AVTONOMIJE
HUMAN APPROVAL
LOGGING
OMEJITVE
KILL SWITCH
POSTOPEK OB INCIDENTU
AI Agent Card omogoča, da je za vsak pomembnejši sistem hitro razvidno:
KAJ SME → ČESA NE SME → DO ČESA DOSTOPA → KDO GA NADZORUJE → KAKO GA USTAVIMO.
AI agenti predstavljajo pomemben del prihodnjega načina avtomatizacije poslovnih procesov Go Online.
Njihov cilj ni samo ustvarjanje informacij, temveč varno in učinkovito izvajanje konkretnih nalog.
Z večjo sposobnostjo delovanja pa raste tudi potreba po nadzoru.
Go Online zato uporablja temeljno načelo:
VEČ DOSTOPA + VEČ AVTONOMIJE + VEČJI VPLIV = VEČ NADZORA.
Vsak pomembnejši AI agent mora imeti jasno določen:
NAMEN → POOBLASTILA → DOSTOPE → OMEJITVE → NADZOR → LOGGING → HUMAN APPROVAL → KILL SWITCH.
AI agent ne sme postati nenadzorovana digitalna identiteta z neomejenim dostopom do poslovnih sistemov.
Cilj Go Online je graditi agente, ki so dovolj avtonomni, da ustvarjajo dejansko poslovno vrednost, in hkrati dovolj omejeni, sledljivi in nadzorovani, da njihovo delovanje ostaja obvladljivo.
To poglavje določa pravila uporabe umetne inteligence pri projektih in storitvah, ki jih Go Online izvaja za naročnike.
AI se lahko uporablja kot podporno ali izvajalsko orodje pri:
Uporaba AI ne spreminja osnovnega pogodbenega razmerja med Go Online in naročnikom.
Go Online lahko AI uporablja, kadar oceni, da njegova uporaba:
AI se lahko uporablja v notranjem delu izvedbe projekta tudi takrat, ko ni neposredno viden naročniku, če je takšna uporaba skladna s pogodbenimi, varnostnimi in drugimi obveznostmi.
V določenih projektih je AI lahko neposreden del končne rešitve.
To lahko vključuje:
Kadar je AI pomemben del končne rešitve, se lahko njegove funkcije, omejitve, dostopi in način uporabe dodatno opredelijo v projektni dokumentaciji.
Go Online naročnika obvesti o uporabi AI, kadar je to glede na naravo projekta, pogodbo, zakonodajo ali potencialni vpliv smiselno oziroma potrebno.
Stopnja obveščanja je lahko različna glede na vrsto uporabe.
Ni nujno, da je vsaka interna uporaba AI pri pripravi osnutka ali raziskavi posebej izpostavljena naročniku, če ne vpliva bistveno na pravice, varnost, podatke ali dogovorjeni rezultat.
Bolj pomembna oziroma neposredna uporaba AI pa se lahko naročniku posebej predstavi.
Kadar AI:
Go Online lahko naročniku zagotovi ustrezne informacije o naravi in vlogi AI sistema.
Go Online lahko pri pripravi naročnikovih vsebin uporablja AI.
To lahko vključuje:
AI-generirana vsebina se lahko pred uporabo ustrezno pregleda, prilagodi in dopolni glede na namen projekta.
Kadar naročnik po pogodbi ali procesu potrjuje določene vsebine, je njegova odobritev del projektnega procesa ne glede na to, ali je bila vsebina pripravljena s pomočjo AI ali brez njega.
Po potrditvi vsebine s strani naročnika se šteje, da je naročnik potrdil njeno uporabo v dogovorjenem obsegu.
Naročnik je odgovoren za to, da ima pravico Go Online posredovati podatke, dokumentacijo, vsebine in druge materiale, ki jih posreduje za izvedbo projekta.
Naročnik mora Go Online opozoriti, če posamezni podatki:
Go Online takšne informacije obravnava skladno z dogovorjenimi pravili in veljavnimi obveznostmi.
Podatki naročnika se v AI sistemih uporabljajo samo v obsegu, potrebnem za izvajanje dovoljenega namena.
Brez ustrezne podlage se jih ne uporablja za:
Naročnik lahko pred začetkom projekta Go Online pisno opozori na posebne zahteve glede AI.
To lahko vključuje:
Takšne zahteve lahko vplivajo na:
Če naročnik po predaji samostojno uporablja AI sistem, je odgovoren za njegovo uporabo v okviru svojih dostopov, nastavitev in poslovnih procesov.
To vključuje zlasti:
Če naročnik ali tretja oseba po predaji spremeni:
Go Online ne odgovarja za posledice takšne spremembe, razen če je drugače dogovorjeno ali če odgovornost izhaja iz veljavnega prava.
Naročnik razume, da AI sistemi niso nezmotljivi.
AI rezultat je lahko:
Go Online zato pri pomembnih procesih uporablja ustrezno preverjanje in nadzor, vendar popolne brezhibnosti AI rezultatov ni mogoče zagotoviti.
AI-generiran rezultat sam po sebi ne predstavlja:
razen če je rezultat ustrezno pregledala oziroma potrdila za to usposobljena oseba in je tako tudi predstavljen.
Uporaba umetne inteligence ne pomeni jamstva za dosego določenega poslovnega rezultata.
Go Online ne zagotavlja, da bo uporaba AI sama po sebi povzročila:
AI je orodje, ki lahko izboljša proces, ne pa zagotovilo izida.
Kakovost AI rezultata je pogosto odvisna od kakovosti vhodnih podatkov.
Če so vhodni podatki:
lahko to pomembno vpliva na kakovost končnega rezultata.
Naročnik je odgovoren za pravilnost podatkov, ki jih sam zagotovi, razen če je njihovo preverjanje izrecno del storitve Go Online.
AI rešitev lahko uporablja zunanje modele, API-je ali platforme.
Njihove:
lahko vplivajo na rešitev naročnika.
Takšna tveganja se obravnavajo skladno s poglavjem o AI ponudnikih in zunanjih platformah.
Pri pomembnih procesih se lahko določi, da mora naročnik pred izvedbo posameznega dejanja podati človeško potrditev.
To je lahko pomembno pri:
Če izvedba projekta zahteva odobritev naročnika, rok izvedbe lahko zavisi tudi od pravočasnosti njegovega odziva.
Go Online ne odgovarja za zamudo, ki je neposredna posledica:
AI sistemi se lahko po predaji spreminjajo zaradi:
Go Online lahko takšne spremembe v okviru vzdrževanja oziroma dodatnega dogovora ustrezno prilagodi.
AI rešitev ni nujno enkratni tehnični produkt.
Lahko zahteva:
Takšne aktivnosti se lahko izvajajo v okviru posebnega vzdrževalnega paketa ali po dodatnem dogovoru.
Go Online odgovarja za svoje delo v okviru dogovorjenega obsega, strokovnih standardov, pogodbe in veljavnega prava.
Go Online ne odgovarja avtomatično za:
Uspešna uvedba AI pogosto zahteva sodelovanje obeh strani.
Go Online je lahko odgovoren za:
Naročnik pa je lahko odgovoren za:
Pri kompleksnejših AI projektih se lahko pripravi dodatna dokumentacija, ki določa:
Nove ali eksperimentalne AI rešitve se lahko z naročnikom najprej izvajajo kot pilot.
Tipičen proces:
IDEJA → HIPOTEZA → PILOT → TEST → ODLOČITEV
Pilot omogoča preverjanje:
pred širšo uvedbo sistema.
Go Online lahko zavrne izvedbo ali uporabo AI rešitve, če oceni, da bi bila zahteva:
Takšna odločitev se lahko naročniku ustrezno pojasni.
Go Online uporablja umetno inteligenco pri naročniških projektih kot orodje za izboljšanje kakovosti, hitrosti, analitike, avtomatizacije in razvoja digitalnih rešitev.
Pri tem velja:
AI JE ORODJE → GO ONLINE JE IZVAJALEC → NAROČNIK JE PARTNER V PROCESU → POSLOVNI REZULTAT NI AVTOMATIČNO ZAGOTOVLJEN.
Pomembni AI sistemi se zato razvijajo in uporabljajo z jasno določenimi:
NAMENOM → PODATKI → ODGOVORNOSTMI → ODOBRITVAMI → OMEJITVAMI → NADZOROM.
Cilj ni naročniku prodati »AI kot čudežno rešitev«, temveč zgraditi sistem, pri katerem je jasno, kaj AI dela, kdo ga nadzoruje, katere podatke uporablja in kakšne so realne omejitve njegovega delovanja.
Go Online lahko umetno inteligenco uporablja za ustvarjanje, urejanje, prilagajanje ali dopolnjevanje različnih vrst vsebin.
To lahko vključuje:
AI-generirana vsebina se ne šteje avtomatično za pravilno, pravno neproblematično ali primerno za objavo samo zato, ker jo je ustvaril AI sistem.
AI se lahko uporablja za pripravo:
Pred pomembnejšo objavo se glede na namen preverijo predvsem:
AI se lahko uporablja za:
Pred uporabo se lahko preveri:
AI se lahko uporablja pri:
Posebna previdnost velja pri realističnih prikazih oseb, dogodkov ali izjav, ki bi jih uporabnik lahko razumel kot avtentične.
AI se lahko uporablja za:
Uporaba glasu določljive resnične osebe mora upoštevati ustrezna dovoljenja, pravice in okoliščine uporabe.
AI se ne sme uporabljati za neupravičeno lažno predstavljanje druge osebe.
AI se lahko uporablja za:
AI-generirana koda se ne šteje avtomatično za:
Pri pomembnejših sistemih se zato uporablja ustrezen tehnični pregled in testiranje.
Stopnja preverjanja AI-generirane vsebine je odvisna od tveganja.
Nizko tvegana vsebina lahko zahteva le osnovni pregled.
Višje tvegana vsebina lahko zahteva:
Velja načelo:
VIŠJE TVEGANJE → VEČ PREVERJANJA.
AI lahko ustvarja verjetne, vendar napačne informacije.
Posebej se preverjajo:
Če AI navede vir, to še ne pomeni, da vir dejansko obstaja ali podpira navedeno trditev.
Pred objavo pomembne AI-generirane vsebine se lahko preveri:
Pri AI-generirani vsebini se upošteva, da pravni status posamezne vsebine ni vedno enak kot pri klasično ustvarjenem avtorskem delu.
Možnost pravnega varstva je lahko odvisna od:
Go Online zato ne zagotavlja avtomatično, da je vsaka AI-generirana vsebina predmet izključne avtorske pravice.
Kadar je pomembna možnost pravnega varstva vsebine, je priporočljivo, da je prisoten dejanski človeški ustvarjalni prispevek.
Ta lahko vključuje:
Samo enostaven ukaz AI sistemu ne pomeni nujno enakega pravnega položaja kot tradicionalno avtorsko ustvarjanje.
AI-generirana vsebina lahko v določenih primerih vsebuje elemente, ki so podobni obstoječim:
Zato se pri pomembni komercialni uporabi lahko preveri morebitno poseganje v pravice tretjih oseb.
AI se ne uporablja za neupravičeno ustvarjanje ali uporabo:
na način, ki bi lahko zavajal glede povezave, partnerstva, odobritve ali izvora.
Uporaba AI-generirane vsebine je lahko odvisna od pogojev ponudnika AI sistema.
Pred pomembnejšo komercialno uporabo se glede na okoliščine preverijo:
Če AI uporablja obstoječe materiale kot vhod, mora biti njihova uporaba dovoljena.
To lahko vključuje:
AI ne ustvari dodatnih pravic do vsebine, ki jih uporabnik predhodno ni imel.
Pri AI-generirani kodi se lahko preveri, ali vsebuje elemente, ki bi lahko bili povezani z obstoječimi licencami.
Pri pomembnejših komercialnih projektih se lahko glede na tveganje uporabi:
AI-generirana vsebina se označi kot takšna, kadar to zahtevajo:
Označevanje ni nujno potrebno za vsako interno ali podporno uporabo AI.
Posebna previdnost velja pri sintetičnih vsebinah, ki ustvarjajo realističen vtis resničnega:
Takšna vsebina mora biti uporabljena na način, ki ne ustvarja neupravičeno zavajajočega vtisa.
Go Online ne uporablja AI za zavajajoče prikazovanje resnične osebe, kot da je:
če za tak prikaz ni ustrezne podlage.
Kadar se sintetična vsebina uporablja zakonito in legitimno, se lahko uporabi ustrezna oznaka oziroma pojasnilo.
AI se ne sme uporabljati za ustvarjanje lažnih:
ki bi bili predstavljeni kot resnični.
AI lahko pomaga urediti ali strukturirati resnično pričevanje, ne sme pa ustvariti lažnega dejstva.
AI se ne sme uporabljati za izmišljanje:
Vsaka številčna trditev, predstavljena kot dejanska, mora imeti ustrezno podlago.
Pri uporabi AI za naročnika se vsebina prilagodi njegovemu:
AI ne sme samovoljno spreminjati identitete blagovne znamke brez ustrezne odobritve.
Kadar je po projektnem procesu zahtevana odobritev naročnika, se AI-generirana vsebina obravnava enako kot druga projektna vsebina.
Naročnik lahko:
Pri AI-generirani oglaševalski vsebini se posebej preverja:
AI ne sme biti razlog za objavo vsebine, ki bi bila sicer nedopustna.
Pri vsebinah z večjim pravnim ali strokovnim tveganjem se uporablja povečana stopnja človeškega pregleda.
To lahko vključuje področja, kot so:
Pri pomembnejših projektih se lahko zaradi sledljivosti hranijo:
Obseg hrambe je odvisen od projekta, sistema in pogodbenih pravil.
Go Online AI uporablja kot ustvarjalno in tehnično orodje.
Končni rezultat lahko vključuje kombinacijo:
ČLOVEŠKE IDEJE + AI GENERIRANJA + ČLOVEŠKEGA UREJANJA + PREVERJANJA + ODOBRITVE.
Dejanski proces se lahko razlikuje glede na vrsto projekta.
Oseba, ki AI-generirano vsebino objavi, uporabi ali odobri, mora v okviru svojih odgovornosti upoštevati namen, tveganje in morebitne omejitve vsebine.
AI sistem sam po sebi ne nosi odgovornosti za odločitev o objavi.
Go Online umetno inteligenco uporablja kot zmogljivo ustvarjalno in tehnično orodje, vendar AI-generirane vsebine ne obravnava avtomatično kot končni, preverjen ali pravno varen rezultat.
Osnovno načelo je:
AI USTVARI → ČLOVEK PREVERI → PO POTREBI PRILAGODI → PREVERI PRAVICE → ODOBRI → OBJAVI.
Pri uporabi AI-generirane vsebine se upoštevajo:
TOČNOST → KAKOVOST → AVTORSKE PRAVICE → LICENCE → PRAVICE TRETJIH OSEB → TRANSPARENTNOST → NAMEN UPORABE.
Cilj Go Online ni zgolj hitro generiranje vsebine, temveč ustvarjanje vsebine, ki je uporabna, preverjena, kakovostna in primerna za dejansko poslovno uporabo.
Uporaba umetne inteligence lahko vključuje več različnih plasti intelektualne lastnine.
Pri posameznem AI projektu je zato treba razlikovati med:
Uporaba AI sama po sebi ne spreminja avtomatično lastništva teh elementov.
Pri AI projektih Go Online velja osnovno razlikovanje:
NAROČNIKOVA VSEBINA OSTANE NAROČNIKOVA.
GO ONLINE KNOW-HOW OSTANE GO ONLINE KNOW-HOW.
PRAVICE NA KONČNEM REZULTATU SE DOLOČIJO GLEDE NA POGODBO, VRSTO REZULTATA IN VELJAVNO PRAVO.
Naročnik ohrani pravice na svojih predhodno obstoječih materialih, ki jih posreduje Go Online.
To lahko vključuje:
Posredovanje takšnih materialov Go Online ne pomeni prenosa njihovega lastništva, razen če je izrecno dogovorjeno drugače.
Naročnik je odgovoren, da ima ustrezne pravice oziroma dovoljenja za materiale, ki jih posreduje Go Online za uporabo v projektu.
To velja tudi, kadar se ti materiali uporabljajo kot:
Go Online ohrani vse pravice na svoji intelektualni lastnini, ki je obstajala pred konkretnim projektom ali je bila razvita neodvisno od njega.
To lahko vključuje:
Go Online know-how vključuje praktično in tehnično znanje, pridobljeno z razvojem ter izvajanjem projektov.
To lahko vključuje zlasti:
Tak know-how praviloma ne postane izključna last naročnika samo zato, ker je bil uporabljen pri izvedbi njegovega projekta.
Prompt je lahko:
Pravni položaj prompta je odvisen od njegove vsebine, izvirnosti, namena in drugih okoliščin.
Ne glede na obstoj avtorske zaščite lahko prompt predstavlja:
Sistemski prompti lahko predstavljajo ključno komponento AI sistema.
Ti lahko določajo:
Sistemski prompt, ki ga razvije Go Online kot del svoje standardne metodologije ali tehnologije, praviloma ostane del Go Online know-howa, razen če je izrecno dogovorjeno drugače.
Zbirke:
lahko predstavljajo interno knjižnico Go Online.
Naročnik z izvedbo posameznega projekta praviloma ne pridobi pravice do celotne interne knjižnice Go Online.
AI agent je lahko sestavljen iz več elementov, kot so:
Pravice na posameznih komponentah agenta se lahko razlikujejo.
Zato se AI agent ne obravnava nujno kot ena sama nedeljiva intelektualna lastnina.
Če Go Online razvije splošno uporabljiv AI agent ali agentno infrastrukturo, ki jo uporablja pri več projektih, takšna rešitev praviloma predstavlja Go Online tehnologijo oziroma know-how.
Naročniku se lahko zagotovi:
ne da bi se s tem prenesla celotna arhitektura oziroma vse pravice na standardni rešitvi.
Kadar Go Online razvije AI agenta posebej za naročnika, se lahko s pogodbo določi:
Custom rešitev ne pomeni avtomatično, da naročnik pridobi vse pravice na vsaki uporabljeni komponenti.
Pri rešitvah tipa Custom GPT, custom agent, assistant ali podobnih platformskih konfiguracijah je treba razlikovati med:
Go Online lahko razvije konfiguracijo in poslovno logiko rešitve, medtem ko sama platforma oziroma osnovni model ostaja last oziroma tehnologija tretjega ponudnika.
Workflow oziroma poslovni tok lahko vključuje zaporedje:
DOGODEK → ANALIZA → ODLOČITEV → DEJANJE → PREVERJANJE → NADALJNJI KORAK.
Workflow, ki ga Go Online razvije kot standardno metodologijo oziroma ponovljivo rešitev, lahko predstavlja njegov poslovni know-how.
Specifični podatki in poslovna pravila naročnika znotraj takšnega workflowa ostanejo naročnikovi, če izvirajo od naročnika.
Avtomatizacija lahko vključuje:
Pravice na avtomatizaciji se določajo glede na:
Go Online lahko ponovno uporablja splošne:
Takšne ponovno uporabne komponente ostanejo praviloma del Go Online know-howa, če ni posebej dogovorjeno drugače.
AI baza znanja lahko vsebuje različne vrste vsebine.
Na primer:
NAROČNIKOVI DOKUMENTI
→ ostanejo naročnikovi.
GO ONLINE METODOLOGIJE
→ ostanejo Go Online know-how.
JAVNI VIRI
→ veljajo pravice in pogoji izvornega vira.
LICENCIRANE VSEBINE
→ veljajo pogoji konkretne licence.
AI-GENERIRANE VSEBINE
→ pravni položaj se presoja glede na način nastanka in veljavno pravo.
Sama struktura, organizacija, klasifikacija, povezovanje ali tehnična zasnova baze znanja lahko predstavlja ločeno komponento projekta.
Naročnikovo lastništvo dokumentov zato ne pomeni nujno tudi lastništva vseh tehničnih metod, ki jih je Go Online uporabil za organizacijo oziroma dostop do teh dokumentov.
Pri Retrieval-Augmented Generation oziroma podobnih sistemih se ločuje med:
Pravice na posameznih komponentah se lahko razlikujejo.
AI output pomeni vsebino, ki jo ustvari AI sistem kot odgovor na vhod oziroma navodilo.
To lahko vključuje:
AI output ni avtomatično enako pravno obravnavan kot tradicionalno avtorsko delo.
Možnost avtorske zaščite AI-generiranega rezultata je odvisna predvsem od tega, ali rezultat izpolnjuje pogoje za avtorskopravno varstvo po veljavnem pravu.
Pri tem je lahko pomemben dejanski človeški ustvarjalni prispevek.
Go Online zato ne zagotavlja, da bo vsak AI-generirani output:
Kadar je AI output izdelan za naročnika kot del dogovorjenega končnega rezultata, naročnik praviloma pridobi pravico uporabe takega rezultata v obsegu, določenem:
Če je potrebno ekskluzivno oziroma širše pravno upravičenje, se to lahko posebej uredi v pogodbi.
Generativni AI sistemi lahko različnim uporabnikom ustvarijo:
Go Online zato ne zagotavlja popolne unikatnosti AI outputa, razen kadar je takšno jamstvo posebej dogovorjeno in ga je mogoče razumno zagotoviti.
Če Go Online AI output:
lahko končni rezultat vsebuje tako AI elemente kot človeški avtorski prispevek.
Pravice na takem končnem izdelku se določajo glede na pogodbo in veljavno pravo.
AI-generirana ali z AI podprta programska koda se obravnava skupaj z:
Pri projektu se lahko razlikuje med:
Pri namensko razviti programski kodi se pravice določajo skladno s pogodbo in veljavnim avtorskim pravom.
Kadar zakon ali pogodba določa prenos materialnih pravic na naročnika, se tak prenos nanaša na ustrezno avtorskopravno varovano komponento, ne pa avtomatično tudi na predhodni Go Online know-how, knjižnice ali druge ločene elemente, če ni dogovorjeno drugače.
Naročnik ne pridobi pravic na tehnologiji tretjih ponudnikov samo zato, ker je ta vključena v njegov projekt.
To lahko vključuje:
Za njih še naprej veljajo pogoji in licence posameznega ponudnika.
Če projekt uporablja odprtokodne ali druge licencirane komponente, se njihove pravice in obveznosti določajo po konkretni licenci.
Pogodba z Go Online ne more naročniku zagotoviti širših pravic na komponenti tretje osebe, kot jih dovoljuje njena licenca.
Če projekt uporablja model zunanjega AI ponudnika, naročnik ne pridobi lastništva nad osnovnim AI modelom.
Naročnik lahko pridobi dostop oziroma pravico uporabe funkcionalnosti modela skladno s pogoji ponudnika.
Če se za naročnika izvaja:
se pravice na:
določijo glede na pogodbo in pogoje osnovnega ponudnika.
Naročnik ohrani pravice na svojih podatkih, ki jih zagotovi za prilagoditev modela, pod pogoji veljavne pogodbe.
Go Online teh podatkov ne pridobi v last zgolj zato, ker jih tehnično obdela.
Go Online lahko pri projektih uporablja lastna interna orodja.
To lahko vključuje:
Naročnik praviloma ne pridobi pravice do teh orodij samo zato, ker so bila uporabljena za izvedbo njegovega projekta.
Go Online lahko pri prihodnjih projektih uporablja splošno znanje in izkušnje, pridobljene pri svojem delu.
Pri tem ne sme neupravičeno razkriti:
Ločiti je treba med:
SPLOŠNIM KNOW-HOWOM, ki je ponovno uporaben,
in
ZAUPNO INFORMACIJO NAROČNIKA, ki se ne sme neupravičeno razkrivati.
Naročnik, partner, talent ali druga oseba brez ustreznega dovoljenja ne sme kopirati, distribuirati ali komercialno uporabljati zaščitenih notranjih komponent Go Online sistema.
To lahko vključuje zlasti:
Dostop do:
ne pomeni avtomatičnega prenosa lastništva oziroma vseh pravic na tej rešitvi.
Pravice uporabe in lastništva se določijo posebej.
Pri predaji AI sistema se lahko naročniku prenese oziroma zagotovi:
v obsegu, določenem s ponudbo oziroma pogodbo.
Predaja sistema ne vključuje avtomatično internih Go Online orodij ali know-howa, ki niso del dogovorjenega rezultata.
Če se Go Online rešitev uporablja kot white-label produkt, se pravice uporabe, blagovne znamke, distribucije, preprodaje in sprememb posebej določijo s pogodbo.
White-label uporaba sama po sebi ne pomeni prenosa osnovne intelektualne lastnine.
Če naročnik želi, da določena:
ne bo uporabljena pri drugih naročnikih, mora biti takšna ekskluzivnost posebej dogovorjena.
Ekskluzivnost lahko vpliva na ceno projekta.
Go Online si prizadeva uporabljati AI rešitve in materiale na način, ki spoštuje pravice tretjih oseb.
Ker AI sistemi lahko ustvarijo vsebine, katerih izvor ali podobnost z obstoječimi deli ni vedno očitna, absolutnega jamstva, da vsak AI output nikoli ne bo podoben obstoječi vsebini, ni mogoče zagotoviti.
Pri pomembni komercialni uporabi se zato lahko izvede dodatno preverjanje.
Če se pojavi zahtevek zaradi domnevne kršitve intelektualne lastnine, morajo relevantne strani glede na okoliščine:
Odgovornost se presoja glede na dejanski vzrok, pogodbo in veljavno pravo.
Ker so AI projekti lahko zelo različni, se lahko posamezno vprašanje intelektualne lastnine podrobneje uredi v:
Poseben dogovor za konkretni projekt ima glede teh vprašanj prednost pred splošnim pravilom te politike, če ni v nasprotju z obveznim pravom.
Pri kompleksnejših AI projektih se lahko vodi evidenca:
NAROČNIKOVA IP
→ vhodni podatki in materiali.
GO ONLINE IP
→ predhodne metode, orodja in know-how.
PROJECT IP
→ namensko izdelani projektni elementi.
THIRD-PARTY IP
→ AI modeli, platforme, knjižnice in druge licence.
AI OUTPUT
→ generirani rezultati z ustreznim pravnim statusom.
Takšno razlikovanje zmanjšuje nesporazume glede lastništva in uporabe sistema.
AI projekt je pogosto sestavljen iz več različnih plasti intelektualne lastnine.
Zato Go Online uporablja temeljno načelo:
NAROČNIKOVI PODATKI OSTANEJO NAROČNIKOVI → GO ONLINE KNOW-HOW OSTANE GO ONLINE → TRETJE TEHNOLOGIJE OSTANEJO POD POGOJI TRETJIH PONUDNIKOV → PRAVICE NA KONČNEM REZULTATU SE DOLOČIJO S POGODBO IN VELJAVNIM PRAVOM.
Posebej se razlikuje med:
VSEBINO → TEHNOLOGIJO → KNOW-HOWOM → LICENCO → DOSTOPOM → LASTNIŠTVOM.
Dostop do sistema ni enako lastništvo sistema.
Plačilo projekta ni avtomatično nakup celotne Go Online metodologije.
Uporaba Go Online know-howa pri projektu ne pomeni njegovega prenosa naročniku.
Cilj te ureditve je naročniku zagotoviti jasne in praktično uporabne pravice na dogovorjenem rezultatu, hkrati pa Go Online omogočiti zaščito in nadaljnji razvoj svojih metod, tehnologij, agentov, avtomatizacij in znanja.
Umetna inteligenca lahko pomembno izboljša hitrost, kakovost, analitiko in avtomatizacijo dela, vendar njeni rezultati niso avtomatično pravilni, popolni ali primerni za uporabo.
AI sistemi lahko ustvarijo rezultat, ki je:
Zato se AI rezultat ne obravnava avtomatično kot preverjeno dejstvo.
AI lahko poda napačen rezultat tudi takrat, ko je odgovor predstavljen samozavestno in prepričljivo.
To lahko vključuje:
Način predstavitve odgovora ni dokaz njegove pravilnosti.
Generativni AI lahko ustvari informacijo, ki zveni verjetno, vendar v resnici ni pravilna oziroma sploh ne obstaja.
Tak pojav lahko vključuje izmišljene:
Tak rezultat se lahko imenuje AI halucinacija.
Zato se pomembne informacije preverjajo pri zanesljivem viru.
AI model lahko temelji na podatkih, ki niso popolnoma aktualni.
Tudi sistemi z dostopom do zunanjih virov lahko:
Posebno previdnost se uporablja pri informacijah, ki se pogosto spreminjajo, kot so:
AI lahko pravilne podatke napačno interpretira.
Do tega lahko pride zaradi:
Pravilni vhodni podatki zato ne zagotavljajo avtomatično pravilnega zaključka.
AI rezultat je pogosto neposredno odvisen od kakovosti vhodnih podatkov.
Velja načelo:
SLABI PODATKI → SLABA ANALIZA → SLAB REZULTAT.
Če so vhodni podatki:
lahko AI ustvari napačen rezultat tudi, če sam sistem deluje tehnično pravilno.
AI lahko napačno razume:
Zato je kakovost navodil in konteksta pomemben del kakovosti rezultata.
AI ne razume poslovnega, človeškega ali družbenega konteksta na enak način kot človek.
Lahko prepozna vzorce in ustvari zelo kakovosten rezultat, vendar lahko spregleda:
AI lahko ustvari programsko kodo, ki:
Zato AI-generirana koda ne sme biti avtomatično uporabljena v pomembnem produkcijskem okolju brez ustreznega pregleda in testiranja.
Koda lahko tehnično deluje in je kljub temu napačna glede na:
Zato tehnično uspešen rezultat ni avtomatično tudi poslovno pravilen rezultat.
AI sistemi lahko ustvarjajo pristranske rezultate.
Pristranskost lahko izhaja iz:
Pristranskost je posebej pomembna pri:
AI se ne sme avtomatično uporabljati za odločanje, če obstaja pomembno tveganje diskriminacije ali neupravičeno različne obravnave.
Pri takšnih procesih se lahko zahtevajo:
Veliko AI sistemov deluje verjetnostno.
To pomeni, da lahko isti oziroma zelo podoben vhod:
Takšna variabilnost je lahko normalna lastnost sistema in ne nujno tehnična napaka.
AI sistem zato ni vedno primeren za procese, kjer je zahtevan popolnoma enak rezultat pri vsakem izvajanju.
Pri takšnih primerih se lahko uporabijo:
AI lahko napačno izvede tudi:
Pomembni izračuni se zato preverijo z ustreznimi orodji oziroma metodami.
AI lahko:
Zato se AI rezultat pri pomembnih pravnih vprašanjih ne uporablja kot edini vir.
AI lahko napačno interpretira:
Pomembne finančne odločitve morajo temeljiti na preverjenih podatkih in ustrezni strokovni presoji.
AI lahko pomaga pri strukturiranju ali pojasnjevanju zdravstvenih informacij, vendar ne zagotavlja pravilne diagnoze ali zdravljenja.
Pri pomembnih zdravstvenih vprašanjih je potrebna ustrezna strokovna presoja.
AI-generirane slike in video lahko vsebujejo:
Realističen videz vsebine ne pomeni nujno, da vsebina prikazuje resničnost.
AI lahko pri obdelavi zvoka napačno:
Pomembne transkripcije se zato po potrebi preverijo z izvirnim posnetkom.
AI-prevod je lahko slovnično tekoč in kljub temu:
Pri pomembnih dokumentih je zato lahko potreben človeški pregled prevoda.
AI lahko pri povzemanju:
Povzetek zato ne sme avtomatično nadomestiti izvornega dokumenta pri pomembnih odločitvah.
AI lahko navede vir, ki:
Pomembne vire se zato preverja neposredno.
AI lahko napačen odgovor predstavi z zelo visoko stopnjo navidezne samozavesti.
Zato uporabnik ne sme enačiti:
SAMOZAVESTNEGA ODGOVORA = PRAVILNEGA ODGOVORA.
Stopnja preverjanja AI rezultata je odvisna od posledic morebitne napake.
Primer:
NIZKO TVEGANJE
ideja za naslov objave.
SREDNJE TVEGANJE
marketinško besedilo oziroma analiza kampanje.
VISOKO TVEGANJE
pogodba, pomembna finančna odločitev, odločanje o posamezniku ali sprememba produkcijskega sistema.
Višje tveganje zahteva višjo stopnjo preverjanja.
Preverjanje lahko vključuje:
Pri pomembnih podatkih lahko Go Online uporabi načelo dvojnega preverjanja.
Primer:
AI REZULTAT → NEODVISEN VIR → ČLOVEŠKA POTRDITEV.
To zmanjša možnost, da bi ena sama napačna AI interpretacija postala podlaga za pomembno odločitev.
Uporabnik AI mora razumeti, da AI ni nezmotljiv vir resnice.
Pred uporabo rezultata mora glede na tveganje oceniti:
Če AI rezultat neposredno sproži avtomatizirano dejanje, je tveganje napake lahko večje kot pri običajnem informativnem odgovoru.
Zato se pri takšnih sistemih uporabljajo:
kadar je to glede na tveganje potrebno.
Kakovost in vedenje AI sistema se lahko spremenita tudi brez spremembe Go Online sistema, če zunanji ponudnik:
Rezultat, ki je bil prej stabilen, lahko zato kasneje zahteva ponovno testiranje.
Pomembnejše AI rešitve se lahko ponovno testirajo ob:
Go Online ne zagotavlja, da bo posamezni AI sistem ali rezultat:
Takšno absolutno jamstvo glede na naravo tehnologije ni realno.
AI lahko zelo izboljša delo človeka, vendar ne odpravlja potrebe po:
Največja vrednost nastane, ko se AI uporablja kot orodje v dobro zasnovanem procesu.
Go Online umetne inteligence ne predstavlja kot nezmotljive tehnologije.
AI lahko:
NAREDI NAPAKO → HALUCINIRA → UPORABI ZASTAREL PODATEK → NAPAČNO INTERPRETIRA → GENERIRA SLABO KODO → USTVARI PRISTRANSKI REZULTAT.
Zato velja osnovno načelo:
AI REZULTAT NI DEJSTVO, DOKLER STOPNJA TVEGANJA NE UPRAVIČUJE ZAUPANJA ALI GA USTREZNO PREVERIMO.
Pri uporabi AI Go Online upošteva:
KAKOVOST VHODA → KAKOVOST MODELA → KONTEKST → TVEGANJE → PREVERJANJE → ČLOVEŠKO PRESOJO.
Cilj ni doseči nerealno pričakovanje popolnoma nezmotljivega AI, temveč zgraditi procese, v katerih je možnost napake prepoznana, nadzorovana in sorazmerno obvladovana.
Go Online umetno inteligenco uporablja za zakonite, legitimne in poslovno upravičene namene.
AI se ne sme uporabljati za dejavnosti, ki so:
Prepoved velja ne glede na to, ali AI:
AI se ne sme uporabljati za pripravo ali izvajanje goljufivih dejavnosti.
To vključuje zlasti:
AI se ne sme uporabljati za neupravičeno predstavljanje kot druga:
Prepoved vključuje tudi avtomatizirano komunikacijo, katere namen je ustvariti napačen vtis o identiteti pošiljatelja.
Prepovedana je uporaba AI za izdelavo ali distribucijo zavajajočih sintetičnih:
ki resnično osebo prikazujejo, kot da je nekaj povedala ali storila, če to ni res in za takšno uporabo ni ustrezne podlage.
Posebej je prepovedana uporaba deepfake vsebin za:
AI se ne sme uporabljati za neupravičeno kloniranje ali posnemanje:
z namenom ustvarjanja zavajajočega vtisa avtentičnosti.
AI se ne sme uporabljati za nedovoljeno diskriminacijo posameznika ali skupine.
Posebna previdnost velja pri AI sistemih, ki se uporabljajo pri:
AI sistema ni dovoljeno namenoma konfigurirati tako, da neupravičeno daje prednost ali škoduje določenim posameznikom oziroma skupinam.
Morebitna avtomatizirana segmentacija mora imeti legitimen namen in ustrezno podlago.
AI se ne sme uporabljati za neupravičeno:
Uporaba javno dostopnega podatka sama po sebi ne pomeni, da je njegova vsakršna nadaljnja uporaba dovoljena.
AI se ne sme uporabljati za nezakonito ali neupravičeno:
Takšne uporabe zahtevajo posebno presojo zakonitosti in sorazmernosti.
AI se ne sme uporabljati za pridobivanje podatkov, do katerih uporabnik nima ustrezne pravice dostopa.
To vključuje:
Prepovedana je uporaba AI sistema ali agenta za prenos informacij iz dovoljenega okolja v okolje oziroma osebi, ki do teh informacij ni upravičena.
To velja tudi, če je prenos izveden:
AI se ne sme uporabljati za nedovoljeno:
AI agent ne sme samovoljno:
Takšno vedenje se šteje za varnostni incident.
AI se ne sme uporabljati za razvoj, distribucijo ali izboljševanje zlonamerne kode z namenom škodovanja.
To lahko vključuje:
Prepoved zlonamerne kode ne preprečuje legitimnega:
če se izvaja z ustreznim dovoljenjem in v dovoljenem okolju.
AI se ne sme uporabljati za varnostno testiranje sistemov tretjih oseb brez ustreznega dovoljenja.
Dejstvo, da je sistem dostopen preko interneta, ne pomeni dovoljenja za njegovo testiranje.
AI se ne sme uporabljati za namerno:
AI se ne sme uporabljati za namen neupravičenega odstranjevanja:
če bi bil namen takšne odstranitve obhod pravic imetnika.
Prepovedano je ustvarjanje lažnih:
ki so predstavljene kot resnične.
AI se ne sme uporabljati za prikazovanje izmišljenih:
kot dejanskih rezultatov.
AI se ne sme uporabljati za nesprejemljivo manipuliranje posameznikov.
To lahko vključuje uporabo:
z namenom neupravičenega vplivanja na odločitev posameznika.
Go Online AI sistemov ne uporablja namenoma za ustvarjanje nedovoljenih ali zavajajočih uporabniških vmesnikov oziroma procesov, katerih namen je uporabnika pripraviti do dejanja, ki ga sicer ne bi želel izvesti.
Posebno nesprejemljiva je uporaba AI za izkoriščanje:
AI se ne sme uporabljati za avtomatiziranje nezakonitih ali nedovoljenih marketinških dejavnosti.
To lahko vključuje:
AI agenti se ne smejo uporabljati za nekontrolirano množično:
ki predstavlja spam, zlorabo platforme ali kršitev pravil ponudnika.
AI se ne uporablja za ustvarjanje oglasov, ki namenoma:
AI se ne sme uporabljati za:
Prepovedano je ustvarjanje lažnih oziroma ponarejenih:
z namenom zavajanja.
AI se ne sme uporabljati za avtomatizirano odločanje o posameznikih na način, ki je v nasprotju z veljavno zakonodajo ali brez potrebnih zaščitnih ukrepov.
Pri pomembnih odločitvah se upoštevajo:
AI se ne sme uporabljati za pridobivanje ali razkrivanje:
brez ustreznega pooblastila.
Prepovedano je namerno uporabljati tehnike, katerih namen je AI sistem pripraviti do kršitve:
če za takšno testiranje ni ustreznega dovoljenja.
AI agenta ni dovoljeno uporabljati za namen, ki presega njegov odobren namen ali pooblastila.
Primer:
agent, namenjen pripravi osnutkov e-pošte, se ne sme samovoljno uporabiti za množično samodejno pošiljanje sporočil.
AI in avtomatizacije se ne smejo uporabljati za zbiranje podatkov z:
ki krši veljavne pravice ali pravila.
Prepovedana je avtomatizacija procesa, če je njegov osnovni namen nezakonit ali škodljiv.
Dejstvo, da proces izvaja AI namesto človeka, ne spremeni njegove pravne ali etične narave.
AI se ne sme uporabljati za ustvarjanje lažnega vtisa, da:
če to ni res.
AI se ne sme uporabljati za ustvarjanje vsebine ali izvajanje dejanj, ki ustvarjajo napačen vtis, da je določeno:
odobril Go Online, če za to ni ustreznega pooblastila.
Enako velja za naročnike.
AI agent ne sme brez ustreznega pooblastila objavljati ali komunicirati v imenu naročnika na način, ki presega odobreni namen.
Go Online uporabnike AI opozarja, da morajo poleg zakonodaje spoštovati tudi legitimne pogoje uporabe posamezne platforme.
AI se ne sme uporabljati za sistematično obhajanje omejitev platforme ali zlorabo njenih storitev.
Če naročnik, partner, talent ali druga oseba zahteva izvedbo prepovedane AI aktivnosti, Go Online takšne zahteve ni dolžan izvesti.
Navodilo naročnika ne spremeni nezakonite ali nesprejemljive aktivnosti v dovoljeno aktivnost.
Go Online lahko zavrne:
če obstaja razumen sum, da bi se sistem uporabljal za nezakonite ali druge prepovedane namene.
Če se po začetku uporabe ugotovi, da se AI sistem uporablja za prepovedano aktivnost, lahko Go Online glede na okoliščine:
Pri tem se upoštevajo pogodba, dejanske okoliščine in veljavno pravo.
Če uporabnik opazi uporabo AI, ki bi lahko predstavljala pomembno kršitev te politike, mora o tem obvestiti odgovorno osebo.
Pri pomembnem sumu se lahko izvede:
ZAUSTAVITEV → OMEJITEV DOSTOPOV → PREGLED → DOKUMENTIRANJE → ODLOČITEV O NADALJNJIH UKREPIH.
Ta politika ni namenjena preprečevanju legitimnega:
kadar se ta izvaja zakonito, z ustreznim dovoljenjem in z razumnimi zaščitnimi ukrepi.
Kontekst in namen uporabe sta pomemben del presoje.
Vsaka oseba, ki uporablja AI v okviru Go Online, je odgovorna za uporabo sistema v okviru svojih pooblastil in mora upoštevati to politiko.
Navodilo AI sistema ni opravičilo za nezakonito ali nedovoljeno dejanje.
Go Online pri AI uporablja naslednje rdeče linije:
NE GOLJUFAJ.
NE LAŽNO PREDSTAVLJAJ.
NE KRADI PODATKOV.
NE OBHAJAJ VARNOSTI.
NE DISKRIMINIRAJ.
NE KRŠI ZASEBNOSTI.
NE KRŠI PRAVIC DRUGIH.
NE UPORABLJAJ AI ZA NAMERNO ŠKODOVANJE.
Umetna inteligenca lahko bistveno poveča sposobnost posameznika ali organizacije za ustvarjanje, analiziranje in avtomatizacijo.
Enaka tehnologija lahko ob zlorabi bistveno poveča tudi obseg škode.
Zato pri Go Online velja:
ČE DEJANJE NI DOVOLJENO ČLOVEKU, GA NE NAREDI DOVOLJENEGA DEJSTVO, DA GA IZVEDE AI.
AI se uporablja samo za zakonite, legitimne in odgovorne namene.
Ključno načelo je:
ZAKONIT NAMEN → USTREZNA POOBLASTILA → VARNA IZVEDBA → NADZOR → ODGOVORNOST.
Go Online želi razvijati in uporabljati AI rešitve, ki povečujejo poslovno vrednost, ne pa sistemov, ki temeljijo na zlorabi zaupanja, podatkov, tehnologije ali pravic drugih oseb.
Go Online uporablja tehnične in organizacijske ukrepe za zmanjševanje tveganj pri uporabi umetne inteligence, AI agentov, avtomatizacij, API povezav in povezanih informacijskih sistemov.
Kljub zaščitnim ukrepom lahko pride do:
Cilj tega poglavja je zagotoviti, da se incident:
HITRO ZAZNA → OMEJI → ZAUSTAVI → ANALIZIRA → SANIRA → DOKUMENTIRA → PREPREČI PONOVITEV.
AI incident je dogodek, pri katerem AI sistem, agent, avtomatizacija, integracija ali povezana infrastruktura:
Incident je lahko tehničen, varnostni, podatkovni, poslovni ali vsebinski.
AI incident lahko nastane tudi brez zunanjega napadalca.
Vzrok je lahko:
Za incident se šteje tudi utemeljen sum, da so bili podatki:
Za začetek incidentnega postopka ni potrebno čakati na dokončno potrditev uhajanja.
Napačen AI rezultat lahko predstavlja incident, kadar je zaradi njegove uporabe nastala ali bi lahko nastala pomembna posledica.
Primeri vključujejo:
Vsaka običajna AI napaka ni nujno formalni incident.
Pomembnost se presoja glede na dejanske oziroma potencialne posledice.
Incident lahko nastane, če avtomatizacija:
Za pomemben incident se šteje, če AI agent:
Velja načelo:
AI AGENT NE SME PRESEČI MEJE, KI MU JE BILA DOLOČENA.
Sum kompromitacije:
se obravnava kot varnostni incident.
Glede na okoliščine se lahko nemudoma:
Pri kompromitiranih poverilnicah je hitrost ukrepanja pomembnejša od čakanja na popolno analizo.
Nenadno povečanje:
lahko predstavlja indikator incidenta.
Takšna odstopanja se lahko spremljajo z avtomatiziranimi opozorili oziroma omejitvami.
AI sistemi, ki sprejemajo zunanje vsebine, so lahko izpostavljeni poskusom manipulacije z navodili.
Prompt injection lahko poskuša AI pripraviti do:
Sum uspešnega prompt injection napada se lahko obravnava kot varnostni incident.
Če obstaja sum, da je AI sistem razkril ali posredoval podatke izven dovoljenega okolja, se sistem lahko nemudoma omeji oziroma zaustavi.
Posebej se preverijo:
Incident lahko predstavlja tudi AI-generirana ali avtomatsko poslana komunikacija, ki:
Posebej se spremljajo nepravilnosti, kot so:
Če AI povzroči nepravilnost v produkcijskem okolju, se lahko glede na tveganje:
Pomembnejši AI agenti in avtomatizacije morajo, kjer je tehnično in glede na tveganje smiselno, omogočati hitro zaustavitev.
Kill switch lahko pomeni:
Če obstaja pomemben sum varnostnega incidenta, ima omejitev potencialne škode prednost pred nadaljevanjem avtomatizacije.
Velja:
NAJPREJ USTAVI ŠKODO → NATO ANALIZIRAJ VZROK.
Kjer je smiselno, se lahko določijo avtomatizirani pogoji za zaustavitev.
Primeri:
Za pomembnejši AI sistem se lahko določi odgovorna oseba oziroma AI System Owner / AI Agent Owner.
Odgovorna oseba skrbi za:
Oseba, ki zazna ali sumi pomemben AI incident, mora o tem brez nepotrebnega odlašanja obvestiti odgovorno osebo oziroma določen kontakt.
Obvestilo naj, če je mogoče, vsebuje:
Incidenta se ne sme prikrivati zaradi:
Hitro poročanje lahko bistveno zmanjša posledice.
Ob pomembnem incidentu se uporabi osnovni proces:
Incidenti se lahko razvrstijo glede na resnost.
Manjša napaka brez pomembnih posledic.
Primer:
AI ustvari napačen interni osnutek, ki ni bil uporabljen.
Napaka vpliva na proces ali omejeno število uporabnikov, vendar jo je mogoče hitro omejiti.
Incident vključuje:
Incident lahko vključuje:
Pomembnejšemu incidentu se lahko dodeli enolična oznaka.
Primer:
AI-INC-2026-001
S tem se omogoči sledljivost med:
Pomembnejši AI incident se dokumentira.
Zapis lahko vsebuje:
Pri pomembnem incidentu se, kjer je primerno, ohranijo relevantni:
Dokazov se ne sme neupravičeno spreminjati ali izbrisati.
Po pomembnem incidentu se lahko izvede analiza temeljnega vzroka.
Ne preverja se samo:
KAJ JE AI NAREDIL NAROBE?
ampak tudi:
ZAKAJ JE SISTEM AI TO SPLOH DOVOLIL?
Vzrok je lahko:
Sanacija lahko vključuje:
Kjer je tehnično mogoče in smiselno, se lahko uporabi rollback na:
Če je AI izvedel napačno dejanje, se glede na okoliščine preveri možnost:
Če incident vključuje osebne podatke, se dodatno presodi, ali predstavlja kršitev varnosti osebnih podatkov in katere obveznosti izhajajo iz veljavnih pravil varstva osebnih podatkov.
AI incidentni postopek ne nadomešča postopkov, ki jih zahtevajo pravila varstva osebnih podatkov.
Če incident pomembno vpliva na:
se naročnika obvesti skladno z naravo incidenta, pogodbo in veljavnimi obveznostmi.
Kadar veljavna zakonodaja zahteva obvestilo:
se takšno obvestilo izvede skladno z veljavnimi zahtevami in relevantnim postopkom.
Če incident izvira iz zunanjega AI ponudnika, lahko Go Online:
AI sistem se po pomembnem incidentu ne aktivira avtomatično samo zato, ker je neposredna napaka odpravljena.
Pred ponovnim zagonom se lahko preveri:
Pred ponovno aktivacijo pomembnega sistema se lahko izvede:
POPRAVEK → TEST → SIMULACIJA → OMEJEN ZAGON → MONITORING → POLNA AKTIVACIJA.
Po pomembnem incidentu se lahko izvede pregled, katerega namen ni zgolj določanje krivde, ampak izboljšanje sistema.
Pregled lahko odgovori na:
Na podlagi incidenta se lahko uvedejo:
Incidenti predstavljajo pomemben vir informacij za izboljševanje AI sistemov.
Go Online lahko ugotovitve iz incidentov uporablja za izboljševanje:
pri čemer se varujejo zaupne informacije in podatki naročnikov.
Pomembnejši AI sistemi se lahko periodično preverjajo glede:
Velja:
AI NE DOBI DOSTOPA, KI GA NE POTREBUJE.
Omejevanje dostopa zmanjšuje potencialni obseg incidenta.
AI sistemi se, kjer je smiselno, načrtujejo tako, da posamezna napaka ne more povzročiti neomejene škode.
To lahko vključuje:
Cilj je:
ČE AI NAREDI NAPAKO, MORA BITI OBSEG POSLEDIC ČIM BOLJ OMEJEN.
Kjer je primerno, se lahko uporabljajo ločena okolja:
TEST → PILOT → PRODUKCIJA.
Nova ali bistveno spremenjena AI rešitev se praviloma najprej preveri v okolju z omejenim tveganjem.
Pri sistemih, kjer lahko AI spreminja pomembne podatke, se glede na tveganje zagotovi ustrezen način:
AI varnost ni odgovornost samo modela ali ponudnika.
Vključuje:
MODEL + PODATKE + PROMPTE + UPORABNIKE + DOSTOPE + API-JE + AVTOMATIZACIJE + INFRASTRUKTURO + ČLOVEŠKI NADZOR.
Napaka v kateremkoli delu lahko vpliva na celoten sistem.
Go Online pri pomembnih AI incidentih uporablja osnovni standard:
DETECT → STOP → CONTAIN → PROTECT → NOTIFY → INVESTIGATE → REMEDIATE → DOCUMENT → LEARN.
oziroma:
ZAZNAJ → USTAVI → OMEJI → ZAŠČITI → OBVESTI → ANALIZIRAJ → SANIRAJ → DOKUMENTIRAJ → IZBOLJŠAJ.
Cilj AI varnosti ni ustvariti sistem, za katerega se predpostavlja, da nikoli ne bo naredil napake.
Cilj je ustvariti sistem, ki:
PREPREČUJE, KAR JE MOGOČE PREPREČITI → HITRO ZAZNA ODSTOPANJE → OMEJI OBSEG ŠKODE → OMOGOČA TAKOJŠNJO ZAUSTAVITEV → OHRANI SLEDLJIVOST → OMOGOČA SANACIJO → SE IZ INCIDENTA IZBOLJŠA.
Pri Go Online zato velja temeljno pravilo:
VEČ DOSTOPA + VEČ AVTONOMIJE + VEČJI POTENCIALNI VPLIV = MOČNEJŠA VARNOST + BOLJŠI MONITORING + HITREJŠI KILL SWITCH.
AI incident se ne obravnava samo kot tehnična napaka, temveč kot dogodek, ki lahko vpliva na podatke, naročnike, uporabnike, poslovanje, varnost in ugled.
Zato je sposobnost sistema, da ga lahko vidimo, nadzorujemo, ustavimo, obnovimo in izboljšamo, enako pomembna kot njegova sposobnost avtomatizacije.
To poglavje določa osnovna načela odgovornosti pri uporabi umetne inteligence v okviru Go Online, naročniških projektov, Partner Programa, Talent Networka, zunanjih izvajalcev in drugih povezanih poslovnih procesov.
Uporaba AI ne odpravlja odgovornosti oseb in organizacij, ki:
Go Online umetno inteligenco praviloma uporablja kot:
AI sam po sebi ni odgovorna pravna ali poslovna oseba.
Odgovornost se zato presoja glede na dejanja, pooblastila, pogodbeno razmerje, dejanski nadzor in veljavno pravo.
Oseba se ne more avtomatično razbremeniti odgovornosti zgolj z navedbo:
»To je naredil AI.«
Če je bila oseba odgovorna za:
uporaba AI sama po sebi te odgovornosti ne odpravi.
Pri določanju odgovornosti se lahko upošteva predvsem:
Osnovno načelo je:
ODGOVORNOST SLEDI VLOGI, POOBLASTILOM, DEJANJEM IN DEJANSKEMU NADZORU.
Go Online odgovarja za svoje delo v okviru:
Go Online si prizadeva AI rešitve načrtovati, implementirati in uporabljati skladno z razumno stopnjo strokovne skrbnosti glede na naravo projekta in tveganje.
Kadar Go Online razvije oziroma implementira AI rešitev, je lahko odgovoren predvsem za dogovorjene elemente, kot so:
Obseg odgovornosti je odvisen od konkretne pogodbe in dejanskega obsega storitve.
Če Go Online zagotovi:
to samo po sebi ne pomeni, da Go Online prevzame odgovornost za vsako poslovno odločitev, ki jo naročnik sprejme na tej podlagi.
Končna poslovna odločitev ostane odgovornost osebe oziroma organizacije, ki jo sprejme, razen če je dogovorjeno ali z zakonom določeno drugače.
Partner, ki uporablja AI v okviru sodelovanja z Go Online, je odgovoren za uporabo AI v okviru:
Partner ne sme AI uporabljati za izvajanje dejanj, za katera nima ustreznega pooblastila.
Če partner uporablja AI za pripravo:
mora zagotoviti, da končna komunikacija ne vsebuje neodobrenih:
Član Talent Networka oziroma drug izvajalec je odgovoren za strokovno uporabo AI pri izvajanju svojih nalog.
AI ne predstavlja opravičila za:
Talent AI ne sme uporabljati kot nadomestilo za znanje, ki je potrebno za strokovno izvedbo naloge.
Če Talent sprejme nalogo, za katero je odgovoren, mora biti sposoben:
v okviru svoje vloge in pogodbenih obveznosti.
Naročnik je odgovoren za elemente projekta, ki so pod njegovim nadzorom.
To lahko vključuje:
Naročnik je odgovoren za točnost, popolnost in ustreznost podatkov, ki jih posreduje Go Online, razen če je njihovo preverjanje izrecno del dogovorjene storitve.
Če AI rezultat temelji na napačnih ali nepopolnih podatkih naročnika, lahko to vpliva na kakovost rezultata.
Velja:
NAPAČEN VHOD → LAHKO POVZROČI NAPAČEN IZHOD.
Kadar proces zahteva odobritev naročnika, partnerja, Talenta ali druge odgovorne osebe, oseba z odobritvijo prevzame odgovornost za odločitev v okviru svoje vloge.
Human approval ne sme biti zgolj formalnost.
Oseba mora imeti razumno možnost razumeti, kaj potrjuje.
Če naročnik ali tretja oseba po predaji brez sodelovanja Go Online spremeni:
Go Online praviloma ne odgovarja za posledice takšne spremembe, razen če odgovornost izhaja iz pogodbe ali obveznega prava.
AI rešitve lahko temeljijo na storitvah zunanjih ponudnikov.
Ti lahko zagotavljajo:
Go Online nima popolnega nadzora nad delovanjem takšnih zunanjih storitev.
Za napake, izpade ali druge okoliščine, ki izvirajo neposredno iz sistema zunanjega ponudnika, se odgovornost presoja tudi skladno s:
Uporaba zunanjega ponudnika ne pomeni avtomatično, da Go Online prevzame odgovornost za vse njegove napake ali izpade.
Kadar ponudnika izbere Go Online, si prizadeva glede na naravo projekta upoštevati relevantne:
Takšna izbira ne predstavlja jamstva, da zunanji ponudnik nikoli ne bo imel napake, izpada ali spremembe storitve.
Če naročnik zahteva uporabo konkretnega:
se lahko tveganja, ki izvirajo iz takšne izbire, ustrezno upoštevajo pri razdelitvi odgovornosti.
Go Online lahko naročnika opozori na zaznano pomembno tveganje.
Go Online ne odgovarja zgolj zaradi dejstva, da je AI ustvaril napačen rezultat, če je bila rešitev uporabljena skladno z dogovorjenim namenom in so bili uporabljeni razumni ukrepi glede na naravo ter tveganje sistema.
Vsak primer se presoja glede na:
Naročnik, partner, Talent in drugi uporabniki morajo razumeti, da lahko AI:
Kjer je rezultat pomemben, se od uporabnika pričakuje ustrezna stopnja preverjanja glede na njegovo vlogo.
Go Online ne jamči, da bo AI sistem:
Takšno absolutno jamstvo glede na naravo AI tehnologije ni realno.
Uporaba AI ne predstavlja jamstva za poslovni uspeh.
Go Online ne zagotavlja zgolj zaradi uporabe AI:
Rezultat je lahko odvisen tudi od:
Zato velja:
AI LAHKO IZBOLJŠA SISTEM → NE MORE PA SAM PO SEBI ZAGOTOVITI POSLOVNEGA REZULTATA.
AI-generirane:
predstavljajo podporo odločanju in ne jamstva, da se bo napovedani dogodek dejansko zgodil.
V obsegu, ki ga dopušča veljavno pravo in konkretno pogodbeno razmerje, se lahko odgovornost Go Online omeji glede posredne oziroma posledične škode, kot so na primer:
kadar takšna omejitev ni prepovedana z obveznim pravom.
Konkretna pogodba, ponudba ali drugi pogoji sodelovanja lahko določijo najvišji obseg pogodbene odgovornosti Go Online.
Takšna omejitev se uporablja samo v obsegu, ki ga dopušča veljavno pravo.
Ta politika sama po sebi ne izključuje odgovornosti, ki je po obveznem pravu ni mogoče veljavno izključiti ali omejiti.
Nobena določba te politike se ne razlaga kot izključitev ali omejitev odgovornosti v primerih, kjer takšna izključitev ali omejitev po veljavnem pravu ni dovoljena.
V primeru nasprotja ima obvezno pravo prednost.
Če katerakoli stran zazna napako ali incident, mora v okviru svojih možnosti razumno ukrepati za omejitev nadaljnjih posledic.
Nadaljevanje uporabe sistema po zaznani pomembni napaki brez razumnega ukrepanja lahko poveča škodo.
Partnerji, Talenti, zaposleni, izvajalci in druge osebe, ki zaznajo pomemben AI incident v okviru sistema Go Online, ga morajo brez nepotrebnega odlašanja prijaviti ustrezni odgovorni osebi.
Incidentni postopek je podrobneje določen v poglavju 15.
Oseba, ki AI sistem namenoma uporablja:
lahko odgovarja za posledice svojega ravnanja skladno s pogodbo in veljavnim pravom.
Če uporabnik v neodobren AI sistem vnese:
v nasprotju s to politiko oziroma svojimi obveznostmi, se odgovornost presoja glede na konkretne okoliščine, njegovo vlogo in veljavno pravo.
Odgovornost za morebitne kršitve intelektualne lastnine se presoja glede na:
AI sam po sebi ne odpravi obveznosti spoštovanja pravic tretjih oseb.
Pri AI agentih se dodatno upoštevajo:
Večja avtonomija zahteva jasnejšo razdelitev odgovornosti.
Za pomembnega AI agenta se lahko določi odgovorna oseba oziroma AI Agent Owner.
Njegova naloga lahko vključuje:
Določitev AI Agent Ownerja ne pomeni avtomatičnega prenosa vseh pravnih odgovornosti nanj.
Pri kompleksnih AI sistemih je odgovornost pogosto razdeljena med več strani.
Primer:
AI PONUDNIK
→ osnovni model in infrastruktura.
GO ONLINE
→ implementacija, integracije in dogovorjena konfiguracija.
NAROČNIK
→ poslovna pravila, podatki, uporabniki in poslovne odločitve.
PARTNER / TALENT
→ strokovna izvedba nalog v okviru svojega pooblastila.
UPORABNIK
→ pravilna uporaba sistema v okviru dovoljenih funkcij.
Dejanska odgovornost se vedno presoja glede na konkretne okoliščine.
Pri pomembnejših projektih se odgovornosti lahko podrobneje določijo v:
Poseben dogovor ima glede konkretnega projekta prednost pred splošnimi pravili te politike, če je skladen z obveznim pravom.
Pri projektih z večjim potencialnim vplivom se lahko pred uvedbo določijo dodatni ukrepi, kot so:
Odgovornost mora biti povezana z dejansko vlogo posamezne strani.
Go Online ne prevzema avtomatično odgovornosti za področja, nad katerimi nima dejanskega nadzora.
Enako naročnik, partner ali Talent ne prevzame avtomatično odgovornosti za področja, ki so izključno pod nadzorom druge strani.
Pri AI projektih se uporablja logika:
KDO JE DAL PODATEK?
→ odgovornost za njegovo pravilnost in pravico uporabe.
KDO JE ZGRADIL SISTEM?
→ odgovornost za dogovorjeno kakovost izvedbe.
KDO JE NASTAVIL PRAVILA?
→ odgovornost za ustreznost pravil v okviru svoje vloge.
KDO JE ODOBRIL DEJANJE?
→ odgovornost za odobritev v okviru svojih pooblastil.
KDO JE SPREMENIL SISTEM?
→ odgovornost za posledice spremembe v okviru svoje vloge.
KDO JE SPREJEL POSLOVNO ODLOČITEV?
→ odgovornost za končno poslovno odločitev.
Go Online umetne inteligence ne uporablja kot način prenosa ali izogibanja odgovornosti.
AI je tehnologija, ki pomaga:
ANALIZIRATI → PREDLAGATI → USTVARJATI → AVTOMATIZIRATI → IZVAJATI DOGOVORJENA DEJANJA.
Odgovornost pa ostaja pri ljudeh in organizacijah glede na njihove dejanske vloge, pooblastila, odločitve in obveznosti.
Zato velja:
AI JE ORODJE → ODGOVORNOST OSTAJA PRI ODGOVORNIH LJUDEH IN ORGANIZACIJAH.
Pri Go Online se odgovornost razporeja po načelu:
VLOGA → POOBLASTILO → NADZOR → DEJANJE → ODGOVORNOST.
Hkrati velja:
AI NI JAMSTVO TOČNOSTI → AI NI JAMSTVO NEPREKINJENEGA DELOVANJA → AI NI JAMSTVO POSLOVNEGA REZULTATA.
Namen te politike ni izključiti odgovornost, ki je po veljavnem pravu ni mogoče izključiti, temveč jasno določiti, kdo je odgovoren za kateri del AI sistema in zmanjšati tveganje, da bi bila odgovornost zaradi kompleksnosti AI tehnologije nejasna.
Go Online umetno inteligenco razvija, uporablja, implementira in upravlja v skladu z veljavnim pravnim in regulatornim okoljem Republike Slovenije in Evropske unije.
Pri tem se glede na konkretni primer upoštevajo zlasti pravila s področja:
Go Online pri razvoju in uporabi AI sistemov upošteva Uredbo (EU) 2024/1689 – Artificial Intelligence Act oziroma Akt o umetni inteligenci – v obsegu, v katerem se uporablja za konkretni sistem, storitev oziroma vlogo Go Online.
AI Act uporablja pristop, ki obveznosti določa glede na:
AI Act se uporablja postopoma.
Go Online zato ne predpostavlja, da vse določbe uredbe začnejo učinkovati istočasno.
Pri posameznem projektu se preveri:
Na dan zadnje vsebinske revizije te politike je večji del AI Acta že v uporabi.
Posamezne določbe oziroma prehodna pravila se lahko začnejo uporabljati pozneje.
Zato se datumi, regulatorne smernice in prehodna obdobja pred pomembnejšo implementacijo preverijo v aktualnih uradnih virih.
Ta politika se ne razlaga tako, da bi zgodovinsko zapisan datum prevladal nad poznejšo spremembo veljavnega prava.
Pravna vloga Go Online ni nujno enaka pri vseh projektih.
Glede na konkretno rešitev je treba preveriti, ali Go Online nastopa kot:
Vloga se določi glede na dejansko funkcijo Go Online in ne samo glede na naziv v pogodbi.
Tudi naročnik ima lahko pri uporabi AI sistema samostojne regulatorne obveznosti.
Če naročnik AI sistem uporablja v svojih poslovnih procesih, je lahko odgovoren za:
Pred uvedbo pomembnejšega AI sistema se lahko preveri njegova regulatorna klasifikacija.
Go Online lahko uporablja interno razvrstitev:
MINIMALNO / NIZKO TVEGANJE
OMEJENO TVEGANJE / TRANSPARENTNOST
VISOKO TVEGANJE
PREPOVEDANA UPORABA
Interna klasifikacija služi upravljanju tveganj in ne nadomešča pravne klasifikacije po AI Actu.
Go Online ne razvija oziroma uporablja AI sistemov za prakse, ki so prepovedane z veljavno zakonodajo.
Pred uvedbo novega sistema se glede na njegov namen preveri, ali lahko spada med prepovedane AI prakse.
Podrobnejša interna pravila so določena v poglavju 14 – Prepovedane uporabe AI.
Če AI sistem spada oziroma bi lahko spadal med visoko tvegane AI sisteme, se pred njegovo uporabo izvede dodatna presoja.
Glede na relevantno pravno ureditev lahko to vključuje zahteve glede:
Go Online takšnega sistema ne obravnava kot običajno nizko tvegano avtomatizacijo.
Posebna previdnost se uporablja pri AI sistemih, ki lahko pomembno vplivajo na:
Takšni sistemi zahtevajo dodatno pravno in tveganjsko presojo.
Kadar veljavna zakonodaja zahteva transparentnost glede uporabe AI, Go Online zagotovi oziroma pomaga zagotoviti ustrezno obvestilo.
To lahko vključuje obvestilo, da:
Kadar AI sistem neposredno komunicira s fizično osebo, se preveri, ali mora biti oseba obveščena, da komunicira z AI.
Takšno obvestilo mora biti izvedeno na način, ki ustreza veljavnim zahtevam in kontekstu uporabe.
Pri uporabi AI za ustvarjanje ali manipulacijo:
se preverijo veljavne obveznosti označevanja in transparentnosti.
Posebna previdnost velja pri vsebinah, ki lahko ustvarijo vtis, da prikazujejo resnično osebo, dogodek ali izjavo.
Kadar veljavna pravila zahtevajo tehnično oziroma strojno berljivo označevanje AI-generirane ali manipulirane vsebine, se pri relevantnih sistemih upoštevajo takšne zahteve.
Go Online lahko pri tem uporablja funkcionalnosti ponudnika modela oziroma druge ustrezne tehnične rešitve.
Go Online spodbuja ustrezno raven AI pismenosti oseb, ki uporabljajo AI sisteme v okviru svojega dela.
Raven potrebnega znanja je odvisna od:
AI literacy lahko vključuje razumevanje:
Uporaba AI ne zmanjšuje ali izključuje obveznosti varstva osebnih podatkov.
Kadar AI sistem obdeluje osebne podatke, se glede na okoliščine upoštevajo predvsem:
Podrobnejša pravila varstva osebnih podatkov Go Online ureja predvsem Politika zasebnosti / GDPR in poglavje 6 te politike.
Dejstvo, da je določen podatek uporaben za AI, samo po sebi ne predstavlja pravne podlage za njegovo obdelavo.
Pred uporabo osebnih podatkov je treba glede na okoliščine določiti:
NAMEN → PRAVNO PODLAGO → OBSEG PODATKOV → DOSTOPE → HRAMBO → PREJEMNIKE.
Pri AI sistemih, ki sprejemajo ali podpirajo odločitve o posameznikih, se preveri uporaba pravil glede avtomatiziranega odločanja in profiliranja.
Po potrebi se zagotovijo:
Če lahko AI obdelava osebnih podatkov povzroči visoko tveganje za pravice in svoboščine posameznikov, se glede na veljavna pravila lahko izvede ocena učinka v zvezi z varstvom podatkov oziroma DPIA.
DPIA se lahko poveže z dodatno AI risk assessment presojo.
Go Online pri uporabi AI upošteva veljavno avtorsko pravo.
To vključuje presojo pravic glede:
Podrobnejša pravila so določena v poglavjih 11 in 12 te politike.
Go Online ne predpostavlja avtomatično, da je vsak AI-generiran rezultat samostojno avtorskopravno zaščiten.
Pravni položaj se presoja glede na:
Pri uporabi AI sistemov in njihovih rezultatov se upoštevajo tudi:
Tehnična možnost uporabe vsebine ne pomeni avtomatično pravice do njene uporabe.
Go Online pri uporabi AI varuje poslovne skrivnosti in zaupne informacije.
To vključuje zlasti:
Pri poslovanju v Sloveniji se upoštevajo tudi pravila, ki urejajo varstvo poslovnih skrivnosti.
AI se ne sme uporabljati kot način za:
poslovnih skrivnosti druge osebe.
Glede na vrsto AI sistema se upoštevajo tudi relevantne zahteve informacijske oziroma kibernetske varnosti.
To lahko vključuje:
Če AI rešitev vpliva na komunikacijo s potrošniki, prodajo ali predstavitev izdelkov oziroma storitev, se upoštevajo pravila varstva potrošnikov.
AI se ne sme uporabljati za:
AI-generirano oglaševanje mora spoštovati enaka pravila kot druga oglaševalska vsebina.
Uporaba AI ne dovoljuje:
AI agenti in avtomatizacije, ki izvajajo:
morajo delovati skladno z relevantnimi pravili elektronskih komunikacij, neposrednega trženja, varstva podatkov in drugimi veljavnimi zahtevami.
AI sistem mora upoštevati tudi pogodbene omejitve.
To lahko vključuje:
Dejanje je lahko tehnično in zakonsko možno, vendar še vedno pogodbeno nedovoljeno.
Pri uporabi zunanjih AI in SaaS rešitev se upoštevajo tudi relevantni pogoji ponudnika.
Go Online ne uporablja AI z namenom sistematičnega obhajanja legitimnih tehničnih ali pogodbenih omejitev platform.
Kadar Go Online uporablja modele splošnega namena oziroma General-Purpose AI, se preveri njegova dejanska vloga.
Uporaba zunanjega GPAI modela kot komponente Go Online rešitve ne pomeni avtomatično, da Go Online postane ponudnik osnovnega modela.
Če pa Go Online model bistveno spremeni, trži, distribuira ali uporablja na način, ki spremeni njegovo regulatorno vlogo, se izvede dodatna presoja.
Pri pomembnejših AI sistemih se lahko hranijo oziroma preverjajo relevantne informacije ponudnika, kot so:
Go Online spremlja pomembne regulatorne spremembe, ki lahko vplivajo na njegove AI sisteme.
To lahko vključuje spremljanje:
Politika in pomembnejši AI sistemi se lahko periodično pregledajo glede skladnosti.
Pregled se lahko izvede:
Pomembna regulatorna sprememba lahko sproži:
REGULATORNA SPREMEMBA → PREGLED SISTEMA → PONOVNA KLASIFIKACIJA → GAP ANALIZA → POPRAVEK → TEST → DOKUMENTIRANJE.
Če obstoječi sistem zaradi spremembe pravil ni več ustrezen, se lahko:
AI sistem se ne klasificira samo enkrat.
Ponovna presoja je lahko potrebna, če se spremeni:
Pri pomembnejših AI projektih se regulatorne zahteve upoštevajo že v fazi načrtovanja.
Velja načelo:
NAMEN → KLASIFIKACIJA → ZAHTEVE → ARHITEKTURA → IMPLEMENTACIJA → TEST → DOKUMENTACIJA → MONITORING.
Skladnost se ne dodaja šele na koncu projekta.
Pri sistemih, kjer je to potrebno oziroma smiselno, Go Online vzdržuje ustrezno dokumentacijo, ki lahko izkazuje:
Pomembnejši AI sistemi se lahko evidentirajo v internem registru AI sistemov.
Register lahko vsebuje:
Go Online sodeluje s pristojnimi organi v obsegu, ki ga zahteva veljavno pravo.
Če zakon določa:
se ta izvede skladno z veljavnimi zahtevami.
Če Go Online oziroma naročnik uporablja AI rešitev zunaj Slovenije ali Evropske unije, lahko veljajo dodatna pravila.
Pred uvedbo na drugem trgu se lahko preverijo:
Skladnost z evropskim pravom sama po sebi ne zagotavlja skladnosti v vseh drugih jurisdikcijah.
Če za posamezno dejavnost velja strožja posebna zakonodaja, ima ta prednost pred splošnimi internimi pravili te politike.
To je lahko posebej pomembno na področjih, kot so:
Pri kompleksnem, visokorizičnem ali regulatorno nejasnem AI projektu lahko Go Online pred uvedbo zahteva oziroma priporoči dodatno:
Ta politika predstavlja notranji okvir Go Online za odgovorno uporabo AI.
Ne nadomešča:
Če je določba te politike v nasprotju z obveznim pravom, se uporablja obvezno pravo.
Go Online lahko to politiko spremeni zaradi:
Pomembne spremembe se ustrezno vključijo v sistem upravljanja AI.
Cilj Go Online ni zgolj reagirati na regulatorno zahtevo, ko ta postane problem.
Pri razvoju AI sistemov si prizadeva vzpostaviti strukturo, ki omogoča:
Takšna arhitektura omogoča lažje prilagajanje prihodnjim regulatornim spremembam.
Pri pomembnejšem AI sistemu se uporablja logika:
Go Online želi umetno inteligenco uporabljati in razvijati v skladu z evropskim pristopom k odgovorni, varni in zakoniti uporabi AI.
Skladnost zato ni enkraten pregled, ampak stalen proces:
IDENTIFICIRAJ SISTEM → DOLOČI VLOGO → KLASIFICIRAJ TVEGANJE → PREVERI ZAHTEVE → IMPLEMENTIRAJ ZAŠČITE → DOKUMENTIRAJ → SPREMLJAJ → POSODABLJAJ.
Posebej se upoštevajo:
EU AI ACT → GDPR → AVTORSKE PRAVICE → POSLOVNE SKRIVNOSTI → KIBERNETSKA VARNOST → POTROŠNIŠKA PRAVILA → POGODBENE OBVEZNOSTI → DRUGA VELJAVNA ZAKONODAJA.
Go Online spremlja razvoj regulatornega okolja in lahko zaradi spremembe zakonodaje, uradnih smernic ali regulatorne klasifikacije posamezni AI sistem:
PRILAGODI → DODATNO OMEJI → PONOVNO TESTIRA → DODATNO DOKUMENTIRA → ZAČASNO USTAVI → ALI PRENEHA UPORABLJATI.
Cilj je graditi AI sisteme, ki niso samo tehnološko uporabni danes, temveč so zasnovani tako, da se lahko prilagajajo prihodnjemu evropskemu regulatornemu okolju.
Go Online uporablja strukturiran sistem upravljanja umetne inteligence, katerega namen je zagotoviti, da se AI sistemi:
AI Governance predstavlja operativni okvir za uporabo AI znotraj Go Online in pri naročniških projektih.
Osnovni Go Online proces je:
AI OWNER → PROJECT OWNER → HUMAN REVIEW → APPROVAL → PRODUCTION → MONITORING → INCIDENT MANAGEMENT
Ta proces se lahko prilagodi glede na vrsto sistema, vendar mora biti pri pomembnejših AI rešitvah vedno jasno:
AI Owner je oseba oziroma funkcija, ki je odgovorna za poslovni in upravljavski okvir določenega AI sistema.
AI Owner praviloma:
AI Owner ni nujno tehnični razvijalec sistema.
Project Owner je odgovoren za izvedbo konkretnega AI projekta.
Njegove naloge lahko vključujejo:
Project Owner skrbi, da se dogovorjeni proces dejansko izvede.
Pri tehnično kompleksnejših sistemih se lahko določi tudi Technical Owner.
Ta je lahko odgovoren za:
Human Review pomeni vsebinski, tehnični ali strokovni pregled AI rezultata oziroma sistema pred pomembno uporabo.
Pregled lahko vključuje:
Human Review mora biti smiseln in ne zgolj formalna potrditev.
Reviewer je oseba, ki ima dovolj znanja za presojo določenega rezultata.
Primer:
Pregled mora izvajati oseba, ki razume predmet pregleda.
Approval pomeni formalno odločitev, da lahko AI sistem oziroma sprememba preide v naslednjo fazo.
Odobritev je lahko potrebna za:
Pravico do odobritve ima oseba oziroma funkcija z ustreznimi pooblastili.
To je lahko:
AI sistem sam ne more odobriti lastnega prehoda v produkcijo.
Production pomeni dejansko uporabo AI sistema v realnem poslovnem okolju.
Pred produkcijo se glede na tveganje preveri:
Po produkcijski uvedbi se pomembnejši AI sistemi spremljajo.
Monitoring lahko vključuje:
Če sistem povzroči ali bi lahko povzročil pomembno napako, se uporabi incidentni proces iz poglavja 15.
Osnovna logika je:
ZAZNAJ → USTAVI → OMEJI → ANALIZIRAJ → SANIRAJ → DOKUMENTIRAJ → IZBOLJŠAJ.
Go Online za interno upravljanje uporablja osnovno klasifikacijo:
AI se uporablja predvsem kot podporno orodje brez pomembnega samostojnega vpliva.
Primeri:
AI vpliva na poslovni proces, vendar ne izvaja samostojno kritičnih dejanj.
Primeri:
AI lahko pomembno vpliva na podatke, uporabnike, finance, sisteme ali odločitve.
Primeri:
Go Online LOW / MEDIUM / HIGH klasifikacija je interna metoda upravljanja tveganja.
Ne nadomešča pravne klasifikacije po:
Sistem je lahko interno HIGH RISK, ne da bi bil pravno klasificiran kot »high-risk AI system« po AI Actu.
LOW RISK sistemi lahko uporabljajo poenostavljen proces.
Tipično:
UPORABA → OSNOVNI PREGLED → UPORABA REZULTATA.
Praviloma ni potrebna formalna produkcijska odobritev za vsako posamezno uporabo.
Tudi pri LOW RISK uporabi veljajo osnovna pravila:
MEDIUM RISK sistem uporablja več kontrole.
Tipičen proces:
NAMEN → TEST → HUMAN REVIEW → ODOBRITEV → PRODUKCIJA → MONITORING.
Pri MEDIUM RISK sistemu se lahko zahtevajo:
HIGH RISK sistem zahteva okrepljen governance.
Tipični proces:
NAMEN → RISK ASSESSMENT → AI OWNER → PROJECT OWNER → TECHNICAL REVIEW → HUMAN REVIEW → FORMAL APPROVAL → OMEJENA PRODUKCIJA → MONITORING → PERIODIČNI REVIEW → INCIDENT MANAGEMENT.
Pri HIGH RISK sistemih se lahko zahtevajo:
Go Online lahko pri določenih sistemih uporablja tudi dodatno kategorijo:
Gre za sisteme, pri katerih bi lahko napaka povzročila zelo veliko:
Takšen sistem zahteva najvišjo raven nadzora in lahko zahteva dodatno pravno, varnostno ali strokovno presojo.
Pri določanju tveganja se lahko upoštevajo:
Go Online lahko za pomembnejše sisteme uporablja interno oceno tveganja.
Primer:
Končna ocena lahko določi governance nivo sistema.
Temeljno pravilo:
VEČ PODATKOV + VEČ DOSTOPA + VEČ AVTONOMIJE + VEČJI VPLIV = VIŠJI GOVERNANCE NIVO.
Pomembnejši AI sistemi se lahko evidentirajo v internem AI registru.
Register lahko vsebuje:
Za pomembnejše AI agente se uporablja AI Agent Card.
Ta lahko vsebuje:
IME AGENTA
NAMEN
AI OWNER
PROJECT OWNER
MODEL / PONUDNIK
PODATKI
DOSTOPI
ORODJA
DOVOLJENA DEJANJA
PREPOVEDANA DEJANJA
STOPNJA AVTONOMIJE
HUMAN REVIEW
APPROVAL
LOGGING
MONITORING
LIMITI
KILL SWITCH
INCIDENT PROCESS
Vsaka pomembna sprememba AI sistema se obravnava kot sprememba sistema in ne kot nepomembna tehnična podrobnost.
To lahko vključuje spremembo:
Pomembna sprememba lahko zahteva ponovno:
Ni nujno, da odobritev stare verzije avtomatično velja za bistveno spremenjeno verzijo.
Pri pomembnejših sistemih se lahko beleži:
HIGH RISK in pomembnejši MEDIUM RISK sistemi se praviloma najprej testirajo v omejenem okolju.
Tipičen proces:
SANDBOX → TEST → PILOT → OMEJENA PRODUKCIJA → POLNA PRODUKCIJA.
Pred prehodom v produkcijo se lahko uporabi Production Gate.
Preveri se:
Minimalni checklist lahko vsebuje:
□ NAMEN DOLOČEN
□ AI OWNER DOLOČEN
□ PROJECT OWNER DOLOČEN
□ RISK LEVEL DOLOČEN
□ PODATKI PREVERJENI
□ DOSTOPI PREVERJENI
□ TEST USPEŠEN
□ HUMAN REVIEW IZVEDEN
□ APPROVAL IZVEDEN
□ LOGGING AKTIVEN
□ MONITORING AKTIVEN
□ KILL SWITCH PREVERJEN
□ INCIDENT PROCESS DOLOČEN
Za sisteme z večjim vplivom se uporablja human-in-the-loop.
AI:
PRIPRAVI → ČLOVEK PREVERI → ČLOVEK POTRDI → SISTEM IZVEDE.
To je priporočeni model za pomembne odločitve in dejanja.
Pri bolj avtomatiziranih sistemih lahko človek sistem nadzoruje brez potrditve vsakega posameznega dejanja.
Tak model zahteva:
Popolnoma avtomatizirano delovanje brez neposrednega človeškega pregleda se uporablja samo, kadar:
Pri pomembnejših sistemih lahko Go Online loči:
Oseba, ki je zgradila sistem, zato ni nujno tudi edina oseba, ki ga odobri za produkcijo.
Pri sistemih z večjim tveganjem se lahko uporablja načelo štirih oči:
ENA OSEBA PRIPRAVI → DRUGA OSEBA PREVERI.
To je posebej koristno pri:
Monitoring lahko spremlja:
Za pomembne metrike se lahko določijo pragovi.
Primer:
če agent preseže:
se lahko avtomatično:
OMEJI → USTAVI → ESKALIRA.
Pomembnejši sistemi se periodično pregledajo.
Review lahko vključuje:
Pogostost pregleda je odvisna od tveganja.
Primer:
LOW RISK
po potrebi.
MEDIUM RISK
periodično oziroma ob pomembnih spremembah.
HIGH RISK
redno in po vsaki pomembni spremembi ali incidentu.
AI sistem, ki:
se lahko deaktivira.
Go Online AI Governance pokriva celoten življenjski cikel:
IDEJA → OCENA TVEGANJA → RAZVOJ → TEST → REVIEW → APPROVAL → PRODUKCIJA → MONITORING → SPREMEMBE → INCIDENTI → DEAKTIVACIJA.
Pri naročniških sistemih je lahko del governance odgovornosti na strani naročnika.
Naročnik lahko določi:
Pri skupnih projektih se lahko uporablja model:
GO ONLINE
→ tehnična implementacija, integracije, varnost, monitoring.
NAROČNIK
→ poslovni namen, poslovna pravila, podatki, končne odobritve.
SKUPAJ
→ risk assessment, testiranje, incident response in spremembe sistema.
Partnerji in Talenti, ki delajo na AI projektih, morajo upoštevati governance nivo konkretnega sistema.
Ne smejo:
brez ustrezne odobritve.
Z rastjo Go Online se lahko uvede formalni AI Governance Board oziroma odgovorna skupina.
Ta lahko skrbi za:
Vsak pomembnejši AI sistem mora odgovoriti na naslednja vprašanja:
KDO JE AI OWNER?
KDO JE PROJECT OWNER?
KAJ SISTEM DELA?
KATERE PODATKE UPORABLJA?
KAKŠEN JE RISK LEVEL?
KDO PREGLEDA OUTPUT?
KDO GA ODOBRI?
KAJ LAHKO IZVEDE SAM?
KAKO GA SPREMLJAMO?
KAKO GA USTAVIMO?
KAJ NAREDIMO OB INCIDENTU?
Standard Go Online je:
Go Online AI Governance temelji na načelu, da noben pomemben AI sistem ne sme biti samo »postavljen in pozabljen«.
Vsak pomemben sistem mora imeti:
NAMEN → LASTNIKA → RISK LEVEL → PREGLED → ODOBRITEV → NADZOR → INCIDENTNI PROCES.
Osnovni Go Online standard je:
AI OWNER → PROJECT OWNER → HUMAN REVIEW → APPROVAL → PRODUCTION → MONITORING → INCIDENT MANAGEMENT.
Klasifikacija tveganja določa intenzivnost nadzora:
LOW RISK → LAHEK NADZOR
MEDIUM RISK → STRUKTURIRAN PREGLED IN MONITORING
HIGH RISK → FORMALEN GOVERNANCE, HUMAN APPROVAL, LOGGING, MONITORING IN KILL SWITCH
Temeljno pravilo ostaja:
VEČJI KOT JE VPLIV AI SISTEMA, BOLJ JASNI MORAJO BITI NJEGOV LASTNIK, POOBLASTILA, OMEJITVE, NADZOR IN ODGOVORNOST.
S tem Go Online AI ne obravnava kot posamezno orodje, temveč kot upravljan poslovni sistem z jasnim življenjskim ciklom, odgovornostmi in kontrolami.
Go Online spodbuja sistematično izobraževanje oseb, ki pri svojem delu uporabljajo umetno inteligenco.
Cilj je zagotoviti, da uporabniki AI razumejo:
AI znanje mora biti sorazmerno:
Osnovni Go Online standard je:
RAZUMI AI → UPORABLJAJ VARNO → ZAŠČITI PODATKE → PREVERI OUTPUT → POZNAJ OMEJITVE → ESKALIRAJ, KO JE POTREBNO.
AI literacy ni enkratno izobraževanje, ampak stalen proces.
Relevantno izobraževanje se lahko zahteva za:
Zaposleni, ki uporabljajo AI pri svojem delu, morajo poznati vsaj osnovna pravila glede:
Stopnja dodatnega izobraževanja je odvisna od njihove vloge.
Talenti morajo pri uporabi AI upoštevati enake osnovne standarde odgovorne uporabe kot interna ekipa, kadar delajo na projektih Go Online.
Posebej morajo razumeti:
Partnerji, ki uporabljajo AI v okviru sodelovanja z Go Online, morajo razumeti:
Partner ne sme sklepati, da mu uporaba AI daje širša pooblastila od tistih, ki jih ima sicer.
AI onboarding se lahko vključi v:
Namen onboardinga je, da uporabnik pred uporabo sistema razume osnovna pravila in omejitve.
Minimalni AI onboarding lahko vsebuje:
Go Online lahko uporabnikom zagotovi:
Cilj smernic je poenostaviti pravilno uporabo AI v vsakodnevnem delu.
Uporabniki morajo vedeti, katera AI orodja so:
Uporaba osebnega oziroma brezplačnega AI računa za poslovne podatke ni avtomatično dovoljena.
Uporabnik mora pred uporabo AI razumeti, s kakšnimi podatki dela.
Posebej mora znati prepoznati:
Pred vnosom podatka v AI naj uporabnik preveri:
ALI JE TA PODATEK POTREBEN?
ALI GA SMEM UPORABITI?
ALI JE AI OKOLJE ODOBRENO?
ALI LAHKO PODATEK ZMANJŠAM ALI ANONIMIZIRAM?
Uporabnike je treba jasno poučiti, da se:
ne vnašajo v običajne AI pogovore.
Za integracije se uporabljajo ustrezni varni mehanizmi.
Go Online lahko uporabnike izobražuje o učinkovitem promptingu.
Osnovni prompt lahko vključuje:
Boljši prompt lahko izboljša rezultat, vendar ne odpravi potrebe po preverjanju.
Pri naprednejših AI sistemih prompting lahko vključuje:
Zato je pri naprednih uporabnikih potrebno širše razumevanje sistema.
Vsak uporabnik mora razumeti, da:
AI OUTPUT ≠ PREVERJENO DEJSTVO.
Glede na tveganje mora znati preveriti:
Če AI navede:
mora uporabnik pri pomembni uporabi preveriti, ali vir:
Uporabniki morajo poznati koncept AI halucinacij.
Posebej morajo razumeti, da lahko AI:
Uporabnike je treba opozoriti, da AI lahko ustvari pristranske rezultate.
Pri uporabi AI pri:
je potrebna dodatna previdnost.
Uporabnik mora razlikovati med:
AI osnutek ne sme avtomatično postati uradna komunikacija brez ustreznega pregleda.
Razvijalci, ki uporabljajo AI za kodo, morajo razumeti, da AI-generirana koda lahko vsebuje:
Pomembna koda zahteva code review in testiranje.
Uporabniki AI avtomatizacij morajo razumeti:
Pri pomembnih sistemih mora biti uporabnik seznanjen tudi s kill switch postopkom.
Oseba, ki uporablja ali upravlja AI agenta, mora poznati:
AI izobraževanje lahko vključuje tudi osnovne varnostne teme:
Uporabniki morajo vedeti, da incident ni samo kibernetski napad.
Incident je lahko tudi:
Uporabnik mora vedeti:
Velja:
ČE DVOMIŠ, RAJE PRIJAVI.
Uporabnike je treba usposobiti, da AI ne uporabljajo nekritično.
Osnovno pravilo:
AI PREDLAGA → ČLOVEK PREVERI → ODGOVORNA OSEBA ODLOČI.
Izobraževanje je sorazmerno tveganju.
Potrebuje predvsem:
Poleg osnov potrebuje:
Potrebuje dodatno:
Go Online lahko uporablja različne izobraževalne module za:
Vsaka skupina potrebuje drugačno globino znanja.
AI Owner mora poleg osnov razumeti tudi:
Project Owner mora razumeti:
Technical Owner potrebuje dodatno znanje glede:
AI tehnologija in regulativa se hitro spreminjata.
Go Online zato lahko izvaja:
Dodatno izobraževanje se lahko izvede ob:
Pomembni incidenti se lahko uporabijo kot učni primeri.
Pri tem se:
Go Online lahko vzdržuje interno AI bazo znanja, ki vsebuje:
Go Online lahko vzdržuje interno knjižnico preverjenih promptov oziroma struktur.
Namen je:
Prompt Library sama po sebi ne odpravlja potrebe po človeškem pregledu.
Za določene vloge lahko Go Online uvede interno certificiranje oziroma potrditev usposobljenosti.
Primer:
GO ONLINE AI READY
ali
GO ONLINE AI OPERATOR
Certificiranje lahko vključuje:
Pri pomembnejših AI sistemih je lahko dostop pogojen z:
Uporabnik ne dobi avtomatično dostopa samo zato, ker tehnično obstaja.
Za pomembnejše vloge lahko Go Online beleži:
Po izobraževanju se lahko uporabi kratek knowledge check.
Primer vprašanj:
Go Online daje prednost praktičnemu učenju.
To lahko vključuje:
Cilj izobraževanja ni uporabnike prestrašiti pred AI.
Cilj je, da znajo AI uporabljati:
HITRO → UČINKOVITO → VARNO → KRITIČNO → ODGOVORNO.
Če uporabnik:
se mu lahko dostop do določenega AI sistema začasno omeji do dodatnega usposabljanja.
Vodje morajo pri uvajanju AI zagotoviti, da uporabniki:
Pri naročniških AI rešitvah lahko Go Online ponudi oziroma zahteva tudi onboarding uporabnikov naročnika.
To je posebej pomembno pri:
Ob predaji pomembnejšega AI sistema se lahko izvede handover trening.
Ta lahko vključuje:
Go Online lahko uporablja naslednjo pot:
Globina poti je odvisna od vloge uporabnika.
Vsak uporabnik AI mora znati odgovoriti na naslednja vprašanja:
KAJ SME AI V TEM PROCESU NAREDITI?
KATERIH PODATKOV MU NE SMEM DATI?
KAKO PREVERIM REZULTAT?
KDAJ MORAM VKLJUČITI ČLOVEKA?
KAKO PRIJAVIM NAPAKO ALI INCIDENT?
KAKO SISTEM USTAVIMO?
Če uporabnik na ta vprašanja ne zna odgovoriti, še ni ustrezno pripravljen za samostojno uporabo pomembnejšega AI sistema.
Go Online AI ne obravnava kot orodje, ki ga lahko vsak uporablja brez pravil in razumevanja.
Varna in učinkovita uporaba AI zahteva:
ZNANJE → SMERNICE → VARNOST → PREVERJANJE → ODGOVORNOST → PERIODIČNO UČENJE.
Zato Go Online uporablja načelo:
BOLJ KOT JE AI SISTEM AVTONOMEN IN POMEMBEN, BOLJ USPOSOBLJEN MORA BITI NJEGOV UPORABNIK.
Cilj izobraževanja ni ustvariti AI strokovnjaka iz vsakega uporabnika, temveč zagotoviti, da vsaka oseba razume AI dovolj dobro za odgovorno uporabo v svoji vlogi.
Osnovni Go Online standard je:
RAZUMI ORODJE → ZAŠČITI PODATKE → DOBRO NAVODILO → PREVERI OUTPUT → SPOŠTUJ OMEJITVE → ESKALIRAJ TVEGANJE → UČI SE NAPREJ.
To poglavje določa začetek veljavnosti, način spreminjanja, različice in vzdrževanje Politike uporabe umetne inteligence Go Online.
Politika predstavlja splošni okvir za odgovorno, varno in skladno uporabo umetne inteligence v okviru Go Online.
Ta politika začne veljati z dnem, ki je naveden kot datum njene uveljavitve oziroma zadnje potrjene različice.
Od tega dne se uporablja za relevantne AI sisteme, procese in uporabnike v obsegu, določenem v tej politiki.
Politika se uporablja za osebe in procese, opredeljene v poglavju 1 te politike.
To lahko vključuje zlasti:
Za naročnike se politika uporablja v obsegu, v katerem je vključena v pogodbo, ponudbo, projektno dokumentacijo ali drug dogovor.
Ta politika se uporablja skupaj z drugimi veljavnimi dokumenti Go Online.
To lahko vključuje:
Če poseben pogodbeni ali projektni dokument določa strožja ali natančnejša pravila za konkretni primer, se uporabljajo ta posebna pravila, če niso v nasprotju z obveznim pravom.
Go Online lahko to politiko spremeni zaradi:
Politika se lahko periodično pregleda tudi, če ni prišlo do večje zunanje spremembe.
Namen pregleda je preveriti:
Izredni pregled politike se lahko izvede ob:
Vsaka pomembnejša sprememba politike se lahko evidentira z novo različico dokumenta.
Primer:
Verzija 1.0
prva potrjena različica.
Verzija 1.1
manjša dopolnitev ali pojasnilo.
Verzija 2.0
večja vsebinska ali regulatorna sprememba.
Go Online lahko vodi evidenco sprememb, ki vsebuje:
S tem se zagotavlja sledljivost razvoja politike.
Prejšnje različice dokumenta se lahko arhivirajo zaradi:
Arhivirana različica se ne šteje za trenutno veljavno, razen če je za konkretno razmerje dogovorjeno drugače.
Če sprememba politike pomembno vpliva na:
lahko Go Online takšne osebe ustrezno obvesti.
Način obvestila je lahko:
Kadar je to glede na pravno razmerje potrebno, se lahko za uporabo bistveno spremenjene politike zahteva:
Samo objava nove verzije ne nadomešča dodatnega soglasja, kadar je to po naravi razmerja ali veljavnem pravu potrebno.
Aktualna različica politike je lahko dostopna:
Naslovi in poudarki v tej politiki so namenjeni preglednosti.
Če pride do nejasnosti, se določbe razlagajo:
Če bi bila posamezna določba te politike:
to praviloma ne vpliva na veljavnost preostalih določb.
Takšna določba se v največjem možnem obsegu razlaga oziroma nadomesti na način, ki je najbližji njenemu prvotnemu namenu in skladen z veljavnim pravom.
Nobena določba te politike ne izključuje pravil, ki jih po veljavnem pravu ni mogoče pogodbeno izključiti ali omejiti.
V primeru nasprotja ima obvezno pravo prednost.
Politika ni vezana samo na trenutno uporabljene AI modele, ponudnike ali platforme.
Uporablja se smiselno tudi za prihodnje AI:
Za vprašanja glede te politike, uporabe AI, incidentov ali pravil uporabe se uporabniki lahko obrnejo na Go Online preko uradnih kontaktnih kanalov podjetja.
Po potrebi lahko Go Online določi tudi poseben kontakt za:
Pomembni AI incidenti se ne prijavljajo samo kot splošno vprašanje glede politike, temveč po ustreznem incidentnem postopku iz poglavja 15.
Če poseben kanal ni določen, se incident prijavi odgovorni osebi oziroma preko uradnega kontakta Go Online brez nepotrebnega odlašanja.
Go Online lahko določi odgovorno osebo oziroma funkcijo za:
To je lahko AI Owner, management ali druga določena oseba.
Dokument vsebuje najmanj:
NAZIV: Politika uporabe umetne inteligence
ORGANIZACIJA: Go Online d.o.o.
VERZIJA: 1.0
DATUM UVELJAVITVE: [datum]
DATUM ZADNJE POSODOBITVE: [datum]
Priporočen zapis:
Verzija 1.0 – [datum]
Prva celovita različica Politike uporabe umetne inteligence.
Pri prihodnjih spremembah se lahko dodajo nove vrstice z opisom pomembnih sprememb.
Priporoča se, da se politika pregleda najmanj:
Go Online lahko določi tudi reden letni pregled.
Ta politika predstavlja osnovni Go Online AI standard.
Dopolnjujejo jo lahko:
Ti dokumenti lahko podrobneje določajo operativno izvajanje pravil iz te politike.
Go Online umetno inteligenco obravnava kot pomembno poslovno in tehnološko orodje, ki zahteva jasno kombinacijo:
INOVACIJ → VARNOSTI → ČLOVEŠKEGA NADZORA → ODGOVORNOSTI → SKLADNOSTI.
Politika je zasnovana tako, da omogoča razvoj in uporabo AI brez nepotrebnega omejevanja inovacij, vendar z jasnimi mejami, odgovornostmi in zaščitnimi ukrepi.
Osnovni Go Online pristop je:
UPORABI AI TAM, KJER USTVARJA VREDNOST → ZAŠČITI PODATKE → DOLOČI ODGOVORNOST → PREVERJAJ REZULTATE → NADZORUJ AVTOMATIZACIJO → UPRAVLJAJ TVEGANJE → PRILAGAJ SE SPREMEMBAM.
Ta politika se uporablja kot živ dokument.
Ker se:
stalno razvijajo, se bo politika po potrebi dopolnjevala.
Go Online si zato pridržuje pravico dokument prilagoditi novim okoliščinam ob spoštovanju veljavnega prava in obveznosti iz konkretnih poslovnih razmerij.
KONEC DOKUMENTA – POLITIKA UPORABE UMETNE INTELIGENCE
