ISO 27001 dirbtinio intelekto eroje: ar informacijos saugos standarto pakanka?

Dirbtinis intelektas informacijos saugai sukūrė kanalą, kurio dauguma organizacijų nemato. Serveriai, debesijos aplinkos ir vartotojų prieigos tebėra kontroliuojami, tačiau darbuotojas per kelias sekundes gali nukopijuoti sutarties fragmentą, klientų sąrašą ar programinį kodą į išorinę sistemą — ir šis veiksmas nepaliks pėdsako nė viename įprastame saugos žurnale.

Tai nėra argumentas prieš technologiją. Tai argumentas už tai, kad diegiant ISO/IEC 27001 šiandien nebeužtenka inventorizuoti infrastruktūrą: būtina inventorizuoti ir realius dirbtinio intelekto naudojimo scenarijus.

Standarto esmė nesikeičia — keičiasi rizikų laukas

ISO/IEC 27001:2022 dėl dirbtinio intelekto nereikalauja nieko naujo. Organizacija ir toliau turi valdyti informacijos konfidencialumo, vientisumo ir prieinamumo rizikas, nustatyti atsakomybes, įgyvendinti kontrolės priemones ir įrodyti, kad jos veikia praktikoje.

Pasikeitė tai, kur ta informacija keliauja. Saugos požiūriu generatyvinio DI įrankio naudojimas nėra „technologijos naudojimas“ — tai informacijos perdavimas išoriniam paslaugų teikėjui. Vertinamas jis turi būti taip pat atsakingai kaip bet kuri kita debesijos paslauga.

Didžioji dalis reikalingų kontrolės priemonių jau yra standarto A priede ir dažniausiai jau įdiegtos. Jas tereikia pritaikyti naujam kanalui:

• 5.12 Informacijos klasifikavimas — kokią informaciją apskritai galima perduoti DI sistemai.
• 5.15 Prieigos kontrolė — kas turi paskyras ir kaip jos atšaukiamos.
• 5.19–A.5.23 Tiekėjų ir debesijos paslaugų valdymas — DI platforma yra tiekėjas.
• 6.3 Sąmoningumas ir mokymai — darbuotojas turi žinoti ribą prieš ją peržengdamas.
• 8.12 Duomenų nutekėjimo prevencija — techninė kontrolė ten, kur politikos nepakanka.

Todėl pirmoji praktinė išvada paprasta: nereikia kurti atskiros „DI saugos sistemos“. Reikia esamą sistemą išplėsti taip, kad ji matytų naują kanalą.

Pradėkite nuo to, kas jau vyksta, o ne nuo to, kas patvirtinta

Pirmas žingsnis yra ne politika, o inventorizacija. Organizacija turi žinoti ne tik oficialiai patvirtintus DI sprendimus, bet ir tuos, kuriuos darbuotojai pasirinko patys.

Čia atsiranda „shadow AI“ — technologijos pradedamos naudoti greičiau, nei organizacija spėja jas įvertinti. Skirtumas nuo klasikinio „shadow IT“ tas, kad DI įrankiui nereikia nei diegimo, nei administratoriaus teisių: pakanka naršyklės ir asmeninio el. pašto.

Realų vaizdą padeda susidaryti keli praktiniai šaltiniai:

• tapatybės valdymo sistemos prisijungimų ataskaitos ir OAuth leidimai, suteikti išorinėms programėlėms;
• tinklo ar proxy žurnalai bei naršyklės plėtinių sąrašas galiniuose įrenginiuose;
• išlaidų ir atskaitomybės duomenys — asmeninės prenumeratos dažnai matomos buhalterijoje anksčiau nei IT;
• anoniminė darbuotojų apklausa, kurioje klausiama ne „ar naudojate“, o „kokioms užduotims naudojate“.

Svarbus niuansas: inventorizacija pavyks tik tada, jei ji nebus suvokiama kaip pažeidimų medžioklė. Vien draudimai čia neveikia — jei įrankis padeda dirbti greičiau, griežta politika naudojimą ne sustabdo, o paverčia nematomu. Veikia kitas derinys: patvirtintų įrankių sąrašas, aiškiai apibrėžti leidžiami scenarijai ir reali alternatyva darbuotojui, kuris nori atlikti darbą greičiau.

Taisyklė, kurią darbuotojas prisimena dirbdamas

Duomenų klasifikavimas yra ta vieta, kur DI politika arba suveikia, arba lieka popieriuje. Ilgas kategorijų sąrašas neveikia, nes darbuotojas jo neprisimena spausdamas „įklijuoti“. Veikia trijų lygių logika, susieta su jau esama organizacijos klasifikavimo schema.

Politika turi pasakyti ir tai, ko dažniausiai trūksta: ką daryti, kai darbuotojas suklydo. Jei įkėlus jautrų dokumentą į neleistiną įrankį vienintelė numatyta pasekmė yra drausminė, apie incidentus niekas nepraneš, o organizacija neteks svarbiausios informacijos apie savo pačios rizikas.

Prieigos ir tiekėjai: ta pati disciplina, nauja kategorija

DI paskyros dažnai lieka už įprasto prieigų valdymo ribų, nes jos atsiranda ne per IT, o per komandos iniciatyvą. Rezultatas — paskyros, registruotos asmeniniais el. paštais, bendrai naudojami prisijungimai ir darbuotojo išėjimas, po kurio prieiga prie pokalbių istorijos lieka galioti.

Minimalus reikalavimas: DI įrankiai naudojami tik per organizacijos valdomą tapatybę, paskyros įtraukiamos į priėmimo ir atleidimo procesus, o teisės peržiūrimos tuo pačiu ritmu kaip ir kitų sistemų.

Tiekėjo vertinimas DI atveju turi atsakyti į kelis konkrečius klausimus, kurių klasikinėje debesijos anketoje nebūna:

• ar įvesti duomenys naudojami modeliui mokyti ir ar tai galima išjungti sutartiniu lygmeniu;
• kiek laiko saugomi pokalbiai bei įkelti failai ir ar įmanomas jų ištrynimas;
• kuriose jurisdikcijose duomenys apdorojami ir saugomi;
• kokie subtiekėjai dalyvauja teikiant paslaugą;
• ar organizacijos planas iš tiesų apima verslo lygmens sąlygas — nemokama ar asmeninė versija paprastai jų nesuteikia.

Skirtumas tarp to paties produkto nemokamos ir verslo versijos čia dažnai svarbesnis nei pasirinkimas tarp dviejų skirtingų tiekėjų.

Rizikų registre reikia scenarijų, ne technologijos pavadinimo

Dažniausia klaida — vienas įrašas „dirbtinio intelekto naudojimo rizika“. Toks įrašas neleidžia nei parinkti kontrolės priemonės, nei įvertinti liekamosios rizikos. Vertinti reikia ne technologijos, o veiksmo: kur, kaip ir kokiam procesui ji naudojama.

Kiekvienas iš šių scenarijų turi savo tikimybę ir poveikį, todėl ir priemonės skiriasi. Būtent toks detalumas atskiria rizikų registrą, kuris valdo riziką, nuo registro, kuris tik pažymi, kad tema žinoma.

Ką auditorius iš tiesų prašys parodyti

ISO 27001 remiasi objektyviais įrodymais, todėl politikos dokumentas apie DI pats savaime nieko neįrodo. Auditas paprastai klausia to paties, ko ir dėl kitų sistemų — tik dabar apie DI:

1. patvirtintų DI įrankių sąrašą ir sprendimą, kas ir kada juos patvirtino;
2. naudojimo taisykles ir įrodymą, kad darbuotojai su jomis supažindinti;
3. prieigos teisių sąrašą ir paskutinės peržiūros datą;
4. tiekėjo vertinimo įrašą bei sutartines duomenų tvarkymo sąlygas;
5. mokymų medžiagą ir dalyvavimo duomenis;
6. su DI susijusius incidentus arba pagrįstą paaiškinimą, kodėl jų neužfiksuota;
7. rizikų registro įrašus ir vadovybės peržiūros protokolą, kuriame tema buvo svarstyta.

Svarbiausias čia yra atsekamumas. Skirtumą tarp deklaracijos ir veikiančios sistemos parodo ne dokumento egzistavimas, o datos, atsakingi asmenys ir matomi sprendimai.

Kur baigiasi ISO 27001 ir kodėl atsirado ISO/IEC 42001

ISO 27001 skirtas informacijos saugos vadybai. Jis labai gerai atsako į klausimą, ar informacija apsaugota, tačiau neatsako į klausimą, ar sistemos priimamas sprendimas yra teisingas, skaidrus ir kam nors priskirtinas.

Kol DI yra pagalbinė darbuotojo priemonė — tekstams rengti, informacijai apibendrinti, kodui peržiūrėti — tinkamai išplėsta ISO 27001 sistema duoda pakankamą pagrindą. Kai DI pradeda daryti įtaką sprendimams dėl klientų, darbuotojų, kainodaros, kreditavimo ar rizikos vertinimo, iškyla klausimai, kurių saugos standartas tiesiog neapima: kaip užtikrinamas skaidrumas, kas atsako už rezultatą, kokia žmogaus priežiūra taikoma ir kaip vertinamas poveikis asmenims.

Būtent šiai sričiai skirtas ISO/IEC 42001 — dirbtinio intelekto valdymo sistemos standartas. Jie nekonkuruoja: ISO 27001 saugo informacinį turtą, ISO 42001 valdo DI gyvavimo ciklą, atsakomybes ir poveikį. Organizacijoms, kurioms aktualūs abu, prasminga juos integruoti į vieną vadybos sistemą, o ne kurti antrą dokumentų rinkinį.

Praktinis kriterijus paprastas, ir jis nepriklauso nuo įrankio pavadinimo: jei DI rezultatą prieš panaudojimą visada peržiūri žmogus, tai informacijos saugos klausimas; jei rezultatas veikia žmogų tiesiogiai, tai jau valdysenos klausimas. Vien tai, kad organizacijoje naudojamas „ChatGPT“, ISO 42001 poreikio neįrodo.

Nuo ko pradėti artimiausią mėnesį

Organizacijoms, kurios rengiasi ISO 27001 sertifikavimui ir jau naudoja DI, racionaliausia pradėti nuo faktinės situacijos, o ne nuo dokumentų rašymo.

1. Surinkite realų naudojimo vaizdą. Apklausa ir prisijungimų duomenys, be kaltinimų ir be pavardžių.
2. Nubrėžkite duomenų srautus. Kokia informacija, iš kokio proceso ir į kokią sistemą patenka.
3. Patvirtinkite įrankių sąrašą. Kelios versijos su verslo sąlygomis vietoj dešimties nevaldomų.
4. Papildykite klasifikavimą viena taisykle. Ką galima ir ko negalima perduoti DI sistemai.
5. Įvertinkite tiekėjus. Mokymas duomenimis, saugojimo terminai, jurisdikcija, subtiekėjai.
6. Įtraukite scenarijus į rizikų registrą. Konkrečiai, su atsakingais asmenimis ir priemonėmis.
7. Apmokykite darbuotojus pavyzdžiais. Ne standarto punktais, o situacijomis iš jų pačių darbo.

Atlikus šiuos žingsnius paaiškėja ir atsakymas į pradinį klausimą: ar organizacijai pakanka išplėstos informacijos saugos vadybos sistemos, ar jau verta kalbėti apie platesnį DI valdysenos modelį.

Tikslas — veikianti, o ne dokumentuota sistema

Papildomos politikos, parašytos vien dėl atitikties, rizikų nevaldo. Vadybos sistema turi atspindėti tai, kaip organizacija iš tiesų dirba: kokias technologijas naudoja, kokie duomenys kuriais keliais juda ir kas už tai atsako.

Dirbtinio intelekto eroje tai reiškia vieną konkretų dalyką — DI nebegali likti už informacijos saugos sistemos ribų. ISO 27001 ir toliau yra tvirtas pagrindas, tačiau jis veikia tik tiek, kiek apima realų naudojimą. Organizacijos, kurios tai padaro anksčiau, gauna dvigubą naudą: lengvesnį auditą ir aiškų atsakymą darbuotojui, kuris šiandien ryte atsidarė pokalbio langą ir svarsto, ar gali į jį įklijuoti sutartį.