Dirbtinis intelektas ir RegTech Pinigų plovimo ir teroristų finansavimo prevencijos srityje: galimybės, rizikos ir žmogaus vaidmuo

Pastaruoju metu vis daugiau įmonių ir organizacijų, įskaitant finansų įstaigas, diegia dirbtinio intelekto (DI) sprendimus, ypač Pinigų plovimo ir teroristų finansavimo prevencijos (PPTFP) srityje.

RegTech (reguliavimo technologijos) sprendimai padeda finansų institucijoms laikytis reguliavimo reikalavimų, o sparti DI pažanga atveria galimybes šiuos procesus įgyvendinti efektyviau ir veiksmingiau. Tačiau vis aktyvesnis DI pagrįstų sprendimų taikymas natūraliai kelia klausimą dėl žmogaus vaidmens ir atsakomybės šioje srityje.

Analizuojant Finansinio stabilumo instituto (FSI), Europos bankininkystės institucijos (EBA) ir Europos Centrinio Banko (ECB) nuomones, taip pat stebint rinkos tendencijas ne tik Lietuvoje, bet ir kitose Europos Sąjungos valstybėse, pavyzdžiui, Nyderlanduose, matyti aiškus technologinės transformacijos mastas. Pavyzdžiui, Nyderlandų bankai paskelbė planus per artimiausius dvejus metus panaikinti apie 2600 su PPTFP  susijusių darbo vietų, pasitelkiant DI technologijas kasdienėms stebėsenos operacijoms atlikti.

Nors technologijos ir DI yra neatsiejama ateities dalis, būtina suprasti, kaip šiuos sprendimus naudoti atsakingai, kokias rizikas jie kelia ir kaip tinkamai valdyti procesus, siekiant išvengti galimų pažeidimų.

Pagrindinės dirbtinio intelekto naudojimo rizikos ir KYC

KYC („Pažink savo klientą“) principo įgyvendinimas yra privalomas finansų institucijoms, tam, jog jos galėtų nustatyti ir patikrinti klientų tapatybę bei įvertinti su jais susijusią riziką.

Tiek finansų institucijos, tiek priežiūros institucijos pripažįsta DI potencialą šioje srityje, kuris gali sumažinti rankinį darbo krūvį ir leisti organizacijoms sutelkti išteklius į svarbiausius procesus. Ir nors dirbtinis intelektas gali reikšmingai padidinti procesų efektyvumą, greitai analizuodamas didelius duomenų kiekius ir per trumpą laiką parengdamas išsamią tyrimo išvadą, tačiau reikia būti nepaprastai atidiems, nes DI naudojimas kartu kelia ir reikšmingų rizikų, kurias, mano nuomone, pagrindines, noriu išskirti tris:

Modelio rizika - tai tikimybė, kad naudojamas DI modelis dėl netikslių, įmonės veiklai neadaptuotų ar nepilnai adaptuotų parametrų, klaidų, šališkų ar nepakankamų duomenų, nepaaiškinamos logikos ar kitų veiksnių priims neteisingus sprendimus.

DI modelių veikimas tiesiogiai priklauso nuo modelio mokymui naudojamų duomenų kokybės: jei duomenys yra neišsamūs, netikslūs arba istoriškai šališki, modelis gali atkartoti esamus socialinius šališkumus ir taip sukelti sisteminę diskriminaciją tam tikrų klientų grupių atžvilgiu ar priimti neteisingus sprendimus.

Reikšminga rizika kyla ir dėl DI modelių nepermatomumo - modeliai gali veikti kaip „juodosios dėžės“, todėl tampa sudėtinga suprasti, kaip buvo priimtas konkretus sprendimas. Tai apsunkina atitikties užtikrinimą, vidaus kontrolę ir pabrėžia būtinybę integruoti paaiškinamus DI modelius, galinčius pagrįsti savo išvadas ir taip užtikrinti veiklos skaidrumo principo įgyvendinimą.

Tam, kad modelis būtų patikimas, jis taip pat privalomai turi mokėti naudoti naujausią prieinamą informaciją. Modelių, kurie neatsižvelgia į tokią informaciją, pateikiami rezultatai bus netikslūs. Pavyzdžiui, modelis negebės atrasti naujausios neigiamos informacijos „Pažink savo klientą“ procese. Galiausiai nepakankamas modelio pritaikymas, dėl kurio modelis nesugeba apibendrinti duomenų platesniame kontekste ar generavimas įtikinamai skambančios, bet faktiškai klaidingos informacijos, vadinamos „haliucinacijomis“ pateikimas, gali ženkliai padidinti veiklos ir organizacijai taikomų teisės aktų reikalavimų pažeidimo riziką.

Kibernetinė rizika - tai grėsmių visuma, atsirandanti finansų institucijoms integruojant DI sprendimus ir didinant technologinį ekosistemos sudėtingumą. Naudojant DI, organizacijos tampa labiau pažeidžiamos, nes didėja sąlyčio taškų su išoriniais paslaugų teikėjais skaičius ir IT sistemų tarpusavio sujungimas, o tai atveria platesnes galimybes kibernetinėms atakoms.

Nepakankamos prieigos kontrolės priemonės gali sudaryti sąlygas neteisėtai prieiti prie mokymo duomenų ar pačių DI modelių, o tai kelia riziką tiek duomenų konfidencialumui, tiek modelių integralumui. DI modeliai taip pat gali būti paveikti duomenų užteršimo (angl. data poisoning) atakų, kai piktybiškai modifikuojami mokymo duomenų rinkiniai siekiant pakeisti modelio elgseną.

Operacinė rizika kyla tada, kai DI sprendimų diegimas apsunkina organizacijos technologinę aplinką ir padidina galimų veiklos sutrikimų tikimybę. Įmonėms, kurios naudoja senesnes ar fragmentuotas IT sistemas, DI integravimas gali smarkiai padidinti architektūros sudėtingumą, sukuriant papildomus priklausomybės taškus ir didesnę sistemų tarpusavio sąveikos riziką. Toks technologinis „sluoksniavimasis“ padidina IT gedimų, veiklos sutrikimų bei incidentų tikimybę, o jų valdymas tampa gerokai sudėtingesnis. Be to, kai kurie procesai gali tapti pernelyg priklausomi nuo automatizuotų sprendimų, todėl net trumpalaikiai DI modelių ar sistemų sutrikimai gali turėti plataus masto operacines pasekmes.

DI naudojimas finansų institucijose gali lemti įvairias su duomenimis susijusias problemas. Nors daugelis svarbių duomenų valdymo ir tvarkymo elementų (pvz. modelio rizikos, vartotojų privatumo ir informacijos saugumo) jau yra apimti galiojančiuose teisės aktuose, organizacijos turėtų įsivertinti ne tik patį DI modelį, bet ir tai, jog padidėja duomenų praradimo, konfidencialumo, duomenų vientisumo pažeidimo ir kitos rizikos.

Ir tai tik kelios mano įvardintos rizikos susijusios su DI sprendimais. Šio straipsnio tikslas yra atkreipti dėmesį į tai, kad reguliuojamas sektorius (ir ne tik) negali palikti sistemų, kuriose „tvarką“ daro DI, be specializuoto žmogaus priežiūros, o įgyvendinant sprendimus kuriant DI modeliais pagrįstą IT architektūrą, jos kūrimo ir priežiūros įgyvendinimui pasitelkti atitinkamų sričių specialistus, tokius kaip AML, rizikų, atitikties ar/ir kt.

Pernelyg didelis specialistų pakeitimas DI sprendimais gali taip pat lemti žmogiškosios kompetencijos nykimą, o tai apsunkintų ne tik sistemų priežiūrą, tačiau ir atitikties bei veiklos skaidrumo standartų laikymąsi. Jei DI modeliai neveikia tinkamai arba susiduriama su nestandartinėmis situacijomis, organizacijoms gali trūkti patirties laiku identifikuoti problemas ir į jas tinkamai reaguoti.

Atsakingas DI diegimas turi būti grindžiamas tvariu valdymu, nuolatiniais mokymais ir realaus laiko stebėsena. Aukštos rizikos srityse būtina užtikrinti žmogaus priežiūrą („human oversight“), suteikiančią teisę stebėti, laiku imtis veiksmų, sustabdyti ar koreguoti DI sprendimus. O tam yra būtinas nuoseklus organizacijų vidinių žinių stiprinimas.

Dirbtinis intelektas gali tapti galingu pagalbininku kovoje su pinigų plovimu ir teroristų finansavimu, tačiau jis negali pakeisti žmogaus vaidmens PPTFP srityje.

Žmogaus sprendimas, kritinis vertinimas, etika ir atsakomybė išlieka nepakeičiami dirbant su šiomis technologijomis. Tai iliustruoja ir teisinis PPTFP reglamentavimas, kuris įpareigoja organizacijas atlikti naudojamų sistemų ir automatizuotų sprendimų testavimus, siekiant įvertinti, ar pasirinkti sistemų parametrai praktikoje išties atliepia organizacijų verslo modelius ir reguliacinius įpareigojimus.

Technologijos padeda atlikti užduotis greičiau, apdoroti didesnį duomenų kiekį, tačiau jos negali pakeisti žmogaus, todėl konstatuotina, jog tvarioje organizacijoje vykdoma atitikties užtikrinimo sistema, turėtų būti paremtas žmogaus ir taikomų technologijų sinergija, kur priežiūra yra vykdoma žmogaus, pasitelkiant DI pagalbą, o ne atvirkščiai. Tik toks požiūris užtikrins, kad inovacijos finansų sektoriuje išliktų saugios, patikimos ir etiškos, o organizacijos išvengs teisės aktų pažeidimų  ir galimų reguliacinių sankcijų.

ExpertLab komanda padės Jums užtikrinti, kad jūsų taikomi modeliai būtų pagalba jūsų verslui identifikuojant, valdant, nustatant ir prižiūrint naujas rizikas, užtikrinant žmogaus priežiūrą (human oversight), atitiktį taikomiems teisės aktams bei tvarią ir atsakingą inovacijų plėtrą.