Kā izvēlēties piemērotāko MI sistēmu?

Tehnoloģiju attīstība sniedz uzņēmumiem jaunas izaugsmes iespējas. Pateicoties mākslīgajam intelektam (MI), iespējams būtiski atvieglot vai novērst rutīnas procesus uzņēmumā. Kā izvēlēties MI sistēmu? Kādiem principiem jābūt ietvertiem MI sistēmā, lai tā būtu droša?

Izvēlēties piemērotāko MI sistēmu uzņēmumam var būt sarežģīti. Jāņem vērā vairāki praktiski faktori, piemēram, uzņēmuma darbības joma, vajadzības, darbaspēks, mērķi un stratēģija. Vienlaikus svarīgi nodrošināt, ka izvēlētā MI sistēma atbilst drošas lietošanas principiem. Droša MI sistēma ir nepieciešama, lai nodrošinātu lietotāja ievadīto datu pareizu uzglabāšanu un MI rezultāta tiesiskumu. 

MI būtiski maina mūsu dzīvi, uzlabojot veselības aprūpi, piemēram, veicinot precīzāku diagnožu noteikšanu un efektīvāku slimību profilaksi, palielinot lauksaimniecības produktivitāti, veicinot klimata pārmaiņu mazināšanu un pielāgošanos tām, uzlabojot ražošanas sistēmu efektivitāti un stiprinot sabiedrības drošību. Tomēr MI rada arī vairākus potenciālus riskus, piemēram, lēmumu pieņemšanas necaurspīdīgumu, dzimumu un cita veida diskrimināciju, iejaukšanos privātajā dzīvē un iespējamu izmantošanu noziedzīgos nolūkos. 

Savi noteikumi izmantošanai

Eiropas Komisijas (EK) baltajā grāmatā par MI, kā arī vairākos EK sagatavotajos skaidrojumos un vadlīnijās noteikti pamatprincipi, kas nodrošina cilvēktiesību, demokrātijas un tiesiskuma principu ievērošanu MI sistēmu dzīves ciklā. Šie principi apkopoti pirmajā starptautiskajā saistošajā līgumā – Pamatkonvencijā par mākslīgo intelektu un cilvēktiesībām, demokrātiju un tiesiskumu.

Eiropas Padomes (EP) Ministru komiteja, saņemot MI komitejas ziņojumu “Iespējamie mākslīgā intelekta tiesiskā regulējuma elementi, pamatojoties uz Eiropas Padomes cilvēktiesību, demokrātijas un tiesiskuma standartiem”, uzdeva komitejai izstrādāt Pamatkonvenciju par darbībām MI sistēmu dzīves ciklā. Konvencijas izstrāde balstās uz EP cilvēktiesību, demokrātijas un tiesiskuma standartiem, vienlaikus veicinot inovācijas, kas var ietvert transversāla rakstura saistošus juridiskus instrumentus, tostarp vispārējos principus.

__________________________________________________________________________

MI sistēmu izmantošana var veicināt sabiedrības un individuālo labklājību, sekmējot progresu un inovācijas, vienlaikus tā rada bažas par iespējamiem cilvēktiesību, demokrātijas un tiesiskuma apdraudējumiem
__________________________________________________________________________

2024.gadā tika pieņemta regula 2024/1689, ar ko nosaka saskaņotas normas MI jomā, jeb MI akts. Šīs regulas mērķis ir noteikt vienotu regulējumu MI sistēmu izstrādei, laišanai tirgū, nodošanai ekspluatācijā un lietošanai Eiropas Savienībā (ES) atbilstoši tās vērtībām. Tā veicina uz cilvēku orientēta un uzticama MI ieviešanu, vienlaikus nodrošinot augstu veselības, drošības, Pamattiesību hartā nostiprināto tiesību, tostarp demokrātijas, tiesiskuma un vides aizsardzības līmeni, kā arī aizsargā pret MI sistēmu radītām kaitīgām sekām ES un atbalsta inovāciju. Lai gan regula nenosaka un neizskaidro principus, kas jāievēro MI sistēmu dzīves cikla laikā, tomēr no MI akta un pamatkonvencijas tieši un netieši izriet būtiski pamatprincipi, kas apliecina MI sistēmas drošumu lietošanai. 

MI komitejas ziņojumā norādīts, ka MI sistēmu izmantošana var veicināt sabiedrības un individuālo labklājību, sekmējot progresu un inovācijas. Tomēr vienlaikus tā rada bažas par iespējamiem cilvēktiesību, demokrātijas un tiesiskuma apdraudējumiem.

Ņemot vērā, ka šobrīd trūkst saistoša regulējuma MI izmantošanas jautājumos, pievērsties vispārējo principu izpratnei par drošu MI sistēmu ir īpaši svarīgi. 

MI izvēles un izmantošanas pamatprincipi 

Pamatkonvencijā ir noteikti septiņi principi, kas saistīti ar MI sistēmas dzīves ciklu – cilvēka cieņa un individuālā autonomija, caurspīdīgums un pārraudzība, atbildība, vienlīdzība un nediskriminācija, privātums un personas datu aizsardzība, uzticamība, kā arī droša inovācija. Šie principi jāvērtē kontekstā ar nacionālo tiesību sistēmu, kā arī EK un citu Eiropas institūciju dokumentiem, kas regulē MI sistēmu izmantošanu un cilvēktiesību ievērošanu.

Cilvēka cieņa un individuālā autonomija 

Pamatkonvencijas 7.pantā noteikts, ka jāveic pasākumi, kas nodrošina cilvēka cieņas un individuālās autonomijas ievērošanu MI sistēmu dzīves cikla laikā. Darbības, kas ietilpst MI sistēmas dzīves ciklā, nedrīkst novest pie indivīdu cilvēcīguma vai humanitātes zaudēšanas, vājināt personu rīcībspēju vai padarīt tās par vienkāršiem datu nesējiem. Tāpat nedrīkst pieļaut MI sistēmām antropomorfizāciju jeb pārlieku pietuvināšanos cilvēka būtībai, kas varētu apdraudēt vai aizskart cilvēka cieņu.

Cilvēka cieņa prasa atzīt cilvēka identitāti, pieredzi un emocijas, kā arī cienīt katra cilvēka vērtību neatkarīgi no izcelsmes, īpašībām vai apstākļiem. Individuālā autonomija, kas ir viens no cilvēka cieņas aspektiem, MI sistēmu kontekstā nozīmē, ka personas saglabā kontroli pār šo sistēmu izmantošanu un ietekmi savā dzīvē, lai netiktu mazināta viņu rīcībspēja un autonomija. Šis princips ir īpaši svarīgs, jo MI sistēmu spēja atdarināt un manipulēt var tikt viegli izmantota, apdraudot cilvēku autonomiju un cieņu.

__________________________________________________________________________

Lai nodrošinātu pārredzamību, jābūt pieejamai atbilstošai informācijai par sistēmu, piemēram, tās mērķi, ierobežojumiem, izstrādes laikā izmantotajiem paņēmieniem un veiktajām izvēlēm
__________________________________________________________________________

Lai pārliecinātos, ka MI sistēma ievēro cilvēka cieņas un autonomijas principus, vispirms jāizvērtē piegādātāja sniegtā informācija par ētikas un drošības aspektiem, piemēram, ētiskās ietekmes novērtējums un pārskati par cilvēktiesību ievērošanu. Tāpat ir svarīgi novērtēt, vai MI sistēma nodrošina lietotāja kontroli un pielāgojamību. Praktiskās testēšanas laikā jānovērtē, vai lietotājs var pārraudzīt sistēmas darbību un izprast pieņemtos lēmumus, tādējādi novēršot situācijas, kurās MI sistēma negatīvi ietekmē lietotāja rīcībspēju. Papildus, līgumos jāiekļauj noteikumi, kas aizsargā lietotāja autonomiju un garantē sistēmas izskaidrojamību. 

Caurspīdīgums un pārraudzība 

Pamatkonvencijas 8.pantā noteikts, ka MI sistēmas dzīves cikla laikā jāievieš atbilstošas pārredzamības un pārraudzības prasības, tostarp jānodrošina MI sistēmu radītā satura identificēšana.

Caurspīdīguma un pārraudzības princips nozīmē, ka lēmumu pieņemšanas procesiem un MI sistēmu darbībai jābūt saprotamai un pieejamai personām, kas iesaistītas MI sistēmas dzīves ciklā. Lai nodrošinātu pārredzamību, jābūt pieejamai atbilstošai informācijai par sistēmu, piemēram, tās mērķi, ierobežojumiem, izstrādes laikā izmantotajiem paņēmieniem un veiktajām izvēlēm, informāciju par modeli un algoritmu, apmācības metodi, kvalitātes nodrošināšanas procesiem. Pārredzamības nodrošināšana varētu atvieglot iespēju konkrētām personām, piemēram, autortiesību īpašniekiem, izmantot un īstenot savas intelektuālā īpašuma tiesības. Šis princips arī rada pienākumu identificēt MI radītu saturu, lai izvairītos no maldināšanas un ļautu atšķirt autentisku, cilvēku radītu saturu no MI ģenerētā satura. Caurspīdīgums nozīmē arī spēju saprast, kā MI sistēma pieņem lēmumus.

Publiski pieejamais saturs arvien biežāk tiek viltots, piemēram, atdarinot reālu cilvēku izskatu vai balsi, izmantojot “dziļviltojumus”. Šādas tehnoloģijas manipulē ar vizuālo un audio saturu, izpludinot robežu starp reālu un viltotu informāciju. 

MI akta 50.pantā ir noteikts MI sistēmu nodrošinātāju (piegādātāju) un uzturētāju pienākums nodrošināt pārredzamību. Tas ietver prasību projektēt un izstrādāt MI sistēmas, kas paredzētas tiešai mijiedarbībai ar fiziskām personām, tā, lai lietotāji tiktu skaidri informēti par to, ka komunicē ar MI sistēmu. 

Iespēja veidot saturu, izmantojot MI, rada arvien lielāku nepieciešamību noteikt MI radītā satura “marķēšanu”. Latvijā šāda veida regulējums jau pieņemts attiecībā uz priekšvēlēšanu aģitācijas materiāliem. Proti, Saeima 2024.gada 24.oktobrī pieņēma grozījumus Priekšvēlēšanu aģitācijas likumā, papildinot to ar 3.¹pantu, kurā paredzēts, ka tad, ja priekšvēlēšanu aģitācijā vai aģitācijas materiālos tiek izmantots MI radīts personas atveidojums vai realitātei neatbilstošs notikums – attēls, audio vai video saturs –, tas skaidri un nepārprotami jānorāda. Šāda prasība attieksies uz apmaksāto priekšvēlēšanu aģitāciju.

Vienlīdzība un nediskriminācija 

Pamatkonvencijas 10.pantā noteikts, ka visā MI sistēmas dzīvesciklā jānodrošina līdztiesība, tostarp dzimumu līdztiesība, kā arī jāievēro diskriminācijas aizliegums.

Nevienlīdzība un diskriminācija var rasties no, piemēram, izstrādātāju apzinātiem vai neapzinātiem stereotipiem un aizspriedumiem, neprecīzām vai nepietiekami daudzveidīgām datu kopām, aizspriedumainas vides ietekmes, kurā sistēma tiek izmantota, ļaunprātīgas MI sistēmas pielietošanas, kā arī situācijām, kad lietotāji pārmērīgi uzticas MI sistēmas sniegtajai informācijai un kritiski to neizvērtē. 

__________________________________________________________________________

Ja saimnieciskās darbības rezultātā tiks pieļauta diskriminācija vai vienlīdzības pārkāpums, par to atbildīgs var būt arī MI izmantotājs
__________________________________________________________________________

Privātajā sektorā MI var radīt diskriminējošu praksi, īpaši potenciālo darbinieku un studentu atlasē. Piemēram, kādā Apvienotās Karalistes augstskolā tika konstatēts, ka studentu uzņemšanas procesā izmantotā MI sistēma neobjektīvu mācību datu dēļ deva priekšroku noteiktām demogrāfiskām grupām. Savukārt uzņēmumā “Amazon” darbinieku pieņemšanā izmantotais MI tehniska rakstura amatos augstāk vērtēja vīriešu dzimuma kandidātus. Līdzīga aizspriedumaina prakse novērota arī mērķtiecīgajā reklamēšanā. Piemēram, tika konstatēts, ka “Google” vīriešiem reklamēja labāk apmaksātus darba sludinājumus nekā sievietēm, bet “Facebook” atļāva reklāmdevējiem, izmantojot MI sistēmu, atlasīt personas, pamatojoties uz to pazīmēm, piemēram, dzimumu, rasi, vecumu, interesēm, seksuālo orientāciju, lai sniegtu “mērķētas” reklāmas bez “Facebook” lietotāju piekrišanas.

Jau sākotnēji būtiski ir izvēlēties tādu MI sistēmu, kuras izveidē ievēroti nediskriminēšanas un līdztiesības nodrošināšanas principi. Tāpat jānodrošina, lai izvēlētā sistēma būtu aprīkota ar atbilstošām kontroles sistēmām un regulāriem atjauninājumiem. Ja arī saimnieciskās darbības rezultātā tiks pieļauta diskriminācija vai vienlīdzības pārkāpums, par to atbildīgs var būt arī MI izmantotājs – saimnieciskās darbības veicējs. Tādēļ ir svarīgi jau sākotnēji maksimāli mazināt šādus riskus vai nodrošināt iespēju pārkāpuma gadījumā vērsties pret MI sistēmas izstrādātāju, ja tas nav nodrošinājis atbilstību pamatkonvencijas un MI akta principiem. 

Ignorējot minētos principus MI sistēmas izvēles procesā, uzņēmums var saskarties ar ievērojamiem riskiem, tostarp tiesvedībām un reputācijas kaitējumu. Tāpēc MI izvēles procesā īpaša uzmanība jāvelta ētikas un regulatīvo standartu ievērošanai. Tas ne tikai pasargā uzņēmumu no juridiskiem riskiem, bet arī veicina uzticamību un nostiprina reputāciju ilgtermiņā. 

Nākamajā publikācijā apskatīsim citus svarīgus principus, kas saistīti ar MI dzīves ciklu.