Iesūti ziņu!

Pienācis laiks atvērt sociālo tīklu algoritmu "melnās kastes" (1)

Eiropas inovācijas, pētniecības, kultūras, izglītības un jaunatnes komisāre Marija Gabriela.
Eiropas inovācijas, pētniecības, kultūras, izglītības un jaunatnes komisāre Marija Gabriela. Foto: AP / Scanpix

Digitālās tehnoloģijas ik mirkli maina mūsu dzīvi. Dažas lietojumprogrammas ietekmē mūsu saziņas, darba un patērēšanas veidus. Mūsu izmantotie produkti un rīki lielākoties balstās uz sarežģītām un kompleksām sistēmām, kuras lielākā daļa no mums nesaprot. 

Plaši izmantojot sistēmas, kas balstās uz nepārredzamām tehnoloģijām, sabiedrībā var rasties acīmredzami riski. Risks ir arī kļūt atkarīgam no tā, ko parasti sauc par "melnajām kastēm" – algoritmiskām sistēmām.

Lai gan "melnās kastes" bieži var vienkārši filtrēt priekš mums sarežģītu informāciju, tās var arī sniegt izkropļotu realitātes redzējumu – īpaši attiecībā uz informāciju –, piedāvājot fragmentārus un neobjektīvus jaunumus sociālajos medijos vai ziņu plūsmās. Neaizsargātas grupas – piemēram, bērni – var saskarties ar kaitīgu saturu. Patērētājiem var tikt piedāvātas viltotas preces tiešsaistes tirdzniecības vietās.

Digitālo prasmju un digitālās pratības trūkums, pienācīgas riska pārvaldības sistēmu trūkums un vien nedaudzi instrumenti, kas pieejami, lai atklātu maldinošu informāciju, dažus no šiem riskiem padara vēl kompleksākus.

Attiecībā uz digitālajām platformām, īpaši tām, kuras ir ļoti lielas un kurām ir miljoniem lietotāju, vairs nevar apgalvot, ka tās ir tikai sava mitinātā satura starpnieki. Faktiski iedzīvotājiem piedāvāto saturu ievirza to izstrādātās "melnās kastes".

Ir pienācis laiks atvērt šīs "melnās kastes" un atklāt to saturu. Digitālajām platformām jāuzņemas sociālā atbildība un attiecīgi jārīkojas.

Jaunā Digitālo pakalpojumu akta mērķis ir šādās melnajās kastēs integrēt pārredzamību, un Eiropas Algoritmiskās pārredzamības centra (EAPC) izveide ir izšķirīga rīcība šī mērķa sasniegšanai.

Šajā centrā strādās datu zinātņu, mākslīgā intelekta un algoritmisko sistēmu augsti kvalificētu speciālistu grupa, kas palīdzēs sasniegt Eiropas mērķi nodrošināt, ka nelikumīgais bezsaistē ir nelikumīgs arī tiešsaistē un ka lielas platformas un meklētājprogrammas pilda savus pienākumus pret sabiedrību kopumā.

Tas tiks darīts, pētot, kā darbojas algoritmiskās sistēmas, kādus riskus tās rada un kā tās var novērtēt. Šīs zināšanas tiks izmantotas, lai sniegtu atbalstu Komisijas kā regulatora uzdevumu izpildei. Šādi būs iespējams atvērt "melnās kastes".

Turklāt EAPC mērķis ir kļūt par aktīvas pētnieku un praktiķu kopienas centru, kas palīdzēs pārraudzīt sistēmas, kuras nodrošina populārākos digitālos pakalpojumus.

Šīs plašās kopienas mobilizēšanas sākums ir EAPC atklāšanas pasākums, kas notika Seviļā 2023. gada 18. aprīlī.

Lai aizsargātu bērnus, mēs ieviešam arī jaunus noteikumus un rīkus, sākot ar izpratnes veicināšanu par dezinformāciju un citiem tiešsaistes apdraudējumiem, izmantojot tādas iniciatīvas kā Digitālās izglītības rīcības plāns. EAPC arī ir daļa no šiem centieniem.

ES pieejas pamatā ir mūsu pārliecība, ka tehnoloģiju attīstība nekad nedrīkst notikt uz mūsu demokrātisko vērtību rēķina. Digitālā laikmeta iespējām jābūt pieejamām un saprotamām ikvienam.

Ar šo redzējumu un mūsu attīstītajiem instrumentiem Eiropas Savienībai ir visas iespējas kļūt par pasaules līderi digitālajā laikmetā un veidot noturīgāku un iekļaujošāku digitālo nākotni visiem.

Svarīgākais
Uz augšu