FIKZIOTIK ERREALITATERA

Makinen menpe dago mundua; 2029. urtea da. Gizaki talde bat matxinatu egin da, eta makinen aurka borrokatzen ari da, gizadia salbatzeko. Hori da 1984an kaleratu zen Terminator filmaren argumentua, eta askorentzat adimen artifizialaren inguruko erreferentzia bakarrenetarikoa, orain arte. Adimen eta kontzientzia propioa duten makinak, alegia. 2023. urtean, zientzialariek oraindik ez dute horrelakorik sortu; baina, azken asmakizunen bidez, geroz eta gehiago hurbiltzen ari dira. GPT-4 izeneko txatbota da azken nobedadea; adimen artifizialaren bidez, gizaki batekin elkarrizketa erreal bat izateko modua egiten duen sistema. Hala ere, urteak dira adimen artifiziala eguneroko bizimoduko alor ugaritan sartu zela. «Asko hitz egiten da adimen artifizialari buruz, baina zarata handia dago», dio Mikel Artetxek. Adimen artifizialaren inguruko zalantzak argitzeko, zortzi aditurekin solastatu da BERRIA.

Zer da adimena?

Adimen artifiziala zer den definitzeko erantzun beharreko lehenengo galdera da. Izan ere, ez dago erabateko adostasunik adimenaren definizioari dagokionez, eta, horrenbestez, zaila da adimen artifiziala zer den zehaztea.

«Guretzat, adibidez, bigarren mailako ekuazioak egitea zerbait adimentsua izan liteke», azaldu du Mikel Artetxek. «Txakur bat ez da horiek egiteko gai, eta horiek egiten dituen txakur bat agertuko balitz, adimentsua irudituko litzaiguke. Baina kalkulagailu sinple batek, berriz, bigarren mailako ekuazioak egiten ditu, eta ez dugu esaten adimentsua denik. Edo objektu bat identifikatzea; txakur batek identifikatzen ditu, baina ez dugu esaten adimentsua denik. Makina batek hori bera egiten badu, aldiz, hori adimentsua dela esaten dugu».

Zer da adimen artifiziala?

Diziplina zientifiko bat da, Gorka Azkunek esan duenez. Adimena ez dagoenez oraindik ondo definituta, atazetara bideratutako ikuspegia erabiltzen da: «Ezin dugunez besterik gabe esan makina batek adimena daukan edo ez, egiten duguna da makina horri ataza batzuk jarri, gure ustez izaki adimentsu batek bakarrik ebatzi litzakeenak, eta ikusten dugu makinak zenbateraino egiten dituen ondo ataza horiek».

Mikel Artetxek erantsi du «nolabaiteko ikasketa edo prozedura mekaniko ez-sinple bat jarraitzen duen» teknologia oro sartu daitekeela termino horren barruan. Hain zuzen, «jaso duen entrenamenduaren eta erabiltzaileekin izan dituen hartu emanen arabera» ikasteko gai den teknologia bat dela zehaztu du Ujue Agudok. Eta Xabier Saralegik gaineratu du gizakiek dituzten zenbait gaitasun makinen bidez erreproduzitzea izan litekeela adimen artifizialak egiten duena: «Esaterako, arrazoitzeko gaitasuna, planifikatzeko gaitasuna, arazoak ebazteko gaitasuna, modu abstraktuan pentsatzeko gaitasuna...».

Zer adimen artifizialmota daude?

Ez dago adimen artifizial mota bakarra. Adimena kopiatzen hasi zirenean, bi adimen mota bereizi zituzten, Xabier Saralegiren arabera: adimen orokor integrala eta adimen zehatza. Adimen zehatzak balio du ekintza jakin batzuetarako;adimen orokorra, berriz, gizakien adimenaren pareko zerbait litzateke.

Humberto Bustinze irakasleak azaldu du adimen artifizial zehatz edo ahulak jarduera bat soilik egiteko balio duela. «Hori, gaur egun, zerbitzu askotan dugu: tunel batean sartzean automatikoki argiak kalibratzen dituzten autoak, Siri, ibilgailu autonomoak...». Adimen artifizial orokorra, berriz, oraintxe ari da sortzen, itxuraz: makina edo tresna jakin bat, jarduera sorta bat egiteko gai dena, ez ekintza bakar eta soil bat. Horixe da GPT txata, Open AI enpresak sortu duen solaskide artifiziala. «Gaur egun, bi adimen mota horien artean gaude», Bustinzeren arabera: «Beste adimen mota bat litzateke adimen artifizial indartsua, zeinean makinek emozioak imitatuko lituzketen —baina ez lukete sentimendurik—. Hori azken pausoa litzateke».

Nola garatu da adimen artifiziala?

Adimen artifizialarekin lan egiteko bi modu, bi eskola nagusi sortu direla azaldu dute Humberto Bustinzek eta Mikel Artetxek. Eskola sinbolikoa eratu zen lehenik; beste eskolari konektibista esaten zaio. Eskola sinbolikoaren filosofian, arrazoitzeko gaitasuna da adimenaren gakoa, Artetxek azaldu duenez: «Adimen artifizial klasikoa hurbilpen sinboliko horretan zentratu da: gizaki batek diseinatzen ditu problema bat ebazteko garrantzitsuak diren ezaugarriak —premisak, axiomak, arauak...—, eta makinak ikasten du, horien arabera, erabaki logiko bat hartzen». Makinak ikasketa prozesu bat egiten du, baina pertsonek diseinatutako ezaugarrietan oinarrituta.

Ataza edo zeregin jakin batzuk ebazteko baliagarria izan liteke adimen hori —xakean jolasteko makina bat sortzeko, esaterako—, baina ez da nahikoa adimen sistema orokor bat sortzeko, Xabier Saralegik azaldu duenez. Gorka Azkunek berretsi egin du: «Muga argiak erakutsi zituen bide horrek». Hortaz, ikuspegi estatistikoak erabiltzen hasi ziren: datu bilduma handiak eta estatistikak eman, eta makinak erantzun probableena ebazten zuen.

Baina sare neuronalak izan dira «inflexio puntua». Bat datoz aditu guztiak. Mikel Artetxek azaldu du beste ikerketa lerroaren, eskola konektibistaren ikuspegian oinarritzen dela teknologia hori: eredu horretan ikasteko gaitasuna da adimenaren gakoa, eta adimen artifizialeko sistemek gaitasun hori imitatu nahi dute. Adibide sorta handiak eta horien soluzioak ematen zaizkie makinei, sistemaren logika ikasi eta eraiki dezaten —ikasketa sakona deitu zaio horri—.

Zer dira sare neuronalak?

Sare neuronal esaten zaie, baina ez dira sareak, eta ez daude neuronaz eginda. Konputazio tresnekin «neuronak eta horien konexioak imitatzean datza», Humberto Bustinzeren arabera. Esplikazioarekin jarraitu du Gorka Azkunek: «Orain kontua ez da nik makina programatzea, baizik eta nik makinari adibideak ematea, arazo jakinak ebatzi ditzan. Eta makinak ikasten du zer egin behar den auzi hori konpontzeko». Xehetasunak erantsi ditu Mikel Artetxek: «Ordenagailuari sarrera bat ematen diozu, eta esaten diozu irteeran zer eman behar duen. Adibide asko sartzen dizkiozu, eta berak ikasi behar du zer patroi dauden sisteman, irteeran erantzun hori emateko. Ez du berak bakarrik egiten, noski. Guk diseinatu behar dugu ikasketa prozesua nolakoa izango den. Ikasketa algoritmoak diseinatu egin behar dira».

Sare neuronaletan, nodoak edo unitateak daude, eta haien arteko loturak; eta lotura horietako bakoitzak pisu bat du. Geruzetan antolatzen dira, bestalde. Sare neuronal bakoitza ataza bat egiteko entrenatzen da. Hizkuntzaren teknologietan, adibidez, makinari esaldi bat ematen zaio, hitz bat kenduta, eta makinak esaldi hori osatzenikasi behar du.

Xabier Saralegik nabarmendu duenez, hizkuntzaren prozesamenduan, ikusmen artifizialean, irudi eta bideoen sorkuntzan... erabat erabiltzen dira sare neuronalak gaur egun, askoz emaitza hobeak ematen dituztelako. Euskaratik eta euskarara itzultzeko tresna modernoak ere ikasketa sistema horretan oinarritzen dira, eta hobekuntza nabarmena ekarri zuten, duela bost bat urte.

Nolaentrenatzen dira?

Sare neuronalek funtzionatzeko lehengaia datu sortak dira; corpusak eta makina entrenatu nahi den ataza horretarako erantzunak. Gorka Azkunek adibide bat jarri du: «Auzia baldin bada makinari argazki bat eman eta berak argazki hori deskribatzea testu bidez, sare neuronalari erakutsiko diot datu multzo handi-handi bat, irudi batzuekin eta baita nik idatzitako deskribapenekin ere. Irudi eta testu pila bat dauzka, ikusten ditu, entrenatzen duzu irudi jakin baterako testua sor dezan... eta irudi berriak sartzean, badaki testuak sortzen».

Behin eta berriro errepikatzen dira prozesu horiek. Testuekin gauza bera da, Xabier Saralegiren hitzetan: esaterako, makina bati testuak itzultzen irakasteko, jatorrizko esaldiak eta horien itzulpenak ematen zaizkio, milaka eta milaka, milioika. «Algoritmoak halako adibide pila bat ikusten ditu, eta induzitzen du horren atzean dagoen logika, eta eredu estatistiko bat sortzen du». Berak sortzen du, ez gizaki batek emanda. Entrenamendua esaten zaio horri.

Baina entrenamendua ez da hor bukatzen. Aginduekin ere entrenatzen dira sistema horiek. Ane Iturzaetak azaldu du lan berri bat dela, eta prompt engineer esaten zaiela: haien erantzukizuna da adimen artifizialari instrukzioak ondo ematea, makinaren erantzunak hobetzen dituelako horrek. Gorka Azkunek gehitu du badirela beste entrenamendu mota batzuk ere: «Makinak erantzuna eman ostean, pertsonek esaten diote erantzun hori ondo dagoen edo ez, zer dagoen ondo eta zer ez». Polemikarik ere izan da horren inguruan: Time aldizkariak zabaldu du Kenyako langileak kontratatu dituela Open AI enpresak lan horretarako, orduko bi dolar baino gutxiago ordainduta.

Zer aldatu duGPT txatak?

Xabier Saralegiren ustez, txat horrek muturrera eraman ditu sare neuronalen ahalmenak, eta «disrupzio bat» eragiten ari da. GPT txataren aurretik, ataza edo auzi jakin bat egiteko entrenatzen ziren sare neuronalak; adibidez, testuak itzultzeko. Baina konturatu ziren behin makinak hizkuntza arkitektura bat sortuta posible zela sare neuronal horri beste ariketa batzuk eskatzea, nolabait ere hizkuntzaren logika ikasia zuelako.

Horrela, GPT txataren sortzaileek, makina ataza jakin baterako datuekin soilik entrenatu beharrean, trebatu dute aldi berean dozenaka ataza egin ahal izateko. Eta ez soilik hizkuntzaren alorrean, baita bestelakoetarako ere: zentzu komunerako, sentimenduak ezagutzeko, elkarrizketarako, laburpen automatikorako... ariketak eginarazi dizkiote. «Hori da GPT txataren atzean dagoen magia», azaldu du Xabier Saralegik.

Bert izan zen eredu neuronalaren lehen hizkuntza, duela bost bat urte. Entrenamenduan ehun milioi parametro erabili zituzten, hamabi geruzako sare neuronal batean; GPT-3 txata entrenatzeko, 175.000 milioi parametro erabili zituzten, 96 geruzatako eredu batean. Adituek badakite GPT-4 txataren bertsioa are urrunago joan dela, baina ez dakizkite datuak, GPT-4 itxi egin duelako Open AI enpresaren jabeak, eta ez dituelako xehetasunak aurkeztu.

Zer egiteko gai da adimen artifiziala gaur egun?

Sare sozialetako edukia erabiltzaile bakoitzarendako moldatzetik, interbentzio kirurgikoak egiteraino. Hamaika arlotan txertatuta dago jada adimen artifiziala. Orain, gainera, «sortzailea» dela zehaztu du Ane Iturzaetak, ekintzaz haratago, sortzeko gaitasuna ere baduelako. Sare sozialetan, adibidez, adimen artifizialaren «pieza txikiak» daudela dio Ujue Agudok: «Erabakitzen dute zein informazio noiz erakutsiko zaion erabiltzaile bakoitzari».

Eusko Jaurlaritzako Etxebizitza Sailean eta Lanbiden ere badute adimen artifizialaren berri. Lehenbizikoak hizkuntzarenprozesamendu naturala erabiltzen du, dokumentuetatik informazioa azkarrago lortzeko. Eta bigarrenak, berriz, machine learning teknika darabil lan eskarien profilak egiteko.

Itziar Alkortak azaldu du medikuntzan ere aplikazio anitz dituela tresnak. Zenbait ospitaletan, adibidez, Watson izeneko diagnostikorako laguntzaile bat erabiltzen dute: «Medikuari laguntzen dio sintomatologia bat interpretatzen, diagnostikoa egiten». Gaixotasunak detektatzeko Chest Link izeneko softwarea ere aipatu du: erradiologian erabiltzen da, eta gaitzik gabeko erradiologia irudiak baztertzen ahal ditu. Eritasun jakinen diagnostikorako tresnak ere badaude; koloneko minbizia diagnostikatzeko, adibidez, pilula inteligente bat dagoela dio Alkortak: «Pazienteak pilula irensten du, eta pilulak datuak biltzeko txip inteligente bat dauka. Datu horiek makina batera doaz, eta zortzi orduz egiten du pertsonaren diagnostikoa. Gero, kanporatu egiten da, eta ez dauka nahi gabeko ondoriorik». Horrez gain, ebakuntza kirurgikoak egiteko, adimen artifiziala darabilten robotak ere badaude.

Zer muga ditugaur egun?

Irati Berasategi: «Ekintza jakinak bikain egin ditzake, baina ez da iristen arrazoibide abstraktu batera». Humberto Bustinzerentzat, berriz, bi dira muga nagusiak. Azaltzeko gaitasuna da lehenbizikoa: «Sistema pila bat daude oso ondo funtzionatzen dutenak, baina ez dute azaltzen zergatik funtzionatzen duten». Fabrika batean horrek ez du aparteko garrantzirik, baina medikuntzan bai, esaterako. Mamografiei dagokienean, adibidez, sistema batek Europan azken hamabost urteetan egin diren mamografia guztiak gorde ditu: «Hain perfektua da sistema, ezen mamografia bat sartu eta pertsona horri gertatuko zaiona asmatzen duen. Baina badago arazo bat: mediku baten diagnostikoa hobetzen du, baina ez du justifikatzen zergatik egin behar den ebakuntza».

Moldatzeko gaitasuna da bigarren traba. Hau da, tresna bat treba daiteke ekintza jakin bat baldintza batzuetan egiteko: neurri jakin bateko taula batean munduko jokalari hoberenari irabazteko, adibidez. Baina, jokoa bera izan arren, taularen neurriak aldatuz gero, esaterako, adimen artifizialak ez ditu emaitza berdinak izanen, ez baitu egoera berrira moldatzeko gaitasunik.

Zer garapeneduki dezake?

Giza formako medikurik oraindik ez, baina Itziar Alkortak adierazi du «pertsonaren datu genomiko eta osasun txostenetan oinarritutako medikuntza pertsonalizatua» izateko aukera ekarriko duela adimen artifizialak: «Horrek esan nahi du pertsona horrek gaixotasunik badu, berari egokituko zaizkion sendagaiak emango zaizkiola, berak espresuki behar dituen dosi eta moduetan. Eta ez hori bakarrik; gaixotasun horiek aurreikusteko aukera, eta, beraz, eritasunei aurrea hartzeko aukera handiagoa egongo da». Alkortak azpimarratu du adimen artifizialak zeregin garrantzitsua izango duela biztanleriaren zahartzean ere: «Gaixotasun kronikoak biderkatu egingo dira, eta osasun sistemak ikaragarrizko zama izango du bere gain. Ez da baliabide nahikorik izango denetarako, eta oso garrantzitsua izango da adimen artifiziala».

Ujue Agudok, ordea, adimen artifizialaren inguruko espektatibei buruzko kontraesanak azaldu ditu: «Urteetan esan zen adimen artifizialak lan aspergarriak, arriskutsuak eta zikinak amaitu behar zituela. Planteamendu gisa, logikoa da, baina oraindik hori ez da gertatu. Adimen artifizialak guri gehien gustatzen zaizkigun jarduerak egin ahal izateko, pertsona pila batek egon izan behar dute datuak etiketatu edo garbitzeko lana egiten». Saralegik paradoxa bat erantsi dio horri: «Beti pentsatu dugu errazagoa izango zela ataza mekanikoak automatizatzea, ekintza intelektualak automatizatzea baino. Baina justu kontrakoa gertatzen ari da».

Hala ere, Humberto Bustinzek argi dauka makinek ezingo dutela gizakia ordezkatu arlo batzuetan: «Erabaki garrantzitsuak hartzen lagunduko digute, eta, batez ere, lan errepikakorrenak desagertzeko modua egingo dute».

Gizakien adimen gaitasunak eskuratzen ari da?

Arrazoitu, ariketa matematiko konplexuak egin, ideia eta arazo konplexuak ebatzi, hizkuntza ulertu eta sortu, kode informatikoa sortu, planifikatu... Xabier Saralegiren arabera, Microsofteko ikertzaile talde batek ondorioztatu du GPT-4 txatak jarduera horiek guztiak egiteko gaitasunak oso garatuak dituela. Emaitza horiek «beldurtzekoak» direla esan du, eta GPT-4 txatak «sekulako ezagutza» duela.

Adimen artifizial orokorra gertu dagoela ondorioztatu daiteke, beraz. Orokorra bai, baina indartsua ez. Humberto Bustinzeren ustez, sentimenduak dituen adimen artifiziala ez da sortuko. Izan ere, tresna horrek «arazoak ditu kontzeptu sinbolikoak sortzeko eta interpretatzeko, metafisikoak eta hizkuntzaren esanahi zehatzetik harago doazenak; edo identifikatzeko gizakiendako naturalak diren harreman objektiboak edo kulturalak». Hau da, testuinguruak baldintzatu dezake pertsona batek nola interpretatzen duen irudi edo kontzeptu bat. Baina adimen artifiziala ez da bereizketa hori egiteko gai. Oraingoz, behintzat.

Posible ote da kontzientzia artifiziala sortzea?

Adimen artifiziala definitzeko dagoen oztopo bera dago kontzientzia artifiziala definitzekoan: kontzientziaren definizioaren inguruan ere ez dagoela adostasunik. Hala ere, definizio posible bat proposatu du Irati Berasategik. «Zelulaz, mikroorganismoz eta abarrez osatutako egitura zehatza duen gorputz batean gertatu den eboluzioaren ondoriozko fenomenoa, gizakioi inguratzen gaituen errealitatearekin elkarbizitzan esperientzia subjektibo bat izatea ahalbidetzen diguna. Zer sentitzen duzu zuk amonak prestatutako bazkaria usaintzean? Hori da esperientzia subjektiboa; zuk A sentituko duzu, eta nik, adibidez, nire amona ez denez, B».

Definizio horri jarraituta, kontzientzia artifiziala litzateke makina batek bere ingurunean gertatzen dena «sentitu eta gertaera horren esperientzia subjektibo bat izateko gaitasuna». Hala ere, gehitu du kontzientziaren definizioan gorputz biologiko bat abiapuntutzat hartu arren, posible litzatekeela kontzientzia artifiziala «beste mekanismo batzuen bidez» agertzea ere bai. Hori gauzatzea, ordea, «oso urruti» dagoela dio Berasategik.

Zer arazo ekar ditzake adimen artifizialak?

Datuen erabilera eta pribatutasuna. Bi auzi horiek dira adituen kezka nagusia, adimen artifizialaren erabilerari dagokionez. Baina zer egin daiteke datu horiek adimen artifizialaren eskuetan utzita? «Pertsonen etorkizuneko portaera aurreikus dezake, probabilitate tasa handi batekin», azaldu du Itziar Alkortak. Esaterako, pertsona batek erloju adimendu bat badauka, «etengabe» ari da datuak sortzen: lotarako pautak, osasun pautak, elikadurarenak zein gaitasun kognitiboenak... «Datu horiek beste eredu batzuekin alderatuta, adimen artifizialak asma dezake, esate baterako, pertsona horrek zenbateko atxikimendua izango dion sendagai jakin bati», Alkortaren arabera. «Imajina dezagun botika oso garesti bat dela, eta ezin diegula gaixo guztiei eman. Baldintza berdinetan dauden pertsona multzo batean, inteligentzia artifizialak esaten badigu batzuek atxikidura handiagoa izango dutela besteek baino, nori emango diogu medikamentu hori?».

Adimen artifiziala elikatzeko erabilitako datuen aukeraketak ere arriskuak ekar ditzakeela ohartarazi du Alkortak. «Europan COVID-19aren diagnostikoa egin zenean, adibidez, ikertzaileek berehala ekoiztu zituzten milaka datu. Beraz, birusaren profila egin zenean, datu gehienak europarrenak ziren. Afrikarren datuak oso gutxi ziren». Diagnostiko horren arabera asmatu duten erremedioa ere oker egon daitekeela dio. «Populazioaren zati bat kanpo an gera daiteke».

Solaskide artifizialei buruz, Mikel Artetxek adierazi du «haluzinazioak» direla arazo nagusia: «Sistema hauek beti ematen dute erantzun bat; horretarako prestatuta daude. Igual ez dakite erantzuna, baina zerbait ematen dute. Horretaz ere kontziente izan behar dugu». Akatsak egiten dituztela eta existitzen ez diren erreferentziak asmatu ere egiten dituztela, alegia. Genero bazterketaren arazoa ere agerian jarri dute.

«Dirua behar da», bestalde, Xabier Saralegik laburtu duenez. Adimen artifizialaren teknologiarik aurreratuena ez dago edonoren eskura. Ezagutza bai, hor dago, eta GPT-3 txata ireki zuten, ikertzaileek eta programatzaileek erabili eta aztertu ahal izan dute; badira adimen artifizialeko beste eredu batzuk irekita. Baina GPT-4 txata, adibidez, dagoeneko ez da irekia, eta haren entrenamenduaren xehetasunak ere ez dira jakinak. Hortaz, pixkanaka ixten ari da, eta korporazio handien esku gelditzen ari da halako ereduen garapena.

Bada beste arrisku bat ere: erabilera maltzurra. Xabier Saralegik ekarri du adibidea: «Ariketa bat egin zuten GPT txatak izan ditzakeen erabilera maltzurrak aztertzeko: ariketa bat jarri zioten, desinformazio kanpaina bat antolatzeko, eta dena egin zuen, pauso guztiekin».

Zer arazo etiko ekar ditzake?

Besteak beste, adimen artifizialak gizarte talde jakin baten joerak erreproduzitu ditzake, edo pertsonen erabakiak baldintzatu. Ujue Agudo: «Adimen artifiziala sortzeko zikloaren zati handi batean parte hartzen dugu gizakiok: entrenatu egiten dugu, datuak berreskuratu, eredu estatistikoa hautatu, eta behin merkatura ateratzen denean, erabiltzaileengandik ere ikasten du adimen artifizialak. Momentu horietan guztietan gizakiok ditugun joerak adimen artifizialera pasatzen ahal ditugu».

Hau da, gizakiaren eta adimen artifizialaren arteko hartu emanek tresna kutsatu dezakete. Irati Berasategik esplikatu du joera horiek «gehienetan klase ertain-altuko eta mendebaldeko gizon batenak» izan ohi direla: «Eta horrek ezaugarri horien barruan sartzen ez direnen diskriminazioa ekartzen du». Alderantziz ere gerta daiteke, adimen artifizialak berak gizakien hautuetan eragiten ahal baitu.

Arlo hori ikertzen du Ujue Agudok. Azaldu du adituek gomendatzen dutela beti pertsona bat egotea adimen artifizialaren erabaki prozesuan: human in the loop (gizakia zirkuituan) deritzo. «Pertsona horrek makina gainbegiratzen ahalko du, eta detektatzen ahalko du noiz egiten duen huts, eta erabakia aldatu. Ikertzen ari gara ea algoritmoak pertsona horri laguntzen dion, edo bere erabakiak baldintzatzen ari den». Izan ere, tresnak gehiago dakielakoan, zenbait hautu ontzat eman ditzake pertsona horrek. «Baina zenbait kasutan, aukera zuzenak soilik ez du balio: etikoa eta bidezkoa ere izan behar da. Erabakiak makinak ez dituen ezaugarri jakin batzuk izan behar ditu».

Erregulatzea beharrezkoa da?

«Kontrolatu behar dugu, gizarte bezala, algoritmoak nola egin diren, eta erabakiak zer irizpideren arabera hartzen dituzten», adierazi du Itziar Alkortak. Haren arabera, herritarrak ez dira gai adimen artifizialaren «kaxa beltzean» gertatzen dena ulertzeko, baina ezarri ditzakete algoritmo horiek diseinatzeko irizpide «demokratiko» batzuk. «Hori oso inportantea da ulertu ahal izateko guregan hartzen diren hainbat erabaki, makina batek hartzen dituenak, automatizatuak daudenak, eta kontra egiteko zailak direnak, ez baitugu ulertzen zein diren makina horiek erabaki horiek hartzearen ondorioak». Ane Iturzaeta bat dator: «Kontua ez da adimen artifiziala zer egiteko gai den, baizik eta zer egin behar duen; erantzukizuna hartu behar dugu».

Adibide bat ere jarri du Itziar Alkortak: aseguru etxeek, esaterako, aukera izango balute bezero batek gaixotasun jakin bat izateko probabilitatea asmatzen duen adimen artifiziala erabiltzeko, aseguruen prezioa garestituko liekete batzuei. «Bezeroak agian ez zekien hori, medikuek ez dakite, baina nola daki makinak? Arrisku larri batzuk daude, eta gizarte gisaprest egon beharko genuke eskaintzen zaigun teknologia horren aurrean interesatzen zaiguna hobesteko, baina kaltegarri izan daitekeena ukatzeko».