Zientzia. ARGI ALDIAN

Etika eta adimen artifiziala

Gorka Azkune -

2019ko martxoak 8
EHUko Konputazio Zientzien eta Adimen Artifizialaren saileko irakaslea

Ezagutzen al duzue Elon Musk ospetsua? Bai, Tesla eta PayPal bezalako enpresak sortu dituen enpresari dirudun estatubatuarra. Agian ez da hain ezaguna, baina Muskek OpenAI izeneko enpresa ere sortu zuen orain dela urte batzuk, adimen artifiziala modu irekian garatzeko. Musken arabera, adimen artifizialak hain potentzial handia du ezen gizakiontzat arriskutsua den. Arrisku horiei aurre egiteko modurik onena garapen irekia dela iruditzen zaio, gizarte osoak jakin dezan zer egiten ari diren eta horrela kontrola dezan.

OpenAI enpresa adimen artifizialaren munduan erreferente bilakatu da. Azken hilabete honetan, esaterako, hizkuntza-eredu zehatz eta boteretsua argitaratu dute. Besteak beste, testua sortzeko erabil daitezke hizkuntza-ereduak. Hau da, makinek testua idatz dezaten, nik zutabe honetan egiten dudanaren antzera. Orain arteko hizkuntza-ereduek emaitza txukun samarrak lortzen zituzten, gizakion antzeko esaldiak idazteko gai zirela erakutsiz. Baina gai beraren inguruan testu luzeak idazteko garaian, gabezia handiak erakusten zituzten. Bat-batean testu errepikakorra agertzen zen, ala aurretik idatzitakoarekin erlaziorik ez zuen testua. Ondorioz, nahiko erraz antzematen zen makina batek idatzi zuela testua. Orain argitaratu duten hizkuntza-ereduak, ordea, testu luzeetan ere harritzeko moduko koherentzia erakusten du. Eredu berri hau aurrerapauso bat dela nahiko argi dago.

Zutabe honetan ez dut hizkuntza-ereduei buruz hitz egin nahi, ordea. Etikari buruz baizik. Adimen artifizialaren esparruan oso ohikoa da norbaitek eredu bat lortzen duenean beste guztion eskura uztea, hots, publiko egitea. Modu horretara, edozein ikertzailek erabil ditzake azken aurrerapenak bere ikerketan. Baina oraingo honetan ez da horrela izan. OpenAIko ikertzaileek erabaki dute ez dutela beraien eredua jendearekin partekatuko (egiari zor, ereduaren bertsio ahulago bat argitaratu dute). Zergatik, ordea? Beraien arabera, eredu berri honek hain testu onak idazten ditu, ezen helburu gaiztoekin erabil daitekeen. Beraz, beraien ikerketaren erabilera txarrak saihesteko, ez dute eredua denon eskura utzi.

Ikusten duzuen bezala, arrazoi etikoak plazaratu dira hemen. Ikertzaileen artean ika-mika handia piztu da. Batzuk OpenAIren erabakiaren alde agertu diren bezala, beste batzuek ez dute ongi ikusi jokabide hori. Onartu behar dizuet nik ez dudala iritzi irmorik gai honen inguruan. Adibidez, ez dakit oso ongi horrelako hizkuntza-eredu batekin zenbaterainoko kalteak egin daitezkeen, balizko aplikazio gaizto bat garatuz. Agian inozoegia izango naiz. Dena dela, ez da nire helburua hiru lerrotan horrelako eztabaida bat konpontzea. Konformatzen naiz zuei gaia azaltzearekin eta gogoetatxo bat uztearekin. Alde batetik zientzia dugu, ezagutza berria sortzeko helburuarekin. Beste alde batetik, ezagutza horren aplikazioak ditugu. Zientzia ez da aplikazioekin nahastu behar. Ezagutza berria sortzea oso garrantzitsua da guretzat. Gizarte gisa bizi izan dugun aurrerapenen gakoa izan da. Ezagutza horren aplikazioetan bai egon daitezkeela arazoak. Pentsa lehergailu nuklearretan, adibidez.

Nik uste dut zientziak ez duela mugarik izan behar, baina aplikazioak oso gertutik zaindu behar ditugula. Eta horren ardura gizartearena da, ez zientzialariena. Hobeto esanda, zientzialariak, gizartearen parte diren heinean, prozesu horretan parte hartu behar dute, baina beste hiritar guztiek bezala. Erraza da esaten; ez, ordea, egiten.

Irakurle agurgarria:

Honaino iritsi zarenez, eskaera bat egin nahi dizugu: irakurtzen ari zaren edukia eta egunkaria babestea, konpromiso ekonomikoa hartuz. Publizitatea eta erakundeen diru-laguntzak ez dira nahikoa BERRIAren etorkizuna bermatzeko. Sarean eskaintzen dizugun edukia irakurtzen duzuen milaka irakurleek proiektuari ekarpena eginda, urrutira iritsiko ginateke.

Kazetaritza libre, ireki eta independentea egin nahi dugu euskaldunontzat. Euskaraz informatzea delako gure eginkizuna, eta zure eskubidea.Lagun gaitzazu bide horretan. Idatzi gurekin etorkizuna. Geroa zugan.

Martxelo Otamendi
BERRIAko zuzendaria

Izan zaitez BERRIAlaguna