Eneko Agirrek arretaz aztertu ditu azken egunotan adimen artifizialaren inguruan izan diren gertakariak eta enpresa handietako jabeen adierazpenak. EHU Euskal Herriko Unibertsitateko adimen artifizialeko Hitz ikerketa zentroko zuzendariak argi du bereizi egin behar direla esan direnak, eta, aferari garrantzirik kendu gabe, dei egin du mezu apokaliptikoei jaramonik ez egitera: «Zibersegurtasun arazo larriak daude? Bai. Mundua bukatuko da? Ez». Adierazi du Dario Amodei Anthropiceko buruak proposatutako kontrol agentzia independenteak onuragarriak izan daitezkeela, nahiz eta ez duen ukatu atzean interes komertzialak ere badaudela.
Enpresa handiek aipatu dituzten arriskuak egiazkoak dira?
Erantzuteko galdera zaila da. Gauza asko ari dira gertatzen aldi berean, eta zaila da faktore nagusia zein den asmatzea. Alde batetik, AA geroz eta ahaltsuagoa da, eta hori ikertzen dugunok ere harrituta gaude daraman abiadurarekin. Horren adibide dira uda aurretik zibersegurtasunarekin izan ziren arazoak, eta joan den astean OpenAIk Millennium Prize matematikako problema ebatzi izana.
AA bera ari da enpresei AA hobetzen laguntzen, eta posible da garapena geroz eta azkarragoa izatea. Horixe ari dira orain probatzen: AAren kodeak berak AA hobetzen laguntzea, jada programatzaile guztiek erabiltzen baitute AA programa hobeak egiteko. Horregatik aipatzen dute kontrola gal daitekeela. Ni eta beste ikerlari asko nahiko eszeptikoak gara kontrola galduko den ideia horri buruz, baina, ahalmen ahaltsu horiek noraino heldu diren ikusita, uste dugu komeni dela inspekzio publiko batzuk egitea.
Hori proposatu du Amodeik, ezta?
Finean, bai. Uste dut positiboa dela: agentzia independente batzuk izatea, ofizialak zein ez, agente horien ahalmena gainbegiratzen. Anthropiceko batek esan du AAk gizateria amaiaraziko duela, baina hori zientzia fikzioa da, espekulazio hutsa. Hori bai, ikusten ari garen ahalmenarekin, posible da norbaitek zibersegurtasuneko eraso larriak egitea. Nire ustez, normalean, AAk lagunduta, ez AAk bere kabuz. Ahalmen horiek kontrolatzeak badu zentzua.
«Gaur egun ez dago erregulaziorik. Europak erregulatzen du, baina gero ez daki zer gertatzen den enpresa horietan»
Oraindik posible da, beraz, AA arautzea?
Arautzea baino gehiago… Gaur egun ez dago erregulaziorik. Europak erregulatzen du, baina gero ez daki zer gertatzen den enpresa horietan. Erregulatzea baino beharrezkoagoa da AA horiek espero ez diren kalte batzuk sortzen ote dituzten gainbegiratzen duten agentziak egotea.
Enpresek aipatutako arriskuak benetakoak dira edo negozio estrategia bat da?
Ziurrenik, biak. Ez dago mundua bukatzeko arriskurik, baina, bai, zibersegurtasunarekin lotutako arriskuak benetakoak dira. Negozio estrategia bat ote den? Seguru baietz. Lau enpresek —OpenAI, Anthropic, Google eta SpaceX—, bakoitzak bere interesengatik, arrazoi komertzialak dituzte.
Agian, komeni da gogoraraztea: ordenagailuentzako birusak sortu zirenean, eta etxeetako eta bulegoetako ordenagailuak infektatzen hasi zirenean, antibirusak egiten zituzten enpresak sortu ziren, eta batzuek galdetzen zuten: «Antibirusak saltzen dituzten berberak ez dira ba izango birusak sortzen dituztenak?». Arriskua benetakoa zen, edonork sor zezakeelako birus bat, baina negozio bat sortu zen aldi berean.
Orain ere litekeena da joko bikoitz hori egotea; zibersegurtasun arazo bat dago, eta AAk berak tapatu ditzake zulo horiek. Erabiltzaileak izango duen babesa enpresa handi horien AA erostea da. Ezin dira horren erraz bereizi, beraz, arriskua eta negozioa.
Aurrerapenak nabarmenak omen dira azken AA ereduetan.
Bai, bai, eta ez laborategi batean bakarrik. Badaude hainbat laborategi ahalmena handitzen ari direnak eta, batez ere, abiadura hobetzen ari direnak. Hori bi urtean behin gertatuko balitz, edo urtean behin… baina oso-oso azkar gertatzen ari da.
Arriskuez ohartarazi duten enpresa guztiak Ameriketako Estatu Batuetakoak dira. Talka bat dago Txinarekin?
Teknologia ahaltsuak sortzen direnean, diru asko egoten da jokoan. Herrialdeek, ahalmen horiek dituztela baieztatzen duten heinean, abantaila teknologiko oso inportanteak lor ditzakete.
Ez dakigu AArena industria iraultzaren parekoa izango den edo ez den horrenbesterako izango, baina, badaezpada, bai AEBek bai Txinak erronkatzat hartu dute AA ahalik eta boteretsuena izatea. Teknologia horrek arlo askotan izango du eragina: industrian, baina baita zientzian ere, eta ez zibersegurtasunean, matematikan eta informatikan bakarrik, baizik eta baita zientzia eta teknologia guztietan ere.
Trumpek argi esan du gauza bat, besteek esango ez dutena baina buruan daukatena: AEBen eta Txinaren arteko bataila komertziala eta lidergo teknologikoa daudela jokoan. Horregatik, askok uste dugu muga asko ez dituztela ipiniko. Diru asko dago jokoan, eta bi potentzia horien arteko lehia ere agerikoa da.
Benetan zerbait gertatuko da orduan?
Litekeena da baietz. Enpresa horiei ere komeni zaie euren artean erregulazio independente bat egotea. Azken batean, kalteak sortzen badituzte, euren errua ere bada, esaterako, norbaitek kalte ordainak eskatzen dituenean ziber eraso batengatik. OpenAIk eta Anthropicek hasieratik jokatu dute horrela, euren konfiantzazko agenteekin.
Baina hori kontuan hartzea edo teknologia garatzen ez jarraitzea, alde handia dago. Zailagoa ikusten dut. SpaceX burtsara atera zen bi mila milioi euroko balioarekin, OpenAIk mila milioiko balioa izatea espero zen… dirutza izugarriak dira.
«Ez dakigu AArena industria iraultzaren parekoa izango den edo ez den horrenbesterako izango, baina, badaezpada, bai AEBek bai Txinak erronkatzat hartu dute AA ahalik eta boteretsuenak izatea»
Eredu irekien beldur dira enpresa horiek?
Istoriotxo bat kontatuko dut. Claudek —Anthropicen AAk—, bere kabuz, zibereraso bat egin zion Hugging Face enpresari, eman zioten lan bat egin ahal izateko. Hugging Face enpresakoak zerbait arraroa gertatzen ari zela jabetu zirenean, AA erabili zuten arazoa aztertzeko. Zein, ordea? Segurtasun arrazoiengatik, AEBetako tresnek ez dute gauza batzuk egiten uzten. Orduan, eredu ireki bat erabili zuten erasoa aztertu eta hari aurre nola egin asmatzeko. Horrela konpondu zuten arazoa. AA ireki bati esker defendatu ahal izan ziren.
AA ireki horiek existituko ez balira, dena enpresa gutxi batzuen esku geratuko litzateke. Eurek edukiko lukete erasoak egiteko ahala, defendatzeko… Eredu irekiei esker, jendeak tresna gehiago ditu eskura AArekin aurrerapausoak emateko.
Baita teknologia euren beharretara egokitzeko ere, eta hori diru galera da enpresa handientzat.
Hori da. Azkenean, konpetentzia da eurentzat; ez zuten halakorik espero, eta hasiera-hasieratik saiatzen dira eteten. Ez dute konpetentzia gehiago nahi. Eredu irekiek funtzionatu izan dute beste arlo batzuetan. Ordenagailu komertzialetan, esaterako, software irekiko ereduak erabiltzen dira jada. Gailendu egin dira, eta diru asko galdu dute Microsoftek eta antzekoek. Orain, AArekin gauza bera gertatzeko beldur dira.
Europari eredu irekiak hedatzea komeni zaio. Horiek dira apusturik hoberena gertatzen ari den olatu honetan, gutxienez, olatua hartzen saiatzeko, eta ez itotzeko. Eredu irekiak ere oso ahaltsuak dira; zertxobait atzerago doaz, baina, horiei esker, arriskuetatik defendatu zaitezke, eta erasoak ere egin ditzakezu, noski.
Gertatzen ari denak badu eragin zuzenik Euskal Herrian?
Baliteke eragin negatiboa edukitzea, eta asko kezkatzen nau, pentsatzen baldin bada AAren partida ez dela hemen jokatzen eta ez dagoela zereginik, eta pentsatzen baldin bada dena AEBen eta Txinaren esku dagoela. Hori ez da zuzena, baina baliteke horrek epe ertainean eragina izatea. Oraingoak esnatzeko garaia izan beharko luke, eta «hemen eragin beharra dago nahitaez; bestela, jai daukagu» esatekoa. Dependentzia izugarria da arlo askotan.
Ikusi gehiago
