Txernobyl baten antzeko zerbait behar al da gobernuak adimen artifizialaren arriskuez ohartarazteko? Ildo horretako adierazpenen bat egin izan du Geoffrey Hintonek, AAren aitajaunak. Stuart Russellek berak ere, arlo horretan egindako ekarpenengatik ezaguna den informatikariak, esan du AArekin Txernobyl bat gertatzea litzatekeela onena, horrek mugiaraziko lituzkeelako gobernuak AA arautzera.
Eta ez da nahikoa Mythosekin gertatzen ari dena? Edo, agian, Mythos da AAren Txernobyl? Anthropic konpainiaren modeloak jende oso boteretsua aztoratzea lortu du azken asteetan; tartean munduko banku guztiak, banku zentraletako buruak barne. Apirilean jakinarazi zuen konpainiak bere Claude Mythos gai zela orain arte ez bezala zibersegurtasuneko milaka eta milaka ahulezia larri topatzeko, besteak beste, sistema eragile eta nabigatzaile nagusietan.
Munduko banku sistema bera arriskuan jar dezakeen AA bat begien bistan dagoela, beste erakunde eta herrialdeek ere eskatu dute Mythoserako lehentasunezko sarbidea
Anthropicek erabaki du aurretiaz erakunde batzuei soilik lagako diela modeloa, haien ahuleziak lehenbailehen erremediatu eta azpiegitura kritikoak babestu ditzaten, modeloa esku gaiztoen eskura egon aurretik. Horretan dabiltza buru-belarri azken asteetan, baina hori bai, erakunde horiek guztiak —teknologietako, zibersegurtasuneko eta finantzetako berrogei bat erakunde — AEBetakoak dira.
Nola ez, munduko banku sistema bera arriskuan jar dezakeen AA bat begien bistan dagoela, beste erakunde eta herrialdeek ere eskatu dute Mythoserako lehentasunezko sarbidea. Badirudi, AEBetako Gobernuaren eskariz, Anthropicek egingo duela azkenean halako zerbait. Ia hilabete pasatu dela, astelehenean jakin da konpainiak Mythosen gaitasunen inguruko azalpenak emango dizkiela G20ko herrialdeetako finantza ministroei, banku zentraletako presidenteei eta segurtasun arautzaile nagusiei.
Zenbaiten ustez, AAko konpainietako nagusiek egiten dituzten larrialdi dei horiek gehiago dira marketina egia baino; begira zein tresna boteretsua daukadan zuri saltzeko moduko bat. Beharbada, oraindik ez da iritsi AAren Txernobyl hori.
Konpainia pribatuak nagusi
Baina Mythosek hainbat egitate biluztu ditu; besteak beste, erakutsi du norainoko boterea irits dezaketen AAren lasterketan lehenik ailegatzen direnek, eta, ondorioz, nolako boterea duten hor aurrean dabiltzan hamar bat konpainien jabeek.
Ezagunak dira: Jeff Bezos, Mark Zuckerberg, Elon Musk, Sam Altman, Amodei... Eta haiek erabakitzen dute. Amodeiren kasuan, berak —Anthropicek— erabaki du nori aurreratu eta nori ez; eta gaitz erdi: gaia publiko egitea ere berak erabaki du.
Horrek bere gordinean erakutsi du konpainia erabat pribatuen interesen araberakoa datorrela AAren etorkizuna. Oraingoz, ez dagoela gobernantzarik, ez gobernurik, ez gutxieneko legitimitate demokratikorik, AA behar bezala arautu eta haren arriskuak mugatuko dituenik. Konpainia pribatuek agintzen dute hor.
Aipatutako horiek gaiztoak ez diren premisatik abiatuta, eta Txinako Gobernuaren babespeko modeloak ere zaku horretatik at utzita, bi arrisku mota nagusi datoz AArekin: arrisku sozialak eta arrisku existentzialak.
Halakoak aipatu zituen aurreko batean Sebastian Mallaby idazleak Trumponomics podcastean. Mehatxu sozialak: AAren erabilera maltzurrak, tamalez, gero eta ezagunagoak dira. Baina mehatxu existentzialak ere hor daude; esku gaiztoetan, AA irits daiteke gizadia arriskuan jartzera, zibereraso handien bidez, arma biologikoen bidez...
Makinen mehatxua
Baina bada beste mehatxu existentzial bat. Zer gertatuko litzateke makina adimendunak gizakiari eraso egiten hasiko balira? Mallabyk esaten zuen noizbait gizakia baino adimentsuago bilakatuko liratekeen makinek ez luketela berez gizakiari eraso egiteko motiborik izan behar, ez dutelako bizirik irauteko eboluziorik izan. «Makinek ez dute DNArik transmititu beharrik».
Baina, Hinton AAren aitajaunarekin solasean, hark honelako agertoki bat azaldu ziola kontatzen zuen: «Pentsatu AA oso boteretsu bat duzula, ez duzula etsaiaren AAk zurea akabatzerik nahi. Zure ereduari esango diozu eraso egiten badiote kontraerasoa egiteko, ziurtatzeko ez dezatela akaba. Eta, hala, nola egon ziur zure AAri ez diozula irauteko instintua eman?».
Isaac Asimoven jarraitzaileei berehala etorriko zitzaizkien gogora gizakia babesteko robotikarako hiru legeak. Mallabyk dio ezen, AAri eta makina adimendunei dagokienez, aurretik erremedia daitekeela mehatxu existentzial hori, AA egoki lerrokatzea ingeniaritza kontua dela. Baina denbora behar da horretarako, eta, ene, AAren garapena gero eta bizkorragoa da. «Horregatik behar dugu gobernuen kontrola». Eta oraindik ez dago halakorik inon, eta are gutxiago nazioarteko erakunderik ere disuasio neurriak adosteko.
AAren gaineko kontrolak haren garapena oztopatu eta geldotu dezakeela ohartarazten dutenak ez dira gutxi; gainera, haietako gehienek AAk ekar ditzakeen onura guztiak dituzte buruan. Baina arriskuak ere aurreikusi beharko lirateke, eta, orain gauzak nola dauden ikusita, erne ibili beharko.
