Adimen artifizialean oinarritutako txatbotek, hau da, solaskide robotek, albiste zientifikoen jario etengabea sortzen dute. Erabiltzailearekin harreman naturala itxuratzeko ahalmen gero eta handiagoa dute, eta erabilera-eremuak ere ugaritzen ari dira.
Adibidez, tratamendu psikiatrikoa jasotzen duten pertsonetan, depresioa eta suizidatzeko asmoa detektatzeko erabil daitekeela iradoki dute ikerketa batean. Ikerketa horretan, GPT 3.5 txatbotak esaldi batzuen hasierak eman zizkien pazienteei: «Ni naiz…», «Nire familia da…», «Nire inguruko kideak dira…»; eta, erantzunetan oinarrituta, pazienteak bere buruaz beste egiteko arriskuan ote zegoen detektatu zuen sistemak.
Ikerketa aztertu duten beste aditu batzuen esanetan, tarte handia dago arriskua sumatzetik balio klinikoa izatera. Baina beste ikerketa askok kontrako eraginaz ohartarazten dute; hau da, buruko osasunerako oso arriskutsuak izan daitezkeela. Arrisku horren muturreko adibidea da iaz AEBn gertatutakoa: Character.AI konpainiako solaskide digitalarekin obsesionatuta, bere buruaz beste egin zuen 14 urteko mutil batek.
Kasu hori aipatu du berriki Nature aldizkariak, izenburu hau duen artikuluan: «Ulerkorra? Adiktiboa? Abusatzailea? Nola eragiten dioten buruko osasunari AA konpainiek». Izenburua bezain adierazgarriak dira tarteko titularrak: «Gezurrezko pertsonak, egiazko sentimenduak»; «Ona, txarra, ala biak?»; «Ikerketa kontrolatuak»; eta «Buruko osasuna eta arautzea». Txatbotekin izandako esperientziak biltzen ditu artikuluak, eta bukaeran ondorio hau ematen du: ikusi beharko litzateke zergatik batzuek neurriz kanpo erabiltzen dituzten txatbotak. Bakardadea edo ondoez psikikoa arintzeko ez badute beste aukerarik, buruko osasuna zaintzeko aukera hobeak eskaintzea izango litzateke gakoa.
Arriskua ez da mugatzen pertsona jakinetara. Txatbotak edozein limurtzeko gai dira. Esaterako, esperimentu batean frogatu dute GPT-4 txatak pertsonek baino gaitasun handiagoa duela solaskidearen iritzia aldarazteko. Bereziki GPTri erabiltzaileari buruzko informazioa ematen bazaio; hala nola generoa, adina, ikasketa-maila eta afiliazio politikoa. Agerikoa da horrek dakarren arriskua.
Jakina da hizkuntzak eragin handia duela manipulatzeko ahalmenean: euskaldun batzuen bihotzera iristeko, ez dago ezer eraginkorragorik, euskaraz egitea baino. Bada, Kataluniako Unibertsitate Irekiak frogatu berri duenez, GPTk izaera aldatzen du erabiltzailearen hizkuntzaren arabera.
Ikerketa horretan esan zuten GPT gizartekoia ere badela, emozionalki egonkorra eta arau sozialen jarraitzailea. Edozein solaskideri eskertuko genioke ezaugarri horiek izatea, baina ez da ahaztu behar txatbotak ez direla neutralak, ez objektiboak. Hortaz, lehendik ere espiritu kritikoa ondo zorroztuta izatea komeni bazen, orain, are gehiago.
