P:
Per què alguns experts diuen que l'AI "destruirà l'autenticitat digital"?
R:L’aprenentatge de màquines i la intel·ligència artificial canvien ràpidament moltes indústries i modifiquen realment les maneres que pensem sobre el progrés tecnològic. Però també participen algunes dicotomies i contradiccions interessants sobre com ens relacionem amb els nostres ordinadors i dispositius de telèfons intel·ligents o altres interfícies noves que es produeixen.
Una de les grans qüestions amb intel·ligència artificial és com afectarà la “autenticitat”, o com la gent verifica i confirma la realitat que existeix, al “espai de cuina” o al món digital. Quan realment aprofundeix en el funcionament, veus una contradicció inherent entre les limitacions de la nostra tecnologia i les maneres de confiar en què disposem.
Un dels millors exemples es pot trobar en un article recent en cable que mostra com les persones amb intel·ligència artificial i recursos d’aprenentatge automàtic són capaços de prendre una imatge d’un cavall en moviment i superposar ratlles de zebra en un procés que l’autor anomena “zebraficació”.
És bo i nou, però també pot presentar un problema. Quan veieu una zebra en una pantalla digital, com sabeu que és una zebra, i no només un cavall amb ratlles de zebra que hi ha clarament posats per algú experimentat en la tecnologia?
Pot semblar una pregunta teòrica, però aviat s’aplicaran els mateixos tipus de preguntes a les notícies que rebem de forma digital: des de la política fins a l’economia fins a la religió, tot això es basarà en la nostra capacitat de difondre informació., de fet comprovar i distingir entre veritat i ficció, entre mite i realitat. Com que les noves eines d’intel·ligència artificial ofereixen més maneres de manipular imatge i vídeo, això serà molt més difícil.
Un altre excel·lent exemple són les noves tecnologies de veu. En un article de fa uns anys, vam cobrir un projecte informàtic en expansió que va agafar la veu de persones famoses i vam crear motors de models de veu que podien fer que aquelles persones famoses diguessin qualsevol cosa més enllà de la tomba.
Una vegada més, aquesta és una tecnologia neta i interessant: sembla una forma divertida d’utilitzar tecnologies de processament de la parla. Però presentarà un problema realment quan fem el salt de l’antiga tecnologia de veu digital analògica i no adorada a la nova veu sintètica i prefabricada. Com sabràs qui et parla, per telèfon, per televisió o bé a l’orella?
Concretament, la idea d’alterar l’àudio, la imatge i el vídeo de maneres sofisticades pot reforçar algunes de les nostres idees més valorades com a societat. Com confiarà la gent en allò que sent i veu en el món polític? Què passa amb la llei: els acusats de delictes tindran nous tipus d’apel·lació basats en la possible alteració de proves?
Una altra manera d’entendre alguns d’aquests problemes és mirar l’escriptura de ciència-ficció: des del “Fahrenheit 451” de Ray Bradbury fins al “1984” de George Orwell i més enllà, els narradors d’èpoques passades ens han advertit repetidament que la tecnologia es pot posar a la pràctica d’utilitat. i finalitats problemàtiques. Una de les raons per les quals tants experts i caps d’empreses informàtiques demanen “intel·ligència artificial explicable” i panells d’ètica és que entenguin el problema: que si no controlem les tecnologies a fons, no podrem confiar en ells. extensió En lloc d’ajudar-nos a assolir els nostres objectius, podrien acabar fent-nos mal, parcialment provocant el tipus de caos social que existeix quan realment no aconseguim manejar la veritat i la realitat. Una de les bones notícies és, però, que tecnologies com la blockchain, que proporcionen autenticació transaccional, poden ajudar-se quan s’apliquen als registres digitals.
