P:
Per què algunes persones estan preocupades per la intel·ligència artificial?
R:El canvi no és fàcil i moltes persones tenen dificultats per adaptar-s’hi. Això és particularment cert als canvis tecnològics. El conegut professor de Harvard Calestous Juma va escriure un llibre sobre el tema anomenat "La innovació i els seus enemics: per què les persones resisteixen les noves tecnologies". El llibre destaca la tensió entre la innovació i l'ordre social, basant-se en 600 anys d'història. L’impacte de la tecnologia és especialment problemàtic quan es tracta d’intel·ligència artificial.
No tothom és advers a aquests avenços. Ray Kurzweil, autor de "The Singularity is Near" i "The Age of Spiritual Machines", no és res més que un evangelista que promou els beneficis de la genètica, la nanotecnologia i la robòtica (un terme utilitzat per a la intel·ligència no biològica). Però es tracta dels mateixos problemes (i de Kurzweil la mateixa persona) que van causar una gran preocupació l'any 2000 per Bill Joy, científic en cap de Sun Microsystems.
Joy va escriure les seves preocupacions en un famós article de la revista Wired anomenat "Per què el futur no ens necessita". Creia que el futur mateix de la raça humana estava en joc. Referint-se a la competència de la història evolutiva, Joy va escriure: "Les espècies biològiques gairebé mai sobreviuen a les trobades amb competidors superiors." Els avenços científics que donen lloc a que les màquines superen els humans presenten riscos importants. Em vénen al cap visions d’un futur distòpic.
Suposem que els científics són capaços de desenvolupar màquines amb superintel·ligència artificial (ASI), un nivell d’intel·ligència superior als humans. Joy diu que podria ocórrer una de les dues coses: o bé a les màquines se'ls permetrà prendre les seves pròpies decisions, o bé els humans mantindran el control sobre elles. Què passa si entregueu la potència a les màquines? Quins podrien ser els resultats?
Bill Joy no és l'únic que expressa les seves preocupacions. El guru tècnic, Elon Musk, va dir: "Amb la intel·ligència artificial estem convocant el dimoni". Ho va anomenar "la nostra major amenaça existencial". El físic Stephen Hawking va dir als assistents en una conferència sobre tecnologia que "no podem saber si serem infinitament ajudats per l'AI, o ignorat per ella i lateral, o concebible per ella. "I va dir a la revista Wired, " temo que l'AI pugui substituir els humans per complet. "
Estan justificades aquestes pors? Les pel·lícules de ciència-ficció com "Transcendència", on els personatges de Johnny Depp s'enllacen amb intel·ligència artificial i causen estralls, recorden les prediccions de Kurzweil sobre com els humans podrien fondre's amb les màquines. Les imaginacions es desprenen de totes les formes en què la intel·ligència artificial pot anar malament. Què passa quan les màquines prenen el control?
Dos exemples de la vida real il·lustren com pot ser comprensible la preocupació per la intel·ligència artificial. El 2007, un canó robot va matar nou persones i va ferir 14. Algunes armes militars avançades trien automàticament els objectius, però esperen que un humà tiri del disparador. Qui prenia les decisions aquí? El 2016, un robot de seguretat de 300 lliures va tombar i va atropellar un nen petit de setze mesos. Qui tenia el control en aquest cas: l’home o la màquina?
El motiu pel qual algunes persones estan preocupades per la intel·ligència artificial és que els riscos són reals. La següent pregunta: Com gestionarem aquests riscos?
