P:
Per què DARPA investiga "IA explicable"?
R:En general, la intel·ligència artificial explicable s’està convertint en una part molt anunciada del treball d’avantguarda en ciències de la informació. Ajuda a guiar el control humà d’un tipus de tecnologia inherentment volàtil i dinàmic: una IA explicable ajuda a respondre moltes de les nostres preguntes col·lectives sobre com funciona la intel·ligència artificial
Per entendre la IA explicable, ajuda a entendre el que sembla "IA regular". Tradicionalment, a mesura que l'AI comença a prendre forma, el projecte típic consisteix en una fantàstica capacitat de programari, amagada en algoritmes i conjunts d'entrenament i en codi lineal, que és una mena de "caixa de bloqueig" per als usuaris. Saben que funciona, no saben exactament com.
Això pot conduir a "problemes de confiança" on els usuaris poden interrogar sobre la base sobre la decisió d'una tecnologia. És a què s'explica l'AI explicable: els projectes d'AI explicables vénen amb una infraestructura addicional per mostrar als usuaris finals la intenció i l'estructura de l'AI, per què fa el que fa.
En una època en què innovadors més importants com Bill Gates i Elon Musk estan manifestant la seva preocupació pel funcionament de la intel·ligència artificial, l'AI explicable sembla extremadament atractiva. Els experts afirmen que una IA explicable bona pot ajudar els usuaris finals a comprendre per què les tecnologies fan el que fan, augmentar la confiança i també augmentar la facilitat d’ús i l’ús d’aquestes tecnologies.
Concretament, però, DARPA explica per si solament el seu interès pels nous projectes. Una pàgina de DARPA mostra que el Departament de Defensa preveu un "torrent" d'aplicacions d'intel·ligència artificial i una certa quantitat de caos en el seu desenvolupament.
"Els avenços continuats prometen produir sistemes autònoms que percebrin, aprendran, decideixen i actuaran pel seu compte", escriu David Gunning. "Tot i així, l'eficàcia d'aquests sistemes està limitada per la incapacitat actual de la màquina d'explicar les seves decisions i accions als usuaris humans. … La IA explicable, especialment l'aprenentatge de màquines explicable, serà essencial per comprendre, confiar adequadament i gestionar eficaçment els futurs combatents que gestionin una generació emergent de socis de màquines artificialment intel·ligents. "
L’assaig en línia de Gunning suggereix que els sistemes d’AI explicables ajudaran a “proporcionar la raó” de les tecnologies, mostrar els seus punts forts i febles i fer més transparents els casos d’ús. Un gràfic de la pàgina mostra com un pipeline senzill de funcionalitat d’intel·ligència artificial a partir de dades d’entrenament es veuria augmentat per una cosa que s’anomena un model explicable i una interfície explicable que ajudarà l’usuari a respondre preguntes. Gunning suggereix, a més, que un programa d’AI explicable tindrà dues grans àrees d’atenció: una seria la difusió a través de dades multimèdia per trobar el que sigui útil per als usuaris i un segon focus seria la simulació de processos de decisió per al suport de decisions.
DARPA espera proporcionar un "toolkit" que pugui ajudar a desenvolupar futurs sistemes d'AI explicables.
