Pot confiar en AI? Heu d’acceptar les seves conclusions com a objectivament vàlides sense dubte? El problema és que fins i tot posar en dubte la IA no donaria respostes clares.
Els sistemes d’AI generalment han funcionat com una caixa negra: les dades són d’entrada i les de sortida, però els processos que transformen aquestes dades són un misteri. Això crea un doble problema. Una és que no se sap quins rendiments dels algoritmes són més fiables. L’altra és que els resultats aparentment objectius es poden veure inclinats pels valors i parcials dels humans que programen els sistemes. És per això que cal transparència en els processos de pensament virtual que utilitzen aquests sistemes o "IA explicable".
L’imperatiu ètic s’ha convertit en un legal per a qualsevol persona sotmesa a GDPR, que no afecta només les empreses amb seu a la UE, sinó les que hi tenen tractes amb persones o organitzacions. Conté una sèrie de disposicions sobre protecció de dades que s’estenen als ciutadans de la UE “el dret a no estar sotmès només a la presa de decisions automatitzada, excepte en determinades situacions” i “el dret a rebre informació significativa sobre la lògica implicada en la decisió. "
