P:
Quins són alguns problemes ètics pel que fa a l'aprenentatge automàtic?
R:Els problemes ètics que envolten l’aprenentatge automàtic involucren no tant els mateixos algorismes d’aprenentatge automàtic, sinó la manera d’utilitzar les dades.
L’escàndol Cambridge Analytica amb Facebook, on una firma de consultoria política utilitzava dades del lloc de xarxes socials sense el coneixement ni el consentiment dels usuaris, va il·lustrar molts dels problemes associats a la recollida i l’ús de les dades dels usuaris. Tot i que molts acords de llicència d'usuaris finals especifiquen com es poden utilitzar les dades dels usuaris, és possible que molts usuaris de xarxes socials no llegeixin les lletres.
| Descàrrega gratuïta: Aprenentatge automàtic i per què és important |
Un altre problema és que aquests algorismes d'aprenentatge de màquines poden ser "caixes negres" on és impossible veure com funcionen realment. Pot ser impossible saber per què un algorisme d’aprenentatge automàtic va prendre una decisió.
Una de les àrees d’aprenentatge automàtic és fer diagnòstics mèdics. Un algorisme pot considerar els rajos X per trobar càncer. Un metge humà pot explicar per què van fer un diagnòstic, però potser no sabem com un algorisme d’aprenentatge de màquines va determinar que un pacient tenia càncer o no.
L’única solució és deixar anar programes d’aprenentatge automàtic sota llicències de codi obert. Quan la gent pot mirar el codi font d’un programa, pot veure com pren decisions.
Un altre tema és l’ús de dades de formació d’aprenentatge automàtic i possibles biaixos. Hi ha hagut diversos casos de biacis racials i altres que el converteixen en programes d'aprenentatge automàtic sense voler. Un algorisme identificava les persones negres com a goril·les, i un altre va alterar les característiques facials de les persones de color per fer-les semblar més “europees” mentre pretenia embellir-les.
Una forma de contrarestar-ho és comptar amb més gent de procedències diverses en el camp de l'AI.
Un altre problema és l’ús segur de l’aprenentatge de màquines i la intel·ligència artificial. Els programes d’IA i d’aprenentatge automàtic podrien desenvolupar un comportament que la gent no voldria, com ara evitar que les persones s’apaguessin.
