P:
L’AI pot detectar la vostra orientació sexual o política només mirant les fotos mitjançant el reconeixement facial?
R:En resum: Sí, poden i són fins i tot millors que els humans en fer-ho. Segons un estudi molt desconcertant de la Universitat de Stanford, les imatges de les cares humanes contenen una gran quantitat d'informació que el cervell humà simplement no pot processar, mentre que la intel·ligència artificial pot. Segons les seves investigacions, una profunda xarxa neuronal va ser capaç de distingir entre homes homosexuals i heterosexuals en el 81 per cent dels casos, i en el 74 per cent dels casos per a les dones, enfront del 61% dels homes i el 54% de les dones dels jutges humans. Si l'algorisme tenia almenys cinc imatges d'una persona per escanejar, el percentatge d'èxit augmentava fins al 91 i el 83 per cent, respectivament.
La IA no només va ser capaç de distingir algunes característiques "atípiques de gènere" com l'estil de preparació i les opcions de moda, sinó que la màquina també va identificar alguns trets fenotípics específics en les seves facetes facials, com ara homes homosexuals amb mandíbules més estretes, fronts més grans i nassos llargs. Independentment de les possibles implicacions d’aquest descobriment (com la idea que l’orientació de gènere podria estar vinculada a algunes característiques genètiques), és temible el perjudicial que poden ser les aplicacions d’aquesta tecnologia. Per exemple, podrien ser utilitzats pels governs que persegueixen persones LGBT per "fer-los una pantalla", o simplement per violar la privadesa d'innombrats usuaris per a tot tipus de propòsits maliciosos: el màrqueting dirigit és el menys dolent de tots.
El que el fa encara més molest, però, és que ja estan disponibles i ja s’utilitzen tecnologies similars. L’AI pot detectar molt més que una simple sexualitat mirant una imatge d’un rostre humà: pot detectar emocions, intel·lectuals i fins i tot preferències polítiques. S'han utilitzat tecnologies similars de perfils psicomètrics basades en AI per treure dades dels perfils de Facebook i obtenir conclusions sobre preferències personals i opcions d'estil de vida. D’aquesta manera, els electors només podrien veure un subconjunt específic d’anuncis polítics orientats que podrien dirigir subtilment les seves opcions polítiques.
El creador d’aquest experiment, el psicòleg Michal Kosinski, va manifestar la seva preocupació pels possibles riscos si aquesta tecnologia s’utilitzava amb finalitats dolentes, fins al punt que ell i el seu equip van passar molt temps considerant si els resultats havien de ser públics. La consultora política Cambridge Analytica, de fet, presumptament va utilitzar informació recollida de les xarxes socials per publicar anuncis que van influir en les eleccions presidencials dels Estats Units el 2016, i possiblement fins i tot la campanya britànica Brexit. Segons la investigació en curs, un ampli exèrcit de bots va començar a difondre diverses notícies falses dirigides amb precisió sobre Hillary Clinton per dirigir els seus possibles electors a votar per Donald Trump. Molts d’aquests anuncis van ser construïts al lloc mitjançant algoritmes intel·ligents, per mostrar-los a la gent durant esdeveniments importants o debats electorals. L’AI també va mesurar les reaccions de la gent, per reforçar la seva eficiència a l’hora d’influir els votants de Clinton en creure que era una persona malvada i desordenada.
Després de l'escàndol, l'agència es va tancar, però encara existeixen tecnologies similars i es poden utilitzar amb finalitats malicioses. Kosinski va pronunciar molts discursos sobre aquest risc molt abans de l'escàndol, però, lamentablement, la naturalesa humana no es pot canviar. En un experiment inèdit, va afirmar que la seva IA era capaç de distingir entre les cares dels republicans i els demòcrates, tot i que va admetre que les barbes podrien marcar la diferència. Així que per a tots els teòrics de la conspiració (i per a persones que protegeixen la privadesa), hi ha un gran suggeriment: si voleu evitar que el govern penetri en la vostra vida privada, només creixeu barba. Una enorme, si és possible.
