Taula de continguts:
- Definició: què significa el problema d’aprenentatge de valor?
- Techopedia explica el problema d'aprenentatge de valor
Definició: què significa el problema d’aprenentatge de valor?
El problema d’aprenentatge de valor és un tema fonamental específic en el desenvolupament de tecnologies d’aprenentatge automàtic i d’intel·ligència artificial que aborden la diferència entre humans i ordinadors i les maneres que pensen.
En poques paraules, el problema d’aprenentatge de valors es basa en el difícil que és per als ordinadors de saber què cal “valorar” (tant en termes de dades com en polítiques) i com actuar en una xarxa d’aprenentatge de màquines, i com els programadors poden optimitzar com el programa actua per fer coincidir les seves intencions originals quan el van crear.
Techopedia explica el problema d'aprenentatge de valor
La clau del problema d’aprenentatge de valor és que és extremadament important que els programadors puguin realitzar programes d’aprenentatge automàtic que portin a terme els valors previstos. Tanmateix, el captura 22 és que els valors no es poden indicar explícitament de manera que dificultin l'aprenentatge del programa.
De vegades la gent parla de la “convergència” de les tecnologies d’aprenentatge automàtic com l’èxit centrat en les dades de valor, però el problema d’aprenentatge de valors és d’alguna manera una mica diferent. És la idea que hi hagi d’haver alguna manera bàsica de mostrar el que es vol al programa d’aprenentatge automàtic, en lloc de simplement deletrejar-lo, que és una forma determinista d’executar ML.
Per exemple, prenguem aquest article sobre el problema d’aprenentatge de valor que suggereix que els programes d’aprenentatge automàtic podrien tenir un conjunt d’emmagatzematge d’entrades que mostren respostes humanes positives als estímuls. En llegir aquest tipus d’adreces per al problema d’aprenentatge de valor, queda clar que hi ha un buit important en l’aprenentatge de màquines que no és fàcil de arreglar - essencialment - com creen les persones que poden pensar realment com a persones? Una altra manera d’explicar-ho és que el problema d’aprenentatge de valor es dirigeix al cor de com pensem com a humans i de com els nostres pensaments no sempre es basen en l’aportació de notes.
Perquè els ordinadors puguin modelar la nostra intuïció, el nostre instint, les nostres inclinacions socials i els nostres valors ètics més profunds, és un ordre alt, fins i tot quan els ordinadors poden aprendre a jugar a escacs de manera humana o ens poden separar en la resolució de problemes de matemàtiques difícils. Els professionals poden esperar que el programa d’aprenentatge de valor continuï essent central en el desenvolupament de tecnologies d’aprenentatge automàtic.
