¿Buenos días carbonian@s! ¿Cómo os va la vida?
Ya casi, sin parecerlo, estamos a 20 de Noviembre. ¿Habéis visto ese meme en el que el calendario de 2020 se compone de Enero, Febrero, CUARENTENA y Navidad? Pues así me siento yo ahora mismo. Recuerdo Febrero como si hubiera sido ayer. Pero no me preguntéis que he hecho el resto del año. Tampoco me preguntéis por qué no para de aparecerme ese meme en Instagram, aunque eso sí que lo sé (lo que no comprendo es por qué si lo buscas a propósito nunca aparece).
Este meme me aparece por afinidad. Porque me gusta mirar memes graciosos del 2020 (es el único consuelo que nos queda). Y también me aparecen memes de gatitos, perritos y cerveza. Y, de vez en cuando, videos de construcción y carpintería. ¿Pero cómo sabe Ig lo que a mí me gusta? Pues por el contenido que ya he visto. ¿Y cómo sabe qué ofrecerme para ver? Pues por unos algoritmos de inteligencia artificial que se llaman sistemas recomendadores o de recomendación. Os voy a explicar un poco de qué va el lío.
Es algo que todos conocemos bien. Los vemos todos los días. Cada vez que hacemos una búsqueda en internet o utilizamos una red social. Incluso cuando abrimos Netflix (seguro que algunos todavía recuerdan el challenge Netflix Prize [1]). Todas estas webs (o apps) nos dan una opción: “tal vez conozcas a…” o “en función de tus gustos, tal vez te interese…”, todo ello por afinidad a nuestras búsquedas anteriores o gustos, películas que hemos visto, libros que hemos indicado que nos gustan, personas que tenemos como amigos, etc… [2] Muy bien, pues esto es un sistema recomendador. Como su nombre indica, un sistema recomendador es un sistema que recomienda, o más bien, que filtra la información en función de los gustos o intereses de un usuario particular. Este tipo de sistemas estaban muy de moda hace unos diez años.
¿Cómo funcionan los sistemas recomendadores?
Hasta hace unos años, antes del boom del Deep Learning, las grandes compañías de contenido desarrollaban sistemas de recomendación basándose en determinadas características del contenido. Por ejemplo, Youtube utilizaba un conjunto de criterios como duración del vídeo, número de suscriptores, número de veces que había sido compartido, etc… Sin embargo, como la mayoría de los modelos actualmente, los sistemas de recomendación también se han visto afectados por el auge del Deep Learning.
Actualmente, el sistema de recomendación de vídeos de Youtube funciona mediante dos redes neuronales: a) la primera se dedica a generar candidatos, es decir, se produce una fase de cribado, reduciendo el conjunto de opciones a unos cientos de vídeos; b) en la segunda red se produce un proceso de clasificación, donde los elegidos son categorizados para definir la visibilidad, en función de videos que hayamos visto previamente [3]
En principio, este tipo de sistemas, deberían ser una alternativa eficiente para descubrir artículos que no pueden ser descubiertos con una búsqueda simple o priorizar ciertos resultados.
¿Cómo he llegado a esto, o por qué me ha dado ahora por hablar de estas cosas? Hace un par de meses, Youtube decidió relegar su sistema de inteligencia artificial, dedicado a moderar el contenido, y regresar a los moderadores humanos [4]. La base es que, en aquel marzo donde nos vimos obligados a permanecer en casa, confinados, muchos de los moderadores humanos tuvieron que quedarse en casa, por lo que la IA fue tomando un mayor protagonismo para decidir qué videos respetaban las condiciones de uso.
El resultado fue un aumento significativo de videos rechazados.
Bueno, no es la primera vez que una IA (sobre todo la de Youtube) no hace lo que se esperaba que tenía que hacer. Y no es la primera vez que un sistema recomendador se vuelve un poco loco. Así, de primeras, se me ocurren diversos casos, como el contenido no adecuado en Youtube Kids [5], sugerencias más que desafortunadas [6] o, incluso, conspiranoicas [7].
¿Qué más queda decir de los sistemas recomendadores?
1 – No, no te fíes de todo lo que te recomiendan.
2- Tú cuñado también cuenta como sistema recomendador. Otra cosa es si cuenta como inteligencia artificial.
Un saludo carbonia@s, y buena semana.
Referencias:
[1] Netfilx Prize, Wikipedia url: https://en.wikipedia.org/wiki/Netflix_Prize
[2] LaSexta, El 70% de lo que ves en YouTube te lo recomienda un algoritmo, url: https://www.lasexta.com/tecnologia-tecnoxplora/internet/que-ves-youtube-recomienda-algoritmo_201801165a6130250cf20b6d7553b60d.html
[3] Xataka, Así usa Youtube las redes neuronales para elegir qué contenidos te recomienda ver a continuación, url: https://www.xataka.com/inteligencia-artificial/asi-usa-youtube-redes-neuronales-para-elegir-que-contenidos-te-recomienda-ver-a-continuacion
[4] El Pais, YouTube relega a las máquinas y recupera a los moderadores humanos para filtrar el contenido dañino url: https://elpais.com/tecnologia/2020-09-21/youtube-relega-a-las-maquinas-y-recupera-a-los-moderadores-humanos-para-filtrar-el-contenido-danino.html
[5] Genbeta, YouTube tomará medidas para combatir la ola de vídeos perturbadores en YouTube Kids, url: https://www.genbeta.com/actualidad/youtube-tomara-medidas-para-combatir-la-ola-de-videos-pertubadores-en-youtube-kids
[6] El Mundo, Escándalo en YouTube: recomienda vídeos de niños semidesnudos después de ver contenido sexual, url: https://www.elmundo.es/tecnologia/2019/06/06/5cf6b80ffdddff1b6f8b45f8.html
[7] Xataca, Por qué la IA de recomendaciones de Youtube se volvió conspiranoica… y condujo a la conspiranoia a muchos usuarios, url: https://www.xataka.com/inteligencia-artificial/que-ia-recomendaciones-youtube-se-volvio-conspiranoica-condujo-a-conspiranoia-a-muchos-usuarios
Un comentario