Fiascos de algoritmos e inteligencia artificial

Fiascos de algoritmos e inteligencia artificial

Recopilatorio de casos errados y disparatados de algoritmos y sistemas de inteligencia artificial. Estas tecnologías son las que utilizan los filtros automáticos de sistemas de subida de archivos, por ejemplo. La lista no pretende ser exhaustiva, sino una muestra representativa de sucesos relevantes.

2020

Un sistema de reconocimiento facial de DataWorks Plus identificó erróneamente a un hombre negro en Estados Unidos, causando su posterior detención sin haber cometido delito alguno. El sistema de videovigilancia con esta tecnología le confundió con otra persona. The New York Times

2019

Un hombre de 21 años murió en Nueva York después de verse atrapado entre dos coches Toyota Lexus IS300s del 2002. El segundo coche fue encendido en remoto por su dueño, y arremetió una segunda vez contra la víctima tras ser empujado por testigos del suceso. Toyota asegura que el modelo no incluía encendido remoto de fábrica. BBC

Un programador chino afincado en Alemania presuntamente diseñó un sistema de reconocimiento facial que identifica a las actrices de vídeos de sitios web pornográficos con sus perfiles sociales personales. La herramienta se creó con el objetivo de que los usuarios comprobasen si sus novias habían participado alguna vez en la pornografía. YiquinFu en Twitter

  • El programador se disculpa y promete haber borrado toda la información. TechnologyReview

Entre 2012 y 2018, los filtros automáticos de YouTube retiraron un 10% de los vídeos de Syrian Archive, un proyecto dedicado a documentar las violaciones de derechos humanos en Siria, calificándolos de «violento extremismo», confundiendo así el contexto de documentación del proyecto con el de desinformación y reclutamiento de grupos terroristas. EDRi

El sistema Book ID de Scribd retira, por supuesta violación de propiedad intelectual, las copias del informe Mueller, un informe oficial de dominio público del Gobierno de los EE. UU. sobre la interferencia rusa en las elecciones presidenciales de 2016. Quartz

El sistema de YouTube contra la desinformación muestra un panel con información sobre los atentados del 11 de septiembre en EE. UU. en los vídeos del incendio de la catedral parisina de Notre Dame. BuzzFeed · Genbeta

El sistema Content ID de YouTube marca una grabación de prueba de un micrófono como contenido protegido por propiedad intelectual. EFF

2018

Facebook silencia una interpretación de Bach del pianista James Rhodes por detectar que 47 segundos pertenecen supuestamente a Sony Music Global. Twitter de James Rhodes · BoingBoing

El sistema Content ID de YouTube retira obras de Beethoven y Wagner de un profesor de música. TorrentFreak