El viernes, Twitter Inc. dijo que lanzaría un concurso para investigadores informáticos y piratas informáticos para identificar sesgos en su algoritmo de recorte de imágenes, después de que un grupo de investigadores descubriera anteriormente que el algoritmo tiende a excluir a los negros y a los hombres.
La competencia es parte de un esfuerzo más amplio en la industria de la tecnología para garantizar que las tecnologías de IA operen de manera ética.
La empresa de redes sociales dijo en una publicación de blog que el concurso de recompensas tenía como objetivo identificar «los daños potenciales de este algoritmo más allá de lo que nosotros mismos hemos identificado».
Después de las críticas el año pasado sobre las vistas previas de imágenes en publicaciones que excluyen las caras negras, la compañía dijo en mayo que un estudio realizado por tres investigadores de aprendizaje automático encontró una diferencia del 8% con la paridad demográfica a favor de las mujeres y del 4% a favor de las personas blancas.
Twitter publicó públicamente el código de computadora que decide cómo recortar las imágenes en el feed de Twitter, y el viernes dijo que se les pidió a los participantes que vieran cómo el algoritmo podría causar daño, como perfilar o denigrar a cualquier grupo de personas.
Los ganadores recibirán premios en efectivo que van desde $ 500 a $ 3,500 y serán invitados a presentar su trabajo en un taller organizado por Twitter en DEF CON en agosto, una de las conferencias de hackers más grandes que se celebra anualmente en Las Vegas.
