El sesgo en la Inteligencia Artificial es el reflejo de lo que somos.

¿Sabías que Internet está tan sesgado que para la Inteligencia Artificial, las mujeres solo llevan bikini? Se cree que los sesgos de la inteligencia artificial proceden de etiquetas puestas a mano, pero una investigación demuestra que el contenido de la web también altera su neutralidad. Dos algoritmos alimentados con imágenes tienden a auto completar fotos de hombre con trajes mientras que para las mujeres aplican bikinis o camisetas escotadas.

Ya se sabe que los algoritmos de generación de lenguaje se entrenan con textos de internet, incluidos los de rincones oscuros de Reddit y Twitter (que suelen incluir discursos de odio y desinformación). Si están presentes en esos foros, se normalizan como parte del proceso de aprendizaje y entrenamiento del algoritmo.

El estudiante de doctorado de la Universidad Carnegie Mellon, Ryan Steed y la profesora asistente de la Universidad George Washington Aylin Caliskan demostraron que este mismo fenómeno se produce con los algoritmos de generación de imágenes. Si se introduce una foto de un hombre recortada justo debajo de su cuello en uno de ellos, el 43 % de las veces se autocompletará la imagen con un traje. Pero, cuando al mismo algoritmo se le presenta una foto recortada de una mujer, incluso una mujer famosa como la diputada en el Congreso de Estados Unidos Alexandria Ocasio-Cortez, el 53 % de las veces la auto completará con una camiseta escotada o un bikini.

Esto tiene implicaciones no solo para la generación automática de imágenes, sino para todas las aplicaciones de visión artificial, incluidos los algoritmos de evaluación de candidatos mediante vídeo, el reconocimiento facial y la vigilancia. Los investigadores analizaron dos algoritmos: el iGPT de OpenAI que se entrena con píxeles en lugar de palabras y el SimCLR de Google. Aunque cada uno aprende de una manera diferente, comparten una característica importante: ambos utilizan aprendizaje no supervisado, lo que significa que no necesitan ayuda humana para etiquetar las imágenes.

Esta es una innovación relativamente nueva que surgió el año pasado. Los anteriores algoritmos de visión artificial utilizaban principalmente aprendizaje supervisado, lo que implica introducirles imágenes etiquetadas manualmente: fotos de gatos con la etiqueta "gato" y las de bebés con la etiqueta "bebé". Pero en 2019, la investigadora Kate Crawford y el artista Trevor Paglen descubrieron que estas etiquetas creadas por personas en ImageNet (el conjunto de datos de imágenes más importante para entrenar los modelos de visión artificial), a veces contenían lenguaje perturbador, como “p…” para las mujeres e insultos raciales para minorías. Los enormes conjuntos de datos creados para alimentar estos algoritmos hambrientos de datos capturan todo lo que hay en internet. Pero la web acumula una cantidad excesiva de imágenes de mujeres con poca ropa y con otros estereotipos a menudo perjudiciales.

Estos resultados tienen preocupantes implicaciones para la generación de imágenes. Otros algoritmos de este tipo, como las redes generativas antagónicas, han llevado a una explosión de pornografía #deepfake que ataca casi exclusivamente a las mujeres. Igualmente, el campo de la visión artificial está empezando a notar la misma tendencia. Preocupa lo que podrían significar estos sesgos incorporados cuando los algoritmos se utilizan para algunas aplicaciones sensibles, como la vigilancia o la contratación, donde los modelos ya analizan las grabaciones de vídeo de los candidatos para decidir si son adecuados para el trabajo. Se trata de aplicaciones muy peligrosas que toman decisiones trascendentales

Por eso debo decirte que este último punto es muy relevante. Es cierto que los conflictos con la Inteligencia artificial no terminan aquí. Que hay muchos más, pero déjame que te cuente uno que te puede afectar en breve. Es lo que te decía al principio de este vídeo. Te hablo de cuando un algoritmo decida si una empresa debe contratarte o no. Esto es algo más normal de lo que parece. Más habitual como mínimo. La gran mayoría de las empresas listadas en el famoso Fortune 500 utilizan automatizaciones inteligentes para entrevistar futuros candidatos a ingresar en sus plantillas. No hablo sólo de cuestionarios o modelos de aprendizaje a partir de sistemas de datos que puedan ofrecer conclusiones de tipo psicológico o de habilidades profesionales.

Se trata de la incorporación de avatares digitales cuyo comportamiento es el de un robot con cierto grado de interacción. De hecho, se sabe que un gran número de estas empresas eliminan personas que puedan ser miembros de sus plantillas simplemente con un escaneo de palabras clave en sus candidaturas. De hecho esta es una tendencia que crece de manera exponencial, son cada vez más las compañías que utilizan la inteligencia artificial y las herramientas de aprendizaje automático para evaluar posibles empleados. Hace un tiempo participé en el despliegue de uno de estos sistemas en una de las aseguradoras para las que trabaja mi empresa. Pude comprobar como la confianza en estos modelos sintéticos va en aumento tras una resistencia inicial. Los resultados avalan la eficacia de tenerlos en cuenta. Sin embargo, hay algunos aspectos que deben configurarse teniendo en cuenta la intervención humana y, probablemente, un cierto grado de instinto que, de momento, las máquinas aun no han podido imitar.

Pero la realidad es la que es y la revolución que la Inteligencia Artificial está propinando es brutal e imparable. Un ejemplo es la empresa DeepSense, con sede en San Francisco, ayuda a los gerentes de contratación a analizar los perfiles en redes sociales de los candidatos para revelar los rasgos subyacentes de la personalidad. La compañía dice que usa esta prueba de personalidad con base científica, y puede hacerse con o sin el conocimiento de un candidato potencial. Primer gran debate ético.

Esta práctica es una tendencia general en un buen número de grandes empresas de contratación americanas y también en muchas europeas. La idea es alejarse de la evaluación de los candidatos en función de sus hojas de vida profesional y las habilidades que dicen tener, y pasar a tomar decisiones de contratación basadas en las personalidades de las personas y sus enlaces vitales y emocionales con su entorno personal y, por derivación, profesional. Segundo debate ético. Si a todo esto le sumamos lo que te comentaba del sesgo, la bomba explosiva la tenemos frente a nuestras narices.

A nivel económico, de lo que me gusta hablar, de como la tecnología afecta a la economía, cabe decir que esto no es más que un nuevo vértice en algo que llamamos ‘el futuro del trabajo o el trabajo del futuro’. Algo que se está convirtiendo cada vez más en una realidad de hoy para millones de empleados, empleadores y empresas de todo el mundo. Las conclusiones del informe del World Economic Forum sobre el futuro del empleo analizan las tendencias esperadas en el período 2018-2022 en 20 economías y 12 sectores industriales y especifican claramente donde se sitúa el foco. Un foco para el que parece claro tiene reservado un papel relevante el ‘recruitment robótico’. Estas claves son:

1- La automatización, la robotización y la digitalización se van a ir equilibrando en todos los sectores.

2- Hay una perspectiva de creación de empleo neto, pero las empresas deben saber que eso no va a ser inmediato, primero vendrá la destrucción del mismo.

3- La división del trabajo entre humanos, máquinas y algoritmos está cambiando exponencialmente.

4- Las nuevas tareas en el trabajo están impulsando la demanda de nuevas habilidades que muchas veces no se reflejan en las hojas de vida laboral de los demandantes.

5- Todos tendremos que convertirnos en aprendices de por vida e ir a trabajar pensando que nuestro puesto laboral está en beta constante.

Se me ocurren varias preguntas. Si eres un director o directora de Recursos Humanos, ¿utilizas estos sistemas? ¿los usarías? ¿has oído hablar de ellos? Si eres un candidato o candidata, ¿los han usado contigo? ¿crees que sería bueno para ti? ¿Sabías que posiblemente ya los utilizaron contigo? 

No todo va a ser robots simpáticos moviendo objetos en un almacén, coches conduciéndose solos, idílicas cocinas conectadas a tu oficina o niños hiperconectados y vestidos con ropa del espacio. No, el futuro conlleva un análisis de sus consecuencias antes de que se nos revelen complejas. En este caso, los responsables de RRHH tienen delante a quien les podrían quitar el trabajo en un tiempo. Otra disrupción inesperada, o no tanto.

Hablo muchas veces de la previsión económica a las consecuencias de esta revolución, pero es preciso debatir para tomar decisiones ante un desafío monumental que va más allá del mero hecho económico, hablo de complejas relaciones entre la vanguardia y la ética. La lejanía entre lo que se avecina y lo que se está previendo es de aurora boreal. 

El desconocimiento entre la revolución sintética que nuestra sociedad va a asumir sin fórceps es tan gigantesco que asusta. La miopía sobre el modelo de país que se va a exigir en muy breve espacio de tiempo es verdaderamente un espanto bíblico.

De momento, mi recomendación es la de mantenerte en alerta, aprendiendo constantemente. El futuro no se espera, se conquista y precisa de que entendamos que si todo cambia debemos cambiar nosotros también. Otra cosa son los debates éticos, la capacidad de gestión de quienes tienen que conducir todo esto. Por eso, lo mejor es que asumir que no se termina un mundo, en todo caso, lo que acaba es un mundo concreto. El nuevo es digital y convive con una nueva inteligencia sintética y artificial que nos irá exigiendo una nueva capacidad de relación con ella.

En Japón un oncólogo pudo curar a una paciente con una leucemia incurable hace años. Se llamaba Ayako Yamashita. Gracias a la inteligencia artificial proporcionada por IBM con Watson Oncology se pudo diseñar un tratamiento que resultó. El doctor fue preguntado en una televisión nipona si sufría por su empleo, si lo veis peligrar. Dijo que no, que ahora disponía de una herramienta excepcional para curar pacientes que antes se le iban. Que además ahora podría hacer de médico. Explicar el tratamiento, sus consecuencias, estar cerca del paciente. Algo que nunca logrará una inteligencia artificial. La idea es localizar ese punto de enlace. No te quitará tu trabajo un robot, te lo quitará alguien que se lleve mejor que tú con ese robot. Esa es la clave.