jueves, febrero 21, 2019

Qué ha aprendido Amazon al usar inteligencia artificial para contratar


/DREAMSTIME /EXPANSION

El uso de robots y algoritmos en los procesos de selección es ya un hecho, pero las experiencias reales demuestran que no se trata de la panacea para captar al candidato ideal. Entre otros problemas, por los sesgos.

Jim Collins, autor del libro Empresas que sobresalen, escribió que las compañías que destacan comparten características básicas. Una es que al formar sus equipos primero preguntan "quién" y después "qué", y se aseguran de "subir a la gente adecuada al autobús". Este paso debería producirse antes incluso de decidir el destino: "Si subimos a las personas apropiadas en los asientos precisos y dejamos a los que no consideramos adecuados fuera, descifraremos la forma de guiar el bus hasta un destino sobresaliente".

Hay muchos obstáculos en el mundo real a la hora de subir a bordo a los pasajeros apropiados. No es tan fácil, como sugiere Collins, prescindir de "la gente no adecuada". Algunos insisten en aferrarse a una plaza que les asignó el anterior conductor. Otros tienen un criterio equivocado acerca del derecho que tienen a un asiento. Lo que es peor, unos pocos expertos autocríticos pueden optar por apearse, aunque se necesite desesperadamente su contribución. Además, los autobuses paran constantemente y dejan subir o bajar pasajeros. Y lo que es más importante, en una ruta, la gente cambia.

La mayoría de los problemas con la tecnología
 no son tecnológicos sino humanos

En los últimos años, la inteligencia artificial ha llevado a muchos a asumir la llegada de una era dorada de la contratación con la ayuda de ordenadores, en la que las máquinas resolverán la cuestión del "¿quién?".

Amazon, una de las compañías más innovadoras y con más abundancia de datos del mundo, intuyó esa posibilidad en 2014. Construyó una herramienta de contratación que analizaba las solicitudes de empleo presentadas al grupo en la última década e identificaba patrones. La idea era que seleccionaría a los aspirantes que mereciesen verdaderamente la pena.

Por desgracia, los datos estaban dominados por candidaturas formadas por varones, y la inteligencia artificial se autoprogramó para dar preferencia a los candidatos masculinos, discriminando los currículos de mujeres, y excluyendo a los graduados de determinadas universidades exclusivas para el sexo femenino.

La iniciativa fue descartada y se prescindió del equipo de investigación. Amazon ha asegurado que nunca utilizó el programa para evaluar a los aspirantes.

Las personas heredan sesgos culturales, y no se puede
construir una inteligencia artificial sin prejuicios

Para Vivienne Ming, una neurocientífica y emprendedora a quien Amazon trató de contratar en una ocasión como responsable científica, la búsqueda infructuosa de una fórmula mágica de reclutamiento ha de tener en cuenta una importante advertencia: las compañías deberían ser "increíblemente cuidadosas" a la hora de utilizar herramientas de inteligencia artificial en la contratación, porque es muy posible que nadie, ni siquiera los que la crearon, sepan realmente lo que ésta puede hacer. Y si muestra sesgos en su proceso de reclutamiento -y recordemos que una de las compañías más sofisticadas e innovadoras del mundo no fue capaz de solucionar este problema-, entonces es responsable de algo aunque no lo pretende.

Ming cree que la innovación falla a menudo porque gente como los investigadores de Amazon no entienden los problemas en los que trabajan.

La mayoría de los problemas con la tecnología no son tecnológicos, sino humanos. Dado que las personas heredan inevitablemente sesgos culturales, es imposible construir una "inteligencia artificial sin prejuicios" para seleccionar personal. "Hay que reconocer que los prejuicios existen y esforzarse por ir más allá de donde conducen esos sistemas por defecto", explica Ming.

La experiencia de Amazon sugiere que en lugar de enviar robots a que repten entre los historiales de los candidatos, las compañías deben explorar formas de que los ordenadores ayuden a evaluar y desarrollar el potencial a largo plazo de la gente a la que invitan a subirse al autobús. Los reclutadores deberían preguntar: "¿Quiénes serán estos candidatos dentro de tres años cuando alcancen su máximo nivel de productividad en la compañía? Esto podría deparar algo muy distinto de quien ofrezca la máxima productividad en el momento de su incorporación".


No hay comentarios:

Publicar un comentario