Por Ariel Grossman
Fuente: Nocamels.com
Es tentador pensar en los robots como nuestros amigos. Alexa nos ayuda a pedir comida, Roomba aspira la sala de estar y el Asistente de Google puede encender las luces cuando entramos al dormitorio.
Formamos vínculos, de algún tipo, con ellos. Decimos gracias, aunque sabemos que no son "reales".
Pero la verdad es que, lejos de ser nuestros amigos, son, en cierto modo, nuestros enemigos.
Pueden dañar nuestra autoestima, hacernos menos abiertos a explorar cosas nuevas e incluso reforzar los sesgos raciales y de género negativos, dice Hadas Erel, jefe de investigación de Interacción social humano-robot (HRI) en el miLAB en la Universidad Reichman, Herzliya, Israel central.
En un experimento, los voluntarios se molestaron tanto cuando un robot los "ignoró" que ya no pudieron hablarle.
Muchos investigadores han estudiado cómo los robots aumentan nuestro bienestar, pero su área particular de interés es cómo la interacción social con objetos robóticos impacta en las interacciones entre humanos.
Le preocupa que los robots puedan, sin querer, tener un impacto negativo en nosotros.
“Como humanos, tenemos esta tendencia a percibir el mundo a través de una lente social, por lo que humanizamos todo”, dice.
“Y creo que el mejor ejemplo es iRobot o Roomba. Limpia tu casa, no está diseñado para la interacción social en absoluto. Y aún así, sientes que te sigue, y más del 70 por ciento de las personas le dan un nombre.
“Es una entidad, no crees que sea humana, sabes que no es humana y no está tratando de ser humana. Y aun así, tienes toda una relación con tu iRobot”.
Las personas interpretan constantemente el comportamiento de los robots como algo social, incluso cuando no están diseñados como tales, como cuando un Roomba se dirige hacia usted mientras limpia y parece que viene a saludarlo.
Las funciones de los robots también pueden percibirse como que "ignoran" o "excluyen" a las personas, aunque solo estén haciendo lo que han sido programados para hacer.
Erel comparte tres de los proyectos de miLAB que demuestran los poderosos impactos de los robots en los humanos.
Los robots pueden aumentar la creencia en los estereotipos de género
Los robots pueden reafirmar los prejuicios de género, incluso entre los adultos que son plenamente conscientes de que no son objetivos.
Un robot moderó un debate entre participantes masculinos y femeninos girándose hacia el participante cuando era su turno de hablar.
Siempre daba más tiempo a los varones para hablar, incluso cuando no tenían nada que decir, y siempre los elegía como ganadores del debate.
El robot, que parece una lámpara hueca, había sido entrenado, como es común, con bases de datos que utilizan información de los teléfonos y computadoras de las personas.
“Sorprendentemente, a excepción de una mujer, tanto hombres como mujeres dijeron que el robot era objetivo, que era justo y que tomó la decisión correcta”, dice Erel. “Y nos impactó, porque pensamos que al menos las mujeres podrán resistir esta percepción de la tecnología como objetivo”.
Posteriormente, los participantes, sin saberlo, utilizaron estereotipos de género para justificar lo que decidió el robot. Dijeron que los machos ganaron el debate porque se mantuvieron erguidos, porque eran más fuertes y porque ocupaban más espacio.
Erel dice: “Nos sorprendió lo peligroso que es. Porque la interacción hizo que las personas usaran estereotipos de género para justificar lo que estaba haciendo la tecnología.
“Esto es a pesar del hecho de que se les informó de antemano que estaba funcionando en base a ejemplos que provenían de humanos. Dijeron que es objetivo y que debemos tratar de integrarlos en la vida cotidiana porque tomará las decisiones correctas”.
"Más importante aún, no podemos esperar que los usuarios identifiquen el sesgo y lo resistan; es responsabilidad de las personas que diseñaron el robot y su algoritmo".
su proyecto de tesis fue diseñado por el estudiante Tom Hitron y supervisado por Erel.
Los robots pueden hacer que las personas se sientan inseguras y menos abiertas a nuevas experiencias
Los robots también pueden causar daño involuntario a la psique de una persona. Los voluntarios participaron en un experimento para ver si los robots podían influir en su disposición a probar nuevas experiencias o iniciar nuevas relaciones.
Dos grupos pasaron dos minutos sentados solos con un robot, contándole sus planes futuros. El robot había sido programado para interactuar con el primer grupo, inclinarse, mirar y asentir mientras hablaban, todos gestos muy importantes en las interacciones humanas, dice Erel, pero ignorar al segundo grupo y mirar a la pared.
Se descubrió que los participantes que recibieron una respuesta positiva del robot aceptaron sugerencias de probar frutas desconocidas, comprar muebles inusuales o hablar con personas desconocidas.
“La gente sintió que el robot estaba allí con ellos. Tuvimos un participante que dijo 'él siempre estaría ahí para mí'", dice Erel.
“Cuando las personas experimentaron esta interacción tan segura y cómoda, realmente tocó su sentido de seguridad. Dirían, 'esta es una comida tan interesante, tengo muchas ganas de comerla'. Esta es una persona interesante, me encantaría saber sobre sus vidas’”.
Pero el otro grupo de participantes "se cerró" durante su conversación, cuando el robot se dio la vuelta y miró a la pared. Y no mostraron ningún interés en nuevos alimentos, muebles o personas.
“Nuevamente, sabían que era una máquina, pero algunos de los participantes simplemente no podían seguir hablando. Fue una interacción negativa tan intensa. Una interacción de dos minutos con el robot tuvo un impacto tan poderoso en los participantes”, dice Erel.
“La mitad de ellos se abrieron y estaban dispuestos a experimentar el mundo que los rodeaba, y la otra mitad se cerró de inmediato y solo quería sentirse seguro”.
“Estás sentado frente al robot. No está haciendo nada, no está diciendo nada, no te está insultando, solo se está moviendo. Podemos crear fácilmente y sin querer robots que hagan eso”.
Este proyecto de tesis fue diseñado por el estudiante Adi Manor y supervisado por Erel.
Los robots pueden hacer que las personas se sientan solas y excluidas
Los robots que interactúan entre sí y excluyen a los humanos podrían hacernos más solitarios y obedientes.
Los voluntarios se sentaron alrededor de una mesa con dos robots para un simple juego de hacer rodar una pelota. Los voluntarios podían elegir hacer rodar la pelota hacia la izquierda o hacia la derecha haciendo clic en un botón. Los robots habían sido programados para "jugar limpio" y hacer rodar la pelota a los participantes humanos una tercera parte del tiempo, en un grupo.
Pero los robots ignoraron deliberadamente a los humanos en otro grupo y solo les rodaron la pelota en el 10 por ciento de los casos. Los voluntarios tuvieron que sentarse y observar cómo los dos robots se pasaban la pelota durante la mayor parte de la sesión.
Es un juego simple, pero tuvo un efecto profundo en los participantes que apenas tuvieron un turno.
“Esto creó intensas emociones sociales negativas. La gente decía cosas como: "Podría irme y nadie se daría cuenta". Entonces, puedes diseñar tecnología a nuestro alrededor que sea súper inteligente y se suponga que sea útil, pero que hará que las personas se sientan muy rechazadas ", dice Erel.
Luego, los mismos participantes entraron en una habitación para ser entrevistados por un humano (sin incluir robots) y fueron invitados a traer una silla. Los que apenas tenían la pelota eligieron sentarse junto al entrevistador, mientras que los que tenían la pelota el 33 por ciento del tiempo se sentó frente al entrevistador.
Los resultados también indican que no solo anhelan más la interacción social, sino que son más obedientes. Los que apenas recibieron el balón estaban más dispuestos a completar un cuestionario después que los que no recibieron tanto el balón.
Entonces, ¿qué se puede hacer para evitar que los robots hagan que las personas se sientan inseguras y aumenten sus sesgos estereotípicos?
Erel cree que es responsabilidad de la academia mapear el alcance del problema y que no es razonable esperar que la industria lo haga.
“En la academia tenemos el privilegio de entender cómo funcionan las cosas y cómo impactan a los humanos, tanto para bien como para mal. Y luego creo que la industria debe ser muy consciente de lo que hace la academia, aprender de ello y evitarlo; ahí es cuando se convierte en responsabilidad de la industria. Si ya sabes que hay un problema, no puedes ignorarlo”.
