Giulio Toscani, colaborador académico del Departamento de Operaciones e Innovación y Data Sciences en Esade, y director académico del open programme sobre IA, te explica su gran importancia, cuando vemos un desarrollo explosivo de la IA.
El comportamiento de las máquinas (machine behavior) se refiere a las acciones, reacciones y respuestas que muestran en distintos contextos. Puede ser tan simple como el zumbido constante que hace el tambor de la lavadora cuando está funcionando, o tan dramático como cuando se rompe e inunda toda la casa.
Suscríbete a nuestro newsletter
El machine behavior hoy reclama más nuestra atención debido a que la inteligencia artificial (IA) está determinando cómo interactúan estas máquinas con el mundo y con las personas. Pese a todo, resulta evidente que ese comportamiento inteligente difiere del de los seres humanos.
Más allá del ejemplo de la lavadora, hay varias formas en que las máquinas pueden mostrar su comportamiento. En concreto, existen tres tipos: el reactivo, el deliberativo y el social. Hay muchos ejemplos de máquinas que exhiben estos tres tipos de comportamiento en contextos muy diversos:
1.- Comportamiento reactivo
Es el tipo más simple de comportamiento y ocurre cuando una máquina reacciona ante el estado de su entorno. Por ejemplo, los termostatos inteligentes, como el que lleva incorporado Google Nest, exhiben un comportamiento reactivo ajustando la temperatura en función de los cambios en el ambiente. También muestran un comportamiento deliberativo aprendiendo los horarios y las preferencias del usuario y ajustando la temperatura conforme a ellos.
2.- Comportamiento deliberativo
Lo presentan las máquinas que utilizan experiencias pasadas y conocimientos adquiridos para tomar decisiones sobre acciones futuras. Un buen ejemplo de ello es Zipline, de Ruanda. Se trata de un servicio que envía cada día 150 cajas de suministros médicos a áreas remotas a través de drones que también presentan un comportamiento reactivo ajustando su trayectoria de vuelo en tiempo real para evitar obstáculos, mantener la altitud deseada para entregar el paquete y regresar de forma segura a la base.
Otros ejemplos de comportamiento deliberativo son los coches autónomos que utilizan sensores como radares o cámaras para seguir una ruta y reaccionar en tiempo real a los semáforos y a las acciones, a veces imprevisibles, de los peatones.
3.- Comportamiento social
Las máquinas también pueden tener un comportamiento social, comunicándose con las personas o con otras máquinas e interactuando con ellas. Por ejemplo, los asistentes virtuales, como Siri, Alexa y Google Assistant, exhiben un comportamiento social respondiendo a órdenes de voz y contestando preguntas. También muestran un comportamiento deliberativo utilizando los algoritmos del aprendizaje automático para aprender las preferencias de los usuarios y ajustar sus respuestas a ellas con el tiempo. En general, cualquier chatbot que utilice tecnología de procesamiento de lenguaje natural para responder preguntas y proporcionar información presenta un comportamiento social.
LA RELACIÓN HUMANO-MÁQUINA
Estos ejemplos muestran que el machine behavior se ha convertido en un aspecto importante de la IA y del aprendizaje automático que determina cómo interactúan las máquinas con el mundo y las personas.
Fruto del comportamiento de las máquinas, han surgido nuevos empleos humanos, como el de los sustainers, que analizan los errores que cometen las máquinas inteligentes (como muestra, las 11 personas que han fallecido en accidentes con vehículos autónomos).
El siguiente es entender cómo sacar el máximo provecho del comportamiento de estas máquinas inteligentes. En su libro Only Humans Need Apply, Thomas H. Davenport y Julia Kirby explican que los departamentos de recursos humanos que buscan optimizar la interacción de las personas con las máquinas deben adoptar un nuevo rol para tratar de entender tres aspectos:
- Primero, qué tareas asignar a los humanos
- Segundo, qué tareas asignar a las máquinas
- Tercero, cuándo prescindir de las máquinas viejas o, en el caso de los humanos, cuándo volver a formarlos.
Esto significa que los especialistas en machine behavior pueden maximizar la interacción humana observando a los usuarios interactuar con las máquinas. Puede parecer un círculo vicioso, pero en realidad se trata de un círculo virtuoso.
De hecho, ante la dicotomía máquinas-humanos, pueden seguirse dos vías para estudiar su comportamiento: observar las máquinas u observar a las personas. Ambas vías pueden resultar útiles para obtener más ideas sobre cómo deberían comportarse las máquinas para interactuar de forma efectiva. Para ello, podemos seguir un proceso de tres pasos:
1.- Determinar el contexto
Como ya es usual, los expertos recomiendan empezar identificando el contexto. Las empresas deben escoger un contexto significativo en que las personas interactúen con las máquinas. Es lo que hizo, por ejemplo, Instrumental monitorizando a los trabajadores que montaban iPhones durante el proceso de fabricación, para lograr optimizar su rendimiento y reducir costes.
También podríamos determinar otros contextos distintos, como por ejemplo una máquina automática de pago en la salida de un supermercado, un asistente virtual o una app de entrega a domicilio. En cualquier caso, es importante elegir un contexto en que el comportamiento de la máquina sea pertinente para la tarea o para el objetivo final del usuario.
2.- Observar el comportamiento del usuario
Una vez identificado el contexto, es el momento de observar el comportamiento de los usuarios, eso es, mirar cómo interactúan con la máquina, prestando mucha atención a sus acciones, reacciones y respuestas, y tomando nota de cualquier problema o frustración que experimenten, y también de las interacciones exitosas.
Una vez recopilada esta información, podrá utilizarse para analizar el comportamiento del usuario, con el fin de identificar patrones y tendencias sobre cómo interactúan las personas con la máquina. Podemos identificar aquellos puntos en que los usuarios pueden confundirse o sentirse frustrados, y aquellos otros en que la máquina les inspira porque satisface plenamente sus necesidades.
3.- Identificar oportunidades de mejora
Finalmente, la parte más interesante es identificar oportunidades de mejora del comportamiento de la máquina, por ejemplo, para proporcionar unas instrucciones más claras, ofrecer recomendaciones más personalizadas o ajustar su comportamiento a partir del feedback de los usuarios. A tal efecto, quizá necesitaremos hacer pruebas y mejoras mientras ajustamos los algoritmos, la interfaz u otras características de la máquina, con el fin de alinearlos a las necesidades y a las preferencias de los usuarios. Ello implicará, pues, una tarea constante de control y mejora.
EL COMPORTAMIENTO COMO HERRAMIENTA
Resumiendo, es posible mejorar el desempeño de los trabajadores observando su comportamiento con las máquinas. Este enfoque no es nuevo, sino que viene prestado de la antropología o de la etología (la rama de la biología que estudia el comportamiento de los animales), y puede ayudar a garantizar que las máquinas se diseñan para satisfacer efectivamente las necesidades y las preferencias de sus usuarios humanos.
Iyad Rahwan, experto en comportamiento de las máquinas y director ejecutivo del Instituto Max Planck para el Desarrollo Humano de Berlín, escribió en el Quanta Magazine:
“Comportamiento no significa tener agencia [en el sentido de libre albedrío]. Podemos estudiar el comportamiento de los organismos unicelulares o de las hormigas. El comportamiento no implica necesariamente que una cosa sea superinteligente. Simplemente significa que nuestro objeto de estudio no es estático; son las dinámicas que establecen cómo esa cosa opera en el mundo y los factores determinan esas dinámicas. ¿Tiene incentivos? ¿Obtiene señales del entorno? ¿Es su comportamiento algo que aprende con el tiempo, o a través del algún tipo de mecanismo de copia?”
Para empezar a observar el comportamiento de las máquinas, hemos de identificar un contexto pertinente, observar el comportamiento de los usuarios y analizar los datos, e identificar oportunidades de mejora. Estos podrían ser los pasos para mejorar la vida humana.
