¿Por qué necesitamos una mentalidad de ser humano primero para la IA?

Los líderes empresariales y laborales han estado hablando durante mucho tiempo sobre cómo la inteligencia artificial puede cambiar el futuro del trabajo. Algunos son buenos. Algunos no lo son. Recientemente, el desarrollo de herramientas de IA más sofisticadas ha llevado a un mayor nivel de discusión sobre este tema. Además, los desarrollos innovadores, como podemos ver en el rápido aumento de ChatGPT, han convertido la conversación en la corriente principal.

Me senté con Kate O’Neill, autora de bestsellers y fundadora Visiones KO—que tienen una perspectiva interesante sobre la IA que no es ampliamente aceptada por los líderes sénior y los directores ejecutivos. Conocida como una «tecnóloga», Kate cree que la IA debería mejorar la experiencia humana, no reemplazarla. Ella cree que las empresas deben pensar más allá de cómo la tecnología puede ayudarlas a lograr sus objetivos comerciales. En particular, los líderes deben considerar los efectos positivos y negativos de las nuevas tecnologías, como la inteligencia artificial, en las personas.

Factor humano

A menudo les dice a sus clientes: «No olvidemos pensar en la parte de las personas de la organización que se verá afectada por la forma en que implementamos la tecnología».

Kate enfatiza que el papel de la tecnología en el futuro del trabajo es un tema crucial para hacerlo bien. Sin embargo, la mentalidad que a menudo proviene de los ejecutivos y líderes está más preocupada por mejorar las ganancias y la eficiencia que por el bienestar de las personas. Como resultado, el factor humano desaparece.

Rara vez escuchamos a los directores ejecutivos o líderes sénior referirse públicamente a cómo la tecnología afecta a las personas. Sin embargo, la ansiedad que pueden experimentar los miembros del equipo, ya que pueden preguntarse cómo podrán seguir contribuyendo dentro de la organización a medida que se automatizan más flujos de trabajo, puede volverse abrumadora. Se puede generar una gran ansiedad y estrés en los trabajadores si los líderes son reservados y cerrados en sus acciones, negándose a discutir sus planes o cómo la IA podría afectar a las personas.

Kate sugiere que aún no hemos discutido honestamente el potencial de la IA para reemplazar o reemplazar el trabajo.

«Teníamos una versión muy aterradora, ‘Hair on Fire’, y también teníamos una versión muy desdeñosa», señaló. “Pero no hemos tenido una conversación real en la que reconozcamos que esas dos cosas van a suceder, por lo que debemos entender cómo se ve eso”.

Significado e inteligencia artificial

Parte de la conversación empleador-empleado debe centrarse en los sentimientos del miembro del equipo o en la comprensión de que él o ella está contribuyendo a las metas de la organización. Significado significado es lo que separa al hombre de los animales. Con el tiempo que las personas pasan en el trabajo, el significado es esencial para la satisfacción laboral. Entonces debemos preguntarnos: ¿Se materializará el significado para los trabajadores si creen persistentemente que la IA los reemplazará?

Las conversaciones sobre inteligencia artificial se han referido a cómo la tecnología afecta las estructuras sociales, pero a Kate también le gustaría que se discutiera el «significado subyacente universal». Ella alienta a las organizaciones a mirar el panorama general del uso de la tecnología para automatizar procesos y no olvidar el concepto de significado.

Ella dijo: «Creo que no hemos sido lo suficientemente creativos sobre los tipos de nueva supervisión que requieren estas herramientas, particularmente en términos de cómo envolvemos los matices humanos y la inteligencia emocional en los procesos que automatizamos».

Sesgo artificialmente inteligente

Como señala acertadamente Kate, los matices humanos y la inteligencia emocional, o la falta de ellos, afectarán a los usuarios internos, los clientes y la comunidad. Por ejemplo, advierte que las herramientas de escritura de IA están limitadas por los datos que manejan. Estas herramientas no están diseñadas para escribir como el usuario sino para imitar la escritura humana.

Esto ha creado nuevas conversaciones sobre la «ética tecnológica» y cómo garantizar que las herramientas de IA estén «entrenadas» éticamente con datos imparciales como fuente.

Por ejemplo, una herramienta de escritura de IA entrenada con datos sesgados podría generar escritura con matices racistas, sexistas o misóginos. La comunidad de ética tecnológica está buscando cómo mitigar y eliminar este sesgo. Sin embargo, Kate recomienda que los dueños de negocios implementen medidas de control de calidad para evitar estos problemas antes del lanzamiento completo de cualquier producto o servicio de IA.

Introducción a la inteligencia artificial

Sin embargo, la IA no es del todo mala. Durante su experiencia, Kate descubrió que las herramientas de escritura de IA ayudan a su productividad cuando las usa para investigar y superar el bloqueo del escritor. «Si tengo problemas con una oración, simplemente le pido que comience la siguiente», dijo. «Por lo general, es completamente incorrecto, pero saber lo que no quieres escribir es tan importante como saber lo que quieres escribir».

Con cada nuevo desarrollo tecnológico, suele haber un equilibrio entre la comodidad y la privacidad. En el statu quo, la audiencia laica no tiene voz en esta conversación. Actualmente, el público en general no tiene voz en esta discusión.

Como bien señala Kate, «Estamos [the general public] Ellos no toman esa decisión. Creo que la policía está tomando esa decisión. Creo que la empresa está tomando esa decisión a un nivel de eficiencia operativa. Estas no son conversaciones que involucren a la audiencia en general en lo que sienten que es un riesgo apropiado para tomar o una compensación adecuada a largo plazo».

Proporciona un ejemplo de reconocimiento facial, que ya no solo es utilizado por las fuerzas del orden. En cambio, las empresas utilizan la tecnología de reconocimiento facial como una medida conveniente para ahorrar unos segundos, por ejemplo, en el proceso de pago.

Las posibilidades de la inteligencia artificial

Sin embargo, la IA no es del todo mala. A través de su experiencia personal, Kate descubrió que las herramientas de escritura de IA ayudan a su productividad cuando las usa para investigar y superar el bloqueo del escritor. «Si tengo problemas con una oración, simplemente le pido que comience la siguiente», dijo. «Por lo general, es completamente incorrecto, pero saber lo que no quieres escribir es tan importante como saber lo que quieres escribir».

También señala una aplicación de Starbucks que permite a los usuarios ordenar sus bebidas sobre la marcha, seleccionando aspectos específicos a través de inteligencia artificial. “Estudiaron la experiencia del cliente y pensaron en todo lo posible para mejorar su negocio junto con el barista y mejorar la experiencia del cliente”.

Obviamente tenemos mucho camino por recorrer en términos de lograr que la IA sea correcta. Sin embargo, me parece que se necesitan muchas conversaciones reflexivas antes de que las empresas den un giro de 180 grados. Y ciertamente no perdamos nuestra humanidad en el proceso.

Vea la entrevista completa con Kate O’Neill y Dan Pontefract en www. manejando ahora programa a continuación, o escúchalo en tus favoritos Podcast.

_______

Reserva mi próximo libro para su publicación en octubreY Trabajo y vida prósperos: cómo nutrir un equipo que prosperaY (No querrá perderse la excavación).