La tecnología de detección de emociones debería estar restringida por ley

La tecnología de detección de emociones debería estar restringida por ley – AI Now

Un centro de investigación líder ha pedido nuevas leyes para restringir el uso de tecnología de detección de emociones.

El Instituto AI Now dice que el campo está “construido sobre bases marcadamente inestables”.

A pesar de esto, los sistemas están a la venta para ayudar a los solicitantes de empleo veterinario, evaluar a los sospechosos criminales en busca de signos de engaño y establecer los precios de los seguros.

Quiere que se prohíba el uso de dicho software en decisiones importantes que afectan la vida de las personas y / o determinan su acceso a las oportunidades.

El organismo con sede en EE. UU. Ha encontrado apoyo en el Reino Unido del fundador de una compañía que desarrolla sus propias tecnologías de respuesta emocional, pero advirtió que cualquier restricción debería ser lo suficientemente matizada como para no obstaculizar todo el trabajo que se realiza en el área.
Siempre cambiante
AI Now se refiere a la tecnología por su nombre formal, reconocimiento de afecto,en su informe anual.
Dice que el sector está experimentando un período de crecimiento significativo y ya podría valer hasta $ 20 mil millones (£ 15.3 mil millones).

“Afirma leer, si lo desea, nuestros estados emocionales internos al interpretar las microexpresiones en nuestra cara, el tono de nuestra voz o incluso la forma en que caminamos”, explicó la cofundadora, la profesora Kate Crawford.

“Se está utilizando en todas partes, desde cómo se contrata al empleado perfecto hasta la evaluación del dolor del paciente, hasta el seguimiento de los estudiantes que parecen prestar atención en clase.

“Al mismo tiempo que se implementan estas tecnologías, una gran cantidad de estudios demuestran que … no hay evidencia sustancial de que las personas tengan esta relación constante entre la emoción que sientes y la apariencia de tu rostro”.
El profesor Crawford sugirió que parte del problema era que algunas empresas basaban su software en el trabajo de Paul Ekman, un psicólogo que propuso en la década de 1960 que solo había seis emociones básicas expresadas a través de las emociones faciales.

Pero, agregó, los estudios posteriores demostraron que había una variabilidad mucho mayor, tanto en términos del número de estados emocionales como de la forma en que las personas los expresaban.

“Cambia a través de las culturas, las situaciones e incluso en un solo día”, dijo.

Microexpresiones
AI Now da varios ejemplos de empresas que venden productos para detectar emociones, algunos de los cuales ya han respondido.

Oxygen Forensics fue citado por ofrecer software de detección de emociones a la policía, pero defendió sus esfuerzos.

“La capacidad de detectar emociones, como la ira, el estrés o la ansiedad, proporciona a los organismos encargados de hacer cumplir la ley información adicional al realizar una investigación a gran escala”, dijo su director de operaciones, Lee Reiber.

“En última instancia, creemos que la aplicación responsable de esta tecnología será un factor para hacer del mundo un lugar más seguro”.

Otro ejemplo fue HireVue, que vende herramientas basadas en video basadas en inteligencia artificial para recomendar a qué candidatos debe entrevistar una empresa.

Utiliza algoritmos de terceros para detectar el “compromiso emocional” en las microexpresiones de los solicitantes para ayudarlos a tomar sus decisiones
“Muchos candidatos se han beneficiado de la tecnología de HireVue para ayudar a eliminar el sesgo humano muy significativo en el proceso de contratación existente”, dijo la portavoz Kim Paone a la agencia de noticias Reuters.

También se mencionó a Cogito, que ha desarrollado algoritmos de análisis de voz para el personal del centro de atención telefónica para ayudarlos a detectar cuándo los clientes se sienten angustiados.

“Antes de que la detección de emociones pueda tomar decisiones automatizadas, la industria necesita más pruebas de que las máquinas pueden detectar de manera efectiva y consistente las emociones humanas”, dijo a la BBC su director ejecutivo Joshua Feast.

“Lo que se puede hacer hoy es evaluar los comportamientos que representan ciertas emociones y proporcionar esa inteligencia a un humano para ayudarlo a tomar una decisión más informada. Para mañana y el futuro, depende de todos los profesionales y líderes en el campo colaborar, investigar y desarrollar soluciones que ayuden a fomentar una comprensión más profunda y común que eventualmente conducirá a relaciones más conectadas entre sí, no a pesar de la tecnología, sino por eso “.

La BBC también pidió comentarios a algunas de las otras compañías nombradas, pero no obtuvo respuesta.

Contexto requerido
Emteq, una empresa con sede en Brighton que intenta integrar la tecnología de detección de emociones en los auriculares de realidad virtual, no se encontraba entre los señalados por preocupación.

Su fundador dijo que, si bien los sistemas de inteligencia artificial de hoy en día pueden reconocer diferentes expresiones faciales, no es fácil deducir cuál era el estado emocional subyacente del sujeto.

“Uno necesita entender el contexto en el que se realiza la expresión emocional”, explicó Charles Nduka.

“Por ejemplo, una persona podría estar frunciendo el ceño no porque esté enojada, sino porque se está concentrando o porque el sol está brillando intensamente y está tratando de protegerse los ojos. El contexto es clave, y esto es lo que no se puede obtener solo de mirar el mapeo de visión por computadora de la cara “.
Pero expresó preocupación porque al hacerlo, los legisladores no restringieron el trabajo que él y otros estaban haciendo para tratar de usar un software de detección de emociones en el campo médico.

“Si se van a prohibir las cosas, es muy importante que las personas no tiren al bebé con el agua del baño”, dijo.

Leave a Reply

Your email address will not be published. Required fields are marked *