Intel está trabajando en una IA capaz de detectar las emociones de los estudiantes en videollamadas
Intel ha estado trabajando en los últimos meses en herramientas de inteligencia artificial capaces de detectar las emociones de los estudiantes que, durante mucho tiempo, se han estado enfrentando a clases remotas a través de Zoom, algo que dificulta en cierta medida la tarea de los docentes a la hora de valorar qué alumnos están prestando atención y cuáles no. Sin embargo, tal como podemos leer en Windows Central, esto ha recibido cierta resistencia debido a las ramificaciones éticas y morales de monitorizar a los estudiantes a través de una cámara en su equipo y valorar sus estados emocionales mediante inteligencia artificial.
A nivel técnico, estas herramientas hacen uso de reconocimiento facial, reconocimiento del habla y otras tecnologías para identificar las expresiones que la persona está emitiendo de forma consciente o inconsciente. Una vez captada esta información, una inteligencia artificial es utilizada para convertir estos factores en un sentimiento, aunque como es de esperar, los humanos tenemos sentimientos bastante complejos que no pueden ser necesariamente etiquetados con una palabra.
Por ejemplo, describir que una persona está “contenta”, “aburrida” o “triste” puede no representar en absoluto las emociones que esa persona en específico está experimentando, además de que cada persona tiene sus manierismos, de forma que una persona cuya expresión facial implique que está enfadada, para otra persona simplemente puede ser su estado neutral o de concentración.
Este software, denominado Emotion AI, se integra con Zoom a través de Class, un producto de software que proviene de Classroom Technologies, compañía con la que Intel ha estado trabajando para el desarrollo de esta inteligencia artificial. Debido a que Zoom se utiliza intensivamente en muchas clases, no sería complicado amplificar su uso de forma sencilla, ya que muchos alumnos podrían ya tener Zoom instalado de por sí.
Si bien la tecnología que Intel y Classroom Technologies han desarrollado tiene muchas salidas y todas ellas bastante loables, sí es cierto que el control al que han estado sujetos los alumnos en algunos casos puede haber sido excesivo, especialmente cuando en algunos casos se ha hecho uso de software adicional que monitoriza el uso que el alumno hace del equipo personal -un equipo sobre el que las escuelas no tienen potestad-.
Es por esta razon que han existido iniciativas que intentan evitar la adopcion de este tipo de inteligencia artificial, ya que con un poder de este calibre, el potencial para malos usos, o como minimo irregulares, es muy alto, tal como explican en esta carta abierta a Zoom. Sin duda, su adopcion en clases podría ser una tapadera para lanzar un software similar para usos empresariales o policiales, de forma que se nos pueda analizar con herramientas que quedan fuera de cualquier legislacion vigente, pero se trata ya de un área ligeramente conspiracionista en la que no voy a entrar personalmente.
Fin del Artículo. ¡Cuéntanos algo en los Comentarios!