Laurence Devillers, científica en informática y lingüística reconocida por su pionero trabajo en modelar emociones en la voz mediante Inteligencia Artificial (IA), se presentó en Congreso Futuro 2024, abordando diversas facetas de la computación afectiva y sus implicaciones éticas.
Devillers destacó que la computación afectiva, aunque no es completamente nueva, ha experimentado avances en los últimos 20 años, con tres categorías de tecnología. La detección emocional, la adaptación del lenguaje y la estrategia de las máquinas basada en las expresiones emocionales fueron puntos clave en su exposición.
La científica resaltó las cuestiones morales emergentes, como la manipulación emocional y la confusión entre la realidad y lo virtual, al utilizar estas herramientas que pueden modificar estrategias en respuesta a las emociones de las personas.
Devillers abordó el concepto de antropomorfismo, señalando que “atribuir características humanas a objetos digitales plantea preguntas éticas sobre el conocimiento, el afecto y las cualidades morales transferidas a las máquinas“.
En esa línea, destacó la falta de cuerpos, emociones y sentimientos en las máquinas, describiéndolas como “entidades con neuronas artificiales que utilizan señales matemáticas de automatización”. Adicionalmente, advirtió sobre el potencial de la inteligencia artificial generativa para amplificar noticias falsas y deep fakes, destacando la necesidad de regulaciones.
Devillers instó a la sociedad a desarrollar herramientas para diferenciar entre creaciones humanas y generadas por máquinas, reconociendo los riesgos asociados con la dominancia de un idioma y una cultura específicos.
La educación de los niños y la coevolución entre humanos y máquinas fueron temas cruciales abordados por Devillers, quien planteó preguntas fundamentales sobre cómo las máquinas se adaptarán a los humanos y viceversa.
En términos más amplios, la científica subrayó la imprevisibilidad de los efectos de estas tecnologías en individuos, sociedad y democracia. Haciendo hincapié en la necesidad de definir estándares éticos para los sistemas conversacionales, destacó los desafíos en torno a la censura del contenido, la discriminación, la injusticia y el cambio en el comportamiento colectivo.
Martes / 22:30 / CNN Chile
Deja tu comentario