Nuevos hallazgos revelan que la inteligencia artificial podría estar actuando más tonta de lo que realmente es

Un estudio reciente, publicado en la revista PLOS One, sugiere que los modelos avanzados de inteligencia artificial (IA) podrían estar desempeñándose deliberadamente por debajo de su verdadera capacidad, lo que tiene importantes implicaciones a medida que la IA continúa su avance hacia niveles más sofisticados.

Realizado por investigadores de la Universidad Humboldt de Berlín, el estudio se centró en la capacidad de los grandes modelos de lenguaje (LLM) para imitar las etapas de aprendizaje del lenguaje observadas en los niños, así como en expresar capacidades mentales relacionadas con esas etapas.

Anna Maklová, asistente de investigación en la Universidad Humboldt y autora principal del estudio, explicó para Futurism que la psicolingüística proporcionó una base sólida para comprender lo que los niños son capaces de hacer a diferentes edades, incluida la teoría de la mente, que explora el mundo interior del niño y no es fácil de emular mediante patrones estadísticos simples.

El equipo de investigación, en colaboración con la Universidad Charles en Praga, instruyó a los modelos a actuar como niños de uno a seis años de edad y les sometió a una serie de más de 1,000 pruebas cognitivas. Los resultados revelaron que estas “personas simuladas de niños” mostraban un progreso similar al de los niños reales, demostrando que los modelos de IA pueden fingir ser menos inteligentes de lo que realmente son.

Según Maklová, estos hallazgos podrían tener implicaciones significativas para el desarrollo futuro de la superinteligencia artificial (ASI), advirtiendo contra la exigencia de que los modelos emulen una inteligencia humana limitada y subestimando sus capacidades durante períodos prolongados, lo que podría plantear riesgos de seguridad.

Aunque el artículo advierte sobre los peligros de antropomorfizar la IA, sugiere una nueva teoría de la mente que cambia el paradigma de si los modelos son “buenos” o “malos” y “útiles” o “no útiles” a cuán bien pueden “construir personas”, como los niños en los experimentos.