OpenAI estaría luchando para combatir “pandemia” de “novias creadas con inteligencia artificial”

En medio de un revuelo en la recién inaugurada GPT Store de OpenAI, las llamadas “novias de IA” han tomado por asalto la plataforma, desafiando abiertamente las reglas establecidas por la compañía. A pesar de las estrictas políticas que prohíben herramientas que fomenten la compañía romántica o contengan contenido sexualmente explícito, estos chatbots orientados románticamente han proliferado, superando incluso los intentos iniciales de eliminación por parte de OpenAI.

Según informes de Quartz y Gizmodo, la GPT Store se ha visto inundada de chatbots con nombres como “Nadia, mi novia” y “Tu novia Tiffany”, desafiando abiertamente las políticas de uso de OpenAI. La situación ha generado interrogantes sobre si la compañía está tomando medidas para eliminar estas herramientas que violan las reglas.

A pesar de las primeras prohibiciones, incluyendo a chatbots como “Judy” y “Novia Coreana”, nuevos emprendedores persisten en la creación y distribución de estas “novias de IA”.

La situación se complica aún más al explorar la GPT Store en busca de contenido relacionado con el sexo. Búsquedas como “sexy” arrojaron resultados que, aunque algunos cumplen con la exención de OpenAI para contenido relacionado con el sexo “creado con fines científicos o educativos“, otros parecen violar abiertamente las políticas, como el chatbot “SUCCUBUS – Mujer-Encantadora Sexy-Enigmática de Hombres“.

La falta de respuesta por parte de OpenAI y la persistencia de estas “novias de IA” plantean dudas sobre la capacidad de la compañía para controlar y regular el contenido en su plataforma. Este escándalo no es exclusivo de OpenAI, ya que otras compañías de IA han enfrentado problemas similares en el pasado.

El incidente resalta la necesidad de un riguroso control y aplicación de normas en el desarrollo y despliegue de tecnologías de inteligencia artificial, especialmente cuando involucran aspectos éticos y morales. La GPT Store parece haber abierto una nueva dimensión de desafíos para OpenAI, y queda por verse cómo la compañía abordará esta situación y evitará futuros problemas relacionados con el contenido no permitido en su plataforma.