AI Dungeon es un juego desarrollado por Latitude que usa una herramienta de generación de texto mediante inteligencia artificial de OpenAI para crear un relato del tipo elige tu propia aventura inspirado en Calabozos y Dragones. Cuando un jugador tipea la acción o diálogo que quiere realizar con su personaje, un algoritmo escribe la siguiente fase de la aventura, siendo impredecible.

En 2020, pocos meses después de su lanzamiento, se descubrió un lado oscuro de la colaboración Humano-AI. Un nuevo sistema de monitoreo reveló que algunes jugadores habían descubrierto qué debían tipear para que el algoritmo genere historias que incluyan abuso sexual a menores.

OpenAI pidió a Latitude que tome acciones inmediatamente alegando que ese no es el futuro de la inteligencia artificial que nadie quiere.

Latitude sacó una nueva moderación que causó controversia por no permitir refirirse a un objeto/sujeto de 8 años de edad sin que gatille un mensaje de advertencia. Otra solución que se pensó fue usar humanos moderadores de las historias con contenido sexual, lo que causó discusiones sobre la privacidad de las historias creadas, teniendo en cuenta que un 31% de las historias creadas eran sexualmente explícitas.

 

Algunes usuaries en Reddit y Discord también presentaron quejas por lo fácilmente que el algoritmo deriva las historias al contenido erótico, entendiendo de forma sexual acciones como montar un dragón. Latitude respondió agregando un modo seguro opcional que filtraba algunas sugerencias, lo cual tampoco funcionaba porque el algoritmo enriquecía el contenido erótico usando más eufemismos y analogías. Latitude también incursionó en un filtro que reemplazaba violación con respeto.

Tanto Latitude como OpenAI declararon estar trabajando en ser más riguroses con el contenido del cual las máquinas aprenden.