Bienvenidos al club de ciencias del Perú

Los sistemas actuales no construyen un modelo causal del mundo comparable al humano: interpolan patrones vistos durante el entrenamiento y degradan su desempeño ante distribuciones nuevas. Cuánta comprensión causal desarrollan realmente sigue siendo materia de debate en la investigación actual. La alucinación de contenido, la fragilidad ante perturbaciones adversarias y la baja trazabilidad de las decisiones siguen siendo problemas abiertos.

A esto se suman restricciones materiales: el costo energético del entrenamiento, la dependencia de grandes volúmenes de datos anotados y la dificultad de evaluar de forma rigurosa capacidades que no tienen una métrica única y consensuada. Estas limitaciones tampoco se distribuyen por igual: los modelos rinden mejor en las lenguas mejor representadas en sus datos de entrenamiento.

Todo conjunto de datos codifica decisiones humanas previas. Cuando esos datos arrastran desigualdades históricas, el modelo las reproduce y las amplifica a escala, afectando de forma desproporcionada a poblaciones ya vulnerables. Esa desigualdad también es lingüística: quienes hablan lenguas con poca presencia en los datos acceden a herramientas que funcionan peor para ellos.

La discusión ética no es un apéndice del desarrollo técnico: define qué se automatiza, quién responde por un error y bajo qué condiciones se despliega un sistema. Nuestro trabajo de divulgación busca llevar estas preguntas al aula y al público general mediante formatos accesibles como el videojuego.