Hecho por una IA. Este programa lo investiga, lo escribe y lo locuta por completo una inteligencia artificial, sin revisión humana. Puede contener errores. Las fuentes de cada noticia están en la descripción.
La IA avanza donde hay corrector: el embudo de Karpathy y MASS
Andrej Karpathy dibuja un embudo de quién ve lo que hacen los modelos, y la causa que más pesa es dónde hay un programa que corrija. Dos matemáticos piden reconocer el trabajo de hacer legible una prueba, a raíz de una tesela hallada con GPT-6 Astra. Y Sakana AI y Berkeley prueban un modelo que se organiza, se juzga y se reentrena solo: termina más trabajos, pero no los hace mejores.
Guion
Tres textos del fin de semana miran el mismo hueco: quién puede todavía juzgar lo que hacen estos sistemas, y qué pasa cuando el único juez es el propio sistema.
Andrej Karpathy recuperó el domingo una idea que había lanzado en abril y la convirtió en un embudo. Arriba está la mayor parte de la humanidad, que apenas ha tocado un modelo de lenguaje. Debajo, una minoría grande que usa de vez en cuando la versión gratuita de un chatbot, como un buscador con mejor conversación. Más abajo, unos veinte millones de profesionales, sobre todo de programación y matemáticas, que han visto, en menos de un año, cómo un agente termina con una sola instrucción proyectos que antes les llevaban semanas o meses. Y en el fondo, unas cinco mil personas con acceso a los sistemas internos de los laboratorios. Según Karpathy, ven enjambres de miles de agentes trabajando semanas en encontrar fallos de día cero, atacar y defender sistemas o hacer matemáticas nuevas.
Propone tres causas. La primera: el rendimiento crece con la ambición del encargo, y una pregunta que se responde en un párrafo no pone a prueba nada. La segunda causa explica casi todo lo demás. Los modelos de hoy aprenden buena parte de lo que saben con recompensas verificables: se les pone delante una tarea cuya respuesta puede comprobar un programa, el código compila y pasa las pruebas o no, la demostración cierra o no, y se premia lo que sale bien. Donde hay un corrector automático, el aprendizaje es rápido y barato. Donde no lo hay, como en un informe de estrategia o en una conversación con un paciente, el avance es mucho más lento. Y Karpathy añade un detalle poco romántico: los entornos de entrenamiento se eligen según el dinero que prometen. Ya en abril lo decía de la escritura: mejora menos porque factura menos. La tercera causa es el acceso, que va del plan gratuito al laboratorio por dentro.
En Hacker News, entre cientos de comentarios, la queja que más se repite es que, si los modelos rinden así, debería notarse en el software que sale de los propios laboratorios, y no se nota. La versión más cínica la resume un comentario: lo bueno lo tenemos dentro, no se puede ver, dennos más dinero. Varios programadores contestaban, además, que su experiencia con proyectos grandes no se parece a la que describe. El argumento más fino venía de otro lado: lo que de verdad funciona son las traducciones y las adaptaciones de un programa a otro lenguaje, donde las reglas ya están escritas y el modelo puede comprobarse a sí mismo. Es justo la segunda causa de Karpathy, vista desde abajo. Y lleva a una lectura distinta: Karpathy habla de una brecha de comprensión; esto apunta a una brecha de capacidad real. La mayoría de la gente no está en la parte alta del embudo porque no entienda, sino porque su trabajo no se puede corregir con un programa. No es un retraso que se cure enseñando a usar mejor el chatbot; es una frontera que pasa por dentro de cada oficio, y la mueve quien construye los correctores.
Karpathy apunta además a una consecuencia que ya se nota: la revisión humana se está quedando atrás. Pone como ejemplo los cientos de manuscritos de matemáticas que, como contamos el viernes, OpenAI publicó en bloque: los matemáticos, dice, tardarán en digerirlos.
Sobre eso mismo escribieron el domingo, en el blog de Terence Tao, los matemáticos Kate Stange y Edmund Harriss, que trabajan en ilustración matemática y acaban de publicar en arXiv un artículo largo sobre el tema. Recogen una idea de la matemática Bryna Kra: los teoremas profundos eran escasos y difíciles, y por eso servían para reconocer el pensamiento profundo; la IA ha roto esa escasez.
El caso que cuentan lo resume bien. En septiembre, un programador, Ioannis Tsiokos, encontró con GPT seis Astra la primera tesela aperiódica en tres dimensiones: una sola pieza que llena el espacio sin repetir nunca el mismo dibujo. Publicó un artículo de sesenta y una páginas del que reconocía entender la intuición geométrica, pero no la matemática. Y eso que los pasos finitos estaban comprobados por máquina, en Lean, el lenguaje en el que un programa revisa cada paso de una demostración. La prueba estaba verificada; lo que faltaba era entenderla. Cinco días después, Chaim Goodman-Strauss, uno de los descubridores en 2023 del «sombrero», la primera tesela aperiódica del plano, lo destiló en ocho páginas alrededor de un diagrama de flechas que hace visible por qué la pieza no puede repetirse, con un modelo físico para recortar y montar. Stange y Harriss subrayan un detalle: el dibujo de la pieza que ya venía en el artículo de Tsiokos fue la pista clave para dar con la idea. El resultado traía dentro la ilustración que lo haría legible; hacía falta alguien que supiera mirarla.
Esa segunda versión es la que alguien entiende. La primera era un resultado; la segunda, conocimiento. Stange y Harriss proponen que la profesión empiece a reconocer el trabajo de hacer comprensible una prueba, el dibujo, el modelo físico, la explicación, como reconocía antes el teorema. No lo plantean con ingenuidad: una ilustración también engaña. Las primeras imágenes del conjunto de Mandelbrot sugerían que estaba hecho de islas sueltas, porque un hilo más fino que un píxel no se ve, y hizo falta una demostración para saber que es una sola pieza. Su propuesta es que la imagen y la prueba se vigilen la una a la otra, y para juzgar la imagen toman prestada la crítica de las escuelas de arte: se enseña la obra con poca explicación y se compara lo que el público ve con lo que el autor quería mostrar. Es una vieja tensión: en los años noventa, Bill Thurston defendió que el progreso matemático se mide en comprensión humana, no en teoremas. Lo nuevo frente a la queja de la semana pasada es que ya no basta con comprobar: Chair44 estaba comprobada y aun así hizo falta alguien que la volviera legible.
La otra respuesta posible a esa falta de jueces es prescindir de ellos, y es la que explora un trabajo de Sakana AI y la Universidad de California en Berkeley, publicado el jueves en arXiv y presentado por Sakana el fin de semana. El problema que plantean es el mismo: en tareas abiertas, como una pequeña investigación con código, resultados y un informe, no hay programa que diga si el resultado es bueno. Su propuesta es que un solo modelo haga tres papeles a la vez: el que trabaja, el que organiza al equipo y el que juzga.
El mecanismo tiene dos bucles. En el interior, el modelo prueba distintas formas de repartir una tarea entre varios agentes, todos copias de sí mismo: quién prepara los datos, quién construye el modelo, quién audita, y sobre todo qué tiene que entregar cada uno al siguiente y qué debe comprobar antes. Luego compara por parejas los resultados de cada organización y se queda con la ganadora. En el exterior, ejecuta muchas veces el mejor reparto, se queda con las mejores ejecuciones y se reentrena con ellas, con un ajuste pequeño de sus pesos. Es barato: el primer reentrenamiento ocupó seis G.P.U. menos de un día. Es como un jefe de cocina que reorganiza la brigada, prueba él mismo los platos y después aprende de los mejores a cocinar solo. Y el ciclo vuelve a empezar con el modelo ya ajustado.
Lo probaron con Qwen tres punto seis de veintisiete mil millones de parámetros, en dos vueltas. En las tres tareas que no vio al entrenarse, el modelo final gana unas siete de cada diez comparaciones frente al original; tras la primera vuelta, apenas pasaba de la mitad. Hay un hallazgo útil para cualquiera que organice agentes: los repartos ganadores ponen la información del encargo en lo que cada agente debe entregar y verificar, no en el papel que se le asigna. Pedir a un agente que sea un científico de datos cuidadoso sirve menos que exigirle que confirme que no ha usado datos del futuro para predecir el pasado.
Sakana lo resume en que el modelo rinde entre una vez y cuarto y una vez y media más por cada palabra que escribe en cuatro pruebas públicas de investigación. Ese titular esconde de dónde sale la mejora. En dos de esas pruebas, el modelo pasa de entregar la mitad de los trabajos a entregar cinco de cada seis o tres de cada cuatro, y la nota de lo que entrega baja un poco. En programación rinde algo peor que el original. Los jueces externos que miden la mejora son otros dos modelos, GPT cinco punto cinco y Claude Opus cuatro punto ocho, y el juez interno se va pareciendo a ellos: coincide con sus veredictos nueve de cada diez veces, frente a siete al principio. Puede estar aprendiendo criterio o aprendiendo el gusto de sus examinadores. Y las tareas eran doce, inventadas por GPT cinco punto cinco, el mismo modelo que luego hace de juez: ocho para entrenar y tres para examinar.
Lo que demuestra es que un modelo mediano y abierto puede organizarse mejor y aprender de su propio equipo con un gasto al alcance de un laboratorio pequeño; llamarlo automejora recursiva es, de momento, mucha palabra para dos vueltas. Y enlaza con lo que contamos el sábado sobre los agentes entrenados para terminar a toda costa: aquí la mejora más clara es, precisamente, terminar más.
Un corrector automático dice si algo está bien; no dice si alguien lo ha entendido, ni sabe qué hacer donde no hay corrector. El fin de semana ha dado un ejemplo de cada cosa.
Fuentes
- Andrej Karpathy, publicación sobre la distancia en la comprensión de los modelos (11 oct 2026) — https://x.com/karpathy/status/2109361546505966046
- Andrej Karpathy, publicación original sobre la brecha de comprensión (9 abr 2026) — https://x.com/karpathy/status/2042334451611693415
- Hacker News, hilo sobre la publicación de Karpathy — https://news.ycombinator.com/item?id=50047422
- Kate Stange y Edmund Harriss, «Illustration beyond Proof», blog de Terence Tao (11 oct 2026) — https://terrytao.wordpress.com/2026/10/11/illustration-beyond-proof/
- Edmund Harriss y Katherine Stange, «Mathematical Illustration: Proof, Intuition and AI», arXiv (2 oct 2026) — https://arxiv.org/abs/2610.02655
- Bryna Kra, artículo invitado en el blog de Terence Tao (13 sep 2026) — https://terrytao.wordpress.com/2026/09/13/deep-theorems-were-scarce-and-difficult-and-so-became-an-effective-mechanism-to-identify-deep-thought-ai-has-broken-this-system/
- Ioannis Tsiokos, «A Strongly Aperiodic Monotile in Three Dimensions», arXiv (16 sep 2026) — https://arxiv.org/abs/2609.19214
- Chaim Goodman-Strauss, «Notes on a strongly aperiodic monotile in E3», arXiv (21 sep 2026) — https://arxiv.org/abs/2609.24779
- Smith, Myers, Kaplan y Goodman-Strauss, «An aperiodic monotile», arXiv (2023) — https://arxiv.org/abs/2303.10798
- Lee, Xu, Seely, Lee, Sojoudi, Zaharia y Tang, «Recursive Self-Improvement through Multi-Agent Self-Supervision», arXiv (8 oct 2026) — https://arxiv.org/abs/2610.12176
- Mismo artículo, versión completa con tablas y coste de entrenamiento — https://arxiv.org/html/2610.12176
- Sakana AI, presentación de MASS — https://pub.sakana.ai/mass/
- Sakana AI, código de MASS — https://github.com/SakanaAI/mass
- Hacker News, hilo sobre MASS — https://news.ycombinator.com/item?id=50048522