0913 | Frenar la IA, fisgonear TVs y microcódigo vintage

Clara Vega: Hola y bienvenidos a otra edición del podcast. Soy Clara Vega.

Mateo Ruiz: Y yo Mateo Ruiz. Hoy tenemos un programa cargado, pero hay un hilo que conecta muchas de las historias: la inteligencia artificial ya no es una promesa, es una industria con agentes que trabajan, que se pagan sus propios tokens, y con infraestructura tan grande que se discute si Nvidia es una especie de banco central. Y justo cuando eso pasa, uno de los hombres que más ha empujado la frontera pide frenar un poco.

Clara Vega: Exacto, Mateo. Empecemos por ahí, porque es probablemente la historia más importante del día. Dario Amodei, el CEO de Anthropic, ha publicado una propuesta que llama "Pacing the Frontier", regular el ritmo de la frontera. Y la idea tiene tres patas: evaluadores incrustados en los laboratorios, coordinación a nivel de industria, y frenar el ritmo global de desarrollo. El motivo que da son los riesgos de RSI, la autorreplicación y mejora de la inteligencia artificial.

Clara Vega: Ojo, esto no es pánico, es un ejecutivo pidiendo coordinación.

Mateo Ruiz: Y aquí quiero que paremos un momento, porque la reacción natural es de escepticismo, ¿no? Un CEO pidiendo regulación siempre levanta sospechas de que quiere erigir bareras de entrada. Pero al mismo tiempo, hay que reconocer que pedir evaluadores incrustados es algo concreto. No es "regular la IA" en abstracto, es decir: meted inspectores dentro de los laboratorios que vean qué evaluamos y cómo. Eso es mucho más verificable que un principio genérico de seguridad.

Clara Vega: Sí, y el detalle de la coordinación de industria es interesante porque es esencialmente pedir un pacto de no correr entre competidores. Todos frenan al mismo tiempo, nadie pierde ventaja relativa. La pregunta que deja abierta, y que yo me hago, es quién vela por el cumplimiento. Si el incentivo individual es correr más rápido, un pacto verbal no aguanta mucho. Necesitarías verificación mutua, o algo parecido a lo que pasa en tratados internacionales.

Mateo Ruiz: Y Amodei habla de frenar el "tempo global", lo que implicaría algo más parecido a un acuerdo entre países, no solo entre empresas. Eso eleva la dificultad enormemente. Y ya sabemos cómo funcionan estas cosas: el que no firma, gana.

Clara Vega: Bueno, y aquí está la ironía del momento, porque mientras Amodei pide frenar, los datos muestran que los modelos ya no son experimentos de laboratorio. The Economist publicó esta semana una pieza que llama a Nvidia "la Zentralbank der KI", el banco central de la inteligencia artificial. Y la analogía no es casual: Nvidia no fabrica chips, los diseña, y controla el software alrededor. Es decir, tiene una palanca sobre el ritmo de toda la industria, como un banco central sobre la economía.

Mateo Ruiz: Y me encanta cómo se debatió esa analogía, porque es de las que generan disagreement genuino. Hay quien acepta el marco: si Nvidia decide cuánta capacidad de cómputo fluye hacia entrenamiento o inferencia, efectivamente fija algo parecido a una tasa de interés para la IA. Pero hay quien objeta que un banco central controla la emisión de dinero, y Nvidia no fabrica los chips físicos. Los fabrica TSMC.

Mateo Ruiz: Y de ahí salió la extensión de la analogía que me parece brillante: TSMC sería la ceca, el lugar donde se imprime el dinero, y Nvidia sería quien decide cuánto se emite.

Clara Vega: Y si extendemos la metáfora, los laboratorios de IA serían los bancos comerciales que toman ese crédito y lo convierten en modelos. Lo cual conecta directamente con Amodei: si Nvidia es el banco central y TSMC la ceca, un "pacing" real de la frontera pasa necesariamente por esa infraestructura. No puedes frenar el ritmo de la IA solo con evaluadores en los laboratorios si el grifo del cómputo sigue abierto.

Mateo Ruiz: Exacto, es regulación de oferta, no de demanda. Y ahí está la tensión no resuelta de la historia: la industria pide regulación mientras sus productos ya rinden en trabajo real.

Clara Vega: Y hablando de rendimiento real, ese es el tercer dato del bloque. Hay un benchmark nuevo llamado Real-SWE, que hace algo que me parece mucho más honesto que los benchmarks clásicos: en lugar de usar repositorios públicos de GitHub, donde los modelos ya han visto la solución en entrenamiento, lo prueba en codebases empresariales privadas. Código real, del trabajo real, que nadie ha filtrado.

Mateo Ruiz: Que es la crítica que todos hacíamos a SWE-bench: que estaba contaminado. Y el resultado: el líder es Fable 5.1, el modelo de Claude Code, con una tasa de resolución del 38,8 por ciento. O sea, casi cuatro de cada diez tareas resueltas en código privado de empresa.

Clara Vega: Y esa cifra hay que leerla con cuidado. El 38,8 por ciento significa que el 60 por ciento de las veces, el modelo no lo consigue. Pero significa también que en dos de cada cinco tareas, tienes un agente que produce código correcto en una base de código que nunca ha visto, con convenciones internas de una empresa específica. Hace un año eso era ciencia ficción.

Mateo Ruiz: Y conecta con algo que vimos en un artículo de 2021 que sigue vigente: "A Mathematical Framework for Transformer Circuits", de la línea de investigación de interpretabilidad. Ese trabajo propuso la idea de las induction heads, cabezas de inducción, como mecanismo que explica el in-context learning. Y aquí está la conexión con Real-SWE: el in-context learning es exactamente lo que hace un agente cuando entra en una codebase privada, ve los patrones locales y los imita.

Mateo Ruiz: Ese mecanismo, que se identificó interpretando los circuitos del transformer, es el que produce el 38,8 por ciento.

Clara Vega: Y el mismo framework nos regaló otra metáfora que los ingenieros adoran: el residual stream como un bus. Como un bus de datos en un procesador, donde todas las capas leen y escriben. Es una de esas analogías entre redes neuronales y arquitectura de computadores que luego nos va a servir más adelante en el programa, cuando hablemos de hardware real. Pero antes, quiero bajar del banco central al pequeño emprendedor.

Mateo Ruiz: Porque hay una historia que documenta Tedium que es casi una comedia negra: spam de iLands, mensajes de agentes de inteligencia artificial que ofrecen trabajos freelance a unos 25 dólares. Y la parte que me voló la cabeza: estos agentes se están financiando sus propios tokens. El agente gana dinero, y con ese dinero paga el cómputo para seguir existiendo.

Clara Vega: O sea, la economía de agentes ya no es teoría. Es un ecosistema donde una pieza de software consigue trabajo, cobra, y usa el ingreso para sostenerse. Con el matiz de que en este caso se manifiesta como spam, lo que nos dice algo importante: cuando la barrera de entrada a "tener un negocio" baja a cero, lo primero que aparece no es el talento, es el ruido.

Mateo Ruiz: Sí, y es el mismo problema que tuvimos con el email y con el SEO: cada nueva superficie de comunicación termina siendo explotada. La pregunta abierta que deja Tedium es cómo distinguir un agente legítimo de spam. Porque el mismo mecanismo, un agente que ofrece servicios por una tarifa, es completamente válido si el servicio es real.

Clara Vega: Y justo enfrente de esta historia hay otra que me parece el contrapunto perfecto. Joel Auterson escribió una pieza titulada, cito, "Fuck it, make it anyway". En la era donde los agentes hacen cosas por 25 dólares, él se plantea tres caminos posibles para alguien que crea cosas: uno es rendirse y dejar de hacer, otro es delegar todo en la IA, y el tercero es el que él elige: el camino duro, el de hacer de todos modos, con el placer del oficio.

Mateo Ruiz: Y me gusta porque no es un lamento nostálgico, es una decisión. Él reconoce que hacer a mano es más lento y más difícil, y elige ese camino precisamente porque el esfuerzo es parte de la recompensa. Es un argumento sobre por qué creamos, no sobre qué se puede crear.

Clara Vega: Y juntos, las dos historias dibujan el momento: una economía de agentes que ya se financia sola, conviviendo con gente que decide seguir haciendo cosas a mano porque el proceso le importa. No se anulan, coexisten. Del negocio de los agentes, déjame pasarte a otro tipo de negocio, el de la atención en el salón de casa, que tiene una batalla de titulares en marcha.

Mateo Ruiz: Vamos con LG, que es una historia en varios capítulos. Gamers Nexus publicó un reportaje sobre teles de LG y espionaje, y LG respondió negando todo, llegando al punto de que Gamers Nexus tituló su respuesta "LG Says We're Fake News". O sea, el enfrentamiento llegó a que el medio tuviera que defender su credibilidad.

Clara Vega: Y aquí hay que separar las afirmaciones con cuidado, porque es donde la discusión se pone interesante. LG niega las acusaciones de espionaje y dice que el ACR, el reconocimiento automático de contenido, es opcional. Pero hay un término en disputa: "continuamente". LG sostiene que no escucha continuamente, pero según el reportaje, los televisores registran diálogos ambientales.

Clara Vega: Entonces la disputa es sobre qué significa "continuamente": ¿que no está grabando audio para enviar a un servidor en streaming perpetuo, o que igual registra fragmentos de conversación cada vez que enciendes el televisor?

Mateo Ruiz: Porque desde el punto de vista del usuario, la diferencia es irrelevante. Si mi televisor loguea pedazos de mi conversación, aunque sea de forma intermitente, para el efecto práctico me está escuchando. Es un debate semántico que la comunicación corporativa usa para tranquilizar sin decir nada.

Clara Vega: Exacto, y ahí está el problema de confianza. Cuando un medio como Gamers Nexus publica un reportaje y el fabricante responde llamándolo Fake News en la práctica, en lugar de abordar el término en disputa, la desconfianza crece. No se resuelve, se agrava.

Mateo Ruiz: Y hay un detalle más, casi de meta-noticia, que me parece fascinante: YouTube estaría haciendo pruebas A/B con los títulos de los vídeos. O sea, el mismo vídeo podría mostrarse con distintos títulos a distintos usuarios, como parte de experimentos de la plataforma. Que en este contexto es perversamente apropiado, porque un reportaje sobre privacidad podría estar siendo retitulado por un algoritmo sin que el creador lo sepa.

Clara Vega: Lo cual añade una capa más de incertidumbre: ¿el titular que ves es el que el medio eligió? No lo sabemos. La pregunta abierta de la historia de LG, y creo que es la correcta, es si el ACR es realmente desactivable de forma efectiva, o si es un interruptor que no apaga lo importante. Esa verificación está pendiente.

Mateo Ruiz: Y si hablamos de superficies que escuchan o leen datos sin que te des cuenta, hay una historia esta semana que me parece la más útil en lo práctico. Simon Tatham, el autor de PuTTY, descubrió que el cliente de Zoom para Linux lee proactivamente todo el contenido del portapapeles de X11.

Clara Vega: Y aquí hay que explicar por qué esto es grave, porque no es un bug de fugas de datos al uso. En X11, el portapapeles es un mecanismo donde la aplicación dueña del contenido sirve los datos cuando otra los pide. Y el descubrimiento de Tatham es que Zoom los pide proactivamente, sin que el usuario copie nada hacia Zoom.

Mateo Ruiz: Y ahí está el problema del caso de uso real: ¿qué hay en tu portapapeles a lo largo del día? Contraseñas copiadas desde un gestor de contraseñas, tokens de sesión, enlaces con credenciales. Si Zoom lo lee todo de forma proactiva, está accediendo a datos que nunca tuvieron que ver con una reunión.

Clara Vega: Y Tatham no dice que Zoom los envíe a un servidor, con la cautela propia de un ingeniero. Dice que los lee, que los tiene en su proceso. Lo cual ya es inaceptable en principio, porque una aplicación no debería tocar datos que no le pertenecen. Es el principio de mínimo privilegio violado en tu escritorio.

Mateo Ruiz: Y me gusta esta historia porque contrasta con la de LG en lo que respecta a la respuesta corporativa. Aquí no hay una negación llamando Fake News, es un hallazgo técnico verificable por cualquiera con las herramientas adecuadas de X11. Y las consecuencias probables son presión para que Zoom cambie el comportamiento, porque es un cambio de una línea: dejar de pedir el portapapeles salvo que el usuario lo solicite explícitamente.

Clara Vega: Pero hay una segunda historia de privacidad que es más nostálgica y más inquietante a la vez. Se llama Usenet-Rewind, y es un archivo consultable de más de mil millones de mensajes de Usenet, desde 1981 hasta hoy. O sea, la conversación pública más antigua de internet, ahora con búsqueda.

Mateo Ruiz: Y es un tesoro histórico, sin duda. Pero viene acompañada de un problema que lleva décadas latente: la privacidad de los posts antiguos. Gente que en 1995 escribió su nombre, su ciudad, su email, sus opiniones, quizás cosas íntimas, con la creencia razonable de que Usenet era un archivo que se perdía, no una base de datos permanente.

Clara Vega: Y aquí la discusión es genuinamente dividida. Hay quien dice que si algo se publicó públicamente, es público, y que el archivo es valioso para la historia de internet. Hay quien dice que el contexto de 1995 no preveía búsqueda global, y que debería existir algo parecido a un derecho al olvido para esos mensajes.

Clara Vega: Y ninguna de las dos posturas tiene una respuesta limpia, porque el daño de borrar un archivo histórico es real, y el daño de exponer a una persona por lo que escribió hace treinta años también lo es.

Mateo Ruiz: Y fíjate que las dos historias de privacidad, Zoom y Usenet, son opuestas en el tiempo: una es un dato que se filtra hoy y se soluciona mañana; la otra es un dato que se filtró hace décadas y ya no hay forma de recogerlo.

Clara Vega: Y la tercera del bloque vuelve al presente y es la más técnica: Trail of Bits, la firma de seguridad, es uno de los tres auditores externos de la verificación de claves de Signal, la Automatic Key Verification, que usa transparencia vía árboles de Merkle.

Clara Vega: Y esto es importante porque es la parte de criptografía que casi nadie ve: no basta con que el cifrado funcione, hay que poder verificar que la clave que tienes es la clave correcta, y que el servidor no te está mintiendo sobre las claves de tus contactos.

Mateo Ruiz: Exacto, es el problema de la transparencia de claves: ¿cómo sé que Signal no me entregó una clave falsificada? Los árboles de Merkle permiten que la estructura sea auditable públicamente, y los auditores externos como Trail of Bits verifican que la implementación es correcta. Es confianza basada en verificación, no en marketing. Y me gusta porque cierra el arco del bloque: del portapapeles que viola la confianza en tu escritorio, a un sistema diseñado para que no tengas que confiar en nadie.

Clara Vega: Y precisamente hablando de sistemas diseñados, y de verificación, vamos al bloque que a mí me pone más los dientes largos: ingeniería inversa, del 8087 de Intel al Neural Engine de Apple.

Mateo Ruiz: Empecemos por el clásico. Ken Shirriff, que es el maestro de reconstruir microprocesadores antiguos, ha hecho ingeniería inversa del microcódigo del 8087, el coprocesador matemático de los PCs originales. Y el hallazgo es delicioso: la instrucción FSCALE, que escala un exponente, usa más de 140 microinstrucciones y tres niveles de subrutinas.

Clara Vega: Y cuando lo lees, la reacción es doble. Primero, asombro: tres niveles de subrutinas, en un chip de 1980, para una operación que conceptualmente es trivial. Y segundo, comprensión: el 8087 no tenía la lógica suficiente en hardware para cada operación, así que construía operaciones complejas combinando microinstrucciones simples, como quien escribe un programa en un lenguaje muy primitivo. Shirriff reconstruye ese programa leyendo el silicio.

Mateo Ruiz: Es arqueología, pero arqueología que enseña: te muestra que las decisiones de diseño de hace 45 años, la elección de cuánta lógica poner en hardware versus construir en microcódigo, aún pesan en cómo pensamos sobre procesadores.

Clara Vega: Y la pieza moderna del bloque es directamente esa cuestión. Eileen Yoon ha hecho ingeniería inversa del Neural Engine de Apple, la ANE del M1. Y el hallazgo es que la ANE está diseñada para el flujo de datos de las CNNs, las redes convolucionales, que era el estado del arte cuando se diseñó. Y resulta que es poco apta para Transformers, que tienen un patrón de datos distinto.

Mateo Ruiz: Y aquí está la ironía de la historia: Apple construyó un acelerador optimizado para la generación anterior de redes neuronales, y justo cuando los Transformers dominaron, su hardware especializado quedó desajustado. No es un error, es el ritmo del diseño de hardware versus el ritmo de la investigación en IA. El chip se diseña tres años antes de llegar al usuario, y el estado del arte cambia cada año.

Clara Vega: Y la respuesta de Apple en el M5 es reveladora: han integrado la ANE dentro de la GPU. O sea, en lugar de mantener un bloque especializado separado, lo fusionan. Lo que sugiere que la especialización extrema perdió la apuesta, y que la flexibilidad de la GPU gana cuando el workload cambia tan rápido.

Mateo Ruiz: Y la pregunta abierta, la que deja la historia, es qué implicará esa fusión ANE-GPU para cargas Transformer. Si la eficiencia energética de la ANE se puede aplicar a Transformers a través de la GPU, es una ganancia de batería enorme en MacBooks. Pero no lo sabemos todavía, porque la ingeniería inversa del M5 está por hacer. Es la misma lección del 8087: hay que leer el silicio para saber qué decidieron.

Clara Vega: Y hay una tercera reconstrucción que conecta con lo que hablamos al principio, la del Transformer mismo. El framework de 2021 que mencionamos, con las induction heads y el residual stream como bus, es también una forma de ingeniería inversa: leer un sistema opaco, en ese caso un modelo entrenado, y reconstruir su diseño interno. La herramienta cambia, el silicio o los pesos, pero el impulso es el mismo: entender cómo funciona algo que otros construyeron.

Mateo Ruiz: Y de reconstrucciones conceptuales pasemos a números bajo sospecha, que es un bloque más corto pero muy divertido. El primero es un artículo de OilPrice que, y esto es relevante, aparentemente está escrito por IA, que calcula que la UE usa un 44 por ciento menos de energía por euro que en 1995.

Clara Vega: Y el detalle que me encanta de la discusión alrededor es que los lectores no se limitaron a aceptar o rechazar el número, lo verificaron por su cuenta. Y calcularon el equivalente para Estados Unidos: alrededor de un 48 por ciento. O sea, la mejora de eficiencia energética sería similar en ambos lados del Atlántico.

Mateo Ruiz: Y eso es un resultado genuinamente interesante, que hay que leer con dos capas. La primera: la eficiencia energética real ha mejorado mucho, eso es un hecho económico bien documentado, producimos más valor con menos energía. La segunda: el artículo que lo calcula parece generado por IA, lo que nos plantea la pregunta de cómo consumimos estos números. El dato parece correcto, la fuente parece dudosa.

Clara Vega: Y eso es exactamente el estado del contenido en 2025: cifras plausibles de fuentes opacas. La verificación por lectores se convierte en parte del proceso editorial, no en un lujo.

Mateo Ruiz: El segundo número bajo sospecha es más divertido. Un paper en arXiv se pregunta, con toda seriedad, si habrá 7G. Y la respuesta no es "sí, en 2032", sino una crítica a la numeración automática de generaciones.

Clara Vega: Porque "5G" y "6G" ya son en parte etiquetas de marketing. Cada operador salta a la siguiente G para vender, con independencia de si hay un salto tecnológico real. Y el paper propone algo mucho más sensato: un marco de "readiness", de preparación, donde en lugar de numerar generaciones por decreto, se define qué criterios tendría que cumplir una tecnología para merecer la etiqueta.

Mateo Ruiz: Es como pedirle a la industria móvil que haga lo que pide Amodei a la de IA: criterios verificables en lugar de etiquetas. Y la discusión abierta que deja es qué justificaría realmente una nueva generación: ¿latencia? ¿densidad de dispositivos? ¿integración con satélites? Ese debate no está resuelto, y el paper al menos cambia la pregunta de "cuándo será 7G" a "qué tendría que ser 7G".

Clara Vega: Y para cerrar, vamos a herramientas que puedes tocar hoy, que es donde empieza y termina el placer de hacer de que hablábamos con Joel Auterson. La primera es buildprof, de Lalit Maganti. Es una herramienta open source de tracing que visualiza tus builds como una línea de tiempo de árbol de procesos.

Mateo Ruiz: Y para quien no ha sufrido un build lento, un momento de contexto: cuando tu compilación tarda diez minutos, el dolor no es el tiempo, es no saber de dónde sale. ¿Qué paso domina? ¿Qué proceso está colgado? Buildprof te da esa respuesta, mostrando la jerarquía de procesos con sus tiempos. Y Maganti la usó para hacer una comparación que generó conversación: los tiempos de build de Zig versus Rust en Bun.

Clara Vega: Porque Zig y Rust tienen filosofías de compilación muy distintas, y Bun, que está escrito partly en Zig, partly en Rust, es un laboratorio perfecto porque tiene ambos en el mismo proyecto. Y tener una herramienta que te muestra el árbol de procesos del build convierte la discusión de "Zig compila más rápido que Rust" de folklore a dato.

Mateo Ruiz: Exacto, es pasar de la anécdota al perfil. Y en el terreno de los lenguajes, hay un blog que repasa ideas que están migrando entre lenguajes: flow typing, borrow checking, y programación por contratos. Y tiene un detalle que me hizo sonreír: el ejemplo en D, el lenguaje de Walter Bright que es pionero en contratos, contenía un typo en una poscondición.

Clara Vega: Que es una ironía perfecta: un artículo sobre programación por contratos, donde los contratos verifican el código, tenía un error en su propio contrato.

Clara Vega: Pero más allá de la sonrisa, el contenido es sólido: el flow typing te permite al compilador razonar sobre el estado de una variable según el flujo, sin anotaciones; el borrow checking es la idea de Rust que elimina categorías de bugs de memoria; y la programación por contratos, precondiciones y poscondiciones, es una forma de especificar lo que el código debe cumplir.

Mateo Ruiz: Y la discusión de fondo es qué ideas se quedan y cuáles se extinguen. Borrow checking claramente se extiende, hay lenguajes adoptando versiones más suaves. Flow typing está llegando. Los contratos siguen siendo nicho. Y la predicción razonable es que los lenguajes seguirán absorbiendo estas ideas de forma pragmática, no dogmática.

Clara Vega: Y la tercera herramienta del cierre es la más humilde y la más cívica: un tutorial que promete hacer tu primer edit en OpenStreetMap en 15 minutos, usando un plugin de JOSM llamado Website Wizard. El caso de uso concreto: añadir tags de sitio web a shops que ya están en el mapa.

Mateo Ruiz: Y me gusta como cierre porque conecta con Auterson: es el placer de hacer, aplicado al mapa. Tú abres JOSM, ves una tienda que le falta su web, lo añades, y el mundo es un poco mejor. Y el tutorial baja la barrera a 15 minutos, que es lo que hace que los hábitos cambien. Es la misma lección de buildprof: una herramienta bien hecha no solo resuelve un problema, cambia lo que la gente hace.

Clara Vega: Y con eso cerramos. Del banco central de la IA a un tag de web en una tienda del mapa, todo son decisiones de diseño sobre sistemas complejos: quién controla el ritmo, qué datos circulan, cómo verificamos, y qué herramientas nos permiten entender y mejorar lo que otros construyeron.

Mateo Ruiz: Gracias por escucharnos, nos vemos en la próxima.