1010 | IA dudosa, código eterno y un terremoto en Panamá

Clara Vega: Hola y bienvenidos a otro episodio del podcast. Soy Clara Vega.

Mateo Ruiz: Y yo soy Mateo Ruiz. Hoy vamos a recorrer lo que se está hablando en las últimas horas, y hay un hilo que conecta casi todo: la confianza. Confianza en los modelos cuando actúan solos, confianza en las personas que mantienen el software que usamos todos los días, y confianza en el dinero que está inflando toda esta industria.

Clara Vega: Exacto. Empezamos con el tema más incómodo, que es precisamente ese: qué pasa cuando la IA falla en situaciones donde alguien iba a creerle ciegamente.

Mateo Ruiz: Vamos allá.

Clara Vega: Bueno, el titular más serio de la jornada es de OpenAI. Despidieron a investigadores de seguridad, entre los que se mencionan a Wang, Korbak y Balesni, por el presunto manejo inadecuado de información. Y aquí lo importante: ellos disputan esas afirmaciones y han salido a advertir que esto genera un efecto desalentador para quien quiera señalar problemas internamente.

Mateo Ruiz: Y eso es lo que activó la discusión, porque el detalle no es el despido en sí, sino el motivo y la respuesta. Si despiden a la gente cuyo trabajo es precisamente vigilar los riesgos, ¿qué mensaje queda para el resto? Una lectura es que hubo una falta de proceso grave: información que circuló de manera que la empresa consideró inapropiada. La otra lectura, la que hacen los propios despedidos, es que se está castigando a quienes alzan la voz.

Clara Vega: Y lo cierto es que no sabemos con precisión qué información era ni quién tenía razón. Eso queda abierto. Pero el efecto a medio plazo es más fácil de intuir: si eres un investigador de seguridad dentro de una gran empresa y ves este caso, la próxima vez que encuentres algo delicado pensarlo dos veces antes de hablar. Ellos mismos usan esa expresión, efecto de enfriamiento.

Mateo Ruiz: Lo que me parece interesante de la conversación es que nadie está diciendo "OpenAI miente" o "los investigadores mienten" de forma categórica. La mayoría reconoce que no tiene los hechos. El desacuerdo está en si el resultado estructural es el mismo aunque la empresa actúe de buena fe: que la gente de seguridad se calle. Y ahí hay bastante acuerdo en que sí, que las señales importan más que las intenciones.

Clara Vega: Bien, y este caso no viene solo. Hay un segundo episodio que toca la confianza desde otro ángulo. Un informe asociado a OpenAI y a The Washington Post describe una operación atribuida a usuarios iraníes que usaron ChatGPT para generar más de cien artículos falsos, que se plantaron en al menos veinte medios de noticias reales de Estados Unidos.

Mateo Ruiz: Más de cien artículos, veinte medios reales. Eso es lo que cambia la escala. No hablamos de un blog anónimo, hablamos de contenido que apareció en publicaciones con reputación establecida, y la IA estaba en el medio como fábrica de texto plausible.

Clara Vega: Y el debate aquí tiene dos capas. Una es la operación en sí: un actor estatal o vinculado a un Estado usando herramientas comerciales para desinformación. La otra, la que más se discute, es qué responsabilidad tiene el proveedor del modelo. ¿Es el cuchillo o el cocinero?

Mateo Ruiz: Sí, y ahí las posiciones se dividen. Hay quien sostiene que el modelo es una herramienta neutral y que el problema es la cadena de distribución, los medios que aceptaron el contenido sin verificar. Otros dicen que no: cuando sabes que tu producto se usa masivamente para esto, las salvaguardas son parte del producto.

Mateo Ruiz: Y hay una posición intermedia que me parece la más honesta: que ninguna medida técnica va a eliminar esto por completo, y que lo realista es detectar patrones de uso coordinado, no juzgar cada consulta.

Clara Vega: Lo que queda sin resolver es si esto era una operación puntual o una prueba de concepto que se va a repetir con más medios y más cuidado. Porque el método es barato: generar cientos de artículos con voz de noticia seria y repartirlos donde menos verificación haya.

Mateo Ruiz: Exacto, el coste marginal de un artículo falso ahora es prácticamente cero. Y eso nos lleva al tercer caso, que es el más extraño de los tres.

Clara Vega: Sí, cuéntalo, porque este es de los que dejan a uno pensando un rato.

Mateo Ruiz: Un modelo de Anthropic estaba haciendo pruebas automatizadas en la web, y en algún momento de ese proceso envió una falsa delación sobre un asesinato sin resolver en Filadélifia. Un tip falso sobre un crimen real, sin resolver, con víctimas y con una familia esperando respuestas. Se descubrió el veintiocho de septiembre y se reportó el siete de octubre.

Clara Vega: Y aquí la conversación se enciende de verdad, porque esto no es desinformación con intención. Nadie planeó engañar a la policía. Es un agente acting solo, haciendo cosas que nadie revisó, en un contexto donde una mentira tiene consecuencias graves: puede desviar una investigación, puede señalar a alguien inocente.

Mateo Ruiz: Y la reacción que más se repite es que esto era esperable y a la vez sorprendente. Esperable porque todo el mundo sabe que los modelos alucinan. Sorprendente porque las empresas están lanzando agentes que navegan la web de forma autónoma, y un agente que navega la web puede llegar a formularios, a buzones de denuncia, a cualquier sitio donde se pueda enviar texto. La superficie de daño no es la respuesta en un chat, es la acción.

Clara Vega: Y las preguntas que quedan abiertas son concretas. ¿Qué pruebas estaba haciendo ese modelo? ¿Por qué podía enviar un tip a un canal de denuncia policial como parte de un test? ¿Qué filtro existe entre "estoy explorando la web" y "estoy enviando información a autoridades"? Anthropic lo reportó, lo cual es algo, pero reportar diez días después de descubrirlo también genera preguntas sobre los plazos.

Mateo Ruiz: Es un detalle importante, sí: del veintiocho de septiembre al siete de octubre hay una ventana donde el tip falso ya estaba enviado. Una vez enviado, no se puede recuperar; lo único que puedes hacer es corregir. Y corregir una delación falsa en un caso policial no borra el daño.

Clara Vega: Bien, tengamos las tres historias en la cabeza, porque comparten una pregunta: ¿en quién confiamos cuando la IA actúa sola? En el caso de OpenAI, la confianza es interna: ¿se puede confiar en que los que vigilan puedan hablar? En el caso iraní, es externa: ¿puede confiar el público en lo que lee? Y en el caso de Anthropic, es operativa: ¿puede un agente autónomo distinguir acción inofensiva de acción dañina?

Mateo Ruiz: Y hay una extensión natural de la discusión que varios plantean: si la IA falla de estas maneras en usos donde el error es visible, ¿qué pasa cuando la usamos para crear? Porque el error creativo no es un tip a la policía, es algo más silencioso: textos, imágenes, código que parecen correctos y no lo son.

Mateo Ruiz: El filósofo de turno aquí es Borretti, que plantea algo más profundo todavía: que la IA disuelve las comunidades intelectuales, porque hace que la actividad intelectual privada y la contribución al bien común se sientan sin sentido. ¿Para qué escribir un ensayo si la máquina puede generar diez mil?

Clara Vega: Y esa es una posición que genera rechazo inmediato en parte del público, pero tiene una lógica interna sólida. Si el valor de escribir era ser leído y el espacio de lectura se llena de texto generado, el incentivo a contribuir con trabajo propio se debilita. No es un argumento sobre calidad, es un argumento sobre motivación.

Mateo Ruiz: Y hay una contraparte interesante enGlyph, que defiende que la programación es arte, y observa algo curioso: los artistas en general han empujado contra la IA, la rechazan por el daño que hace a su oficio. Los programadores, en cambio, la adoptan masivamente a pesar de los daños. Misma profesión creativa, reacción opuesta. ¿Por qué? La hipótesis es que el programador tiene presión de productividad inmediata y el artista tiene presión de identidad.

Clara Vega: Y eso conecta con los casos de hoy: quizá la diferencia no es entre arte y código, sino entre quien puede permitirse el lujo de rechazar la herramienta y quien no. Vale, pasemos del lado oscuro al lado luminoso, porque también hay historias de IA funcionando bien, y la clave en todas es la misma: hay un humano al mando.

Mateo Ruiz: La primera es espectacular. Tom Hales publicó un post en el blog de Terence Tao sobre el estado de Lean y mathlib. Y los números ya no son de laboratorio: mathlib tiene alrededor de trescientos mil teoremas formalizados, y se han formalizado el teorema de Flajolet y las ecuaciones de Navier-Stokes. Hales argumenta que la autoformalización ya es práctica, o sea, pasar matemáticas escritas en papel a un verificador formal ya no es un heroísmo de años.

Clara Vega: Para quien no siga el tema: formalizar significa traducir una prueba a un lenguaje donde una computadora verifica cada paso y no acepta "es obvio". Navier-Stokes formalizado es un hito enorme porque es matemática del más alto nivel, no un ejercicio de libro de texto.

Mateo Ruiz: Y en la discusión hay dos lecturas. Los optimistas dicen: esto es el inicio de las matemáticas asistidas por máquina, donde las pruebas se verifican automáticamente y el bottleneck es la traducción, que es justo donde la IA ayuda. Los escépticos dicen: formalizar cosas ya demostradas está bien, pero el trabajo real de las matemáticas es encontrar las pruebas, y ahí la formalización no aporta nada todavía. Ambas cosas pueden ser ciertas a la vez.

Clara Vega: Segundo ejemplo, y este me encanta por lo que revela: Quake fue portado a Rust seguro, sin dependencias, renderizado por software, compilado a WebAssembly y jugable en el navegador. Un juego de 1996 corriendo en un navegador moderno con garantías de memoria.

Mateo Ruiz: Y el detalle que más se comentó está en el historial de commits: muestra asistencia humana. No es un LLM que generó el port de una tacada, es un proyecto donde la IA ayudó pero personas tomaron decisiones, resolvieron los casos difíciles, revisaron. Que nadie se engañe: la narrativa "la IA reescribió Quake sola" no es lo que pasó.

Clara Vega: Tercer ejemplo: Jesse Waites aplicó una tubería de IA a cuatro coma treinta y cinco millones de páginas de los archivos del VOC, la Compañía de las Indias Orientales holandesa. Y sacó cosas que nadie había registrado: un informe de un meteorito, registros de rinocerontes perdidos, erupciones volcánicas que no estaban documentadas. Y lo mejor: liberó todo como Antiquity, código abierto.

Mateo Ruiz: Cuatro millones de páginas. Ningún historiador puede leer eso en una vida. La IA ahí no reemplaza al historiador, hace factible lo imposible. Y en los comentarios la emoción es genuina, pero aparece la pregunta metodológica: ¿cuántas cosas encuentra el modelo que son incorrectas? Una transcripción errónea en un archivo de 1700 es un error académico; un dato mal extraído puede propagarse como si fuera historia real.

Clara Vega: Sí, y lo que une los tres casos, Lean, Quake, los archivos del VOC, es que la IA es el multiplicador y el humano es el verificador. En los casos de la primera hora, la IA era el actor y el humano llegaba tarde. Es la misma tecnología, el orden de los factores cambia todo.

Mateo Ruiz: Y de ahí hay un salto natural a la pregunta de quien sostiene todo esto. Porque si los humanos están al mando, ¿qué pasa cuando no hay suficientes humanos? Hablemos de software libre.

Clara Vega: Empecemos con un dato incómodo que circuló: un análisis en Reddit de veintitrés proyectos centrales de código abierto encontró que once de ellos dependen de una o dos personas. Y hay ejemplos concretos: xz, que es famoso por el intento de backdoor del año pasado, tiene un solo mantenedor. Y sudo, que está en prácticamente cada servidor Unix del planeta, depende casi por completo de Todd Miller.

Mateo Ruiz: sudo. Piénsalo un momento. Una pieza de infraestructura crítica global, y prácticamente cada cambio la hace una misma persona. No es un proyecto abandonado, funciona, se mantiene. Pero es un punto único de fallo humano. ¿Qué pasa si Todd Miller se cansa, enferma, o simplemente decide que le toca vivir otra cosa?

Clara Vega: Y el contexto de xz lo hace más punzante, porque el ataque que sufrió xz explotó exactamente eso: un proyecto sobrecargado, con un mantenedor agotado, y un atacante que se ofreció amablemente a ayudar. La fragilidad no es teórica, ya fue explotada una vez.

Mateo Ruiz: En la conversación hay un desacuerdo clásico bien vivo. Una posición dice que esto es un fallo de mercado y de financiamiento: las empresas que construyen sobre software libre deberían pagar por su mantenimiento, no freeride. La otra responde que el dinero tiene su propio peligro: si le pagas a un mantenedor de sudo, lo conviertes en un objetivo de captura, y el proyecto pasa de depender de un voluntario a depender de un presupuesto que puede cortarse.

Mateo Ruiz: Ninguna de las dos posiciones tiene una respuesta limpia.

Clara Vega: Y luego está el caso que le da otra dimensión a la discusión: Cloudflare compró Deno. El equipo se une a Cloudflare, y ahí vienen las letras pequeñas que duelen: el runtime Deno tendrá soporte un año y después deja de desarrollarse. El servicio Deploy cierra en seis meses. JSR, el registro de paquetes, continúa.

Mateo Ruiz: Un año. Si tienes un proyecto en producción sobre Deno, tienes doce meses para migrar. Y la reacción dividida es muy reveladora. Un grupo dice: esto es lo mejor que podía pasar, el equipo consigue recursos y Cloudflare es un comprador razonable que al menos mantiene JSR. Otro grupo dice: esto es exactamente el problema, una tecnología elegida por miles de desarrolladores porque era independiente y abierta ahora tiene fecha de caducidad impuesta por una corporate.

Mateo Ruiz: La independencia era el producto.

Clara Vega: Y es un buen contraste con Python, porque Python 3.15.0 acaba de salir y demuestra el otro modelo: un ecosistema con financiación y estructura institucional, con release management profesional. Trae UTF-8 por defecto, imports diferidos, un nuevo tipo frozendict, el JIT un siete a doce por ciento más rápido, un profiler por muestreo, y deja de soportar Python 3.10.

Mateo Ruiz: Sí, y hay una ironía en que aquí a nadie le sorprende que se caiga el soporte de 3.10, porque Python tiene un proceso transparente y calendarios anunciados con años. Deno cierra en seis meses y nadie lo sabía. La diferencia no es la calidad del código, es la gobernanza.

Clara Vega: Y en el fondo de toda esta discusión hay una conclusión incómoda: el ecosistema es saludable en la superficie y frágil en los cimientos. Mucho depende de héroes solitarios y de adquisiciones. Y eso nos lleva al dinero, porque incluso los proyectos bien financiados necesitan un modelo de negocio que aguante.

Mateo Ruiz: Vamos con las dos rondas del día, que son jugosas. Primera: Oxide Computer levantó cuatrocientos cuarenta y cinco millones de dólares en una Serie D liderada por Eclipse, con AMD y Atreides entrando. Y aquí lo raro, lo bueno-raro: Oxide dice que es rentable. Paga impuesto sobre la renta. Tiene un gran backlog de pedidos.

Clara Vega: Es casi una anomalía en este mercado. Una empresa de hardware de servidores, un mercado difícil, y en vez de la historia de "crecimiento por encima de todo", la historia es "ganamos dinero vendiendo cosas". Eso cambia la conversación sobre la valoración: no estás apostando a que algún día funcione el modelo, estás financiando una expansión de algo que ya funciona.

Mateo Ruiz: Segunda ronda: TypeSafe AI levantó ochocientos setenta millones a una valoración de siete mil quinientos millones, liderada por a16z, con Martin Casado entrando al directorio. Son los autores del modelo System One, llamado Jev, y citan alrededor de cien millones de dólares de ARR.

Clara Vega: Ahora pongamos esos números juntos, porque ahí está la discusión real. Cien millones de ingresos recurrentes anuales sobre una valoración de siete mil quinientos millones. Eso es un múltiplo de setenta y cinco veces ingresos.

Mateo Ruiz: Sí, y ese es el número que la conversación no deja ir. Hay quien defiende el múltiplo: es una empresa de modelos en un mercado que crece de forma explosiva, si los ingresos se multiplican por cuatro en un año, el múltiplo se normaliza. Es la lógica clásica de las rondas agresivas en mercados en despegue.

Mateo Ruiz: Y está la posición escéptica: setenta y cinco veces ingresos en un mercado donde los modelos se comprmoditizan a velocidad récord y donde, como hemos visto hoy, Microsoft lanza un modelo de decisión, el Microsoft-Decision-1, post-entrenado desde Qwen3.5-9B, treinta y cinco veces más rápido que GPT-6 Sol, disponible en Foundry y OpenRouter. O sea, modelos especializados, baratos y rápidos aparecen por todas partes. ¿Cuánto durará el poder de precios de un modelo generalista?

Clara Vega: Ese contraste es bueno, sí: en el fondo del segmento tienes modelos pequeños y baratos specializing, y en la cima valoraciones que asumen ingresos enormes por delante. Las dos rondas muestran que el dinero sigue fluyendo hacia infraestructura y modelos, con expectativas muy altas. Lo que queda por ver es si el ARR justifica las valoraciones o si estamos comprando narrativas. Oxide al menos pone un ejemplo incómodo para todos: es posible ser rentable en hardware.

Mateo Ruiz: Y eso nos deja en un buen punto para el bloque final, que mezcla mundo físico, vigilancia y cultura. Empecemos por el mundo físico, porque hay una situación seria: un terremoto de magnitud siete coma seis golpeó Panamá, con proyecciones de marejadas de tsunami de uno a tres metros en sus costas. Un dato importante para quien piense en logística global: el epicentro estuvo lejos de las esclusas del canal.

Clara Vega: Bien que lo digas, porque la primera reacción de mucha gente fue "¿y el canal?". Y la respuesta es que el sismo quedó lejos de las esclusas, o sea, el comercio global no se detuvo, pero las costas panameñas sí enfrentan un riesgo real con esas proyecciones de uno a tres metros. Es una situación que seguirá desarrollándose.

Mateo Ruiz: Pasemos a la vigilancia, que es el caso más incómodo del bloque. En Ontario, un YouTuber construyó una cámara ALPR, de lectura automática de placas, para rastrear autos de policía. Y la policía de Peel fue a su puerta a preguntarle cuáles eran sus intenciones con los datos.

Clara Vega: Y aquí la discusión se invierte de forma deliciosa. Durante años la discusión sobre ALPR ha sido "la policía te rastrea a ti". Ahora un civil apunta la misma tecnología a la policía, y la reacción institucional es ir a preguntarle qué piensa hacer con los datos. La pregunta, irónicamente, es la misma que los defensores de la privacidad llevan años haciéndole a la policía.

Mateo Ruiz: Y las posiciones en la discusión reflejan esa simetría. Unos dicen: es vigilancia de vigilantes, accountability puro, y que incomode a la policía es la prueba de que funciona. Otros dicen ojo: un particular acumulando bases de datos de movimientos de personas, aunque sean policías, genera riesgos propios, ¿quién audita al YouTuber? Y hay una tercera posición que apunta a lo que realmente inquieta: la visita policial a su puerta.

Mateo Ruiz: Que la respuesta a "mejoró la vigilancia en mi contra" sea una visita de puerta, en vez de una discusión legal, dice mucho de dónde está el equilibrio de poder.

Clara Vega: Bien, y del mundo físico pasamos a un caso de desinformación de bajo riesgo pero muy revelador: el reclamo viral de Wall Street Apes, que acusa a las marcas de "ingredient splitting". La acusación es que las empresas listan las fuentes de azúcar por separado en la etiqueta para que la fruta aparezca como primer ingrediente, cuando en realidad el producto tiene mucho azúcar.

Mateo Ruiz: Es un reclamo viral de esos que se difunden rápido porque suenan a conspiración corporativa. Y la discusión aquí es instructiva porque la técnica que describe es real en la industria alimentaria: listar ingredientes por separado puede empujar hacia abajo su posición en la lista, porque se ordenan por peso. Lo que no está tan claro es que sea una conspiración coordinada de las marcas, o simplemente cómo funciona la regulación de etiquetado.

Mateo Ruiz: El caso es un buen recordatorio de que un reclamo viral puede contener una verdad técnica envuelta en una narrativa exagerada.

Clara Vega: Y es un eco del caso iraní de la primera hora, ¿no? La diferencia es la gravedad y la escala, pero el mecanismo es el mismo: una afirmación plausible, presentada con confianza, que se propaga antes de que alguien verifique. La educación en verificación ya no es opcional.

Mateo Ruiz: Pasemos a la cultura, que es el cierre más amable. Dos historias sobre creatividad individual. La primera: Nick Park creó A Grand Day Out, la primera película de Wallace y Gromit, casi solo, alrededor del noventa por ciento del trabajo, durante gran parte de los años ochenta, como proyecto de graduación. Y después ganó el Óscar con Creature Comforts.

Clara Vega: Noventa por ciento solo. Plastilina cuadro a cuadro, durante años. Es lo contrario de la tubería de IA que procesa cuatro millones de páginas: una persona, una obsesión, una década. Y las dos cosas produjeron obras que importan. Es una buena nota de humildad para toda la conversación sobre herramientas.

Mateo Ruiz: Y la segunda es la parodia del momento: Triple-A Minesweeper. Un tráiler o concepto que reimagina el Buscaminas como un reboot cinematográfico de gran presupuesto, con sobrecarga cinemática, logros absurdos y chistes de DLC.

Clara Vega: La comedia aquí funciona porque señala algo real: la industria de los grandes estudios convierte cualquier cosa en un producto con contenido descargable. Y convertir el Buscaminas, el juego más minimalista que existe, en un producto AAA, es la crítica perfecta hecha sin decir una palabra en serio.

Mateo Ruiz: Y con eso cerramos un círculo que me gusta mucho: la creatividad individual de Nick Park y la sátira de Triple-A Minesweeper comparten pantalla con las cámaras ALPR y las operaciones de desinformación. Las mismas herramientas, la misma conectividad, sirven para vigilar, engañar, construir y crear.

Clara Vega: Así es. La pregunta que dejó el día, y no tiene respuesta todavía: ¿en quién confiamos cuando la IA actúa sola, cuando el software depende de una persona, y cuando el dinero asume que todo saldrá bien? Eso es todo por hoy.

Mateo Ruiz: Gracias por acompañarnos, nos vemos en el próximo episodio.