0902 | IA local, plataformas en conflicto y buen código

Clara Vega: ¡Hola y bienvenidos a otro episodio del podcast! Soy Clara Vega.

Mateo Ruiz: Y yo soy Mateo Ruiz. Y hoy tenemos un programa muy de "qué está pasando en la comunidad" — historias que en apariencia no tienen nada que ver entre sí, pero que al final todas rondan lo mismo: dónde vive la tecnología ahora, quién la controla y qué está pasando con nuestros datos y nuestro trabajo en medio de todo esto.

Clara Vega: Exacto. Vamos a arrancar con algo que a mí me fascina: la gente que se está hartando de las APIs en la nube y está corriendo modelos de IA en su propio hardware. Porque hay varios experimentos esta semana que apuntan en la misma dirección.

Mateo Ruiz: Vamos allá.

Clara Vega: El primero es de alguien con un Mac mini con chip M4 Pro y 48 GB de memoria. Está corriendo Qwen3.6-35B-A3B cuantizado a 4 bits, que ocupa unos 20 GB de RAM. Y aquí está lo interesante del modelo: es un MoE, así que aunque el modelo completo pesa 35 mil millones de parámetros, por cada token solo se activan 3 mil millones.

Mateo Ruiz: Que es justo el tipo de truco que hace viable esto en hardware de consumidor. No estás pagando el costo computacional de los 35 mil millones en cada paso, solo en memoria. Y la memoria, en un Mac de 48 GB, la tienes.

Clara Vega: Y el autor explica los motivos, que son dos y muy concretos: privacidad y el riesgo de los costos de las APIs. Es decir, no es solo "quiero jugar con modelos locales", es "no quiero que mis datos salgan de mi máquina, y no quiero depender de una factura que puede cambiar de la noche a la mañana".

Mateo Ruiz: Eso encaja con algo que discutimos hace mucho en el programa: la idea de que la optimización de inferencia va en dos direcciones. Una es negociar dentro de la frontera entre latencia y throughput — batch size, paralelismo, cuantización. La otra es empujar la frontera entera hacia adelante, con kernels mejores, decodificación especulativa, separación de prefill y decode. La cuantización a 4 bits del ejemplo del Mac es la primera categoría.

Mateo Ruiz: Pero hay otro experimento esta semana que va más por la segunda.

Clara Vega: Sí, hablo de slotstream. La idea: en vez de cargar todo el modelo en RAM, transmite los expertos desde el SSD. Con eso logran correr un modelo MoE de 104 GB en un Mac de 48 GB, a unos doce tokens por segundo.

Mateo Ruiz: Doce tokens por segundo en un equipo que "no debería" poder cargar ese modelo es un resultado llamativo. Y conceptualmente es elegante: la mayoría de los expertos están dormidos en cada token, así que en teoría puedes leerlos del disco solo cuando hacen falta y, si el SSD es rápido, el costo se esconde.

Clara Vega: Ahora, la discusión no fue solo aplausos. Hubo críticas bastante duras hacia implementaciones previas similares. La objeción de fondo es que estos proyectos a veces presentan como novedad algo que ya existía, o comparan números que no son comparables — hardware distinto, prefetch distinto, otro acceso al almacenamiento. O sea: es un campo donde los benchmarks hay que leerlos con lupa.

Mateo Ruiz: Y creo que merece la pena señalar que los dos experimentos comparten una lección: el hardware de consumidor con mucha memoria unificada cambia las reglas. Cuando tu RAM y tu VRAM son lo mismo, y tu SSD es lo bastante rápido, la frontera de "qué modelo puedes correr localmente" se mueve. Queda por ver si estas técnicas — el MoE cuantizado, el streaming de expertos desde disco — se vuelven comunes o se quedan como trucos de entusiastas.

Clara Vega: Y hay un tercer dato que remata el tema, y es quizá el más provocador de los tres. Alguien entrenó un Transformer pequeño en hora y media, con un costo de 67 centavos, y sacó un 44% en ARC-AGI-1, un nivel que compite con muchos LLM grandes.

Mateo Ruiz: Sí, y eso genera una pregunta incómoda: ¿de qué sirve la escala masiva si un modelo minúsculo, con las técnicas correctas, se acerca? Los autores atribuyen el resultado a dos cosas: test-time learning — el modelo aprende algo en el momento del test — y convertir la tarea en un problema supervisado bien planteado. No es que el modelo "entienda" de repente; es que el planteamiento del problema está muy afinado.

Clara Vega: Que además conecta con lo del Mac: la conclusión de la comunidad parece ser que la inteligencia eficiente está más al alcance de lo que la narrativa de "solo los gigantes pueden competir" sugiere. Dicho esto, serían cautelosos: un resultado de benchmark no es un producto.

Mateo Ruiz: Bien, pasemos al otro lado de la moneda: la frontera de los modelos grandes. Y aquí hay dos anuncios y un Debate con D mayúscula.

Clara Vega: Empiezo por OpenAI. Anunciaron que su modelo Astra alcanza el umbral "Critical" de su propio marco Preparedness en la categoría de seguridad cibernética, y que en ExploitBench obtiene el 100% de los puntos. Ante eso, deciden retrasar el desarrollo y el lanzamiento mientras refuerzan las protecciones.

Mateo Ruiz: Que es un caso raro: una empresa diciendo públicamente "nuestro modelo es demasiado capaz en esto y no lo vamos a soltar todavía". Naturalmente, la lectura escéptica es que también es una jugada de imagen — autoevaluarse con el nivel máximo de tu propio framework y luego anunciar contención. Y nadie externo puede verificar el 100% en ExploitBench porque el modelo no está disponible. Es un anuncio que genera más preguntas de las que responde.

Clara Vega: En paralelo, Anthropic sacó Fable 5.1 y Mythos 5.1. Los cambios que destacaron: bajaron el precio de las lecturas de caché, lo que en la práctica significa un 25% más barato, y redujeron los falsos positivos en seguridad cibernética en un 60%.

Mateo Ruiz: Y fíjate en el contraste, porque es delicioso. OpenAI dice: nuestro modelo es demasiado bueno atacando, lo frenamos. Anthropic dice: el nuestro era demasiado sospechoso, lo hemos calibrado para que dé menos falsas alarmas. Los dos hablan del mismo problema — ciberseguridad y modelos de frontera — pero desde extremos opuestos. Uno sobrepasa el umbral, el otro estaba disparando alarmas de más.

Clara Vega: Detalle menor pero que en la conversación dio juego: los resets de los límites de uso del plan. Cuando cambias precios o modelos, la gente que tiene flujos de trabajo pesados nota mucho cómo se recalculan las cuotas. No es el titular, pero es lo que toca el bolsillo.

Mateo Ruiz: Ahora, el tercer elemento del tema, y este es el que más tocó fibras: el creador de Dwarf Fortress dio una entrevista diciendo que la industria de los videojuegos está en estado de colapso entre la IA y los despidos ordenados por los CEOs. Su frase, más o menos literal: los CEOs están intentando apretar un botón que genere juegos.

Clara Vega: Y aquí la discusión se abrió en varias direcciones. Unos compartían totalmente el diagnóstico: los despidos masivos son reales, la IA se está usando como excusa o como herramienta para reducir plantillas, y la tentación de "generar juegos" con un botón es real en las juntas directivas.

Clara Vega: Otros llevaron la conversación al terreno de los márgenes: señalaron que los estudios grandes tienen márgenes destruidos por los costos de producción, y que el problema estructural existe independientemente de la IA. Es decir, ¿la IA es la causa o el síntoma?

Mateo Ruiz: Y dentro de este debate de "¿la industria se hunde o no?", hubo otro post que funcionó como contrapeso directo: Dan Luu publicó un análisis de las predicciones de Ed Zitron, uno de los comentaristas más pesimistas sobre la IA, señalando que acierta poco. Su argumento: Meta, Google y Microsoft siguen aumentando ingresos y beneficios, lo cual contradice la tesis del "declive inminente" de las grandes tecnológicas por la burbuja de la IA.

Clara Vega: Que enlaza con el debate de Dwarf Fortress de forma directa: uno de los comentarios implícitos en todo esto es que el pesimismo sobre la IA como fenómeno económico ha predicho colapsos que no llegan. Ahora bien, eso no responde la pregunta del creador de Dwarf Fortress, que no es sobre los ingresos de Meta sino sobre la gente que pierde su trabajo haciendo videojuegos.

Clara Vega: Pueden ser ciertas las dos cosas: la economía macro aguanta y, a la vez, un sector concreto se está recomponiendo de forma dolorosa.

Mateo Ruiz: Y un apunte más dentro del mismo ambiente cultural de la semana: los proyectos que intentan filtrar el contenido generado por IA. Hay una extensión de Safari que se llama Weedout, cuesta 1,99 dólares y oculta los videos de YouTube que llevan la etiqueta "Made with AI". Todo corre localmente, y el autor es honesto sobre el límite: no detecta contenido sin etiquetar.

Clara Vega: Que es el talón de Aquiles de todo este enfoque: depende de que quien publica etiquete honestamente. Es un filtro de declaración, no de detección. Igual que la discusión de Dwarf Fortress es sobre confianza y transparencia, Weedout es la versión consumidor del mismo problema.

Mateo Ruiz: Buen puente, de hecho, hacia el siguiente tema, porque seguimos en el terreno de la confianza, pero ahora con datos personales y secretos corporativos. Y este es inquietante.

Clara Vega: Vamos con ello. El FBI está investigando un servicio de la dark web llamado Nexus que vende escaneos de licencias de conducir. La cifra: más de 153 millones de escaneos de Estados Unidos y Canadá. La hipótesis es que provienen de una filtración en una empresa de verificación de identidad de Louisiana. Y lo peor: el catálogo sigue creciendo, con casi 400.000 registros nuevos al día.

Mateo Ruiz: Cuatrocientos mil al día. Eso significa que la filtración no es un hecho puntual que ya terminó — sigue en curso, o al menos el material sigue alimentándose. Y piensa en qué es un escaneo de licencia: foto, nombre, dirección, fecha de nacimiento, número de documento. Es exactamente el paquete que necesitas para suplantación de identidad de alta calidad, no de bajo esfuerzo.

Clara Vega: Y aquí está el detalle que a mí me parece el más importante de todo el episodio: probablemente no diste tú permiso para que tu licencia fuera escaneada y almacenada por esa empresa de verificación. Esto pasa cuando te registras en un servicio que usa verificación de identidad de terceros.

Clara Vega: Tu dato sensible acaba en la cadena de custodia de una empresa que nunca conociste, y si esa cadena se rompe, el daño no lo puede revertir nadie — no puedes cambiar tu licencia de conducir como cambias una contraseña.

Mateo Ruiz: Exacto. Es el problema estructural de la cadena de terceros: el usuario no tiene relación ni visibilidad con el eslabón más débil. Y enlaza directamente con el otro caso de este bloque, que es la otra cara: los secretos corporativos.

Clara Vega: Sí: la demanda de Apple contra OpenAI. Según un peritaje del MacBook de un exempleado, se alega que hubo uso de diagramas de circuitos confidenciales sacados de la empresa, e incluso órdenes de destruir evidencia. Apple pide una apertura rápida de evidencia, un descubrimiento acelerado.

Mateo Ruiz: Es temprano para saber qué es verdad — son alegaciones de una parte en litigio. Pero lo que lo hace interesante es que muestra cómo los conflictos entre gigantes ya no son solo sobre patentes o contratos, sino sobre qué se llevó la gente que cambia de empresa, y en qué dispositivo, y qué pasó con esos archivos después.

Clara Vega: Y fíjate cómo conecta con lo que hablábamos al principio: uno de los motivos que daba la persona que corre modelos locales en su Mac era la privacidad. Los dos casos — 153 millones de licencias filtradas y los diagramas de circuitos de Apple — son demostraciones empíricas de que esa preocupación no es paranoia. Los datos se mueven por cadenas que nadie controla del todo.

Mateo Ruiz: Y de custodia de datos pasamos a control de plataformas, que es el cuarto gran bloque del día. Aquí hay tres historias sobre tiendas de aplicaciones y una sobre navegadores, y todas tienen el mismo fondo: quién decide qué puedes instalar y qué puedes hacer con tu dispositivo.

Clara Vega: Empiezo por Mozilla, que dio un paso que llevaba años pidiéndose: bloqueo de publicidad integrado en Firefox para iOS. Técnicamente está construido sobre los content blockers de WebKit y usa EasyList. Dos detalles importantes: viene desactivado por defecto y el despliegue es gradual, así que aún no le ha llegado a todo el mundo.

Mateo Ruiz: Y la discusión se dividió, como casi siempre con Mozilla. Por un lado, "por fin": el bloqueo de anuncios es la función número uno que la gente quiere y que Safari permite vía extensiones pero que Firefox en iOS no tenía. Por otro lado, los escépticos preguntan si llega demasiado tarde, con la cuota de mercado de Firefox en caída y años de decisiones de Mozilla que la comunidad cuestiona.

Clara Vega: Que enlaza directamente con el otro post del día sobre Firefox: un artículo que defiende al navegador como el último bastión de la diversidad de motores. Si Firefox desaparece, todo lo que navegamos se renderiza con WebKit, Blink o Gecko... bueno, sin Gecko, solo con WebKit y Blink, y los dos dominantes de facto son un duopolio.

Mateo Ruiz: Pero la conversación no dejó que ese argumento pasara sin fricción. Hubo bastante crítica desde la experiencia de usuario: consumo de memoria, molestias concretas de la interfaz, la sensación de que Firefox se ha quedado atrás en fluidez. Y es un debate real: ¿apoyas a Firefox porque la diversidad de motores importa aunque tu experiencia diaria sea peor, o ese argumento ideológico no justifica fricción de uso?

Mateo Ruiz: No hubo cierre; la brecha entre el argumento estratégico y la experiencia práctica sigue abierta.

Clara Vega: Ahora la historia más injusta del día, a mi parecer: AnkiDroid, la app de tarjetas de memoria, se enfrenta a la eliminación de Google Play el 11 de septiembre. ¿El motivo? Un enlace de donación a Open Collective dentro de la app. El punto en disputa es la interpretación de la normativa sobre organizaciones sin fines de lucro — la categoría 501(c)(6) — y si ese enlace viola las reglas de pagos de la tienda.

Mateo Ruiz: Y las reacciones de la comunidad: de todo. Unos dicen "cumple las reglas aunque no te gusten, son las reglas". Otros señalan que son las mismas reglas que se aplican de forma inconsistente, que las apps grandes hacen cosas parecidas sin consecuencias. Y de fondo la pregunta estructural: cuando una plataforma tiene poder de veto sobre la distribución de software, cualquier ambigüedad regulatoria se resuelve a favor de la plataforma.

Mateo Ruiz: AnkiDroid es una app educativa gratuita mantenida por voluntarios; si le pasa esto, puede pasarle a cualquiera.

Clara Vega: Y para rematar el bloque, la tercera historia de tiendas: Google Play prohibió las descargas anónimas en Aurora Store, la tienda alternativa que usaba un pool de cuentas compartidas para que no tuvieras que iniciar sesión con tu cuenta de Google. Google marcó ese pool de cuentas y cerró el grifo.

Mateo Ruiz: Aquí hubo una corrección importante en la discusión, y me parece justo destacarla porque la gente daba por hecho lo contrario: varios comentaristas aclararon que GrapheneOS, el sistema operativo móvil enfocado en privacidad, en realidad recomienda usar la Play Store oficial — con sandboxing, el módulo que permite usar servicios de Google sin ellos tener privilegios del sistema — y no Aurora Store. O sea, el consejo de la referencia en privacidad por excelencia no es el que muchos esperábamos.

Mateo Ruiz: Y tiene su lógica: desde su punto de vista, usar la infraestructura oficial con permisos mínimos es más seguro que depender de cuentas prestadas de terceros que pueden morir en cualquier momento — y este episodio lo acaba de demostrar.

Clara Vega: Que nos deja con una tensión sin resolver en todo el bloque: privacidad frente a disponibilidad frente a seguridad. Aurora te daba anonimato pero dependía de un truco frágil. Play Store es robusta pero te ata con tu cuenta y con sus decisiones — como vimos con AnkiDroid. No hay opción limpia.

Mateo Ruiz: Bueno, y de decisiones de plataformas y sistemas pasamos a la parte más de ingeniería y de comunidad, que para mí es la sección más amable del programa. Vamos con io_uring primero.

Clara Vega: Turso publicó una validación práctica de io_uring con números muy concretos. Lo más destacado: usando read-ahead, lograron consolidar las solicitudes al dispositivo a aproximadamente un doceavo — una reducción de 12x en el número de peticiones que llegan al hardware.

Mateo Ruiz: Eso es enorme para cargas de base de datos, donde el cuello es precisamente el número de operaciones de E/S. Si puedes agrupar doce lecturas en una, has atacado el problema por la raíz. Pero hay una letra pequeña importante que encontraron: sqpoll, el modo de sondeo del kernel, consume un 65% de CPU. O sea, si quieres bajar la latencia al máximo pagando CPU constante, io_uring te lo ofrece, pero el precio es brutal en un entorno de servidor compartido.

Clara Vega: Y un tercer hallazgo con sabor aparado de ironía: las llamadas al sistema, la cosa que io_uring existe para eliminar, resultaron sorprendentemente rápidas gracias a la caché. Con lo cual parte del beneficio de io_uring se diluye: si las syscalls ya no son caras, lo que ganas es menos de lo que promete la teoría. Es un buen ejemplo de por qué hay que medir siempre: los supuestos de hace unos años ya no valen.

Mateo Ruiz: De sistemas de archivos de bajo nivel a sistemas de control de versiones. Martin von Zweigbergk, el creador de Jujutsu — el sistema de control de versiones que mucha gente está adoptando como alternativa más amable a Git — deja Google para convertirse en CTO de ERSC, una empresa enfocada en renovar el almacenamiento del lado del servidor.

Clara Vega: Y la pregunta obvia que todo el mundo se hizo: ¿muere jj? La respuesta fue clara: no, continúa como proyecto open source. Pero es inevitable preguntarse qué significa para un proyecto de este tipo que su figura central pase de mantenerlo con tiempo pagado por un gigante a mantenerlo como trabajo secundario, por así decirlo. La comunidad celebró el paso, con la cautela de siempre: los proyectos dependen de mantenimiento sostenido, no solo de buenas intenciones.

Mateo Ruiz: Ahora la joya coleccionista del día, y es mi favorita. Alguien compró un osciloscopio Tektronix TDS7104, de 1 GHz de ancho de banda, por 300 dólares. El precio de lista de este bicho nuevo era de unos 24.490 dólares. Y no lo compró para guardarlo en una vitrina: le reinstaló Windows 2000 y activó las licencias.

Clara Vega: Ochenta y dos veces más barato que nuevo, y funcionando con un sistema operativo que Microsoft dejó de soportar hace más de una década. Es la medicina exacta contra la cultura del desecho: hardware de instrumentación profesional que hace veinte años costaba como un coche y hoy, con algo de paciencia y conocimiento, cuesta una cena.

Clara Vega: Y tiene sentido que aparezca esta semana junto a io_uring y Jujutsu: hay un hilo de gente que prefiere entender y mantener sus herramientas antes que comprar las nuevas.

Mateo Ruiz: Y en esa vena de proyectos útiles de la comunidad, dos que quiero destacar antes de cerrar. El primero: Movie Scene Map, un mapa de localizaciones de rodaje construido sobre Wikidata. Cubre 166 países, más de 15.500 localizaciones y más de 13.000 películas y series, todo gratuito y con los datos descargables en GeoJSON y CSV. Para quien quiere hacer rutas cinefílicas o simplemente curiosear, y el detalle de publicar los datos crudos es lo que lo convierte en algo más que una web bonita.

Clara Vega: Y el segundo, un clásico de cada mes: el hilo "Who is hiring?" de Hacker News, edición septiembre de 2026. Empresas como Modash, Quill o Smarkets publicaron ofertas. Y de nuevo el hilo viene con autocrítica comunitaria: se reclamó que se indiquen claramente las condiciones de remote y los rangos salariales, porque sin esos datos el hilo pierde buena parte de su utilidad.

Clara Vega: Es un buen recordatorio de que la transparencia — otra vez esa palabra — es también un estándar comunitario que se negocia post a post.

Mateo Ruiz: Pues con eso cerramos. Hemos ido desde alguien corriendo un modelo de 35 mil millones de parámetros en un Mac de escritorio, hasta un osciloscopio de veinticuatro mil dólares comprado por trescientos, pasando por filtraciones masivas, guerras entre gigantes y una app educativa al borde de la expulsión de una tienda.

Clara Vega: Y si hay un hilo que une todo, es ese: quién controla las herramientas, los datos y las plataformas — y una comunidad que, con más entusiasmo que recursos, intenta quedarse con un trozo de ese control para sí.

Mateo Ruiz: Gracias por escucharnos. Nos vemos en el próximo episodio.