0902 | IA local, batalhas legais e pequenos milagres tecnológicos

Sofia Almeida: Olá, bem-vindo a mais uma edição do podcast. Eu sou Sofia Almeida.

Rafael Costa: E eu sou Rafael Costa. E hoje a gente vai conversar sobre um fio condutor muito interessante: o quanto a inteligência artificial está mudando de lugar — saindo da nuvem e indo para cima da sua mesa, do seu notebook, até dentro de controvérsias nos tribunais e nas lojas de aplicativos.

Sofia Almeida: Exatamente. A gente começa pela fronteira da inferência local — rodar modelos grandes fora da nuvem — e depois vamos ver como a indústria está reagindo a isso, com segurança, pessimismo, processos, e até bloqueadores de anúncio e lojas fechando o cerco. Mas vamos direto ao ponto.

Rafael Costa: Então, o primeiro assunto é uma taxonomia interessante que circulou sobre as técnicas de inferência. A ideia básica é que existem dois grandes grupos. O primeiro grupo é você se mover ao longo da frente de latência e throughput — ou seja, fazer trade-offs: aumentar o batch size, usar paralelismo, aplicar quantização. Você ganha de um lado e perde do outro.

Sofia Almeida: E o segundo grupo é mais ambicioso: em vez de escolher um ponto na fronteira, você empurra a fronteira inteira para frente. É aí que entram otimizações de kernel, decodificação especulativa, e separação de pré-filhamento e decodificação — o famoso P/D分离, prefill e decode separados.

Rafael Costa: E o que torna essa taxonomia útil é que ela enquadra a discussão que vamos ter agora: porque os três exemplos que a gente vai falar — o Mac mini rodando um modelo de 35 bilhões de parâmetros, o slotstream fazendo streaming de especialistas direto do SSD, e um Transformer minúsculo treinado por sessenta e sete centavos — todos eles ilustram esses dois caminhos.

Sofia Almeida: Vamos começar pelo Mac mini. A pessoa pegou um M4 Pro com 48 gigabytes de memória e rodou localmente o Qwen3.6-35B-A3B quantizado em 4 bits. O modelo ocupa uns 20 gigabytes de memória, mas aqui está o truque: é um modelo de mistura de especialistas, então por token só são ativados cerca de 3 bilhões de parâmetros.

Rafael Costa: Que é exatamente o que torna isso viável num consumidor — não num servidor. E os comentários sobre isso giraram muito em torno da motivação. A pessoa não estava fazendo isso por hobby puro: a justificativa era privacidade e risco de custo das APIs.

Sofia Almeida: E isso gerou um debate interessante, porque tem duas leituras possíveis. Uma é: "olha, a questão da privacidade é real — quando você manda dados para uma API, você não sabe onde eles vão parar". A outra é mais cética: "o custo e a qualidade ainda não compensam para a maioria dos casos". E as duas coisas podem ser verdade ao mesmo tempo.

Rafael Costa: Exatamente. E aí entra a segunda peça do quebra-cabeça, que é o slotstream. A ideia é ainda mais agressiva: em vez de caber o modelo inteiro na RAM, você faz streaming dos especialistas direto do SSD. Com isso, rodaram um modelo MoE de 104 gigabytes num Mac de 48 gigabytes, a cerca de 12 tokens por segundo.

Sofia Almeida: Doze tokens por segundo é... utilizável. Não é rápido, mas para muitas tarefas é perfeitamente aceitável. E a discussão nos comentários não foi só elogio — houve críticas a implementações similares que já existiam, questionando o que exatamente de novo isso trazia.

Rafael Costa: E acho que vale conectar os dois: o caso do Mac mini mostra o que já é possível hoje com hardware de consumidor quando o modelo é esperto em ativar poucos parâmetros por token. O slotstream empurra isso mais longe — diz "não, você nem precisa caber na memória, desde que seu armazenamento seja rápido o suficiente". Os dois caminhos estão empurrando a fronteira, não só se movendo dentro dela.

Sofia Almeida: Exatamente, é a segunda categoria da taxonomia. E tem um terceiro exemplo que é talvez o mais provocador de todos: um Transformer pequeno, treinado por uma hora e meia, custando sessenta e sete centavos de dólar em computação — e que atinge 44% no ARC-AGI-1.

Rafael Costa: Que é um benchmark que many modelos grandes de ponta têm dificuldade. E os comentários apontaram que as chaves foram duas: teste-time learning — ou seja, o modelo aprende um pouco no momento do teste — e uma espécie de "supervisionarização" da tarefa, transformando o problema de raciocínio em algo mais parecido com aprendizado supervisionado.

Sofia Almeida: E aqui está a pergunta que fica no ar: se sessenta e sete centavos e noventa minutos chegam a 44%, o que isso diz sobre a escala? Será que estamos sobre-investindo em modelos gigantes, ou o ARC-AGI-1 é um benchmark que recompensa esse tipo específico de abordagem de uma forma que não generaliza?

Rafael Costa: Essa é a questão não resolvida. Alguns comentários sugeriram que é um resultado impressionante mas estreito — o ARC é um tipo de puzzle muito particular. Outros viram isso como evidência de que a eficiência importa muito mais do que a indústria admite. Ninguém cravou uma resposta.

Sofia Almeida: E tem uma peça de suporte aqui que conecta bem: a World Labs anunciou o Atlas, um modelo de mundo multimodal. Suporta texto, imagem, vídeo e 3D, gera vídeo de 1440p por um minuto com controle de câmera, e consegue reconstruir 3D a partir de poucas imagens.

Rafael Costa: O que é relevante para essa discussão porque mostra a direção: modelos que não são só grandes, mas que são estruturalmente diferentes — entendem espaço, geometria, mundo físico. É outra forma de "empurrar a fronteira", não só escalar.

Sofia Almeida: E a pergunta que fecha esse bloco — e que a gente deixa aberta — é: quanto disso vira produto? Quanto dessa engenharia de inferência local e treinamento barato chega ao usuário final, e quanto fica como demonstração impressionante?

Rafael Costa: Que é uma boa ponte para o próximo assunto, que é exatamente sobre a indústria reagindo — às vezes com precaução extrema, às vezes com otimismo, às vezes com pânico.

Sofia Almeida: Vamos começar pela precaução. A OpenAI anunciou que o Astra atingiu o limiar "Critical" no framework Preparedness deles para segurança cibernética — e pontuou 100% no ExploitBench.

Rafael Costa: Isso é notável porque a própria empresa está dizendo "nosso modelo é capaz demais em uma área sensível". E a decisão deles foi adiar o desenvolvimento e o lançamento para fortalecer as proteções.

Sofia Almeida: E a reação nos comentários foi mista. Tem quem leia isso como um sinal de maturidade — "olha, o framework está funcionando, eles estão agindo antes do lançamento, não depois". E tem quem seja mais cético: "Critical é um rótulo que a própria empresa atribui, e o ExploitBench é um benchmark interno. Estamos confiantes em quem faz a medição?"

Rafael Costa: E é uma discussão legítima, porque a questão de fundo é: quem audita o auditor? Quando a empresa que tem interesse comercial no modelo também é quem decide se ele passou ou não no teste de segurança, a confiança tem que vir de algum lugar.

Sofia Almeida: Exato. E do outro lado do espectro emocional, temos o Dan Luu, que fez uma análise dizendo que as previsões pessimistas do Ed Zitron sobre IA têm errado com frequência. O argumento é que a Meta, a Google e a Microsoft continuam crescendo em receita e lucro, o que contradiz a narrativa de "declínio" que o Zitron propõe.

Rafael Costa: E aqui a discussão foi bem dividida. Tem quem concorde com o Dan Luu — "os números falam por si, essas empresas não estão em colapso". E tem quem responda: "receita e lucro hoje não dizem nada sobre se o investimento em IA vai se pagar. O Zitron não está prevendo o colapso da Meta, está questionando o retorno dos capex em IA".

Sofia Almeida: Que é uma distinção importante. Uma coisa é dizer "a empresa vai quebrar". Outra é dizer "os bilhões gastos em data centers não vão gerar retorno proporcional". São previsões diferentes com horizontes diferentes, e os comentários não chegaram a um acordo sobre qual delas o Zitron realmente está fazendo — e, portanto, se ele errou ou não.

Rafael Costa: E aí o terceiro item desse bloco traz uma perspectiva bem diferente: o criador de Dwarf Fortress disse que a indústria de games está em estado de colapso, com IA e demissões, e que os CEOs estão querendo apertar um "botão de gerar jogo".

Sofia Almeida: E isso é interessante porque coloca em choque direto com o argumento anterior. Para as big techs, talvez a IA esteja gerando valor. Mas para o desenvolvimento de games — um setor que já passou por ondas enormes de demissões — a percepção é de ameaça existencial.

Rafael Costa: E nos comentários apareceu o argumento econômico clássico: "se a IA reduz o custo de fazer jogos, teoricamente deveria criar mais jogos, não menos empregos". E a resposta a isso, também nos comentários, foi: "teoricamente sim, mas a transição destrói carreiras no meio do caminho, e o 'botão de gerar jogo' não substitui o que os estúdios faziam".

Sofia Almeida: Ninguém cravou uma resposta. E essa tensão — pânico exagerado ou ameaça real — é a pergunta em aberto desse bloco. A resposta provavelmente depende de qual setor você olha e em que horizonte de tempo.

Rafael Costa: E tem uma conexão que fecha esse assunto e abre o próximo: quem controla essas ferramentas está cada vez mais envolvido em litígio. E o caso mais quente agora é Apple contra OpenAI.

Sofia Almeida: Vamos falar disso. O que é novo no processo é uma perícia feita num MacBook de um ex-funcionário. A alegação é que esquemas de circuito confidenciais da Apple foram levados e usados, e que houve instruções para destruir evidências. A Apple está pedindo disclosure rápido de provas.

Rafael Costa: E o que isso muda em termos práticos é a natureza do caso. Antes parecia uma disputa sobre contratos de não-competição e propriedade intelectual. Agora, com alegação de destruição de evidências, entra um elemento muito mais sério — spoliation, que os tribunais tratam com muito rigor.

Sofia Almeida: E os comentários sobre isso ficaram mais na especulação processual — o que a perícia pode ou não provar, se o pedido de disclosure acelerado vai ser atendido. O desfecho é totalmente desconhecido, e ninguém quis apostar num vencedor.

Rafael Costa: Mas tem um detalhe curioso que surgiu em paralelo, e que diz muito sobre a OpenAI de um jeito diferente: o Simon Willison descobriu que o aplicativo desktop da OpenAI — o ChatGPT e o Codex — vêm com um LibreOffice completo embutido, versão headless de uns 430 megabytes, junto com Python, Node e git. No total, 1,7 gigabyte.

Sofia Almeida: Isso é ótimo, porque ninguém sabe ao certo por que aquilo está lá. A hipótese mais razoável nos comentários é que é para permitir que o agente de código rode ferramentas localmente — editar documentos, executar scripts, usar controle de versão. Mas ninguém da OpenAI explicou oficialmente.

Rafael Costa: E a leitura mais ampla que os comentários fizeram é sobre transparência: apps de IA estão virando plataformas completas escondidas dentro de um ícone. A pergunta que ficou: o que mais está escondido nesses pacotes que a gente não sabe?

Sofia Almeida: E para fechar esse bloco, um contraponto que mostra que nem tudo na indústria é litígio e segredo: a Anthropic anunciou os Fable 5.1 e Mythos 5.1, com redução no preço de leitura de cache que dá cerca de 25% de economia efetiva, e uma redução de 60% nos falsos positivos de cibersegurança.

Rafael Costa: Que é um movimento comercial claro — competir por preço e por confiabilidade. Mas os comentários rápido pegaram outra coisa: os limites de utilização, os resets de rate limit, que geraram reclamações de usuários pesados.

Sofia Almeida: Então você tem a mesma indústria, num mesmo período, cortando preços e reduzindo falsos positivos de um lado, e apertando limites de uso do outro. É um equilíbrio difícil entre custos de inferência — que conecta de volta com tudo que a gente falou no primeiro bloco sobre eficiência.

Rafael Costa: Exatamente. E falando em controle e em quem dita as regras, vamos para o próximo assunto: plataformas fechando o cerco. Navegadores, lojas de aplicativos, e quem decide o que você pode instalar.

Sofia Almeida: Começando pela Mozilla, que lançou um bloqueador de anúncios nativo no Firefox para iOS. É baseado nos content blockers do WebKit e no EasyList, vem desligado por padrão, e está em rollout gradual — nem todos os usuários têm ainda.

Rafael Costa: E os comentários giraram em torno de duas coisas. Primeiro, a ironia: a Mozilla, que historicamente depende de receita de anúncios através do acordo com a Google, agora está oferecendo bloqueio de anúncios. Segundo, o porquê de estar desligado por padrão — provavelmente para não atrapalhar relações comerciais e para testar gradualmente.

Sofia Almeida: Mas há uma leitura mais generosa também: é um reconhecimento de que os usuários querem controle sobre seus feeds. E essa é exatamente a conexão com o Weedout, que a gente vai falar mais pra frente — um tema de usuários assumindo o controle por conta própria.

Rafael Costa: Por enquanto, vamos para a próxima peça: a Google Play baniu os downloads anônimos do Aurora Store. O Aurora Store é um cliente alternativo que usa um pool de contas internas para permitir downloads anônimos da Play Store — e essas contas foram marcadas.

Sofia Almeida: E aqui a discussão ficou especialmente boa, porque esclareceu uma confusão comum: muita gente pensava que o GrapheneOS, o sistema operacional focado em privacidade, recomendava o Aurora Store. E os comentários esclareceram que não — o GrapheneOS na verdade recomenda usar a Play Store oficial, com sandboxing do Google Play, em vez de clientes alternativos.

Rafael Costa: Que surpreende muita gente, porque parece contra-intuitivo que um projeto de privacidade recomende a loja oficial. Mas a lógica deles é que a Play Store sandboxed oferece atualizações de segurança confiáveis, enquanto clientes de terceiros trazem riscos próprios.

Sofia Almeida: E a questão de fundo que os comentários levantaram é: quando a Google marca e bania um pool de contas como o do Aurora, está protegendo usuários ou está eliminando a última forma de usar a loja sem identidade? As duas leituras estavam presentes, e ninguém convergiu.

Rafael Costa: E o terceiro item fecha esse bloco de forma bem concreta: o AnkiDroid, o cliente Android do Anki, foi avisado de que vai ser removido da Play Store em 11 de setembro. O motivo? Um link de doação para o Open Collective dentro do app.

Sofia Almeida: E a disputa técnica é sobre a interpretação de uma regra — a questão é como a Google interpreta o status 501(c)(6) do Open Collective, que é uma classificação fiscal diferente da 501(c)(3) que normalmente se associa a organizações sem fins lucrativos aceitas para pedir doações em apps.

Rafael Costa: E os comentários mostraram como isso é sintomático: uma regra que parece razoável no papel — "apps sem fins lucrativos podem pedir doações de formas limitadas" — vira uma armadilha quando a definição de "sem fins lucrativos aceitos" depende de uma classificação fiscal americana que muitos projetos internacionais não têm.

Sofia Almeida: E o que fica em aberto nesse bloco inteiro é a mesma pergunta: até onde a loja pode ditar as regras? A Google controla a distribuição no Android — mesmo sendo um sistema aberto em teoria, na prática a maioria dos usuários só instala pela Play. E quando a loja bane um cliente alternativo ou remove um app de flashcards por causa de um link de doação, quem paga o preço é o usuário final.

Rafael Costa: Que é uma boa ponte para o próximo bloco, porque fala de base, de infraestrutura, das coisas que sustentam tudo isso. E começa com uma história deliciosa: alguém comprou um osciloscópio Tektronix TDS7104, de 1 gigahertz de banda, por trezentos dólares.

Sofia Almeida: Trezentos dólares! Para dar uma ideia do absurdo, esse equipamento novo custava na lista cerca de vinte e quatro mil quatrocentos e noventa dólares. E o comprador reinstalou o Windows 2000 nele e habilitou as licenças.

Rafael Costa: E os comentários sobre isso foram metade nostalgia, metade engenharia reversa. A parte do Windows 2000 não é piada — esses instrumentos antigos rodavam Windows embarcado, e reinstalar o sistema e reativar licenças de funcionalidades que custavam milhares de dólares na época é uma forma de recuperação de hardware que muita gente no HN claramente aprecia.

Sofia Almeida: E há algo simbólico aqui que conecta com o resto do episódio: um equipamento de vinte e quatro mil dólares virando um brinquedo de trezentos. A obsolescência comercial não é obsolescência técnica. É o mesmo espírito de "fazer mais com menos" que vimos no Mac mini e no slotstream.

Rafael Costa: Exatamente. E seguindo essa linha de infraestrutura, a próxima notícia: o Martin von Zweigbergk, criador do Jujutsu — o sistema de controle de versão que muita gente vê como sucessor espiritual do Mercurial — deixou o Google e virou CTO da ERSC.

Sofia Almeida: E o ponto importante da movimentação: o objetivo dele na ERSC é renovar storage server-side. E, crucial para a comunidade, o Jujutsu continua como projeto open source — ele não abandona o projeto.

Rafael Costa: E os comentários refletiam uma mistura de alívio e curiosidade. Alívio porque o jj não vai morrer. Curiosidade porque CTO saindo do Google para uma startup de infraestrutura é um sinal de onde o dinheiro e a atenção estão indo — e storage server-side é uma área que toca exatamente nas discussões de inferência local que a gente abriu o episódio.

Sofia Almeida: E o terceiro item fecha esse bloco com technical depth de verdade: a Turso fez uma validação de io_uring e descobriu que, com read-ahead, consegue consolidar pedidos de disco em cerca de um décimo-segundo — quer dizer, reduzir os requisições ao dispositivo em aproximadamente doze vezes.

Rafael Costa: Doze vezes menos requisições ao disco é um ganho enorme. Mas tem um detalhe importante: o sqpoll, o modo de polling do io_uring, consumia 65% de CPU. Ou seja, a otimização tem um custo, e você precisa entender seu workload para saber se compensa.

Sofia Almeida: E uma descoberta adicional da validação: as syscalls, que todo mundo assume que são caras, acabaram sendo rápidas por causa do cache. O que é um bom lembrete de que intuições sobre performance envelhecem mal — o hardware muda, os caches mudam, e o que era verdade há cinco anos pode não ser hoje.

Rafael Costa: E o que fica desse bloco é a mensagem: engenharia de nicho continua movendo a base de tudo. Osciloscópios de leilão, controle de versão novo, io_uring. Nada disso aparece em headline, mas tudo isso sustenta o resto do que a gente conversou hoje.

Sofia Almeida: E agora vamos para um bloco que mistura o sério e o agradável. Começando pelo sério, e é um alerta de privacidade grande: o FBI está investigando um serviço da darknet chamado Nexus, que vende digitalizações de carteiras de motorista dos EUA e do Canadá — mais de 153 milhões de registros.

Rafael Costa: Cento e cinquenta e três milhões. E o detalhe que torna isso ainda pior: o serviço está crescendo, adicionando quase 400 mil registros novos por dia. E a suspeita é que a origem seja um vazamento de uma empresa de verificação de identidade da Louisiana.

Sofia Almeida: E isso é um lembrete importante de que o vazamento não precisa ser de uma rede social ou de um banco para ser devastador. Empresas de verificação de identidade concentram exatamente os dados mais sensíveis — documento, foto, nome, endereço — e são alvos óbvios.

Rafael Costa: E a discussão nos comentários inevitavelmente foi para "e agora, o que eu faço?". A resposta honesta é: pouco. Uma vez que sua digitalização de carteira está circulando, você não troca de documento como troca de senha. Alguns comentários apontaram que isso reforça o argumento contra sistemas de verificação de idade baseados em documentos.

Sofia Almeida: E essa é uma questão que vai voltar, porque governos cada vez mais querem verificação de identidade para acessar serviços online — e esse caso é o argumento empírico do risco.

Rafael Costa: Do sério para o curiosidade tecnológica: a Nori Robotics apresentou um robô móvel bi-manual por 1.688 dólares, com 19 graus de liberdade, montado em São Francisco, com uma proposta de compartilhamento de habilidades entre robôs.

Sofia Almeida: E aqui os comentários foram céticos. A pergunta recorrente era: isso é real ou é marketing? Um robô bimanual de 19 DoF por menos de dois mil dólares é um preço que levanta sobrancelhas, e mais de um comentarista sugeriu que a demo era mais encenação do que capacidade real.

Rafael Costa: Que é um padrão que a gente viu muito no espaço de robótica — vídeos impressionantes, especificações agressivas, e depois descobre-se que havia teleoperação ou edição envolvida. Não está provado que é o caso aqui, mas a suspeita era generalizada nos comentários.

Sofia Almeida: E agora os pequenos prazeres. O Movie Scene Map é um mapa de locais de filmagem derivado do Wikidata: 15.535 locais em 166 países, cobrindo 13.312 filmes, gratuito, com dados disponíveis em GeoJSON e CSV.

Rafael Costa: E os comentários sobre isso foram majoritariamente encantados. É o tipo de projeto que só existe porque alguém se importou o suficiente para estruturar dados do Wikidata de forma útil. E o fato de abrir os dados em formatos padrão significa que outras pessoas podem construir em cima.

Sofia Almeida: E o outro prazer técnico: o Ambient CSS v3, que gera sombras a partir de definições de luz de forma fisicamente plausível, calibrado com ray-tracing do Blender.

Rafael Costa: Que é uma abordagem interessante — em vez de o designer ajustar knobs de blur e opacidade no escuro, você define a luz e o sistema calcula a sombra como a física produziria. Mas os comentários apontaram problemas: a UI de knobs foi criticada como pouco prática, e o comportamento em mobile deixou a desejar.

Sofia Almeida: Então é um projeto com uma ideia excelente e uma execução que ainda precisa amadurecer — o que é um padrão razoável para um experimento.

Rafael Costa: E para fechar esse bloco, o "Who is hiring?" de setembro de 2026, com empresas como Modash, Quill e Smarkets postando vagas. E os comentários recorrentes sobre essas threads: quem oferece remoto, quem explicita salário e quem não explicita — com críticas às empresas que escondem a faixa salarial.

Sofia Almeida: Essas threads são um retrato do mercado. E a ausência de salário explícito continua sendo o ponto de fricção número um nos comentários.

Rafael Costa: E isso me leva ao último assunto do episódio, que amarra bem com o que a gente falou sobre Firefox e controle: o Weedout. Uma extensão do Safari que custa 1,99 dólar e esconde vídeos do YouTube marcados com a tag "Made with AI".

Sofia Almeida: E os detalhes que importam: roda localmente, não manda nada para servidor nenhum. E é honesto sobre sua limitação: só detecta o que está rotulado. Conteúdo de IA não marcado passa direto.

Rafael Costa: E a discussão nos comentários foi interessante porque expôs a tensão central. De um lado: "ótimo, é minha escolha, é meu feed, eu decido o que vejo". Do outro: "a tag 'Made with AI' é auto-declarada pelos criadores, então quem quiser enganar simplesmente não marca". Ou seja, a ferramenta funciona exatamente enquanto a honestidade dos uploaders durar.

Sofia Almeida: E há uma questão mais profunda ali: será que "feito com IA" é sequer a distinção certa? Um vídeo com correção de cor assistida por IA é "made with AI"? A ferramenta delega essa decisão ao sistema de tags do YouTube, e os comentários apontaram que isso transfere o problema em vez de resolvê-lo.

Rafael Costa: Mas mesmo com essas ressalvas, faz sentido junto do bloqueador de anúncios do Firefox para iOS: são dois movimentos na mesma direção — usuários assumindo o controle dos seus feeds com ferramentas locais, em vez de esperar que as plataformas resolvam por eles.

Sofia Almeida: E aí está o fio que percorre o episódio inteiro. Modelos rodando localmente no seu Mac. Extensões filtrando seu YouTube no seu dispositivo. Bloqueadores de anúncio nativos. E, no outro lado, lojas ditando o que você pode instalar, apps escondendo 1,7 gigabyte de software dentro de si, e uma investigação federal sobre 153 milhões de identidades vazadas.

Rafael Costa: A tecnologia está descentralizando em algumas frentes — inferência, filtragem, controle do usuário — e centralizando em outras — lojas, plataformas, litígios. E os comentários de hoje mostraram que a comunidade está atenta aos dois movimentos ao mesmo tempo, sem consenso sobre quem vai vencer.

Sofia Almeida: Ficamos por aqui. Obrigada por nos acompanhar, e até o próximo episódio.

Rafael Costa: Até mais.