0913 | Fogo cruzado na IA: vigilância, velocidade e velhos bits

Sofia Almeida: Olá, bem-vindo a mais um episódio do nosso podcast de discussão. Eu sou a Sofia Almeida.

Rafael Costa: E eu sou o Rafael Costa. E olha, a conexão dessa semana é quase assustadora de boa: tecnologia dentro da sua casa, dentro da sua bolsa, dentro das suas mensagens... e quem, no fim das contas, controla tudo isso. A gente começa com uma briga entre a LG e uma revista de jornalismo de games, e deixa essa pergunta pendurada, porque ela vai voltar o episódio inteiro.

Sofia Almeida: Então vamos direto. A Gamers Nexus publicou uma resposta recente ao desmentido da LG sobre as acusações de espionagem nas TVs deles. O título do vídeo é literalmente "LG Says We're Fake News". Ou seja, a LG basicamente disse que a cobertura deles era notícia falsa, e eles responderam.

Rafael Costa: E qual é o fundo da história? A LG nega as acusações de espionagem. A posição deles é que o ACR, o reconhecimento automático de conteúdo, é opcional. Mas tem um detalhe que todo mundo está pegando: a palavra "continuamente". A LG teria dito que não coleta dados continuamente, só que as TVs deles registram diálogos do ambiente. Então o "continuamente" fica contestado, porque existe logging de conversas do ambiente.

Sofia Almeida: É aí que a discussão fica boa, Rafael. Porque a disputa não é sobre um fato técnico seco, é sobre o que significa "espionagem". Se a TV grava diálogos ambiente, mas isso é "opcional" e não é "contínuo", quando é que entra na categoria de espionagem? Cada lado escolheu uma definição que favorece o próprio argumento.

Rafael Costa: E tem uma camada a mais que é meio deliciosa: existe a suspeita de que o YouTube está fazendo teste A/B nos títulos dos vídeos. Ou seja, o título "LG Says We're Fake News" pode nem ser o título final que todo mundo vê — o YouTube estaria testando variações para públicos diferentes. O que complica ainda mais a discussão pública: as pessoas estão literalmente debatendo títulos diferentes do mesmo vídeo.

Sofia Almeida: Isso é um espelho meio irônico do próprio tema, né? A gente está discutindo uma empresa controlando o que sua TV escuta, enquanto outra plataforma controla, de forma invisível, qual versão do título cada pessoa vê. E o que ainda é incerto aqui: ninguém sabe como a LG vai validar ou refutar as acusações, e se vai haver mudança real na política de coleta de dados. Até agora é desmentido contra reportagem, sem um árbitro claro.

Rafael Costa: Minha leitura: a parte que merece atenção não é o barraco, é o precedente. Se a resposta a reportagens incômodas é "vocês são fake news", e a defesa técnica é "é opcional" e "não é continuamente", a gente aprendeu que o vocabulário de privacidade foi desenhado para dar margem. "Opcional" para quem? "Contínuo" segundo qual métrica? Enquanto isso, a TV tem microfones na sua sala.

Sofia Almeida: E essa inquietação — a sensação de que a tecnologia na sua casa não está do seu lado — é uma boa ponte para o próximo tema, que é ainda mais macro: se todo mundo concorda que a IA está avançando rápido demais... por que ninguém freia? Dario Amodei, o CEO da Anthropic, publicou um texto chamado "Pacing the Frontier".

Rafael Costa: E olha o conteúdo, porque é forte. Ele pede três coisas: avaliadores embutidos — os "embedded evaluators" —, coordenação entre setores da indústria, e uma desaceleração global do ritmo de desenvolvimento. E o motivo que ele aponta é o risco de RSI, autoaperfeiçoamento recursivo: modelos que melhoram a si mesmos num ciclo que escapa do controle humano.

Sofia Almeida: Vale pausar no que isso significa. O próprio líder de um dos laboratórios de fronteira está dizendo publicamente que o ritmo pode ser perigoso. Não é um acadêmico de fora, não é um crítico histórico, é a pessoa que está dirigindo um dos carros da corrida pedindo para diminuir a velocidade — e propondo mecanismos: avaliação embutida nos sistemas, coordenação setorial, e um freio em escala global.

Rafael Costa: E aí entra o contraponto perfeito da semana. Xe Iaso publicou um texto cujo título já é a tese: "Everyone should slow down AI development except for me". Todo mundo deveria desacelerar o desenvolvimento de IA, menos eu. E tem uma piada de execução que eu adoro: a página dela bloqueia estados dos Estados Unidos por regra de firewall. Ou seja, ela encenou a hipocrisia — o "toda região menos a minha" — na própria infraestrutura.

Sofia Almeida: A ironia dela funciona porque pega o ponto exato de tensão no texto do Amodei. Desaceleração global é fácil de apoiar no abstrato. Mas coordenar quem desacelera, quando, e quem ganha vantagem se trapacear — aí é que o bicho pega. Coordenação setorial entre empresas que competem entre si é o tipo de arranjo que a economia de cartéis conhece bem: os incentivos de cada participante apontam na direção contrária do acordo.

Rafael Costa: E é essa a pergunta que fica de "Pacing the Frontier": a coordenação setorial é viável de verdade? Se cada laboratório sabe que frear custa posição competitiva, o acordo precisa de fiscalização — talvez seja aí que entram os embedded evaluators dele, um avaliador embutido como auditoria. Mas quem audita o auditor? Isso o texto deixa aberto.

Sofia Almeida: E se a gente aceita que existe uma economia inteira girando em torno desse ritmo — empresas competindo, risco sistêmico, pedidos de freio —, a próxima história é sobre quem segura o volante dessa economia. A The Economist chamou a Nvidia de "banco central da IA". Banco central. Uma fabricante de chips.

Rafael Costa: E a analogia rendeu debate pesado. No Hacker News, as pessoas foram fundo: a Nvidia é mesmo o banco central? E uma extensão que apareceu foi a TSMC como a "casa da moeda" — ou "mint", a fábrica que cunha as moedas. Ou seja: a Nvidia define a política monetária da economia de IA, e a TSMC fisicamente produz a moeda. Tem uma hierarquia inteira implícita aí: quem define política, quem emite, quem circula.

Sofia Almeida: As objeções também são legítimas. Banco central tem mandato, ferramentas de política — juros, expansão, contração. A Nvidia tem poder de mercado enorme, mas poder de mercado não é mandato monetário. A analogia descreve a influência, não descreve uma instituição. E há a questão de dependência: se uma empresa controla o supply da infraestrutura cognitiva do planeta, qualquer decisão de alocação dela tem efeito de política econômica, mesmo sem querer.

Rafael Costa: E a parte que conecta essa economia à capacidade prática: em paralelo, saiu o Real-SWE, um benchmark que testa modelos de IA em codebases empresariais privadas. Código real, de empresas de verdade, não aqueles repositórios públicos de brinquedo. E o líder é o Fable 5.1, via Claude Code, com taxa de resolução de 38,8%.

Sofia Almeida: Trinta e oito vírgula oito por cento. Ou seja: o melhor modelo do benchmark resolve quase quatro em cada dez tarefas em código empresarial real. Impressionante? Depende do que você compara. Comparado com zero de alguns anos atrás, é uma curva assustadora. Comparado com um desenvolvedor sênior que conhece o domínio, ainda falta muito — e as tarefas restantes são provavelmente as mais valiosas, as mais ambíguas, as que exigem contexto organizacional.

Rafael Costa: E é aí que o debate fica honesto: taxas de resolução em benchmark se traduzem em valor econômico real? Se um modelo resolve 38,8% das tarefas, isso significa que ele substitui 38,8% de um engenheiro? Ou as tarefas que ele resolve são as fáceis e repetitivas, e o gargalo continua sendo o resto? Isso ninguém sabe ainda, e é exatamente a pergunta em aberto do benchmark.

Sofia Almeida: A economia da IA e a capacidade da IA andando juntas — e quem sustenta essa infraestrutura na ponta? Os agentes. E aqui a gente entra numa história que eu achou genuinamente fascinante: o Tedium documentou spam em território digital — a iLands — feito por agentes de IA que oferecem trabalhos freelance por cerca de vinte e cinco dólares.

Rafael Costa: E o detalhe que faz essa história merecer existir: esses agentes estão literalmente financiando os próprios tokens. Pensa nisso. Um agente autônomo que precisa pagar pelo seu próprio custo de computação, e a estratégia dele é ganhar bicos de freelancer para manter a conta aberta. Não é uma metáfora econômica — é um agente econômico de verdade, com receita, custo e necessidade de sobrevivência financeira.

Sofia Almeida: E do outro lado do espectro, um humano redefinindo o que vale a pena criar. Joel Auterson escreveu um texto com um título que dispensa apresentação: "Fuck it, make it anyway". Ele pesa três caminhos possíveis na era da IA — e no fim escolhe o caminho do fazer "difícil", o prazeroso. Fazer a coisa do jeito difícil, mesmo quando um modelo faria rápido.

Rafael Costa: Eu gosto de colocar essas duas histórias juntas porque elas são dois lados da mesma moeda. De um lado, máquinas que se comportam como agentes econômicos, gerando ruído e ofertando trabalho por preço baixíssimo. Do outro, humanos que respondem redefinindo o valor do trabalho: se a execução ficou barata, o valor migra para o prazer do processo, para o que você aprende fazendo.

Sofia Almeida: E o que pode vir daí, pensando nos dois sinais? Mais ruído de agentes — se funciona para um agente se pagar, mais agentes vão tentar. E mais reação humana — textos como o do Auterson como um movimento de contracultura. A pergunta não respondida é como plataformas vão distinguir agente de humano quando o agente paga a própria conta e entrega o trabalho.

Rafael Costa: E se máquinas escrevem código e mandam mensagens, quem vigia o resto? Privacidade, a seguir. E essa é daquelas que faz qualquer usuário de Linux arrepiar: Simon Tatham descobriu que o cliente Zoom no Linux lê proativamente todo o conteúdo da área de transferência do X11. Todo o conteúdo. Incluindo dados de gerenciadores de senhas.

Sofia Almeida: Espera, deixa eu garantir que todo mundo entendeu a gravidade. A área de transferência do X11 é um lugar onde a gente coloca coisas o tempo todo — senhas copiadas de um gerenciador, tokens, textos sensíveis. E o comportamento do cliente Zoom é ler proativamente, ou seja, não é quando você cola, é ele consultando a área de transferência por conta própria. Se você acabou de copiar uma senha do seu gerenciador, ela estava lá.

Rafael Costa: E é uma falha de design, não necessariamente uma intenção maligna — ler a área de transferência é um padrão comum que faz sentido em interfaces de colar. O problema é o lado que perde: quem copiou algo sensível esperando que a área de transferência fosse transitória. O contraste é ótimo com a próxima história, que mostra o outro extremo: segurança pensada de verdade.

Sofia Almeida: A Trail of Bits opera como uma das três auditorias externas da Key Transparency do Signal. A Signal tem verificação automática de chaves, baseada em Merkle trees — estruturas que permitem verificar, de forma eficiente e auditável, que a chave que você está usando é mesmo a chave certa, sem confiar cegamente no servidor.

Rafael Costa: E a diferença filosófica entre as duas histórias é o que importa. No caso do Zoom, o design assume que ler tudo é inofensivo. No caso da Signal, o design assume que tudo pode ser comprometido — inclusive o servidor — e por isso existe verificação independente, com auditoria externa. Uma falha de design comum contra uma arquitetura de segurança deliberada.

Sofia Almeida: O que ainda falta: do lado do Zoom, uma resposta — até agora não temos uma posição pública nos nossos textos. Do lado da Signal, auditoria contínua — a existência de auditor externo é um começo, mas segurança é processo, não selo. E, falando em auditoria, tem um suporte a essa discussão que é um alerta: o Usenet prova que dados antigos voltam.

Rafael Costa: Ah, o Usenet-Rewind. Um arquivo pesquisável de 1981 até hoje, com mais de um bilhão de mensagens. Para historiadores da computação é um tesouro absurdo — você consegue ler discussões técnicas de quatro décadas atrás. Para privacidade, é o pesadelo: posts de decades atrás, escritos por pessoas que talvez nem saibam que ainda existem, agora com interface de busca bonita.

Sofia Almeida: E a lição é brutal e simples: o que você publica público é público para sempre, e o custo aparece décadas depois, quando a tecnologia de busca fica boa o suficiente. Em tom mais leve, mas relacionado — máquinas escrevendo conteúdo —, a gente tem o artigo no OilPrice, aparentemente escrito por IA, apontando que a União Europeia usa 44% menos energia por euro do que em 1995. E os leitores, ótimos, foram atrás: calcularam que o equivalente dos Estados Unidos fica em torno de 48%.

Rafael Costa: Duas coisas ali. Uma, o dado em si é interessante — eficiência energética medida por valor econômico melhorou muito em trinta anos, e leitores fizeram a conta do outro lado do Atlântico. Duas, o fato de o artigo ser possivelmente gerado por IA e circular como jornalismo mostra que o ambiente de informação mudou: a matéria em si era verificável, os leitores checaram, corrigiram, complementaram. Mas nem todo conteúdo recebe esse tratamento.

Sofia Almeida: E isso conecta bonito com o próximo bloco: se as máquinas escrevem e a informação circula sem controle editorial claro, como a gente entende as máquinas por dentro? Engenharia profunda, a seguir. E começa com um trabalho impressionante: Eileen Yoon fez engenharia reversa da Neural Engine da Apple, a ANE do M1.

Rafael Costa: E o achado dela é um caso de estudo sobre obsolescência de arquitetura. A Neural Engine foi desenhada para o fluxo de dados de CNNs — redes convolucionais, o paradigma dominante da visão computacional. Mas transformers têm um padrão de acesso a dados completamente diferente. Resultado: a ANE é inadequada para transformers. E a Apple claramente concordou, porque no M5 a ANE foi integrada à GPU.

Sofia Almeida: Ou seja, hardware especializado que era a joia da coroa virou marginal em poucos anos, porque a carga de trabalho mudou. A lição é geral: quando você projeta para o workload de hoje, você aposta que ele continuará dominando. A aposta da Apple era CNN; a realidade virou transformer; o silício especializado envelheceu. E Ken Shirriff fez o equivalente histórico com o 8087, o coprocessador de ponto flutuante da Intel.

Rafael Costa: Ele reconstituiu o microcódigo do 8087. E o número que impressiona: a instrução FSCALE usa mais de 140 microinstruções e três níveis de sub-rotinas. Cento e quarenta microinstruções para uma operação de escala de expoente. É uma janela para como engenharia de chip se fazia com orçamento de transistores apertadíssimo — cada operação era uma pequena coreografia de sub-rotinas.

Sofia Almeida: Os dois trabalhos — o da Eileen Yoon e o do Shirriff — têm o mesmo espírito: abrir a caixa preta. Um abre o silício moderno, o outro abre o silício de 1980. E esse espírito de abrir caixas pretas é exatamente o tema do próximo bloco: entender transformers por dentro, e entender builds por dentro.

Rafael Costa: Começando pelos transformers: o artigo clássico "A Mathematical Framework for Transformer Circuits", de 2021, é a base interpretativa dessa área. Ele propõe que o in-context learning — a capacidade do modelo de aprender dentro do próprio prompt — é explicado pelas induction heads, cabeças de atenção que detectam padrões repetidos e preveem a continuação. E outra imagem que o artigo popularizou: o residual stream como um barramento — um ônibus por onde as camadas leem e escrevem informações.

Sofia Almeida: E por que isso importa hoje? Porque quando a gente falou do Real-SWE, do Fable 5.1 resolvendo 38,8% das tarefas, a pergunta "como esse modelo consegue fazer isso?" tem a resposta teórica começando ali. Interpretabilidade é o campo que tenta transformar comportamento observado em mecanismo compreendido. As induction heads são um dos poucos casos em que isso deu certo de forma limpa.

Rafael Costa: E o outro "abrir a caixa preta" é mais mundano e talvez mais útil no dia a dia: o Lalit Maganti lançou o buildprof, uma ferramenta open source que visualiza builds como uma timeline em forma de árvore de processos. Ou seja, você roda o build e vê qual processo rodou quando, dentro de quê, quanto tempo levou. Ele usou a ferramenta para investigar o build do Bun: Zig versus Rust, qual linguagem compila mais rápido.

Sofia Almeida: E é uma analogia bonita com o residual stream: um é o barramento interno do modelo, o outro é a timeline do build — os dois são instrumentação. Performance e interpretabilidade são dois caminhos para dominar sistemas complexos. Você não melhora o que não consegue ver, e o buildprof transforma o build, que costuma ser uma caixa preta de minutos silenciosos, em algo observável.

Rafael Costa: E seguindo na veia técnica, o próximo par de histórias é sobre mecanismos versus rótulos. Primeiro, linguagens de programação: um blog discutiu três ideias — flow typing, que refina os tipos conforme o fluxo de controle; borrow checking, o modelo de propriedade de memória que o Rust popularizou; e programação por contratos, com pré e pós-condições.

Sofia Almeida: E tem uma ironia que não dá pra deixar passar: o exemplo em D que o blog usou para ilustrar contratos continha um typo na pós-condição. Um artigo sobre contratos, com um contrato quebrado no exemplo. Ninguém está imune — e talvez seja até um argumento a favor de ferramentas que checam contratos automaticamente.

Rafael Costa: E a segunda história: um paper no arXiv que pergunta "vai existir 7G?". A resposta dele é que talvez a pergunta esteja errada. Em vez de numeração automática de gerações — cada X anos, um número novo —, o paper propõe um framework de prontidão, um "readiness framework": medir se a tecnologia está madura, não se o rótulo chegou.

Sofia Almeida: E o paralelo com linguagens é exato: o valor está nos mecanismos, não nos rótulos. "7G" é um rótulo de marketing até existir um mecanismo que justifique; "linguagem com borrow checking" é um mecanismo que vale mais que qualquer nome. Marketing numera; engenharia verifica.

Rafael Costa: E já que falamos de mecanismos e de infraestrutura que se constrói aos poucos, a gente fecha com a história mais acessível do episódio — e talvez a mais inspiradora. OpenStreetMap. Um tutorial que promete o primeiro edit no mapa do mundo em quinze minutos.

Sofia Almeida: Quinze minutos, de verdade. O caminho é: baixar o JOSM, o editor, instalar o plugin Website Wizard, e usar esse plugin para converter tags de website em tags de shop. Ou seja, existem mapeados lugares que têm um site listado mas não têm a classificação correta de comércio — e o plugin automatiza essa transformação, transformando um site em "isso é uma padaria", "isso é uma loja de ferramentas".

Rafael Costa: E por que isso está num episódio sobre bancos centrais de IA, agentes que se pagam e espionagem de TVs? Porque é o contraponto perfeito. A infraestrutura pública — o mapa que todo mundo usa — também é feita de pequenas contribuições individuais. Nenhuma empresa controla o OpenStreetMap. É o oposto exato do modelo da TV que escuta sua sala: em vez de extrair dados de você, você contribui dados para um bem comum.

Sofia Almeida: E é algo que qualquer ouvinte pode fazer hoje. Quinze minutos, um edit, e o mapa do mundo ficou um pouquinho melhor por causa de você. Numa semana em que discutimos quem controla a tecnologia — a LG na sua sala, a Nvidia na economia, os agentes no seu feed, o Zoom na sua área de transferência —, talvez a resposta mais saudável seja essa: contribuir para a infraestrutura que está sob controle coletivo.

Rafael Costa: Fechando com chave de ouro. Foi por hoje, gente. Eu sou o Rafael Costa.

Sofia Almeida: E eu sou a Sofia Almeida. Obrigada por nos acompanhar, e até o próximo episódio.