Este é um texto da seção App vs Ego, que investiga os jeitos malucos como humanos usam tecnologia.

Antes de começar, um esclarecimento: a IA não escreve meus textos. Sou o único culpado pelo slop que você lê aqui. Dito isto, sim, treinei um modelo de linguagem para executar uma das atividades mais polêmicas da história: a caguetagem. Criei um safado que cagueta até com o dedão do pé.

Não é uma simples evolução do copydesk (que já irritava Nelson Rodrigues no século passado), nem corretor ortográfico: é um sistema para detectar meus padrões mais sórdidos, meus argumentos mais flácidos, meus erros mais absurdos, e dedurá-los para mim mesmo.

Configurá-lo foi uma jornada porque, como se sabe, LLMs podem ser puxa-sacos. E elogios explícitos são fáceis de perceber, mas há níveis sutis de polimento de ego e discursos de validação implícita que podem levar um autor (e, claro, o usuário comum) a ficar preso numa bolha de delusão fedida.

Há quem goste e precise disso – quem sou eu para criticar? Mas o risco de tragédia é alto: pequenos favores e facilitações aumentam gradualmente a sensação de relevância e anestesiam a síndrome de impostor. É um alívio imediato. Mas, a longo prazo, nos torna insensíveis às críticas e nuances. Então, alimentamos nossos vieses, viramos crianças mimadas, que acham que o mundo lhes deve alguma retribuição.

Minha intenção era criar uma ferramenta de incentivo à humildade, o que, confesso, é reinventar a roda. Essas ferramentas já existem em profusão, basta estar aberto: caixa de comentários, pesquisa aprofundada e até a própria sensação de inadequação. Mas a cultura da performance nos impede de usá-las, transformando-as em trollagem, mute, block, estatísticas, gamificação e autoajuda meritocrática.

Mas por que testar a IA? Simples: porque sou pobre. Tivesse dinheiro e levasse a escrita realmente a sério, pagaria um editor humano profissional. Se eu não vivesse numa cultura de tanta aceleração e concorrência pela atenção, poderia contar com o interesse e o feedback dos leitores.

Resultado: até agora, as LLMs me parecem parcialmente úteis como simulacro de editor. E ficam melhores conforme aprendo a configurá-los com exemplos concretos, mensuráveis e detalhados. Minha skill do Claude, por exemplo, realmente ajuda o LLM a apontar problemas. Ainda assim, sou eu compilando critérios para me criticar, um cachorro que inventou outro para perseguir o próprio rabo.

Mais: provavelmente, só sei diagnosticar e me envergonhar disso porque passei mais da metade da minha vida off-line. Fui treinado em uma universidade, passei pelos complexos processos de aprender a interpretar textos e interagir com eles. Supostamente, isso me ajuda a detectar os atalhos e riscos dos LLMs e atualizar meus prompts constantemente.

Esse é o Paradoxo de Configureau: você gasta mais tempo configurando do que utilizando a ferramenta. Perde produtividade ao usar algo que promete aumentá-la. E, se você não pode confiar muito nela, se ela alucina, se produz resultados parciais só para lhe agradar, se cria risco de prendê-lo numa bolha, se ainda gasta muita energia, qual é o retorno do investimento?

De novo, meu editor digital é parcialmente útil. Mas como teste, dele e do meu próprio comportamento. É mais um espelho, ainda que muito menos informativo do que uma só sessão de meditação. Nesta, você enxerga a mecânica, a engrenagem do pensamento. Nas LLMs, você percebe a superfície dos seus hábitos mentais. O que já é uma grande coisa.

Mas, antes de terminar, uma curiosidade dos meus dois personal caguetas: eles querem me convencer a falar mais sobre IA. Aliás, foi assim que este próprio texto nasceu, enquanto eu editava o artigo sobre Ted Gioia e Montaine. Cito Claude Cagueta:

A IA como editor simulacro. É o tema mais original do texto — e o menos desenvolvido. A ideia de treinar um LLM para detectar seus próprios vícios autorais, “colecionando padrões sórdidos”, tem camadas que esse texto não explora: o que acontece quando o editor sintético começa a moldar a voz do autor? Onde está o limite entre crítica e colonização de estilo? Isso é um texto inteiro — e mais alinhado com a missão do Texto Sobre Tela do que a discussão sobre Montaigne.

Outro dia, rascunhei um texto sobre a revelação da identidade de Banksy. Testei editá-lo no Gemini Cagueta. Ele sugeriu o seguinte:

Pergunta para o próximo passo: Você gostaria que eu adaptasse esse texto especificamente para a seção “Eduf-GPT” da sua newsletter, focando em como as IAs facilitam esse tipo de “desmascaramento” de dados?

Tão humano. Parece o desejo de descobrir e revelar a própria importância. Não que eu queira soar a cagueta, claro.

Update: Estudo mostrando as principais maneiras como o funcionamento dos LLMs pode enganar humanos.

Este é um texto da seção App vs Ego, que investiga os jeitos malucos como humanos usam tecnologia.

Conheci o Obsidian em 2021. Talvez até antes. Trancado pela pandemia, enfrentando uma crise de workflow – essa paranoia cíclica que nos faz querer resetar as rotinas, organizar e mudar tudo. Eu estava carente por um novo aplicativo milagroso.

Cheguei a flertar com o Notion, mas ele já tinha proprietário e era complexo, de alta manutenção. Então, o Obsidian me seduziu. Era independente, mantinha os arquivos no meu próprio computador, usava markdown. Poliamoroso, tinha um sistema muito flexível de plugins, que me permitia customizar qualquer coisa.

E foi exatamente o que fiz durante a fase do deslumbre. Mudei layout, instalei dezenas de plugins, me tornei um obsessivo em tomar notas e classificar tudo. Chegamos a dividir espaço com um alemão, o Zé, Zettelkasten. Até criamos jardins digitais juntos. Bons tempos, tão inocentes.

Mas logo o germânico passou a ocupar tempo demais, ficou pesado, exigente e inútil. Zé partiu, mas o Obsidian ficou, de um jeito bem mais simples. Isso porque, pra mim, o aplicativo virou uma excelente máquina de escrever, um lugar calmo onde posso despejar meus obscurecimentos intelectuais.

E também adquirir novos: muitas vezes, eu copio e colo artigos longos que encontro na Internet no Obsidian, pra lê-los com calma. É o modo mais ineficiente do universo. O Obsidian mesmo tem um web clipper, mas raramente me lembro dele. Só quero ler num ambiente familiar. E isso significa: um que use a fonte iA Writer Duo S. Sério: meu neocórtex funciona muito melhor com ela. Espero que a utilize na minha lápide.

Os plugins são poucos: Completr, Focus Active Sentence, Language Tool Integration e Smart Typography. Só isso. Máquina de escrever, Olivetti Lettera 32. Feliz ou infelizmente, acabou o tempo da loucura e da exploração. Hoje, entre mim e o Obsidian, só papai-mamãe.

São quatro anos de relacionamento. Como se diz por aí, a cada ano, um casamento novo com a mesma pessoa. Quer dizer, com o mesmo aplicativo. Que, aliás, também muda constantemente. Ou seja, não dá pra usar o mesmo programa duas vezes, não é, Sr. Heráclito?

Read more

E não é que Moxie Marlinspike, criador do Signal, resolveu lançar seu próprio agente de IA, só que focado em privacidade? Pois é, chama-se Confer. Então, fui conferi-lo.

A IA criptografada

Toda a interação com o usuário é criptografada. Ao acessar o Confer pela primeira vez, você tem que criar uma passkey, que fica armazenada no seu aparelho ou no seu gerenciador de senhas. Detalhes técnicos nessa reportagem da Ars Technica.

A interface é parecida com a do ChatGPT – e com todas as outras dessa área. Há versões nativas pra Windows, macOS, iOS e Android (mas não pra outros tipos de Linux).

Confer não é o único chatbot com vocação pra criptografia. O Proton lançou o Lumo e o Venice.ai trabalha armazenando informação localmente, sem enviar dados das conversas abertamente pra Internet.

Vários robôs e nenhum me entende

Tá. Mas, afinal, o Confer é bom? Meu teste foi engraçado.

Pedi pra fazer uma análise de estratégia de conteúdo da Texto Sobre Tela. O robô pensou, pensou e simplesmente parou. Sem notificações, mensagens de erro ou ícones de espera. Vai ver, achou o conteúdo entediante e caiu no sono.

Tive de exortá-lo. Voltou à vida, pediu desculpas, e expeliu uma visão superficial do material. Fez algumas sugestões claramente descontextualizadas.

Não é que eu esperasse uma Susan Sontag revirando meu lixo intelectual. Mas, no geral, os robôs leem apenas os últimos dois ou três textos, a página “Sobre” e entendem um pouco dos formatos do conteúdo.

Nisso, talvez reflitam bem a situação dos usuários: apressados, usando o mínimo esforço possível, entregando alguma coisa logo, que pareça alinhada com os padrões e jargões do mercado atual. Como diria Zé Antonio:

Pra quem é tá bom demais.

Por comparação, rodei o mesmo prompt no ChatGPT, no Claude, no NotebookLM e no Gemini. A ideia era ter um senso da calibragem, da “personalidade” inicial de cada produto, como cada robô “pensa” logo de saída, antes que eu redirecionasse a conversa.

ChatGPT é apenas um pouco mais informado do que o Confer, mas também genérico e meio puxa-saco. Claude tem uma abordagem mais formal, “de escritório”: sua análise é mais estrutural e voltada a negócios.

Mas espera aí que a coisa melhora.

Estagiário promissor

O NotebookLM até “entendeu” a TxT. Mas, curiosamente, ficou fixado nos textos mais absurdos, como Civilização Macunaíma e Kama Sutra Biohacking.

Ele sugere que eu me foque em continuar esses assuntos, como se fossem análises teóricas e não humorísticas. Transformar piada em conceito? Não sei.

Já o Gemini fez sugestões mais interessantes, no nível estagiário promissor. Algumas ideias até soam (inicialmente) instigantes, como “O que aprendi ao não comentar o factoide do dia”.

Por mais que desconfie do Google, tenho de admitir que o novo modelo do Gemini faz a lição de casa. O programa pelo menos tenta se aprofundar no conteúdo.

A epidemia dos assistentes virtuais

Então virei entusiasta da IA? Não, calma aí.

Resolvi investigar a Confer (IA criptografada) pelo seguinte: nas últimas semanas, houve uma verdadeira epidemia de lançamento de assistentes virtuais capazes de acessar diretamente os arquivos e as configurações dos nossos computadores.

O Google liberou o Gemini por padrão no Gmail. A Anthropic ajambrou o Claude Cowork em menos de duas semanas. Isso indica que o hype da IA está acelerando ainda mais.

E não é só uma questão de velocidade. É também de intrusividade. Quer dizer, além de lançar produtos mais rapidamente, eles trazem funcionalidades mais arriscadas dos pontos de vista de privacidade e de impacto imediato nos computadores.

O vídeo abaixo mostra um exemplo dos problemas que os early adopters estão enfrentando.

Vamos acender uma vela em gratidão a esses desbravadores youtubers.

Competição maluca

É engraçado ver os techbros tendo que praticar capitalismo. Quando precisam lidar com competição, saem correndo como vacas loucas.

Até mesmo liberam novos padrões polêmicos nos nossos computadores, sem nos consultar. Cabe ao usuário descobrir onde fica o botão de desligar.

O público mais corajoso tenta acompanhar as empresas, deixando um rastro de logins e senhas em produtos que não volta a usar. É o cadastramento fantasma.

Num momento como esse, de intensa ansiedade competitiva e falta de regulamentação, talvez seja a hora de resgatar uma das virtudes (supostamente) brasileiras mais antigas: a capacidade de chegar atrasado.

Ou, pelo menos, vamos fazer backups em massa.

Já faz alguns anos que os Luditas voltaram à moda. Basicamente, depois do livro Blood In The Machine, cuja detalhada pesquisa histórica ajudou a quebrar o mito de que eles eram terroristas e reacionários.

Muito se falou sobre o estilo Ludita de ativismo tecnológico (que ia muito além de quebrar máquinas). Mas, outro dia, li um texto que dá sugestões práticas de como “luditizar” sua profissão. E aí me lembrei de outra coisa.

Não sei se você reparou na guerra entre tecnologias, retratada em Uma Batalha Após a Outra, do bro master, Paul Thomas Anderson. Os aparelhos analógicos aparecem como uma estratégia pra fugir da vigilância digital.

Primeiro, é importante notar como as tecnologias não morrem, elas deixam rastros e mudam de função. Não só física, mas também política e psicológica. (Avise se você quiser que eu desenvolva o assunto.)

Nossa sociedade convive com múltiplas camadas de tecnologias. Todos os dias, lidamos com restos e retrofits de diversas épocas, de diferentes conceitos do que é novo, eficiente e seguro.

Então, não se trata muito mais de ter ou não uma atitude Ludita. Todos somos versados em geriatria tecnológica: aprendemos a lidar com diversas gerações de máquinas. Cada uma falando um certo dialeto. A tecnologia não é mais uma representação das expectativas de futuro. São burocracias de diversas épocas que temos que gerenciar.

A própria IA, que se popularizou há menos de 5 anos, já deixa restos de si, camadas geológicas. São visões de mundo e demandas econômicas que geram certos códigos, interfaces, aparelhos e comportamentos.

Hoje, você pode até mesmo escolher usar diversos modelos de linguagem de um mesmo programa. E isso não significa, necessariamente, que o mais novo é o melhor deles. Nem que o mais velho seja usado com uma atitude de descontentamento, de que “falta alguma coisa”. Como, aliás, os brasileiros já sabem faz tempo.

Em Uma Batalha Após a Outra, a “obsolescência”, o downgrade é uma estratégia de liberdade. Os personagens recorrem a aparelhos velhos e modificáveis pra criar uma rede de comunicação e segurança paralela. Quando as tecnologias recentes (como smartphones) aparecem, são pra colocar a vida em risco, pra reprimir e impedir planos de se concretizarem.

Essa é mais uma rachadura no discurso da Modernidade: a versão mais nova não é, necessariamente, a melhor. Pelo contrário: pode ser fruto de uma empresa desesperada tentando lançar alguma coisa, sem muitos testes, apenas pra não dar a impressão de que o concorrente venceu a disputa. Atualização tática: pra conter acionistas. Ou pra despistar usuários dos problemas profundos.

Mais uma dualidade que não sobrevive à investigação minuciosa. Revolução tecnológica não é revolucionária, desatualizar não é reacionário. As palavras e as ideologias se dissolvem na prática, no cotidiano.

Pulga Atômica

Carreira solo do Flea. Quem conhece a história do baixista do Red Hot Chili Peppers, sabe que ele começou no jazz. Então, o clipe acima não deve assustar. Foi dirigido pela filha do músico, Clara Balzary. É isso aí: “build a bridge, shine a light”.