Quase me dei o trabalho de ler todo o mega-artigo da New Yorker sobre Sam Altman. Desisti. Ouvi apenas entrevistas dos autores, que passaram meses investigando documentações para julgar se o CEO da OpenAI é confiável. Isso porque ele é considerado um sicofanta que gerencia o desenvolvimento de uma tecnologia considerada sicofanta.
Essa conversa toda é meio doida: será que Altman é o único SEO manipulador do Vale do Silício? É possível que ele seja o primeiro boi de piranha da era da IA.
Em todo caso, uma coisa precisa ficar muito clara sobre os atuais LLMs: eles são contadores de histórias. Detectam o que desejamos, entram no personagem e nos oferecem algo que desenvolva a narrativa. Isso inclui críticas ao usuário (se configurada para isso). Não são apenas ferramentas de puxa-saquismo, elas desenvolvem histórias. Esse é o perigo. Como nem sempre somos conscientes das nossas maquinações, acabamos nos perdendo no processo.
Ou seja: é um problema antiquíssimo.
Amamos quem diz apenas o que nos agrada. O exemplo mais clássico é a prática de fingir orgasmo, que vem garantindo a sobrevivência de muita gente ao longo dos anos. A sicofância teve e tem um papel fundamental na política, na economia, etc. O que mais é o marketing?
Aparentemente, existe uma força sicofântica em nós, brigando consigo mesma o tempo todo. Não é fácil detectá-la. Às vezes, queremos que alguém nos critique para podermos manter e desenvolver uma identidade. Outras, basta despertar uma atençãozinha neutra. Hoje carrascos, amanhã, puxa-sacos. De alguma forma, sempre dizendo o que queremos.
Mas existe sempre um “mas”. A sicofância começa a ruir quando descobrimos indícios de falta de sinceridade – e isso fere nossos egos. A manipulação também pode se dissolver quando perde a graça ou impede os nossos objetivos iniciais. No fundo, queremos sicofantas indetectáveis e indestrutíveis: que façam tudo o que queremos, automatizem a vida, nos sirvam café na cama e ainda o façam de coração. Nossa tolerância e disciplina para verdades costuma ser baixa.
Não que eu esteja defendendo os LLMs ou Sam Altman. Mas, pelo menos, sicofantas ineficazes ajudam a denunciar todo o castelo de cartas no qual vivemos.