Entendendo o longo texto de Vitalik: Por que pessoas inteligentes devem seguir “regras aparentemente burras”?

As teorias "galaxy brain" que parecem explicar tudo geralmente são as desculpas universais mais perigosas. Por outro lado, aquelas regras "de alta resistência" que soam rígidas e dogmáticas são, na verdade, a última linha de defesa contra o autoengano.

Autor: Zhixiong Pan

O artigo que Vitalik publicou algumas semanas atrás, "Galaxy Brain Resistance", é na verdade bastante obscuro e difícil de entender, e não vi muitas boas interpretações por aí, então vou tentar explicar.

Afinal, até Karpathy, criador do termo Vibe Coding, leu esse artigo e fez anotações, então com certeza tem algo especial nele.

Primeiro, vamos falar sobre o título: o que significam Galaxy Brain e Resistance? Depois de entender o título, você já vai ter uma boa ideia do que o artigo trata.

1️⃣ Galaxy Brain, traduzido literalmente, seria "cérebro galáctico", mas na verdade vem de um meme da internet, algo como (🌌🧠) juntos, você provavelmente já viu.

No início, era um elogio, usado para dizer que a ideia de alguém era genial, ou seja, inteligente. Mas, com o uso excessivo, acabou se tornando uma ironia, significando algo como "pensou demais, o raciocínio foi longe demais".

Vitalik, ao mencionar 🌌🧠 aqui, se refere especificamente àquele tipo de "ginástica mental de alto QI, tentando transformar algo sem sentido em uma grande teoria". Por exemplo:

- Claramente está demitindo em massa para economizar dinheiro, mas diz que está "fornecendo talentos de alta qualidade para a sociedade".

- Claramente está lançando shitcoins para enganar investidores, mas afirma que está "empoderando a economia global com governança descentralizada".

Tudo isso pode ser considerado pensamento "galaxy brain".

2️⃣ E o que significa Resistance (resistência)? Esse conceito pode ser confuso, mas, em termos populares, pode ser comparado à "capacidade de não ser manipulado" ou "capacidade de resistir à enganação".

Portanto, Galaxy Brain Resistance seria Resistance to [becoming] Galaxy Brain, ou seja: "capacidade de resistir a se tornar um 'galaxy brain' (falando bobagens)".

Ou, de forma mais precisa, é uma maneira de descrever o quão fácil é abusar de um certo estilo de pensamento/argumentação para "provar qualquer conclusão que você queira".

Assim, essa "resistência" pode ser aplicada a uma "teoria", por exemplo,

- Teorias de baixa resistência: com um pouco de pressão, rapidamente se transformam em lógicas "galaxy brain" absurdas.

- Teorias de alta resistência: não importa o quanto você pressione, elas permanecem as mesmas, é difícil distorcê-las para uma lógica absurda.

Por exemplo, Vitalik diz que, em sua sociedade ideal, a lei deveria ter uma linha vermelha: só se pode proibir algo quando se pode explicar claramente como tal ação causa dano ou risco concreto a uma vítima específica. Esse padrão tem alta resistência ao "galaxy brain", pois não aceita justificativas vagas ou subjetivas como "eu não gosto" ou "é imoral".

3️⃣ Vitalik também dá muitos exemplos no artigo, inclusive usando teorias que ouvimos com frequência, como "longtermismo" e "inevitabilismo".

O "longtermismo" é especialmente vulnerável ao pensamento 🌌🧠, pois sua resistência é muito baixa, é praticamente um "cheque em branco". Afinal, o "futuro" é distante e vago demais.

- Exemplo de alta resistência: "Esta árvore vai crescer 5 metros em 10 anos". Isso é verificável, difícil de distorcer.

- Exemplo de baixa resistência do "longtermismo": "Embora eu vá fazer algo extremamente imoral agora (como eliminar um grupo de pessoas ou iniciar uma guerra), é para que, daqui a 500 anos, a humanidade viva em uma utopia. Segundo meus cálculos, a felicidade futura é infinita, então o sacrifício atual é insignificante."

Veja, basta estender o tempo o suficiente e você pode justificar qualquer maldade do presente. Como Vitalik diz: "Se seu argumento pode justificar qualquer coisa, então ele não justifica nada".

No entanto, Vitalik também reconhece que "o longo prazo é importante", ele critica o uso de benefícios futuros excessivamente vagos e não verificáveis para encobrir danos claros do presente.

Outro caso crítico é o "inevitabilismo" (Inevitabilism).

Essa também é uma das táticas favoritas do Vale do Silício e do mundo da tecnologia.

O discurso é assim: "A substituição do trabalho humano por IA é inevitável na história, mesmo que eu não faça, outros farão. Então, desenvolver IA agressivamente agora não é por dinheiro, mas para acompanhar a tendência histórica."

Onde está a baixa resistência? Ela elimina perfeitamente o senso de responsabilidade. Já que é "inevitável", não preciso me responsabilizar pelos danos que causei.

Isso também é um típico "galaxy brain": transformar o desejo pessoal de ganhar dinheiro ou poder em "cumprir uma missão histórica".

4️⃣ Então, diante dessas "armadilhas dos inteligentes", o que devemos fazer?

A solução de Vitalik é surpreendentemente simples, até um pouco "boba". Ele acredita que, quanto mais inteligente a pessoa, mais ela precisa de regras de alta resistência para se restringir, para não se perder em acrobacias mentais.

Primeiro, manter-se fiel à "ética deontológica", ou seja, aquelas regras morais básicas de jardim de infância.

Não tente resolver equações complexas "pelo futuro da humanidade", volte aos princípios mais rígidos:

- Não roube

- Não mate inocentes

- Não fraude

- Respeite a liberdade dos outros

Essas regras têm altíssima resistência. Porque são preto no branco, sem negociação. Quando você tenta usar o "longtermismo" para justificar o desvio de fundos dos usuários, a regra rígida de "não roube" te confronta diretamente: roubo é roubo, não importa o quanto você fale sobre a grande revolução financeira.

Segundo, mantenha a "posição" correta, até mesmo fisicamente.

Como diz o ditado, "onde você senta determina como você pensa". Se você está sempre no círculo do Vale do Silício, cercado por aceleracionistas de IA, é difícil manter a clareza. Vitalik até dá um conselho físico de alta resistência: não more no Vale do Silício.

5️⃣ Resumo

O artigo de Vitalik é, na verdade, um alerta para os superinteligentes: não pense que, por ser inteligente, pode ignorar as linhas morais básicas.

As teorias "galaxy brain" que parecem explicar tudo geralmente são as desculpas universais mais perigosas. Por outro lado, aquelas regras "de alta resistência" que soam rígidas e dogmáticas são, na verdade, a última linha de defesa contra o autoengano.