A armadilha das pessoas inteligentes: por que Vitalik quer que sigamos "regras simples"?

Autor original: Zhixiong Pan, co-fundador da ChainFeeds

O artigo de Vitalik "Galaxy Brain Resistance", publicado há algumas semanas, foi bastante abstruso e não muito bem interpretado. Então, vou tentar explicar.

Afinal, já que o criador do termo Vibe Coding, Karpathy, também leu este artigo e fez anotações, deve haver algo especial nele.

Primeiro, vamos falar sobre o que o título "Galaxy Brain" e "Resistance" significam. Depois de interpretar este título, você terá uma compreensão aproximada do que trata este artigo.

1. A tradução de Galaxy Brain é "cérebro galáctico", mas na verdade vem de um meme da Internet, semelhante a uma imagem onde a galáxia e um cérebro estão fundidos, que você certamente já viu.

Inicialmente, este termo era certamente positivo, usado para elogiar que a ideia de alguém é extremamente engenhosa. No entanto, à medida que seu uso se espalhou, gradualmente se transformou em uma espécie de sarcasmo, significando aproximadamente "pensar demais, raciocinar de forma muito rebuscada".

Quando Vitalik menciona Galaxy Brain aqui, ele se refere especificamente àquele comportamento onde alguém "usa alta inteligência para se envolver em ginástica mental e transformar forçadamente coisas ilógicas em verdades aparentemente profundas". Por exemplo:

- Claramente uma demissão em massa para economizar dinheiro, mas insistir que está "contribuindo com talentos de alta qualidade para a sociedade".

- Obviamente emitindo tokens de airdrop para um rug pull, mas alegando que está "capacitando a economia global através da governança descentralizada".

Todos estes podem ser considerados exemplos de pensamento "Galaxy Brain".

2. Então, o que significa Resistance? Este conceito pode ser facilmente confuso. Usando um ditado popular, pode ser comparado à "capacidade de resistir a ser enganado" ou "a capacidade de resistir a ser ludibriado".

Portanto, Galaxy Brain Resistance deve ser a resistência a [se tornar] Galaxy Brain, isto é, "a capacidade de resistir (evoluir para) Galaxy Brain (absurdos)".

Mais precisamente, é usado para descrever a dificuldade de um certo estilo de pensamento/argumentação ser mal utilizado para "provar qualquer conclusão que você queira".

Portanto, esta "resistência" pode ser direcionada a uma "teoria" específica, por exemplo,

- Teoria de Baixa Resistência: Após um pouco de escrutínio, pode evoluir para a lógica extremamente extravagante do "Galaxy Brain".

- Teoria de Alta Resistência: Não importa o quanto você a examine, ela permanece inalterada, tornando difícil desenvolver uma lógica extravagante.

Por exemplo, Vitalik mencionou que sua lei social ideal deveria ter uma linha vermelha: apenas quando se pode explicar claramente como um determinado comportamento prejudica ou representa um risco para uma vítima específica, ele pode ser proibido. Este padrão exibe um alto nível de resistência ao Galaxy Brain porque não aceita razões vagas como "subjetivamente não gosto disso" ou "é moralmente corrupto" que podem ser infinitamente esticadas ou borradas.

3. No artigo, Vitalik também fornece muitos exemplos, usando até teorias comumente ouvidas como "longtermism" e "inevitabilism" como ilustrações.

É difícil para o "longtermism" resistir à erosão do pensamento Galaxy Brain porque sua resistência é extremamente baixa, semelhante a um "cheque em branco". Isso ocorre porque o "futuro" é muito distante e muito vago.

- Declaração com alta resistência: "Esta árvore crescerá 5 metros a mais em 10 anos". Isso é verificável e não facilmente fabricado.

- Declaração com baixa resistência no "longtermism": "Embora eu esteja prestes a cometer um ato extremamente antiético agora (como eliminar um grupo de pessoas ou iniciar uma guerra), é pelo bem da humanidade que viverá em uma utopia daqui a 500 anos. Através dos meus cálculos, a felicidade futura é infinita, então os sacrifícios agora são negligenciáveis".

Como você pode ver, contanto que você estique a linha do tempo o suficiente, você pode justificar qualquer erro presente. Como Vitalik disse, "Se o seu argumento pode provar que tudo é justificado, então o seu argumento não prova nada".

No entanto, Vitalik também reconhece a importância do longo prazo; o que ele critica é "usar benefícios de longo prazo muito vagos e não verificáveis para obscurecer danos presentes claros".

Outra área crítica é o "inevitabilism".

Esta também é uma técnica de autodefesa favorita no Vale do Silício e na indústria de tecnologia.

A retórica é assim: "A substituição de empregos humanos por IA é uma parte inevitável da história, mesmo que eu não faça isso, outra pessoa fará. Então, meu desenvolvimento radical de IA agora não é por lucro, mas para me alinhar com a tendência histórica".

Onde está a baixa resistência? Isso absolve perfeitamente os indivíduos da responsabilidade. Como é "inevitável", não preciso ser responsável pelo dano que causo.

Este também é um típico Galaxy Brain: transformar os desejos egoístas de "quero ganhar dinheiro / quero deter poder" em "estou realizando uma missão histórica".

4. Então, como devemos lidar com essas "armadilhas das pessoas inteligentes"?

O antídoto dado por Vitalik é surpreendentemente simples, até um pouco "estúpido". Ele acredita que quanto mais inteligente uma pessoa é, mais ela precisa de regras de alta resistência para se restringir e evitar que suas acrobacias intelectuais deem errado.

Primeiro, adira à "ética deontológica", que é um absoluto moral de nível de jardim de infância.

Não se envolva em cálculos matemáticos complexos para o "futuro da humanidade"; em vez disso, retorne aos princípios mais rígidos:

- Não roube

- Não mate pessoas inocentes

- Não cometa fraude

- Respeite a liberdade dos outros

Essas regras são altamente resistentes porque são preto no branco, não negociáveis. Quando você tenta explicar por que desviou fundos de usuários com o grande raciocínio do "longtermism", a regra rígida de "não roube" o confrontará diretamente: roubo é roubo, não fale sobre ser para a grande revolução financeira.

Segundo, mantenha a "posição" correta, incluindo até a localização física.

Como diz o ditado, onde você se senta determina onde você fica. Se você se cerca de pessoas envolvidas no aceleracionismo de IA na câmara de eco da área da Baía de São Francisco todos os dias, é difícil manter a sanidade. Vitalik até fornece uma sugestão de alta resistência em nível físico: não viva na área da Baía de São Francisco.

5. Conclusão

Este artigo de Vitalik é na verdade um aviso para aquelas elites extremamente inteligentes: não pensem que podem contornar os limites morais básicos só porque têm um QI alto.

As teorias "Galaxy Brain" que soam como se pudessem explicar tudo são frequentemente as desculpas universais mais perigosas. Por outro lado, são as regras de "alta resistência", aparentemente rígidas e dogmáticas, que são a última linha de defesa contra a autoilusão.

Link para o artigo original