Viés inconsciente – o que é e como as empresas de tecnologia lidam com ele

Antes de começarmos quero fazer um rápido experimento com vocês, observe a imagem abaixo.

Mulher incomodada
Mulher incomoada

Sua experiência ao olhar a foto combina seu sentido de visão com o que chamamos de pensamento intuitivo. Da mesma maneira que você notou que a blusa dela é verde, você notou também que algo a incomoda.  O que você viu se estendeu ao futuro, é possível que ela esteja prestes a rasgar a gola de sua blusa. Todas estas informações vieram à sua mente automaticamente e sem esforço da sua parte. Todas estas suposições surgiram na sua mente, não foi algo que você fez conscientemente e sim algo que simplesmente aconteceu. O que você acabou de experimentar é um exemplo de pensamento rápido.

Vamos ao segundo experimento, veja o problema abaixo e observe o que acontece com você:

Problema de multiplicação
Problema de multiplicação

Você percebeu imediatamente que este é um problema de multiplicação e sabe que provavelmente consegue resolvê-lo com papel e caneta, ou até mesmo sem. Você tem também uma vaga ideia sobre o resultado, você facilmente identificaria que tanto 12.624 e 99 são valores implausíveis. No entanto, se não parar e gastar um tempo resolvendo o problema você não seria capaz de confirmar que a resposta não é 568. Uma solução precisa não veio a sua mente e você sabia que poderia escolher resolver este problema ou não. Tente então terminá-lo agora.

O que você vivenciou ao resolver a multiplicação é o que chamamos de pensamento lento.  Primeiro você carregou em sua memória o programa de multiplicação que aprendeu na escola, depois o executou. Esta tarefa exigiu esforço da sua parte, você sentiu o peso de ter que manter informações em sua memória enquanto você fazia os cálculos e mantinha os resultados intermediários até chegar ao resultado final. O processo precisou de trabalho mental, intencional e ordenado.

O cálculo não foi apenas um evento na sua mente, seu corpo também participou. Seus músculos tensionaram, sua pressão aumentou, as batidas do seu coração aumentaram e suas pupilas dilataram.

2 sistemas

Estes dois modos de pensar são estudados por psicólogos e uma das maneiras de classificá-los é identificá-los como dois sistemas da mente: sistema 1 e sistema 2. O que vou explicar para vocês foi baseado no livro Rápido e Devagar do Psicólogo ganhador do prêmio Nobel de Economia Daniel Kahneman.

O sistema 1 opera automaticamente e rapidamente, sem esforço e sem a sensação voluntária. O sistema 2 aloca atenção às tarefas mentais que exigem esforço. As operações do sistema 2 estão ligadas à experiências subjetivas de ação, escolha e concentração.

Quando pensamos em nós mesmos, nos identificamos com o sistema 2: o consciente racional que tem crenças, faz escolhas e decide no que pensar e o que fazer. Embora nosso sistema 2 acredite ser o dono das nossas ações, é o nosso sistema 1 que gera impressões e sentimentos que são as principais fontes das crenças e e escolhas do sistema 2.

A interação entre os sistemas

A interação entre eles ocorre da seguinte maneira: o sistema 1 é executado automaticamente e o sistema 2 opera no modo conforto, onde apenas uma fração de sua capacidade é utilizada. O sistema 1 gera contantes sugestões, impressões, intuições e sentimentos. Se estes forem aprovados pelo sistema 2, impressões e intuições se transformam em crenças e impulsos se transformam em ações voluntárias.

No curso normal, o sistema 2 adota as sugestões do sistema 1 com pouca ou nenhuma modificação. Quando o sistema 1 se vê em dificuldade, ele invoca o sistema 2 para resolver o problema momentâneo. O sistema 2 é invocado na ocorrência de um evento que viola o modelo de mundo que o sistema 1 mantém. O sistema 2 também é responsável por monitorar suas ações e detectar quando um erro está prestes a ser cometido, se lembra quando você quase falou aquele palavrão?

A divisão de trabalho entre o sistema 1 e 2 é altamente eficiente, tem o objetivo de minimizar esforço e maximizar performance. A verdade é que na maioria das vezes este arranjo funciona muito bem, o sistema 1 é geralmente bom no que faz, consegue identificar situações familiares com precisão, suas previsões de curto prazo também são geralmente precisas e suas reações iniciais a obstáculos são rápidas e normalmente apropriadas.

No entanto, o sistema 1 tem vieses: erros sistemáticos que comete em situações específicas. Além disto não é possível desligá-lo, por tanto os erros cometidos pelo sistema 1 acontecem naturalmente, sem nossa percepção.

Conforto

Nosso sistema 1 está constantemente monitorando nossas ações para identificar se é necessário invocar o sistema 2 para resolver algum problema complexo, ou para focar em uma atividade (seja por identificação de perigo ou por não conseguir respostas imediatas).

Neste modo de funcionamento há conforto com a situação ou assunto e portanto não se faz necessário invocar o sistema 2. Quando você está em um estado de conforto, você provavelmente está de bom humor, gosta do que vê, acredita no que ouve, confia em sua intuição e sente que a situação é familiar. Neste estado é possível que você mantenha seus pensamentos superficiais.

O problema é que é possível estimular esta sensação de conforto, criando uma ilusão em nosso cérebro. Esta sensação pode ser estimulada:

como estimular a sensação de conforto
Como estimular a sensação de conformo

Você já se deparou com um nome de alguém e sabia que ele era familiar mas não sabia como? E quando foi ao supermercado e teve que escolher entre algumas marcas, você escolheu a que parecia mais familiar? Esta é a sensação de conforto que nosso sistema 1 nos provê e que é facilmente estimulada com repetições. Não são só os psicólogos que sabem desta falha, os marketeiros também a conhecem.

Julgamentos Automáticos

O constante monitoramento do sistema 1 é essencial para a sobrevivência, perguntas como: está tudo bem? está tudo normal? devo me aproximar ou me afastar?

A habilidade de diferenciar entre uma pessoa amigável ou um potencial inimigo é uma questão de sobrevivência. Basta apenas um olhar para conseguir julgar dois fatos cruciais sobre a pessoa: o quão dominante (ou seja, potencialmente ameaçador) e quão confiável (ou seja, se suas intenções parecem ser amigáveis ou hostis). Esta avaliação é feita baseada em características e expressões faciais. O formato do queixo quadrado e grande é um indicativo de dominância e uma carranca é um indicativo das intenções.

Racionalmente sabemos que estas “pistas” não são necessariamente preditivas, um sorriso pode ser facilmente forjado. O que ocorre é que nosso sistema 2 é preguiçoso e raramente contesta as impressões do nosso sistema 1.

Respondendo uma pergunta mais fácil

Raramente o sistema 1 invoca o sistema 2 para responder perguntas complexas por que quando se depara com uma pergunta que ele não consegue responder rapidamente, seu sistema 1 encontra outra pergunta relacionada que é mais fácil de responder e a responde. A esta operação damos o nome de substituição, é a maneira heurística de responder perguntas.

Considere as seguintes perguntas:

  • Qual é o sentido da felicidade?
  • Quais são os prováveis cenários políticos daqui a 6 meses?
  • Qual a pena a ser a aplicada para crimes financeiros?
  • Quão forte é o rival do candidato?

São perguntas complexas que requerem análise profunda sobre itens questões difíceis. Lidar com estas perguntas seriamente é impraticável. Mas você não está limitado a respostas perfeitamente racionais. Há uma alternativa heurística que algumas vezes funciona bem e algumas vezes nos leva à sérios erros.

PerguntaPergunta heurística
Quanto dinheiro você doaria para salvar uma espécie em extinsão?Quanta dor eu sinto quando penso em um golfinho morrendo?
Quão feliz você está com sua vida hoje em dia?Qual é meu humor atual?
Qual será a popularidade do presidente em 6 meses?Qual é a popularidade do presidente agora?
Este candidato está entrando na política agora, quão longe ele chegará?Este candidato parece um ganhador?
Perguntas reais vs perguntas respondidas

O seu sistema 2 pode rejeitar ou adicionar informações às respostas da pergunta heurística, mas raramente este é o caso, já que o sistema 2 trabalha no modo de mínimo esforço. Portanto você acaba respondendo a pergunta heurística e nem se dá conta que isto aconteceu pois a resposta veio à sua mente de forma automática com ajuda do seu sistema 1.

Efeito Auréola

Nossa eterna disposição de tentar dar sentido ao mundo à nossa volta gera narrativas incorretas. Estamos constantemente montando histórias frágeis sobre o passado e acreditando que elas são verdadeiras. Boas histórias nos dão um um relato simples e coerente das ações e intenções de outras pessoas.

O efeito auréola faz com que nós igualemos nossa visão de todos os atributos de uma pessoa a um atributo que é predominante. A representação do mundo que o sistema 1 cria é mais simples e coerente do que a realidade.

Imagine que você conheceu a Joana em uma festa que te agrada, ela é bem-apessoada e tem uma ótima conversa. Algumas semanas depois o nome dela é mencionado como alguém que poderia contribuir para caridade. O que você sabe sobre a generosidade de Joana? A resposta é que você não sabe nada, pois não há razões para achar que pessoas que são agradáveis socialmente também fazem contribuições de caridade.

Mas você gosta da Joana, e o sentimento positivo vem à tona quando pensa em Joana. Você também gosta de pessoas generosas, e por associação você agora está predisposto a acreditar que Joana é generosa. E agora que você acredita que ela é generosa, você provavelmente gosta ainda mais dela do que antes. Não há evidências de que Joana é generosa nesta história, mas esta lacuna é preenchida por uma suposição que se alinha com a emoção que Joana evoca.

Em várias situações similares, as evidências vão se acumulando gradualmente e a interpretação é formada pela primeira impressão causada. Agora entendemos o por que da frase “a primeira impressão é a que fica”. Este é o mecanismo mental que enviesa nossos sentimentos para com outras pessoas.  

O que você vê é tudo o que existe

Uma característica da máquina associativa é que ela representa apenas idéias ativas. O sistema 1 é notável por conseguir construir a melhor história possível que incorpora ideias ativas mas não admite informações que ele não possui. Sua medida de sucesso é a coerência da história criada, a quantidade e qualidade das informações nas quais a história foram baseadas são irrelevantes.

Considere a seguinte informação:

Pedro será um bom líder? Ele é inteligente e forte.

Uma resposta veio a sua mente: sim. Você escolheu a melhor resposta baseado na informações restritas que possuía. Mas você se precipitou. E se os próximos adjetivos relacionados a Pedro fossem corrupto e frio?

Note as perguntas que você não se perguntou: o que preciso saber para conseguir avaliar a qualidade de um líder? O sistema 1 passou a funcionar assim que recebeu o primeiro adjetivo: inteligente é bom, inteligente e forte é melhor. Esta é a melhor história que se pode construir a partir de dois adjetivos e o seu sistema 1 o gerou com rapidez e conforto.

A combinação de um sistema 1 que busca coerência e um sistema 2 preguiçoso implica que o sistema 2 vai endossar muitas crenças intuitivas geradas pelo sistema 1. Tudo o que você vê é tudo que existe. Não somos capazes de perceber que não temos informações suficientes para formar uma opinião conclusiva.

Viés

Agora somos capazes de entender por que temos vieses e por que muitos deles são inconscientes. Eles são um produto do sistema 1 e são baseados em experiências anteriores, em narrativas fracas porém coerentes. A importância de entender isto é justamente  conseguir identificar quando nosso cérebro está nos “pregando peças”.

Não se sinta mal ao fazer um julgamento imediato de alguém que acabou de conhecer, é impossível controlar este impulso, ele acontece automaticamente na nossa mente. Mas esteja alerta para invocar seu sistema 2 e rejeitar esta primeira impressão como verdade absoluta.

Veja a importância de entender este mecanismo do nosso cérebro para poder nos proteger de julgamentos errôneos. O viés está presente no nosso dia a dia e afeta muito nossas interações, para evoluirmos como seres humanos é imprescindível o entendimento do funcionamento da nossa mente para podermos ter relacionamentos mais profundos, empáticos e duradouros com todos.

Como o viés inconsciente afetou a minha carreira

No post como é ser a única mulher do time? eu conto um pouco sobre minha carreira na área de tecnologia. E como e por que trabalhei para a TIM.

Na TIM encontrei um ambiente totalmente oposto ao que estava acostumada, as coisas aconteciam devagar, tudo precisava de permissão de alguém para fazer. Era bastante moroso. Mas tive oportunidade de trabalhar com duas mulheres na mesma equipe, elas eram da TIM e nós éramos fornecedores. O relacionamento entre a empresa que eu trabalhava e a TIM era muito ruim, os funcionários da TIM nos viam como inimigos, contratados para fazer um trabalho abaixo da média. Os primeiros meses foram difíceis, essas duas mulheres comandavam a equipe que eu fazia parte e eram muito grosseiras no trato com qualquer um da minha empresa. Faziam piadinhas, falavam sarcasticamente e eram abertamente agressivas.

Demorou alguns meses para eu reverter esta situação, e as pessoas da TIM me verem como parceiras, mas a má impressão que elas causaram em mim prevaleceu. Infelizmente esta foi a primeira experiência que tive trabalhando com mulheres na minha área, e de certa forma me causou um sentimento interior de que talvez fosse melhor trabalhar apenas com homens pois com eles nunca tinha passado “perrengue”.

Este sentimento prevaleceu por muito tempo inconsciente em mim. E só depois que eu tive oportunidade de trabalhar com mais mulheres é que esta carga foi levantada. Por muito tempo me senti mal por isto, de certa forma isto afetou minha carreira pois eu não buscava ativamente trabalhar com mulheres, isso ocorreu apenas nos últimos anos, quando eu já estava mais madura.

Bom, nada como o conhecimento para nos tornarmos melhores, não é mesmo? Como comentei este conteúdo está presente no livro Rápido e Devagar que é extremamente denso, e muito mais completo do que apresentei aqui. Há mais maneiras que nosso cérebro “erra”, foquei aqui apenas nos temas mais relevantes em relação à viés. Vale a pena a leitura!

Como as empresas de tecnologia minimizam o efeito do viés na contratação para garantir a diversidade de gênero

O conceito de viés é conhecido por todos e atrapalha nossa vida diariamente. Para uma empresa que quer contratar talentos e quer garantir sua diversidade, é preciso de armas para combatê-lo.

E como podemos fazer isto? A empresa onde trabalho temos o seguinte fluxo de contratação que visa diminuir este problema ao máximo:

O candidato passa por várias entrevistas. Para cada entrevista há sempre 2 entrevistadores. Eles são engenheiros de várias stacks (mobile, web, backend) e há também gerentes que participam das entrevistas finais. Os entrevistadores fazem anotações sobre a performance do candidato durante a entrevista e depois enviam seu feedback. Importante: os dois entrevistadores não conversam sobre a entrevista antes de enviar seu feedback, assim evita-se a contaminação e influência de um entrevistador sobre o outro.

São um total de 4 a 5 entrevistas e todo o feedback é enviado a uma plataforma, isto quer dizer que cada candidato possui de 8 a 10 avaliações diferentes. Há um comitê de contratação que são compostos por pessoas que não fazem parte do grupo de entrevistadores. Eles leem o feedback de todos os entrevistadores e tomam uma decisão sobre a contratação.

Este procedimento não é perfeito mas evita muitas falhas. O viés de um entrevistador não afetará o resultado do candidato, já que haverão mais 7 outras avaliações de outras pessoas. E a tendência é que o grupo de entrevistadores seja bastante diverso também.

Como eu fui afetada pelo efeito auréola

Eu faço parte do grupo de entrevistadores da minha empresa e digo que já passei por uma situação onde eu claramente identifiquei o efeito auréola. O que ocorre é que este processo é relativamente novo na empresa e alguns meses atrás o grupo de entrevistadores não era tão grande. Então vez ou outra eu acabava entrevistando a mesma pessoa duas vezes.

O que ocorreu foi que um candidato foi MUITO bem na entrevista de algoritmos mas não foi tão bem na entrevista de arquitetura de sistemas. Eu imediatamente notei que estava com certa dificuldade de avaliar a segunda entrevista com uma nota ruim já que a primeira tinha sido tão impressionante.

O efeito auréola me fez acreditar que se o candidato era bom em algoritmos ele deveria ser bom também em arquitetura. Felizmente eu já havia lido o livro do Daniel Kahneman e consegui identificar este efeito. Eu imediatamente reportei este problema ao RH e combinamos de evitar esta situação ao máximo, não colocando o mesmo entrevistador para avaliar o candidato mais de uma vez.

E então o que achou deste processo? Comente abaixo se você já participou de um processo assim. Eu sei que o Google e a Amazon fazem processos similares.

Segue aqui o link dos livros na versão inglês e português:

Rápido e Devagar

Thinking Fast and Slow