Algoritmos, Viés de Confirmação e Preconceito: O DNA Humano no Digital - José Borbolla Neto

Você já ouviu a frase “…algoritmo do YouTube…”. No video abaixo o José Borbolla Neto aborda uma questão, entre outras, que muitas vezes não reparamos no nosso dia a dia. Quem idealiza, estrutura e/ou escreve os algoritmos que nos cercam? Onde nasceu, onde estudou, quem são seus amigos, quais livros leu etc. Ou seja, qual é a visão de mundo de quem faz os algoritmos que nos influenciam cada vez mais e até são responsáveis, em parte, por essa polarização que nos cerca cada vez mais porque nos empurram cada vez mais fundo numa “bolha” de opiniões e ideias parecidas que apenas confirmam o que nós supostamente achamos “certo” ou “melhor”. Apesar do vídeo já ser “velho” nos tempos atuais (tem 2 anos) é um daqueles vídeos que se mantém atual.

1 curtida

Sensacional. Um detalhe muito interessante que ele levantou, é como não estamos conseguindo acompanhar a velocidade dessa evolução exponencial. Fisicamente falando, nós, homo-sapiens modernos, muito pouco evoluímos nas últimas dezenas de milhares de anos, nossos cérebros permanecem quase os mesmos, nossa estrutura óssea não se difere tanto daquela adaptada para caçar e coletar, porém nossa revolução cognitiva foi tão bem sucedida que nos proporcionou um desenvolvimento social sem igual. Essa nossa supersocialização por sua vez nos permitiu juntar diferentes ideias, de diferentes pessoas, de diferentes lugares e diferentes épocas e por fim estamos em um estágio tão avançado de desenvolvimento que nossa estrutura arcaica não está sabendo lidar, principalmente no aspecto mental. Não estamos dando conta de processar o acúmulo de responsabilidades, informações e emoções em um mundo tão acelerado e dinâmico e aos poucos doenças mentais estão se tornando cada vez mais comuns.

O mais importante ao meu ver é fazer isso que o Professor Jose está praticando, procurar observar e entender esses colaterais para que a tecnologia possa ser totalmente dominada ao nosso favor.

1 curtida

Gostaria de fechar com um dos inúmeros dilemas éticos que a tecnologia nos trará:

Se um carro autônomo se vir numa situação onde terá de desviar para não atropelar uma família na rua, porém ao mesmo tempo a única manobra evasiva possível resultaria na queda do carro em um precipício. Qual deveria ser a melhor escolha do carro? Proteger a família inteira ou o único passageiro?

Com muita clareza podemos dizer que seria a opção 2, afinal várias vidas seriam salvas, porém fica o questionamento: as pessoas comprariam um carro programado para de tirar suas vidas se necessário?

1 curtida

Eu não estudei programação, portanto é uma opinião de leigo, mas pelo pouco que li a respeito eu entendi que uma das primeiras lições ensinadas neste ramo se chama lógica. Sem essa ferramenta em mãos a chance de alguém fracassar neste ramo parece muito grande. Entre outras questões a lógica serve para que a execução de um programa aconteça de forma organizada/estruturada. Ou seja, você não começa executando um programa de trás para frente ou do meio para o fim ou para o começo. Se um sistema ao ser ligado começa executando determinado comando essa linha do programa é o começo, esteja certo ou errado. Sistemicamente falando tudo deve ter começo, meio e fim. Se a coisa não estiver funcionando desta forma os riscos decorrentes desta “liberdade de execução” podem ser: travamentos, loops, “sair fumaça” etc.
Me parece que existe uma questão essencialmente objetiva neste dilema. Uma máquina é apenas uma máquina. Máquinas não sentem remorso, não ficam alegres ou tristes, não sentem dor ou prazer etc. Elas executam comandos em sequência (a tal da lógica) com algum objetivo específico. Os programas deverão ser executados de acordo com a forma como foram programados/estruturados. Ou seja, a máquina vai “ler” o comando escrito para esse tipo de informação que está chegando (sensor avisando que tem algo vivo na frente). Quem se preocupa e avalia este tipo de dilema são os seres humanos, me parece que máquinas não perderão tempo (no bom sentido) com dilemas deste tipo. O ser humano que escreveu essa parte da codificação é quem escolherá uma ou outra opção (cumprirá ordens do fabricante). No fundo a escolha já terá sido feita por um ser humano, não será máquina “pensando” o que fazer diante deste dilema. A outra “opção” caso ela não execute o comando previsto pode ser algum tipo de “travamento” caso não esteja devidamente programada para responder a este tipo de situação.
Neste momento voltamos ao ponto inicial da postagem/debate, a decisão entre atropelar e ferir/matar algo vivo (pessoas ou animais caso ela não consiga distinguir) e ferir/matar o seu “dono” que comprou o carro vai depender de quem construiu o algoritmo (possivelmente cumprindo ordens do fabricante). A decisão entre salvar o condutor e ferir/matar outros seres vivos ou o contrário já terá sido tomada pelo fabricante. E, salvo engano, a chance da maioria dos fabricantes escolherem a opção de salvar a vida de quem está usando seu produto em detrimento da vida de quem teoricamente não está usando seu produto terá mais peso. Nesse caso não importa se é um carro, helicóptero, avião, lancha ou qualquer outra coisa que possa ferir/matar. Quem comprará algo que traz embutido na sua codificação a opção de ferir/matar quem pagou para ter o equipamento em troca de ferir/matar quem não está usando o equipamento (raciocínio baseado no que foi proposto – poderia ser uma questão mais difícil como escolher entre dois carros da mesma marca seguindo em direções opostas tendo que escolher entre uma batida de frente, um precipício de cada lado e a vida de alguns seres vivos no meio da estrada).
A realidade e a forma como alguns poucos tomam decisões que influenciam as vidas de milhares e milhões de outros indivíduos ainda é nua e cruamente feita por seres humanos, gostemos, aceitemos ou não.

1 curtida