Publicado no Instituto Humanitas Unisinos- IHU

A dimensão transcendental dos algoritmos é que seu alcance ultrapassa os meios e os espaços de interação. Elas têm implicações concretas na vida humana e social. “Nessas interações, os algoritmos têm condições de influenciar, manipular o comportamento das pessoas. Por exemplo: ao exibir notícias e posts, podem alterar o comportamento das pessoas sobre política, preconceitos etc.”, pondera Virgilio Almeida, em entrevista por e-mail ao Instituto Humanitas Unisinos- IHU. “É fundamental que pesquisadores de ciências humanas e sociais entendam como esses algoritmos/plataformas influenciam ou modificam o comportamento das pessoas”, complementa.
O professor alerta que o uso político de algoritmos é um mecanismo de poder, sobretudo quando utilizado para espalhar desinformação. Porém, tal dimensão não se restringe a isso. “Nos EUA, vários tribunais usam algoritmos em funções como dosimetria da sentença ou na concessão ou não de liberdade condicional. Estudos conduzidos por pesquisadores e organizações não governamentais mostraram que algoritmos têm vieses que calculam o risco de reincidência maior para negros”, destaca.

Todos esses usos nos levam a encruzilhadas éticas muito profundas. “Imagine um algoritmo usado para automatizar diagnósticos de saúde. Embora não sabendo como explicar a recomendação do algoritmo, deve o profissional de saúde seguir a decisão deste?”, questiona.
 

Confira a entrevista.

Qual a origem dos algoritmos e como revolucionam a engenharia da computação?

A noção de algoritmo é um conceito fundamental da ciência da computação. Ele pode ser descrito como uma sequência finita de instruções ou etapas bem definidas para resolver um determinado problema, tarefa ou cálculo. O termo algoritmo deriva do nome do matemático persa do século IX Muhammad Ibn Musa al'-Khwarizmi, que produziu um procedimento formal bem definido para derivar regras de cálculo.

Como podemos compreender os algoritmos desde a perspectiva de que são mais do que fruto da engenharia de computação?

A definição acima mostra que os algoritmos são sequências de instruções para resolver um determinado problema. Na computação, os algoritmos são a essência do software, que os computadores executam para solução de problemas.

Os algoritmos de aprendizado de máquina impulsionam softwares modernos incorporados em assistentes pessoais virtuais, carros autônomos, mecanismos de recomendação, ferramentas de reconhecimento de imagem e voz e serviços de tradução de idiomas

 Podemos afirmar que os algoritmos se constituem como atores que exibem padrões de comportamento particulares na interação com humanos?

Nos últimos anos, ocorreu um progresso notável no design de algoritmos. O desenvolvimento de algoritmos avançados está associado à evolução da capacidade de computação e à proliferação de big data. Em vez de especificar regras e rotas passo a passo que os algoritmos tradicionais seguem, os algoritmos de aprendizado de máquina são softwares que aprendem a partir de exemplos, dados e experiência. Eles fazem parte de uma família de métodos de inteligência artificial (IA) que incluem aprendizado profundo e aprendizado por reforço. Os algoritmos de aprendizado de máquina impulsionam softwares modernos incorporados em assistentes pessoais virtuais, carros autônomos, mecanismos de recomendação, ferramentas de reconhecimento de imagem e voz e serviços de tradução de idiomas.

Por exemplo, nas plataformas de redes sociais, os “posts’’ que você vê são escolhidos por um algoritmo que aprende o que “você gosta” baseado nos “likes’’ que você dá, no que seus amigos/as veem e postam; enfim, o algoritmo aprende tudo isso com o objetivo de manter você mais tempo na plataforma, ou seja, faz isso para aumentar seu engajamento.

Nessas interações, os algoritmos têm condições de influenciar, manipular o comportamento das pessoas. Por exemplo: ao exibir notícias e posts, podem alterar o comportamento das pessoas sobre política, preconceitos etc

Quais os riscos que corremos ao, desde as ciências sociais e humanas, ignorar os algoritmos como objeto de estudo?

Os riscos vêm da constatação que cada dia mais a sociedade (as pessoas) interagem com os algoritmos várias vezes por dia. Seja no Facebook, Twitter, YouTube, Instagram, TikTok, Uber, e com os aplicativos de mensagem (WhatsApp). Nessas interações, os algoritmos têm condições de influenciar, manipular o comportamento das pessoas. Por exemplo: ao exibir notícias e posts, podem alterar o comportamento das pessoas sobre política, preconceitos etc.

É fundamental que pesquisadores de ciências humanas e sociais entendam como esses algoritmos/plataformas influenciam ou modificam o comportamento das pessoas. Além disso, algoritmos podem ter comportamentos racistas. Por exemplo, os algoritmos usados para reconhecimento facial são mais precisos com imagens de homens brancos e apresentam mais erros na identificação de pessoas negras e mulheres.

É fundamental que pesquisadores de ciências humanas e sociais entendam como esses algoritmos/plataformas influenciam ou modificam o comportamento das pessoas 

Na sua opinião, que olhares a Sociologia, Antropologia e a História podem lançar sobre os algoritmos?

A Sociologia tem muito a contribuir ao estudar como os algoritmos alteram o comportamento das pessoas. Os algoritmos também representam “poder’’ quando são usados para disseminar notícias falsas que influenciam processos políticos.

Os governos, quando autoritários, fazem uso dos algoritmos para monitorar grupos de oposição ou grupos vulneráveis; isso através dos algoritmos de reconhecimento facial, dos algoritmos que analisam comportamento de pessoas nas redes, o que elas leem, o que elas postam etc.

Outro exemplo: nos EUA, vários tribunais usam algoritmos em funções como dosimetria da sentença ou na concessão ou não de liberdade condicional. Estudos conduzidos por pesquisadores e organizações não governamentais mostraram que algoritmos têm vieses que calculam o risco de reincidência maior para negros.

Os algoritmos também representam “poder’’ quando são usados para disseminar notícias falsas que influenciam processos políticos 

Quais os desafios para se caracterizar o comportamento humano nas relações com não-humanos tanto no plano individual quanto coletivo?

Essa é uma relação nova, humanos interagindo com não-humanos onde existem os algoritmos que podem influenciar os humanos (como mostrado nos exemplos acima) e estes podem também influenciar o comportamento dos algoritmos. Podem influenciar os algoritmos através de modificações no código dos softwares que os implementam, e podem influenciar através dos datasets (arquivos) usados para treiná-los.

Nos EUA, vários tribunais usam algoritmos em funções como dosimetria da sentença ou na concessão ou não de liberdade condicional. Estudos conduzidos por pesquisadores e organizações não governamentais mostraram que algoritmos têm vieses que calculam o risco de reincidência maior para negros 

Que dilemas éticos estão em jogo quando nos colocamos diante desses robôs que invadem nosso cotidiano, desde a mais simples interação com dispositivos como Siri e Alexa até carros autônomos, robôs que atuam em cirurgias e dispositivos que controlam o sono ou atividade física?

São muitos os dilemas éticos. Por exemplo, deve um assistente pessoal inteligente (algoritmos) como Alexa identificar o estado emocional de uma pessoa e fazer sugestões?

Imagine um algoritmo usado para automatizar diagnósticos de saúde. Embora não sabendo como explicar a recomendação do algoritmo, deve o profissional de saúde seguir a decisão deste? Os algoritmos trabalham com dados das pessoas, mas são apenas fragmentos da vida delas. Deve então o algoritmo tomar uma decisão que afeta a vida de pessoas? Por exemplo, definir se a pessoa é apta ou não para um emprego para o qual ela se candidata? Devem a Siri e Alexa inferir sobre a personalidade de uma pessoa a partir de trechos de conversas desta com o dispositivo? Deve um algoritmo inferir sobre a orientação sexual de uma pessoa e passar a apresentar notícias e propagandas para uma certa orientação?

Como cada vez mais vivemos num mundo onde serviços (públicos e privados) são decididos por algoritmos, é necessário que a sociedade e o governo criem mecanismos para certificar que as decisões são justas 

Podemos afirmar que vivemos em tempos de governança de algoritmos? Nesse cenário, qual o papel das instituições nesse mundo de “governança algorítmica”?

Como cada vez mais vivemos num mundo onde serviços (públicos e privados) são decididos por algoritmos (ex: concessão de crédito ou concessão de um auxílio emergencial), é necessário que a sociedade e o governo criem mecanismos para certificar que as decisões são justas, transparentes e que há pessoas que serão responsabilizadas caso algum erro ou problema ocorra. Se um carro autônomo (driverless) se envolve num acidente, quem deve ser responsabilizado? Se um algoritmo que autoriza tratamentos médicos decide negar um certo tratamento a uma pessoa, quais as explicações devem ser apresentadas ao paciente? Como recorrer de uma decisão algorítmica?

Para gerenciar os processos de tomada de decisão pelos algoritmos é necessário regras, normas e legislação. É isso que a governança dos algoritmos deve fazer. A sua pergunta, no entanto, é sobre governança algorítmica, que é diferente do que falei acima. Por exemplo, YouTube, Uber e Facebook são plataformas gerenciadas, governadas por algoritmos, que decidem o que vamos ver, o que vai nos recomendar, qual o custo de uma viagem no aplicativo.

Para gerenciar os processos de tomada de decisão pelos algoritmos é necessário regras, normas e legislação. É isso que a governança dos algoritmos deve fazer 

No que consiste o ecossistema de governança de conteúdo digital? Em que medida as ciências sociais são capazes de iluminar a compreensão desses ecossistemas?

A governança dos algoritmos e pelos algoritmos envolve aspectos de poder, aspectos institucionais, aspectos de justiça; e a participação de cientistas políticos e sociais é essencial para estudar essas formas de governança.

A governança dos algoritmos e pelos algoritmos envolve aspectos de poder, aspectos institucionais, aspectos de justiça; e a participação de cientistas políticos e sociais é essencial para estudar essas formas de governança

Nas últimas semanas, muitas cidades brasileiras começaram a receber a tecnologia 5G. Quais os impactos sociais desse novo modo de conexão à Internet?

Não tenho acompanhado essa questão de 5G, pois trata-se da velocidade/capacidade das redes de comunicação, que aumenta tremendamente. Uma possível consequência é que essas redes aumentarão ainda mais a interações das pessoas com os algoritmos.

Enquanto falamos em cidades inteligentes e hiperconectadas, vivemos uma verdadeira catástrofe ambiental. Quais os desafios para equalizar o desenvolvimento tecnológico e o desaceleramento do aquecimento global?

O avanço das tecnologias digitais nas cidades fica visível no aumento das câmeras de vigilância, do controle do transporte por aplicativos, no controle da distribuidora de energia, no policiamento etc.

Os algoritmos são essenciais para se otimizar o uso de recursos numa cidade e serão cada vez mais utilizados para minimizar o desperdício, a emissão de gases de efeitos estufa etc. Além disso, as plataformas digitais, operadas por algoritmos, como zoom, meet e outras contribuem tremendamente para reduzir viagens, circulação de veículos e pessoas através do trabalho remoto. Por isso elas têm papel importante nas questões ambientais. Os serviços 5G irão tornar esses serviços de plataforma ainda mais atraentes para educação, saúde e entretenimento.

Os algoritmos são essenciais para se otimizar o uso de recursos numa cidade e serão cada vez mais utilizados para minimizar o desperdício, a emissão de gases de efeitos estufa 

Como o senhor analisa a chamada geração de “nativos digitais”? Que humanidade e que tipos de sociabilidades podemos estar gerando a partir da revolução tecnológica do século XXI?

Pois é, para os nativos digitais as interações on-line são naturais e facilmente usadas. As linguagens de uso dos ambientes digitais fazem parte dessa geração. Valores como privacidade são vistos de maneira diferente quando comparados a gerações mais analógicas (digamos assim em contraposição ao digital). Além disso, o trabalho remoto fica cada vez mais natural. Os nativos digitais são ligados aos seus grupos através de ambientes de rede, os mais novos usam mais TikTok, Snapchat e Instagram, via celulares. Atualmente vários alunos do DCC/UFMG que se formam trabalham para empresas avançadas nos EUA, Europa e Austrália sem sair de Belo Horizonte.
Já para as gerações acima dos 50 anos, é claro que é muito mais difícil e custoso adaptar as relações no mundo digital, sejam profissionais ou pessoais. Em termos de redes, esses acima de 50 usam mais o Facebook, e os desktops e notebooks são a forma mais usual de acessar redes. O YouTube é uma plataforma comum aos dois grupos.

Virgilio Augusto Fernandes Almeida é professor emérito do Departamento de Ciência da Computação da UFMG e pesquisador 1A do CNPq. Membro da Academia Brasileira de Ciências - ABC e da Academia Mundial de Ciência - 0 TWAS, é também professor associado ao Berkman Klein Center, na Universidade de Harvard. Seus interesses em pesquisa são voltados para o impacto social dos algoritmos, como também a área de governança e políticas públicas para as tecnologias digitais.