O que a IA e a Cloroquina têm em comum?

*

O leitor já compreendeu o impacto astronômico da inteligência artificial (IA) nos negócios e nos governos, tanto que as grandes economias se sentiram impelidas a estabelecer planejamentos estratégicos para a tecnologia. O que nem todo mundo ainda compreende são os riscos reais que a tecnologia oferece.

Um apanhado histórico da inteligência artificial nos conduz a uma montanha-russa de promessas exageradas e decepções gigantescas. Um de seus marcos é o surgimento das redes neurais artificiais (RNAs) em 1958, quando Frank Rosenblat inventa o “Perceptron”. No entanto, foi só nos anos 2010 que tais redes se tornaram a principal força motriz da área. Graças a uma união favorável de fatores catalisadores, como a explosão da disponibilidade de dados e a possibilidade de utilizar hardware especializado em multiplicação de matrizes, as RNAs provocaram uma revolução espantosa, surpreendendo o mundo com sua capacidade de lidar com tarefas complexas. A área foi rebatizada para “Deep Learning”, alusão ao número cada vez maior de camadas de neurônios nas arquiteturas das redes, agora mais profundas.

Com “Deep Learning” invadindo nossas vidas cotidianas, não foram poucos os futurólogos que surgiram com as velhas profecias de sempre: a singularidade e a revolta das máquinas, com direito a Schwarzenegger em seu figurino de Exterminador do Futuro. Mas não nos enganemos. A probabilidade de uma RNA atual vir a ganhar consciência é tão pequena quanto o tamanho de um neurônio biológico.

A grande ameaça da IA, pasme, é reproduzir exageradamente bem o comportamento humano. Aliás, reproduzir aquilo que de pior temos: os preconceitos. É preciso ficar claro que as RNAs são máquinas de correlação, e não de causa e efeito. Mais do que isso, num país onde o presidente da República não entende que “correlação não implica necessariamente em causa”, precisamos ser didáticos e instruir o público que podem existir diversas correlações nos dados, mas que ciência boa é aquela que olha com desconfiança para afirmações categóricas a respeito de causalidade. Caso contrário, seríamos obrigados a admitir que os gastos do governo americano em ciência são os responsáveis pelo número de suicídios por estrangulamento e enforcamento nos EUA.

O maior exemplo de como boa parcela da população não entende a diferença entre correlação e causalidade são os arroubos pseudocientíficos na CPI da Covid em defesa do uso da cloroquina para combater o vírus. É certo que os principais responsáveis pela tragédia sanitária que vivemos agiram por ignorância: desconhecem a diferença entre correlação e causa, e não compreendem as especificidades e nuances do método científico.

Ao mesmo risco estamos submetidos quando confiamos cegamente nas RNAs. Se treinarmos tais métodos para que descubram padrões sobre dados díspares, os modelos gerados irão reproduzir as disparidades. Caso clássico de injustiça protagonizada pela IA é o da ferramenta COMPAS (Correctional Offender Management Profiling for Alternative Sanctions), que auxiliava cortes americanas a estimar a probabilidade de reincidência criminal por parte dos réus. Alguém se surpreenderia ao descobrir que o algoritmo apontava indivíduos negros como mais prováveis de reincidir?

A área de “Fairness in Machine Learning” vem ganhando força na academia, servindo de alerta a todos que da IA usufruem: não basta que os modelos aprendam bem os padrões existentes nos dados — eles precisam ser impedidos de propagar preconceitos. O esforço de justiça em IA está apenas começando, com muitas possibilidades para se combater os vieses prejudiciais. Podem-se desenvolver modelos que deliberadamente combatam fatores de confusão previamente anotados. Pode-se trabalhar no desenvolvimento de bases de dados sintéticas que sejam ajustadas para descontar tais fatores. O que não se pode é fingir que preconceitos não existem. Ou que não é um problema de todos nós se as máquinas os reproduzirem.

Em tempos de governos de extrema direita, que exalam e promovem preconceitos, é notório que a principal luta dentro da IA seja a mesma que travamos no dia a dia: a batalha contra injustiças e preconceitos.

*

Rodrigo C. Barros é cientista da computação com doutorado em inteligência artificial pela USP. É pesquisador em IA na PUCRS e diretor de Pesquisas da Teia Labs.

Inscreva-se na newsletter do Serrapilheira para acompanhar mais novidades do instituto e do blog Ciência Fundamental. 

Um novo estudo usou ferramentas da IA para revisitar teorias já consolidadas

*

Em trabalho publicado na revista “Nature”, no apagar das luzes de 2020, cientistas combinaram inteligência artificial e registro de fósseis para contribuir para uma das teorias mais aceitas da ciência: a evolução das espécies.

O surgimento da vida visível na Terra, há cerca de 540 milhões de anos, favoreceu a preservação fóssil de diferentes espécies. Foi o estudo desse registro que permitiu a identificação de cinco grandes extinções, bem como de inúmeros períodos de evolução acelerada das espécies. Curiosamente, a aceleração da evolução parecia decorrer de eventos de extinção em massa e da desimpedida evolução das espécies sobreviventes.

Até o ano passado, o link entre extinção e evolução estava sujeito a críticas baseadas, em parte, no caráter espacial e temporalmente irregular dos registros mais antigos de fósseis. Os resultados do novo estudo sugerem que, de fato, não há relação temporal entre a diversificação da vida e eventos catastróficos anteriores. Mais do que isso: em alguns casos, os períodos de diversificação acelerada da vida parecem, paradoxalmente, ter consequências similares às extinções em massa.

As ferramentas de inteligência artificial empregadas no estudo permitiram decifrar os padrões escondidos em uma base de dados paleontológicos que reúne pouco mais de 1,2 milhão de registros, referentes a mais de 170 mil espécies. Foi possível visualizar pela primeira vez nos últimos 540 milhões de anos os períodos de explosão da vida, de extinção em massa e de intenso surgimento de novas espécies desencadeado por crises biológicas.

Traduzidos em diagramas, os resultados do novo estudo permitem identificar não apenas as cinco maiores extinções em massa, mas também outros sete eventos de extinção de menor magnitude e quinze eventos de altíssimas taxas de surgimento de novas espécies. Além desses, dois eventos em que extinção e diversificação de espécies caminharam juntas são mostrados pela primeira vez com clareza.

Os padrões revelam um equilíbrio entre períodos de extinção em massa e de diversificação incrementada de espécies, com um contínuo de eventos separando esses dois extremos. Surpreendentemente, os resultados do trabalho indicam que os eventos de evolução acelerada da vida (aqueles com taxas incrementadas de mudanças adaptativas ou surgimento de novas espécies) não apresentam associação temporal com a maioria das extinções em massa que os precederam.

Muito pelo contrário, os padrões identificados indicam que a evolução acelerada pode ter efeitos destrutivos similares aos das grandes extinções em massa. Ao contrário do que se observa na dobradinha evolução/extinção, o papel da diversificação da vida na destruição de espécies seria promover maior competição, acarretando o desaparecimento de espécies menos adaptadas.

O quão disruptivo de fato será o novo estudo ainda descobriremos, pois essas conclusões com certeza serão alvo de escrutínio por parte de cientistas. O importante é que ele une duas tendências que vieram para ficar e que talvez fomentem avanços científicos sem precedência: de um lado, os recursos da inteligência artificial; de outro, o contraditório nos forçando a revisitar teorias já consolidadas.

Nota: alguns trechos do artigo foram editados no dia 19 de maio para que se tornassem mais claros.

*

Adriana Alves é geóloga e professora da USP.

Inscreva-se na newsletter do Serrapilheira para acompanhar mais novidades do instituto e do blog Ciência Fundamental. Tem uma sugestão de pauta? Veja aqui como colaborar.

Se a série “Gambito da Rainha” fosse ambientada hoje, a protagonista seria substituída por uma inteligência artificial

*

A serviço da agência de inteligência britânica, o matemático Alan Turing quebrou o código nazista Enigma, feito decisivo para a vitória dos Aliados na Segunda Guerra Mundial (sua história é contada no filme “O jogo da imitação”, mas isso você já deve saber). Considerado herói, ele focou seu trabalho na área de ciências da computação e inteligência artificial (IA), na qual foi pioneiro. Foi dele a ideia de botar um computador para realizar atividades humanas.

Em 1948, junto com o colega David Champernowne, Turing começou a trabalhar em um algoritmo que jogasse xadrez. O algoritmo Turochamp –junção dos nomes Turing e Champernowne– ficou pronto em 1950, porém as limitações computacionais da época não permitiram que o código pudesse ser implementado. Só restou a Turing e a seu outro colega, o também cientista da computação Alick Glennie, seguir o algoritmo usando lápis e papel, além da lógica, naturalmente. Naquele mesmo ano, o matemático publicou seu célebre artigo “Computing Machinery and Intelligence”.

“Máquinas podem pensar?” Era assim que começava o paper, no qual ele apresentou o teste de Turing: dois seres humanos e uma máquina se confrontam num jogo de perguntas e respostas. Se a máquina conseguir enganar um jogador, fazendo-o acreditar que ela é um ser humano, ela passou no teste. Nascia aí a base que fundou a ideia de inteligência artificial como a conhecemos hoje.

Turing, porém, morreu em 1954, antes de ver seu código rodando em um computador. Mas seu trabalho abriu muitas portas e o conceito de uma máquina jogando xadrez permaneceu um desafio para futuros cientistas que por décadas desenvolveram e estudaram o tema.

Corta para 1996, que é quando as coisas começam a ficar ainda mais interessantes. Foi nesse ano que a IBM apresentou o DeepBlue, um computador que calcula posições para jogar xadrez. O campeão mundial de xadrez era o russo Garry Kasparov e ele foi desafiado a jogar contra a máquina. De um lado Kasparov, representando a humanidade, de outro DeepBlue, em nome da inteligência artificial. O russo saiu vitorioso, mas alertou que provavelmente seria o último ser humano a conquistar o cinturão contra um computador.

Dito e feito. No ano seguinte ele perdeu para uma versão atualizada do DeepBlue. O representante do nosso time não digeriu bem a derrota e acusou a IBM de trapacear. Anos depois admitiu não ter lidado bem com a situação, e em 2017 até chegou a escrever um livro sobre inteligência artificial.

A história acaba aí? Esse foi só o começo. Desde então, cada vez mais algoritmos que usam inteligência artificial para jogar xadrez foram sendo publicados. Em 2010 teve início o campeonato Top Chess Engine Championship (TCEC), uma competição entre computadores cujo objetivo é encontrar o melhor algoritmo de xadrez. Os jogadores são convidados pela organização do evento, que dura alguns meses. O modelo Stockfish, guarde esse nome, foi consagrado campeão por dez vezes.

Em 2017 a DeepMind, uma empresa com foco em IA, apresentou o AlphaZero, uma inteligência artificial capaz de jogar xadrez, Go e shogi. O computador recebeu as regras básicas do xadrez e aprendeu o jogo sozinho. Jogou contra si inúmeras vezes, e em quatro horas o algoritmo era especialista em xadrez.

O AlphaZero disputou uma partida contra o Stockfish, vencedor do Top Chess Engine Championship daquele ano. Conseguiu derrotar o campeão, tornando-se então detentor da honraria. Se um computador ultrassofisticado não foi capaz de vencê-lo, o que dizer de um ser humano?

Não sabemos como será o futuro, mas no xadrez já podemos jogar a toalha. Kasparov tinha razão: ele foi o último campeão que a humanidade teve.

*

Roberta Duarte é física, faz doutorado em astrofísica pela Universidade de São Paulo (USP) e trabalha com aplicações de inteligência artificial na astrofísica de buracos negros.

Inscreva-se na newsletter do Serrapilheira para acompanhar mais novidades do instituto e do blog Ciência Fundamental. Tem uma sugestão de pauta? Veja aqui como colaborar.

Igor Miranda quer tornar o tal do futuro tecnológico mais humano

*

Baiano de Salvador, Igor Dantas Miranda nasceu e cresceu em Nordeste de Amaralina, bairro popular e populoso da cidade. Com pai engenheiro e mãe matemática, desde criança foi estimulado a desenvolver habilidades aritméticas, cercado de revistas, jogos e brinquedos. Na adolescência, aprendeu sozinho a programar computador. Seu ingresso no curso de engenheira elétrica, na Universidade Federal da Bahia (UFBA), foi uma extensão natural desse percurso.

É na Universidade Federal do Recôncavo da Bahia, onde hoje leciona em cursos de engenharia elétrica e de computação, que o professor compartilha com colegas e alunos seu interesse por um futuro ainda mais tecnológico. Ele investiga modelos matemáticos para processar dados gerados por supersensores  –equipamentos criados a partir de uma combinação de sensores menores e que pretendem mudar, ainda mais, a experiência humana com a tecnologia.

Antes disso, Miranda acumulou no currículo mestrado e doutorado em engenharia na UFBA, pós-doutorado na sul-africana Universidade de Stellenbosch, passagens por instituições de pesquisa e desenvolvimento, além de publicações em revistas internacionais. Aos 37 anos, é casado com a pesquisadora da área de zootecnia Rosani Matoso, com quem tem uma filha de três anos. Ele faz questão de incentivá-la precocemente a seguir o caminho da ciência, do mesmo modo que foi incentivado por seu pai.

Mas, voltando aos supersensores: medicina, educação e segurança são apenas algumas das áreas que vão se beneficiar dessas ferramentas. “A ideia é desenvolver equipamentos com capacidade de observação aumentada, mas com dimensões e custos reduzidos, ou seja, supersensores minimalistas: mais potentes e, ao mesmo tempo, mais simples”, explica o cientista.

O tal futuro tecnológico só fará sentido se for acessível, mais humano e menos nocivo à sociedade, ele sustenta. Assim, em seu doutorado o cientista investigou um sistema de detecção e localização de disparo de armas de fogo, dentro da área de sensores de som. Partindo de uma tecnologia com um preço elevado, decidiu fazer uma versão mais barata.

Com base em sua pesquisa, Miranda oferece modos de identificar as origens dos tiros e, consequentemente, mapear os focos de violência urbana, que, como lembra, afeta sobretudo a população negra. “Entendi que tornar a tecnologia mais acessível é a motivação da minha vida. E é importante que esse desenvolvimento tecnológico avançado seja feito em todas as regiões e por grupos racialmente diversos”.

O pós-doutorado na África do Sul foi promissor. Lá, o pesquisador atuou com uma experiente equipe da área de engenharia aplicada à medicina e inteligência artificial, focada em monitorar pacientes de tuberculose por meio do som da tosse. Agora, em parceria com colegas sul-africanos, ele está investigando como o nível de saturação e a frequência respiratória podem ser parâmetros importantes para estabelecer o estágio da Covid-19 no organismo.

Miranda, que segue a linha Ketu do candomblé, lembra, com um sorriso, da experiência de conhecer pessoas do grupo étnico-linguístico iorubá  –idioma que estuda– ao longo de sua estada em território africano. Foi uma vivência de “conexão com a ancestralidade” e “uma ferramenta para compreender sua realidade local”.

Para o professor, a ciência brasileira, em especial a nordestina, tem vários pontos em comum com a ciência feita em países africanos, como a criatividade, muitas vezes movida pela falta de recursos, e o foco em melhorar a vida das pessoas.

Ao lado da mulher e de outros cientistas, Miranda fundou o Instituto Mancala em prol da diversidade racial e com o objetivo de promover pesquisa desde uma perspectiva negra e indígena. “Só assim teremos chance de dar certo enquanto sociedade e evitar os erros do passado e do presente”, ele pondera.

*

Jeferson Batista é jornalista.

Inscreva-se na newsletter do Serrapilheira para acompanhar mais novidades do instituto e do blog Ciência Fundamental.