Capítulo 4
Entrevistas

Ética cresce em importância no mundo com menos religião, diz Luciano Floridi

Filósofo da Universidade de Oxford critica pensamento do colega Nick Bostrom, que fala sobre o fim do mundo por meio da inteligência artificial

Raphael Hernandes

Ser um pioneiro em um dos ramos de uma área do conhecimento que possui milênios de existência, a filosofia, é para poucos. E esse é o caso do italiano Luciano Floridi, 55, professor da Universidade de Oxford.

Ele é um dos primeiros, e mais proeminentes, nomes nos campos de filosofia e ética da informação. Esses ramos estudam tópicos ligados à computação e tecnologia. É conselheiro da área para o governo britânico e trabalhou para empresas gigantes da área, como Google e a chinesa Tencent.

Ele também se destaca quando o assunto é especificamente IA (inteligência artificial). Floridi foi um dos 52 autores das "Orientações éticas para uma IA de confiança", da União Europeia.

À Folha, falou sobre temas que foram desde o elementar na sua área, como a definição de inteligência artificial, a discussões mais complexas acerca de como pensar nossa relação com a tecnologia.

Para ele, a discussão moral cresce em importância na era digital. "Temos menos religião. As pessoas tendem a associar ética à religião um pouco menos do que no passado", diz. "Ela precisa se sustentar sozinha."

A conversa por videochamada durou aproximadamente uma hora e foi interrompida apenas uma vez: quando a mulher de Floridi, brasileira, foi embarcar num avião para visitar o país natal e ele quis desejar uma boa viagem.

Luciano Floridi, professor da Universidade Oxford, é especialista em ética aplicada ao mundo da computação
Luciano Floridi, professor da Universidade Oxford, é especialista em ética aplicada ao mundo da computação - Reprodução

A fala paciente e educada deu lugar a irritação quando o assunto se tornou pensamento de Nick Bostrom, também filósofo da Universidade de Oxford, que versa sobre os riscos de a IA destruir a humanidade.

"A IA descrita na singularidade e na superinteligência de Nick Bostrom não é impossível", diz. "Da mesma forma que é possível que uma civilização extraterrestre chegue aqui, domine e escravize a humanidade. Impossível? Não. Vamos nos planejar para o caso de isso acontecer? Só pode ser piada."

*

Como definir IA? São artefatos construídos pelo homem capazes de fazer coisas no nosso lugar, para nós e, às vezes, melhor do que nós, com uma habilidade especial que não encontramos em outros artefatos mecânicos: aprender a partir de sua performance e melhorar.
Uma forma de descrever IA é como uma espécie de reservatório de operações para fazer coisas que podemos aplicar em contextos diferentes. Podemos aplicar para economizar eletricidade em casa, para encontrar informações interessantes sobre pessoas que visitam minha loja, para melhorar a câmera do meu celular, para recomendar em um site outros produtos dos quais o consumidor gostaria.

Na academia há muitas opiniões contrastantes sobre o que é IA. A definição de IA é importante? Uma definição diz "isso é aquilo" e "aquilo é isso", como "água é H2O" e "H2O é água" e não tem erro. Não temos uma definição sobre IA dessa forma, mas também não temos definição de muitas coisas importantes na vida como amor, inteligência e por aí vai. Muitas vezes temos um bom entendimento, conseguimos reconhecer essas coisas ao vê-las. É crucial ter um bom entendimento da tecnologia porque aí temos as regras e a governança de algo que compreendemos.

Qual a importância da ética hoje, uma era digital? Ela se tornou mais e mais importante porque nós temos algo mais e algo menos. Temos menos religião, então ela precisa se sustentar sozinha. Não se pode justificar algo dizendo "porque a Igreja diz isso" ou porque "Deus mandou". Um pouco menos de religião tornou o debate ético mais difícil, mas mais urgente.
E temos algo mais: falamos muito mais uns com os outros do que em qualquer momento no passado. Estou falando de globalização. De repente, diferentes visões sobre o que está certo e errado estão colidindo de uma forma que nunca aconteceu. Quanto mais tecnologia, ciência e poder tivermos sobre qualquer coisa –sociedade, o ambiente, nossas próprias vidas–, mais urgentes ficam as questões éticas.

E por que discutir ética em IA? Até recentemente, entendíamos em termos de "intervenções divinas" (para as pessoas do passado que acreditavam em Deus), "intervenções humanas" ou "intervenções animais". Essas eram as forças possíveis. É como se tivéssemos um tabuleiro de xadrez em que, de repente, surge uma peça nova. Claramente, essa peça muda o jogo todo. É IA.
Se você tem algo que pode fazer coisas no mundo de forma autônoma e aprendendo, de modo que podem mudar seus próprios programas, sua atividade requer entendimento de certo e errado: ética.

Como respondemos essas perguntas e definimos os limites? No último ano tivemos um florescer de códigos éticos para IA. Dois em particular são bem importantes pelo alcance. Um é o da União Europeia. Fizemos um bom trabalho, penso, e temos uma boa estrutura na Europa para entender IA boa e não tão boa. O outro é da OCDE, uma estrutura semelhante.

Críticos dizem que esses documentos não são específicos o suficiente. O sr. vê eles como um primeiro passo? Mostra que, pelo menos, algumas pessoas em algum lugar se importam o suficiente para produzir um documento sobre essa história toda. Isso é melhor do que nada, mas é só isso: melhor que nada. Alguns deles são completamente inúteis.
O que acontece agora é que toda empresa, toda instituição, todo governo sente que não pode ser deixado para trás. Se 100 empresas têm um documento com suas estruturas e regras para IA, se sou a empresa 102 também preciso ter. Não posso ser o único sem.
Precisamos fazer muito mais. Por isso, as diretrizes verdadeiras são feitas por governos, organizações ou instituições internacionais. Se você tem instituições internacionais, como a OECD, União Europeia, Unesco, intervindo, já estamos em um novo passo na direção certa.
Olhe, por exemplo, a IA aplicada a reconhecimento facial. Já tivemos esse debate. Uso reconhecimento facial na minha loja? No aeroporto? Esse buraco tem que ser tapado e as pessoas o estão tapando. Eu tendo a ser um pouco otimista.

E como estamos nessa tradução de diretrizes em políticas práticas? Num contexto geral, vejo grandes empresas desenvolvendo serviços de consultoria para seus clientes e ajudando a verificar se estão de acordo com as regras e regulações, bem como se levaram em consideração questões éticas.
Há lacunas e mais precisa ser feito, mas algo já está disponível. As pessoas estão se mexendo em termos de legislação, autorregulação, políticas ou ferramentas digitais para traduzir princípios em práticas. O que se pode fazer é se certificar que os erros aconteçam o mais raramente possível e que, quando acontecerem, haja uma forma de retificar.

Com diferentes entidades, governos, instituições e empresas criando suas regras para uso de IA, não corremos o risco de ficar perdidos em termos de qual documento seguir? Um pouco, sim. No começo pode ter discordância, ou visões diferentes, mas isso é algo que já vivemos no passado.
Toda a história de padrões industriais e de negócios é cheia desses desacordos e, depois, reconciliação e encontrar uma plataforma comum para todos estarem em concordância.

As grandes empresas de tecnologia estão pedindo por regulação, o que é estranho, visto que elas normalmente tentam autoregulação. O sr. esteve com uma delas, a Google. Por que esse interesse das empresas de tecnologia agora? Há alguns motivos para isso. O primeiro é certeza: eles querem ter certeza do que é certo e errado. Empresas gostam de certeza, mais até do que de regras boas. Melhor ter regras ruins do que regra nenhuma. A segunda coisa é que entendem que a opinião pública pede por uma boa aplicação de IA. Dado que é opinião pública, tem que vir da sociedade o que é aceitável e o que não é. Empresas gostam de regulações desde que elas ajudem.

Há diferença ao pensar em regulações para sistemas com finalidades diferentes? Por exemplo, é diferente pensar em regulação em IA para carros automatizados e IA para sugestão de músicas? Sim e não. Há regulações que são comuns para muitas áreas. Pense nas regulações de segurança envolvendo eletricidade. Não importa se é uma furadeira elétrica, um forno elétrico ou um carro elétrico. É eletricidade e, portanto, tem regulações de segurança. Isso se aplicaria igualmente à IA. Mas aí você tem algo específico: você tem segurança ligada aos freios para o carro, não para o micro-ondas. Isso é bem específico. Penso, então, numa combinação dos dois: princípios que cubram várias áreas diferentes, diretrizes que se espalhem horizontalmente, mas também verticalmente pensando em setor por setor.

Luciano Floridi, professor da Universidade Oxford, é especialista em ética aplicada ao mundo da computação
Luciano Floridi, professor da Universidade Oxford, é especialista em ética aplicada ao mundo da computação - Reprodução

Quão longe estamos de ter essas diretrizes estabelecidas? Falamos de meses, anos, uma geração? Alguns anos. Eu não me surpreenderia se tivéssemos essa conversa em cinco anos e o que dissemos hoje fosse história.

E como funciona esse processo de pensamento na prática? Por exemplo, no caso de carros autônomos, como se chega a uma conclusão em relação à responsabilidade do caso de acidente: é do motorista, da fabricante, de quem? Tínhamos isso em muitos outros contextos antes da IA. A recomendação é distribuir a responsabilidade entre todos os agentes envolvidos, a menos que eles consigam provar que não tiveram nada a ver com acidente.
Um exemplo bem concreto: na Holanda, se você andar de bicicleta ao lado de alguém, sem problemas. Você pode andar na rua, lado a lado com alguém e tudo bem. Se uma terceira pessoa se junta a vocês, é ilegal. Não se pode ir com três pessoas lado a lado numa rua pública. Quem recebe a multa? Todos os três, porque quando A e B estavam lado a lado e o C chega até eles, A e B poderiam reduzir a velocidade ou parar totalmente para que o C passasse. Agora, na mesma Holanda, outro exemplo, se dois barcos estão parados na margem do rio lado a lado, é legal. Se um terceiro barco chegar e parar ao lado deles, é ilegal. Nesse caso, somente o terceiro barco tomaria uma multa. Por quê? Porque os outros dois barcos não podem ir para lugar algum. Não é culpa deles. Pode ver que são dois exemplos bastante elementares, bem claros, com três agentes. Em um caso igualmente responsáveis e a responsabilidade é distribuída, no outro caso apenas um responsável.
Com IA é o mesmo. Em contextos nos quais tivermos uma pessoa, doida, usando IA para algo mal, a culpa é dessa pessoa. Não tem muito debate. Em muitos outros contextos, com muitos agentes, quem será culpado? Todos, a menos que provem que não fizeram nada de errado. Então o fabricante do carro, do software, o motorista, até mesmo a pessoa que atravessou a rua no lugar errado. Talvez haja corresponsabilidade que precise ser distribuída entre eles.

Seria sempre uma análise caso a caso? Acho que é mais tipos de casos. Não só um caso isolado, mas uma família de casos.
Façamos um exemplo realista. Se uma pessoa dirigindo em um carro autônomo não tem como dirigir, usar um volante, nada. É como eu em um trem, tenho zero controle. Aí o carro se envolve num acidente. De quem é a culpa? Você culparia um passageiro pelo acidente que o trem teve? Claro que não. Num caso em que haja um volante, em que haja um grande botão vermelho dizendo "se algo der errado, aperte o botão"... Quem é responsável? O fabricante do carro e o motorista que não apertou o botão.
Precisamos ser bastante concretos e nos certificar de que existem tipologias e, não exatamente caso a caso, mas compreendendo que caso tal pertence a tal tipologia. Aí teremos um senso claro do que está acontecendo.

Em suas palestras, o sr. menciona um uso em excesso e a subutilização de IA. Quais os problemas nessas situações? O excesso de uso, com um exemplo concreto, é como o debate que temos hoje sobre reconhecimento facial. Não precisamos disso em todos os cantos. É como matar mosquitos com uma granada.
A subutilização é típica, por exemplo, no setor de saúde. Não usamos porque a regulação não é muito clara, as pessoas têm medo das consequências.

A IA vai criar o futuro, estar em tudo? Temos uma grande oportunidade de fazer muito trabalho bom, tanto para nossos problemas sociais, desigualdade em particular, e para o ambiente, particularmente aquecimento global. É uma tecnologia muito poderosa que, nas mãos certas e com a governança correta, poderia fazer coisas fantásticas. Me preocupa um pouco o fato de que não estamos fazendo isso, estamos perdendo a oportunidade.
O motivo de a ética ser tão importante é exatamente porque a aplicação correta dessa tecnologia precisará de um projeto geral sobre a nossa sociedade. Gosto de chamá-lo de "projeto humano". O que a sociedade irá querer. Qual futuro queremos deixar para as próximas gerações? Estamos preocupados com outras coisas, como usar IA para gerar mais dinheiro, basicamente.

E os direitos dos robôs? Deveríamos estar pensando nisso? [Risos]. Não, isso é uma piada. Você daria direitos à sua lavadora de louças? É uma peça de engenharia. É um bom entretenimento [falar de direito dos robôs], podemos brincar sobre isso, mas não falemos de Star Wars.

O sr. é crítico em relação à ficção científica que trata do fim do mundo por meio de IA ou superinteligência. Não vê a ideia de Nick Bostrom como uma possibilidade? Acho que as pessoas têm jogado com alguns truques. Esses são truques que ensinamos a alunos de filosofia no primeiro ano. O truque é falar sobre "possibilidade" e é exatamente essa a palavra que usam.
Deixe-me dar um exemplo: imagine que eu compre um bilhete de loteria. É possível que eu ganhe? Claro. Compro outro bilhete de outra loteria. É possível que eu ganhe da segunda vez? Sim, mas não vai acontecer. É improvável, é insignificantemente possível. Esse é o tipo de racionalização feita por Nick Bostrom. "Ah! Mas você não pode excluir a possibilidade..." Não, não posso. A IA descrita na singularidade e na superinteligência de Nick Bostrom não é impossível. Concordo. Significa que é possível? Não.
Da mesma forma que é possível que uma civilização extraterrestre chegue aqui, domine e escravize a humanidade. Impossível? Hmmm. Não. Vamos nos planejar para o caso de isso acontecer? Só pode ser piada.

A IA é uma força para o bem? Acho que sim. Como a maioria das tecnologias que já desenvolvemos são. Quando falamos da roda, alfabeto, computadores, eletricidade... São todas coisas boas. A internet. É tudo coisa boa. Podemos usar para algo ruim? Absolutamente.
Sou mais otimista em relação à tecnologia e menos em relação à humanidade. Acho que faremos uma bagunça com ela. Por isso, discussões como a do Nick Bostrom, singularidade, etc. não são simplesmente engraçadas. Elas distraem, e isso é sério.
Conforme falamos, temos 700 milhões de pessoas sem acesso a água limpa que poderiam usar IA para ter uma chance. E você realmente quer se preocupar com algum Exterminador do Futuro? Skynet? Eticamente falando, é irresponsável. Pare de ver Netflix e caia na real.