Já fez o seu avatar do Lensa?

No último mês, virou uma febre o aplicativo Lensa, que cria avatares baseados em nossas fotos com o uso da Inteligência Artificial (IA). Antes que pensem que estou criticando a #trend, eu já fiz os meus (foto acima).

De maneira simplista, os sistemas de IA usam algoritmos para processar informações, e alguns dos tópicos de pesquisa na IA incluem aprendizado computacional, lógica, raciocínio, planejamento, percepção, movimento e manipulação de objetos, aprendendo a tomar decisões com base nos dados recebidos e observados.

Esses algoritmos são usados para criar sistemas autônomos, que executam tarefas por conta própria sem intervenção humana. O grande potencial da IA reside na capacidade de aprender, adaptar e otimizar processos automaticamente, o que significa que ela pode ser usada para resolver problemas complexos rapidamente e com maior precisão do que um humano. Além disso, é capaz de criar resultados muito precisos e consistentes.

Uma IA, assim como um ser humano, não nasce (é criada) sabendo tudo, ela tem a capacidade de aprender com os processos e pode aprender certo ou errado, de acordo com o mais comum, que nem sempre é o mais correto.

O app Lensa pede que você envie de 10 a 20 fotos suas, que serão lidas pela IA e aplicadas na criação de avatares (personagens) personalizados com os traços do seu rosto. A IA faria então nas fotos seu reconhecimento facial, leria os marcadores específicos da sua face e aplicaria em presets carregados dentro dela.

Esse produto, chamado Magic Avatars, em menos de 20 minutos gera avatares com o seu rosto, com temas como “Sci-fi”, “Mystical”, “Stylish” e “Adventure”. Para gerar a partir de 50 avatares, você precisa desembolsar R$ 22,90.

Bom, eu paguei, fiz e também postei no Instagram. Comprei todo o pacote da tendência e o que descobri? Descobri que quem está por trás dessa tendência é muito mais inteligente do que qualquer inteligência artificial poderia ser.

Eles criaram uma jornada de validação na qual as pessoas pagam para pôr os dados no sistema deles, em vez de investirem nessa construção. Esses dados, além de conter o básico que a sua assinatura precisa compartilhar - nome, e-mail, telefone, perfil da sua rede social -, quando você faz o upload das suas fotos, você também está transferindo seus dados biométricos, possibilitando que possam relacionar esses dados com um rosto, e cada foto carrega em si as informações do dispositivo no qual ela foi tirada (tipo se o seu aparelho é novo ou não), a hora e o local onde foram tiradas, as roupas e acessórios que estão em uso e podendo reconhecer também padrões de hábitos de frequência ou viagem.

E pagamos R$ 22,90 para enviarmos tudo isso para eles. E o que recebemos em troca? Um kit de figurinhas digitais de uma IA em treinamento, que colocou um joelho saindo do meu ombro em uma figurinha e três braços em outra. Na de uma amiga, entregou um avatar com quatro braços.

E nesse meio tempo, eu dei um ok para aceitar os termos de uso do aplicativo e não faço a menor ideia em que autorizei eles a usarem os meus dados.

Nesse contexto, eu pergunto: a IA pode causar danos?

“Não se discute mais qual o poder da tecnologia, mas sim o poder de quem detém a tecnologia. Tecnologia não é o bastante para salvar pessoas se quem a detém a usa para matar”, disse Olena Zelenska, primeira-dama da Ucrânia.

O fato é que ela pode tornar-se muito inteligente e complexa para que os seres humanos consigam compreender e controlá-la completamente. Por exemplo, os sistemas de OA que são usados para tomar decisões financeiras ou de saúde, se não forem devidamente controlados por pessoas, podem levar a resultados extremamente prejudiciais. Os sistemas autônomos podem começar a tomar decisões sem considerar as consequências de suas ações e isso poderia levar a resultados graves.

Também, essa tecnologia pode ser usada para fins maliciosos por grupos extremistas ou governos ditatoriais que desejem usá-la para controlar sua população com maior facilidade. A IA pode usar os dados coletados para desenvolver algoritmos que manipulam as pessoas e influenciam decisões. Isso poderia levar à criação de ferramentas que podem ser usadas para fins negativos, como a discriminação ou a manipulação da opinião pública. Além disso, existe o risco de vazamento de dados pessoais e privacidade, já que os dados podem ser compartilhados com terceiros sem o consentimento do usuário.

Sabendo que há drones e outros dispositivos aplicados na guerra que estão sendo desenvolvidos com o uso da tecnologia para matar pessoas. Por outro lado, temos dispositivos como os apple watch que podem salvar uma vida, contribuindo para que uma pessoa seja socorrida mais rapidamente acionando o socorro no caso de uma parada cardíaca, queda brusca ou simplesmente recomendando uma pausa num momento de extrema intensidade.

A questão que fica envolve os compartilhamentos dos nossos dados, nossas biometrias e nossos hábitos com sistemas da IA. Isso porque nunca sabemos quem está por trás deles e quais são os objetivos dali em diante com o seu uso. E como disse a rainha Rania da Jordânia em sua passagem pelo Web Summit, “se não podemos superar os nossos próprios preconceitos inerentes, como podemos criar uma IA que não tenha preconceito embutido?”

Uma certeza eu tenho, que nesse experimento da Lensa, a IA aplicada aprendeu que o ser humano é vaidoso, competitivo e extremamente sugestionável. E eu contribui para isso.