Episódio 8: Como a privacidade das pessoas e das empresas pode ser violada com a IA
Tempo de leitura: 3 minutos
Neste artigo vou falar sobre um tema “quente” que é o uso cada vez maior da Inteligência Artificial no nosso dia a dia. Cada vez escuto mais e mais pessoas contando sobre suas experiências com IA e, diga-se de passagem, maravilhados com o que estão vendo nas suas investidas.
As pessoas desejam aprender mais para se beneficiar das suas habilidades, mas não podemos esquecer dos cuidados que precisamos ter quando estamos diante de algo novo que ainda está em fase de regulamentação.
Um ponto de atenção é a garantia da privacidade que está em jogo. Inicialmente as pessoas começaram a utilizar a internet para buscar informações utilizando geradores de textos sintéticos como o ChatGPT 3. Depois, avançaram para o uso de aplicativos que automatizam atividades criativas, como por exemplo o MidJourney, que cria imagens.
O que eles têm em comum é que são treinados com base em dados coletados na internet. Como funciona essa coleta para que esse sistema de algoritmos consiga fazer tarefas precisas como, por exemplo, entender a falar humana e processar informações por meio de dados e cálculos e fornecer subsídios para uma tomada de decisão?
Como funciona essa “mágica” da IA? Ela utiliza padrões que encontra, por exemplo, em obras disponíveis na internet de determinado autor para criar textos com a IA. O que nos levanta um alerta de que o ingrediente da receita são os dados disponíveis na internet. E se os dados da internet estiverem errados, forem tendenciosos ou se forem propositalmente colocados lá para que a IA gere informações erradas sobre determinada pessoa ou empresa?
Fica muito claro que a segurança foge do nosso alcance e que não temos como saber o que a IA vai gerar de informações sobre nós ou sobre a nossa empresa e nem mesmo o impacto que pode causar. Por exemplo, uma foto nossa que está nas redes sociais, um texto escrito por nós em um blog: qualquer um pode usar da forma que bem entender sem o nosso consentimento?
Já temos alguns casos como o a empresa de reconhecimento facial Clearview AI, que recebeu uma multa de aproximadamente US$ 10 milhões pelo órgão de proteção de dados do Reino Unido por ter coletado imagens do rosto de cidadãos britânicos nas redes sociais e na própria web. Mas essa não é uma ação isolada. Em países como França, Austrália e Canadá, já temos conhecimento de ações semelhantes a essa.
O que fez a Clearview AI? Ela reúne um banco de dados com os rostos das pessoas, aproximadamente 20 bilhões de imagens retiradas da internet de fontes públicas como as redes sociais, sem ter o consentimento delas. Isso é considerado uma violação de privacidade pelas autoridades de proteção de todo o mundo ocidental e esse exemplo da Clearview AI já reflete o movimento de sanção que está sendo feito pelo uso indevido da tecnologia.
Complemento com um outro ponto extremamente relevante, que são os direitos autorais das pessoas, pois estes programas criam representações a partir da coleta e combinação de imagens que estão disponíveis na internet e que foram criadas por alguém.
Por todo impacto que a IA tem nas nossas vidas, precisa-se envolver muitas pessoas nessa discussão, não apenas no que tange à regulamentação, mas também com relação ao desenvolvimento dessa nova tecnologia, incluindo desde a perspectiva técnica até a perspectiva social, que irá reverberar na sociedade.
Encontro vocês no nosso próximo episódio!
Patricia B. Bordignon Rodrigues é diretora de Marketing e Canais Benkyou. *Este texto reproduz a opinião do autor e não reflete necessariamente o posicionamento da Mercado&Consumo. Imagem: Shutterstock