Ao utilizar Inteligência Artificial (IA), uma pergunta crucial precisa ser feita: como isso impacta as pessoas? A 34ª edição da Febraban Tech, realizada entre os dias 25 e 27 de junho, em São Paulo, teve como tema central justamente “A jornada responsável na nova economia da IA”. A feira, que reuniu debates em torno de toda a economia e, principalmente, o setor financeiro, prepara-se para utilizar os novos recursos e avanços da IA com responsabilidade.
Larissa Lima e Diego Guerreiro, ambos customer advisors do SAS, comandaram uma palestra no evento na qual abordaram como a empresa integra, desde sua fundação, uma abordagem ética em relação à IA, além de mostrar como incorporar práticas para lidar com essas ferramentas de forma responsável no dia a dia.
Analisar dados e utilizar a Inteligência Artificial de forma ética é determinante para garantir que as tecnologias beneficiem as pessoas de maneira justa e correta. Para o SAS, o caminho passa por responsabilidade, identificando e mitigando proativamente impactos adversos; robustez, com um processamento confiável, escalável e de alta disponibilidade; privacidade e segurança, respeitando todos os titulares dos dados; e mantendo o ser humano no centro de todos os processos.
Isso passa por respeitar os direitos das pessoas envolvidas, protegendo os dados pessoais que cada uma compartilha e lidando com eles de forma responsável; conferir que somente os dados essenciais para aquele objetivo específico sejam solicitados, investir em ferramentas de segurança para evitar vazamentos e ter sempre em mente que a IA deve servir aos humanos, e não o contrário.
Nessa jornada, é essencial assegurar que as práticas éticas acompanhem a evolução das tecnologias. “Esses princípios são garantidos pela empresa desde a sua fundação. Por mais que, hoje em dia, se fale mais a respeito e, tecnicamente, seja possível definir o que é IA, o core das nossas soluções sempre certificou que estivéssemos preparados para trabalhar com um grande volume de dados. Atualmente, nesse contexto de Big Data, obviamente precisamos estar cada vez mais preparados. E o SAS tem conseguido acompanhar essa evolução ao longo do tempo”, explica Larissa.
Guerreiro também levanta outro ponto importante: a questão ética precisa estar enraizada na cultura da empresa: “Mesmo não existindo regras ou leis estabelecidas, é necessário que a gente saiba como utilizar os dados e criar e manter condutas internas”.
Larissa completa: “as empresas sabem e entendem que quem lida com IA está automaticamente lidando com dados sensíveis dos clientes. Então, não adianta desenvolver a melhor tecnologia possível se não tiver esse cuidado. É uma questão de preocupação com a imagem da própria empresa, que precisa passar confiabilidade. Se o cliente não confia, a empresa não evolui”.
Os especialistas destacam que o SAS trabalha com o “ser humano no centro das aplicações”. Na prática, essa premissa está diretamente ligada à visão ética do negócio. “É sobre a importância de fazer com que a Inteligência Artificial se desenvolva sem perder o foco de que as tarefas, os algoritmos e as soluções geradas por ela sejam responsáveis e pautadas principalmente no respeito aos direitos dos humanos”, define Larissa. “É a tecnologia beneficiando os seres humanos, e não nós servindo a ela”, completa Guerreiro.
Para eles, um dos maiores desafios relacionados ao uso de IA hoje é saber o que utilizar, o porquê de utilizar e como utilizar. “É importante questionar qual é o intuito desse uso, se é algo que trará realmente um benefício ou se a pessoa está só entrando num hype desnecessário. É pensar em qual seria o real benefício. Temos discutido bastante isso, especialmente o uso com cautela. Acredito que exista um gap cultural nesse caso. Às vezes, o ‘como usar’ e o ‘porque usar’ acabam se perdendo pelo caminho”, observa o customer advisor.
Adaptação à tecnologia
As discussões sobre a Inteligência Artificial eliminando cargos de trabalho aparecem nas principais mesas de debate sobre a evolução da tecnologia. Por outro lado, ambos os profissionais do SAS defendem que o receio das pessoas não deve ser de que ela “roube” seus empregos, e sim de não se adaptarem à maneira correta de usar a IA.
“Quando falamos que os cargos sofrerão modificações, é nesse sentido. As coisas vão se atualizando, se modernizando, e nós temos que acompanhar, até mesmo pensando em background técnico. Você precisa se capacitar para desenvolver aquela atividade. É claro que acontecerão mudanças, mas elas trarão novas oportunidades. É um processo”, diz Larissa.
Para Guerreiro, as possíveis preocupações devem passar realmente por essa questão da adaptação do ser humano ao uso da IA – que, por mais que possua tecnologias extremamente avançadas, ainda precisará do “toque humano” no caminho: “Precisa ter esse trabalho humano no final. Pode ser que a IA faça um projeto legal, mas o resultado por si só fica muito robotizado. O ser humano é importante para fazer uma correção, mexer numa ideia que possa ter vindo enviesada, fazer ajustes e colocar suas próprias ideias”.
Desafio regulatório
Eventualmente, a conversa esbarra na questão da regulamentação – ou, melhor, na falta dela. “Outro desafio de mercado bem relevante é fomentar essa regulamentação. Queremos usar IA, mas ouvimos poucas conversas sobre como iremos regulamentá-la”, aponta Larissa. A criação de leis em torno do assunto é essencial, garantindo princípios éticos, segurança e responsabilidade, entre outras premissas mencionadas pelos executivos. “É uma pauta que deve estar sempre em voga, principalmente entre os desenvolvedores, para que a gente consiga chegar a um denominador comum”, alerta.
Ela ainda comenta que a Inteligência Artificial, uma vez que parte de uma base de dados criada por indivíduos, pode acabar reproduzindo os comportamentos dessas pessoas, o que abre brechas para análises possivelmente racistas ou sexistas, por exemplo. Daí a importância ainda mais latente de uma regulação completa e detalhada, que trabalhe para mitigar esse tipo de situação, fazendo com que realmente só se olhe para o perfil de consumo do cliente – e não para dados sensíveis — e que garanta um ambiente livre desse tipo de julgamento. “O dado envolvido na análise deve ser apenas aquele que interfere no resultado. São pontos de atenção, e o melhor caminho de resolvê-los é estarmos sempre conversando a respeito”, diz.
No mercado financeiro, essas aplicações acontecem em processos, como análise de crédito, de gestão e de riscos; detecção de fraude; gestão de modelos; prevenção à lavagem de dinheiro; entre outras possibilidades. A tecnologia avança em alta velocidade, e, com isso, as ferramentas SAS ficam cada vez mais robustas e completas. E justamente por ter todas essas premissas de uso responsável definidas e já bastante consolidadas internamente, a empresa consegue assegurar que a tecnologia não passe por cima da ética.
( fonte: MIT Technology Review )
