Ética e ESG viram diferenciais em programas bem-sucedidos de IA

Muitos líderes têm refletido sobre o impacto que essa nova tecnologia produzirá no dia a dia de seus negócios e buscado formas de trabalhar com a novidade de maneira segura e escalável. Segundo relatório da Accenture sobre as tendências de tecnologia em 2023, 98% dos executivos globais acreditam que a IA terá papel importante nas estratégias de suas empresas nos próximos três a cinco anos.

“Não há como frear a inovação, mas adiar a discussão sobre os mecanismos de ajuste deste curso é um erro”, diz Daniel Lázaro, líder de Data&AI da Accenture para Growth Markets. “Em projetos de estratégia, é comum mostrar o que as empresas devem fazer nos próximos anos e incluir mecanismos de avaliação no meio do caminho para saber se estão na direção correta, se algo deve ser revisto. Na tecnologia, deveria ser igual. Ela deve ser gerenciável, explicável e compreensível.”

A Accenture foi pioneira em IA responsável, definindo e implementando princípios que, hoje, fazem parte do código de ética da empresa e de seu programa de compliance. O assunto, ainda pouco falado no Brasil, pode ser o grande diferencial entre um programa de IA bem-sucedido e um que acarretará riscos ainda desconhecidos para as companhias.

A fim de evitar danos reputacionais, éticos e legais, responsabilização é palavra-chave. Segundo a Accenture, é essencial que as empresas estabeleçam programas e processos responsáveis de IA para abordar questões como viés inconsciente, discriminação, proteção de dados e uso apropriado de dados.

“A tecnologia não pode cair na armadilha da burocracia”, afirma Lázaro. “Por isso, as empresas devem ter clareza e ser transparentes sobre os motivos por trás de suas recomendações, e permitir que o consumidor questione e tome ações se o currículo dele for negado para uma vaga, por exemplo. Assim, saímos de uma visão de burocracia para uma visão de valor agregado, com oportunidade de gerar nova fonte de receita.”

Devido à natureza dinâmica, a IA é difícil de ser sistematizada e supervisionada por agentes externos. A iniciativa mais contundente até o momento é o projeto de lei da União Europeia que propõe regras para o uso da tecnologia dentro do bloco, em fase de negociação entre os 27 países. O Brasil, a China e o Reino Unido também trabalham em suas próprias regulamentações, que serão mecanismos importantes para dar mais credibilidade à tecnologia.

As maiores ações no sentido de atestar eficiência e tangibilidade acabarão por partir de dentro das próprias empresas, visando criar um ambiente que diminua as incertezas acerca das mudanças que estão por vir, tanto para clientes quanto para os talentos. Do design à implementação, projetos baseados em IA devem contar com diretrizes focadas em princípios e governança, riscos e controles, tecnologia, cultura e treinamento.

“Não há como frear a inovação, mas adiar a discussão sobre os mecanismos de ajuste deste curso é um erro”, diz Daniel Lázaro, líder de Data&AI da Accenture para Growth Markets

Neste momento em que as empresas buscam metas para reduzir a sua pegada de carbono, implementar uma tecnologia como a IA, que trabalha com grandes volumes de informação e de máquinas, pode tornar-se um paradoxo.

O equilíbrio dessa equação leva, invariavelmente, a uma boa gestão de dados por parte das empresas e à adoção de soluções que minimizem os impactos das novas demandas, como armazenamento em nuvem e a utilização da capacidade ociosa de data centers preexistentes.

Mas também passa pelo uso criterioso da IA, perguntando-se as razões para implementar a tecnologia e o que se espera dela. As empresas devem selecionar as soluções que realmente tragam valor e resultados em detrimento do uso indiscriminado dos modelos em diversas frentes sem qualquer planejamento, controle ou efetividade.

Com parâmetros na casa dos bilhões – o ChatGPT-3, por exemplo, foi treinado com mais de 500 bilhões de palavras –, os modelos de treinamento da IA generativa demandam intensos recursos computacionais, com enorme capacidade de processamento e de armazenamento de memória. Relatório divulgado pelo Institute for Human-Centered Artificial Intelligence, da Universidade de Stanford, nos Estados Unidos, estima que a quantidade de energia necessária para esses modelos de treinamento poderia abastecer a casa de um americano médio por centenas de anos.

“Existem inúmeras combinações para o desenho de soluções de IA que levem em conta a eficiência energética”, diz Lázaro. “É possível escolher entre consumir menos GPU e levar mais tempo para processar, ou consumir mais e processar mais rápido – ou seja, hardware-based ou software-based. Só copiar e colar soluções, com uma mentalidade de curto prazo, vai deixar o projeto mais caro.”

Onde estão se criando dados, quais são os objetivos de cada projeto e qual é o impacto que as iniciativas trazem para as metas de carbono são questões que devem ser respondidas para trazer eficiência aliada ao crescimento sustentável – antes de implementar novos processos de IA.

Além disso, como muitos dos modelos de IA são baseados em códigos preexistentes, os riscos de segurança se tornam maiores com o aumento do uso da tecnologia – e, logo, os controles devem ser cada vez mais precisos. “Esse código pode conter uma vulnerabilidade, portanto, se o modelo subsequentemente gerar um novo código, ele pode herdar a mesma vulnerabilidade”, disse David Johnson, cientista de dados da Europol, agência de aplicação da lei da União Europeia, em uma conferência em Bruxelas, na Bélgica, neste ano.

No processo de reinvenção das empresas por meio de dados e IA, um programa de IA responsável capacita a liderança para elevar o tema a imperativo estratégico e oferece treinamento a todos os funcionários para que tenham clara compreensão sobre os princípios da IA responsável e saibam como traduzi-los em ações.

“Na mesma época em que o acrônimo IA foi criado, no final dos anos 50, havia outro conceito chamado Inteligência Amplificada e prefiro esse. É a tecnologia como elemento de alavancar as pessoas para outro patamar de conhecimento”, afirma Robert Duque, líder de Applied Intelligence da Accenture para América Latina. “Não se trata, portanto, de simplesmente substituir humanos por robôs.”

Duque alerta para o senso crítico como principal elemento humano da inteligência amplificada. “Se as pessoas partirem do pressuposto de que a IA dá uma informação para que elas possam pensar e não uma resposta absoluta de zero a um, aí terão uma vantagem.”

Leia também: Para dois em cada três líderes, IA é prioridade máxima de investimento