A adopção de ferramentas de In teligência Artificial (IA) tem crescido de forma significativa nos últimos anos. De acordo com o estudo "The State of AI in Early 2024" da McKinsey, mais de 70% das empresas globais já adoptam soluções de IA, face aos 55% registados em 2023.

Outrora tratado como um de bate de natureza predominantemente tecnológica, a utilização da IA suscita hoje discussão de questões regulatórias - e éticas - na medida em que a IA é cada vez mais mobilizada como instrumento para monitorizar, optimizar e prever impactos em sectores estratégicos e/ou estruturais para a economia, como a energia, a banca, o petróleo, as telecomunicações e a minera ção. Paralelamente, a convergência entre a IA e os critérios ESG (Environmental, Social and Governance) constitui hoje, também, um dos temas centrais da discussão - sobretudo nas vertentes Social e Governance.

Assim, o desenvolvimento, implementação e utilização de ferramentas de IA exige, inevitavelmente, um enquadramento jurídico-regulatório adequado, assente em cinco pilares fundamentais: Governança; Conformidade Regulatória; Gestão de Riscos; Transparência; e Responsabilidade Contratual.

No plano da Governança, impõe-se que as empresas criem políticas internas que incluam a aprovação prévia do uso de IA, o registo dos modelos utilizados e a constituição de comités multidisciplinares com representação de diferentes departamentos corporativos - Jurídico, Compliance, Tecnologias de Informação e Recursos Humanos. Por seu turno, a Conformidade Regulatória traduz-se no alinhamento entre as normas legais aplicáveis e o uso efectivo da IA. Este tema tem suscitado particular discussão na União Europeia, onde se tem vindo a adoptar legislação específica com vista à regulação da IA.

A título de exemplo, o Regulamento da IA - Regulamento (UE) 2024/1689 do Parlamento e do Conselho, de 13 de Junho de 2024 ("IA Act") - prevê sanções em caso de incum primento das suas disposições; e a proposta de Directiva de Alegações Ecológicas (Green Claims Directive) - ainda em fase de discussão - contém disposições sobre, nomeadamente, a manipulação de dados ambientais ou a utilização enganosa de créditos de carbono, questões estas relacionadas com a crescente preocupação dos reguladores sobre os algoritmos utilizados em relatórios ESG.

Ainda no que concerne à Conformidade Regulatória, a dimensão Social do ESG suscita também preocupações relevantes relacionadas, sobretudo, com o viés algorítmico. Quando, por exemplo, a IA é utilizada em processos de recrutamento, avaliação de desempenho ou tomada de decisões que afectem colaboradores, corre o risco de reproduzir e amplificar desigualdades estruturais pré-existentes. Para mitigar este risco, é essencial que os dados que alimentam os modelos de IA sejam criteriosamente seleccionados, que a metodologia dos algoritmos seja transparente e que os sistemas sejam concebidos com o objectivo de promover a inclusão, e não apenas a eficiência. Escusado será dizer que estas cautelas só podem implementar-se por via da regulação.

No que respeita à Gestão de Riscos, é determinante garantir a fiabilidade dos resultados gerados pelos sistemas de IA, assegurando protecções adequadas contra outputs enganadores, bem como a privacidade e segurança dos dados processados. Os modelos utilizados devem ser robustos, transparentes e sujeitos a supervisão humana efectiva, de modo a prevenir discrimi nação e a assegurar que o seu funcionamento seja compreensível para os diferentes utilizadores e stakeholders.

Por outro lado, a Transparência é um princípio transversal a todos os pilares acima referidos. Especificamente no contexto de relatórios ESG, um dos riscos mais relevantes é o denominado AI-washing - isto é, a utilização de IA para gerar, apresentar ou manipular métricas de sustentabilidade de forma enganosa, sem validação humana adequada. Os reguladores têm respondido com sanções crescentes, nomeadamente no que respeita a fraudes relacionadas com créditos de carbono, relatórios ESG e da rotulagem ambiental...

*SUSANA P. COELHO, Advogada Estagiária da Fátima Freitas e membro da Equipa ESGimpact+ da Miranda Alliance

*ERIKA MONTEIRO, Sócia da Miranda & Associados e Responsável pela Equipa ESGimpact+ da Miranda Alliance