Por Luis Giolo*
31/10/2023 06h02 Atualizado 31/10/2023
Imagine este cenário: você está revisando a agenda da próxima reunião do conselho e o primeiro tópico é “Governando a IA – riscos e oportunidades”. Você viu as notícias sobre IA, se interessou pelo ChatGPT e Google Bard, e conversa regularmente com a Alexa e a Siri. Mas, além disso, a Inteligência Artificial parece um mistério. Você não é um especialista em tecnologia, então, como contribuir para esse tema crucial que pode mudar a trajetória do futuro da sua empresa?
Os colegas Scott Teixeira e Christoph Wollersheim analisaram o tema em profundidade. Nossa visão geral da IA para conselheiros o ajudará a determinar como e onde iniciar sua jornada.
A IA está agora presente em quase todas as agendas do conselho, mas poucos conselheiros sabem como lidar com ela – ou por onde começar. Você provavelmente tem mais perguntas do que respostas: como fornecer orientação sobre uma tecnologia que, reconhecidamente, poucos de nós realmente entendem? A IA é tão poderosa quanto relatado? A sua organização quer ser líder ou seguidora na adoção da IA? Como garantir que as suas organizações utilizem a IA de forma responsável e se mantenham a par das regulamentações em evolução? O que acontece se você optar por não usar IA?
A implementação real da IA é responsabilidade da gestão e, provavelmente, há vários líderes na organização que entendem a tecnologia com mais profundidade do que o conselho. Mas a proliferação da IA generativa levantou uma série de questões desafiantes que vão de estratégicas a morais, éticas e até existenciais – questões que devem ser abordadas ou monitorizadas pelo conselho de administração.

O primeiro passo para qualquer viagem é conhecer o ponto de partida. Os conselhos de administração, e os presidentes em particular, têm a responsabilidade de avaliar o nível de conforto e compreensão dos tópicos afetados pela IA e trabalhar rapidamente para completar quaisquer lacunas. Dada a rápida ascensão e evolução, é seguro assumir que existem lacunas significativas neste tópico em quase todas as salas de reuniões corporativas. Para desenvolver um nível básico de compreensão e das principais áreas que ela afeta para sua organização, recomendamos as seguintes etapas iniciais para cada conselho:
1. Abrace a autoaprendizagem
Cada conselheiro (ou, pelo menos, membros do comitê de tecnologia) deve ter um conhecimento básico de IA. Aprender sobre essa tecnologia é vital para tomar decisões informadas e permanecer relevante no cenário atual de negócios em rápida mudança. Alguns recursos gratuitos que gostamos incluem:
•Por que a IA salvará o mundo, por Marc Andreessen (artigo)
•"IA com Sam Altman: o fim do mundo? Ou o amanhecer de um novo?" (podcast)
•Gen AI para líderes empresariais (LinkedIn Learning)
•Implicações de IA do MIT AI Club (vídeo)
2. Mantenha-se informado sobre sua organização
Para manter o conselho atualizado, estabeleça apresentações regulares sobre tópicos importantes de IA. O CTO, o Comite de Inovação (se houver um), os líderes de sucesso do cliente e outros especialistas devem ser convidados a compartilhar insights relacionados à IA com o conselho.
3. Envolva especialistas externos
Consulte especialistas de fora para entender como a IA está impactando seu setor específico e as áreas de preocupação que você enfrenta.
4. Promova uma cultura de responsabilidade
Tenha conversas abertas e regulares sobre IA dentro do conselho e responsabilize-se mutuamente por se manterem bem informados sobre o assunto. O presidente deve garantir que cada conselheiro leve essas responsabilidades a sério e esteja bem preparado para se envolver em debates relevantes.

À medida que o conselho desenvolve uma linguagem e compreensão comuns da IA, torna-se possível aprofundar questões mais complexas, que incluem três áreas principais: (1) Estratégia de Abordagem, (2) IA Responsável e (3) Riscos e Regulamentações. Detalhamos cada uma dessas áreas a seguir.
1. Estratégia de abordagem: o risco da inação
Como conselheiros, muitos viram ondas de tecnologia ir e vir, promovidas como “a próxima grande novidade” e obsoletas logo depois. Dadas as reivindicações ousadas da IA, alguns podem argumentar que deveríamos esperar para ver. Outros dirão que já é tarde demais, visto que ela pode ser um divisor de águas que perturba e transforma indústrias inteiras. Embora não tenhamos uma resposta absoluta, é responsabilidade dos conselhos tomar uma decisão consciente, reconhecendo que não fazer nada também é uma escolha – e arriscada.
A mitigação do risco de inação exige proatividade na compreensão dos potenciais benefícios e desafios da adoção da IA. Precisam promover uma cultura de inovação e aprendizagem contínua, incentivando a exploração e experimentação com aplicações de IA.
À medida que a inovação aumenta, a IA tem o poder de turbinar tudo. Ser demasiado avesso ao risco e simplesmente aderir às antigas formas de fazer as coisas pode ser uma sentença de morte para uma empresa. À medida que se torna cada vez mais integrado nos processos empresariais e na tomada de decisões, as empresas que se abstêm de aproveitar o seu poder podem ter dificuldades em acompanhar o ritmo da mudança e ficar atrás de concorrentes mais ágeis e com conhecimentos tecnológicos. A implementação de tecnologias de IA de forma ponderada e ética pode levar a ganhos significativos em produtividade, eficiência e inovação.
2. IA responsável
Aqui abordamos questões relacionadas com justiça, responsabilidade, transparência, considerações éticas e o bem-estar dos indivíduos e da sociedade. O objetivo é mitigar os potenciais impactos negativos e riscos das tecnologias de IA, maximizando ao mesmo tempo as suas contribuições positivas.
Existem vários componentes principais da IA Responsável:
•Precisão: Uma das maiores preocupações, já que os modelos preditivos nunca são capazes de funcionar a 100%. Os modelos podem facilmente espalhar informações erradas ou tirar conclusões imprecisas. Para garantir que o conteúdo gerado seja preciso, é fundamental ter as proteções corretas. As empresas também precisam de um plano para lidar com diferentes cenários – o que acontece se os clientes receberem dados falsos ou se as decisões internas forem baseadas em respostas imprecisas da IA?
•Viés: Como os modelos são treinados com base em observações históricas, os preconceitos podem infiltrar-se neles, o que pode criar desvantagens para algumas populações ou resultar em discriminação total. Os conselhos desejarão garantir que seu uso seja ético e tenha um sistema para levar em conta preconceitos. (Há pesquisas em andamento sobre sistemas que corrigem preconceitos usando dados sintetizados sobre atributos protegidos, como gênero, raça e etnia.)
•Segurança: a IA depende fortemente de dados e as empresas precisam recolher, armazenar e processar grandes quantidades de dados para treinar e operar os sistemas. Isto aumenta o risco de violações de dados e acesso não autorizado, expondo potencialmente informações confidenciais. Além disso, os sistemas têm de ser capazes de resistir a ataques, em que os malfeitores podem tentar introduzir dados que induziriam o modelo de IA a fazer previsões ou classificações incorretas, o que poderia levar a decisões ou ações mal informadas.
•Transparência: A transparência é crucial para construir confiança, garantir o uso ético e facilitar a responsabilização. Os usuários e partes interessadas devem ter uma compreensão clara de como o seu modelo específico chega às suas decisões, armazena dados e como avaliar o desempenho.
•Responsabilidade social: À medida que as pessoas e funções são perturbadas pela IA, quais são os valores que orientarão o seu negócio à medida que você a adota? Que obrigações sua empresa assumirá para requalificar ou aprimorar as habilidades dos funcionários ou fornecer um nível de proteção ao emprego?

Uma das áreas críticas que exige atenção do conselho é a preocupação com a responsabilidade. À medida que os modelos generativos se tornam mais avançados e capazes de produzir trabalhos inovadores, surgem questões sobre a violação da propriedade intelectual e do trabalho. As empresas devem avaliar se têm o direito de reivindicar a propriedade sobre os resultados gerados pelos seus modelos de IA e se podem patentear estes novos trabalhos. Além disso, é essencial compreender as complexidades dos direitos de dados e garantir a conformidade com a proteção de dados.
À medida que surgem novas políticas e regulamentos de várias autoridades, incluindo a União Europeia (UE) e a Comissão de Valores Mobiliários dos EUA (SEC), as empresas devem monitorizar de perto estes desenvolvimentos. A ignorância ou negligência em acompanhar o cenário jurídico em constante mudança pode levar a violações inadvertidas, o que pode resultar em penalidades financeiras severas e danos à reputação. Além disso, a conformidade com regulamentações rigorosas, como o Regulamento Geral de Proteção de Dados (GDPR) ou a Lei de IA na Europa ou a Lei de Proteção ao Consumidor da Califórnia (CCPA) nos EUA, é essencial para proteger os dados e manter a confiança dos clientes.
Infelizmente, a regulamentação específica para a IA ainda está a surgir, deixando as empresas a instituir o seu próprio nível de governança por enquanto.
Navegar nas águas desconhecidas da regulamentação da IA exige que as empresas adotem uma abordagem proativa e adaptável, colaborando com especialistas jurídicos e partes interessadas para desenvolver estratégias abrangentes e compatíveis que se alinhem com o quadro regulamentar em evolução. Ao permanecerem à frente da tempestade regulamentar, as organizações podem não só mitigar riscos potenciais, mas também posicionar-se como líderes no desenvolvimento e implementação responsáveis de tecnologias de IA.

A supervisão da IA pelo conselho não será um exercício único. Como conselheiro, seus esforços evoluirão junto com o conforto e o uso de tecnologia da sua empresa. No futuro, o conselho precisará ter as seguintes considerações em mente à medida que sua jornada avança:
•Normalizar o tema da IA: Como mencionado anteriormente, a IA precisa ser um tema regular e esperado para o Conselho. Os comitês de risco devem avaliar regulamentações emergentes e áreas de vulnerabilidade. Os comitês de pessoas devem considerar o impacto da IA na organização e, claro, em quaisquer áreas onde ela possa trazer maior eficiência e eficácia. Os comitês técnicos devem avaliar e relatar o progresso em direção às principais iniciativas. À medida que os Conselhos aprenderem a tratar a IA como um ativo e recurso, ela se tornará um tópico tão esperado quanto o financeiro ou o capital humano.
•Modifique a estrutura do seu conselho: Se você não tem um comitê de tecnologia, agora pode ser a hora de começar um. Nem todos os conselheiros trazem perspicácia tecnológica ou interesse para se aprofundar nisso; portanto, os conselhos devem fornecer o fórum para aqueles que o fazem. Além disso, se você não tiver um especialista em tecnologia em seu conselho, você vai querer aproveitar essa capacidade ao procurar seu próximo membro.
•Avalie a liderança da sua empresa: A necessidade de estratégia e habilidades de IA é igualmente importante na liderança corporativa. Certifique-se de que suas equipes de gestão tenham discussões semelhantes e mapeiem onde especialistas em IA podem ser necessários. A demanda por talentos em IA é extremamente alta; portanto, avaliar cuidadosamente quais capacidades são necessárias e desenvolver uma estratégia para recrutar esses especialistas específicos é fundamental para manter uma vantagem competitiva.
•Planeje tempo e recursos para o longo prazo: Muitas vezes, os conselhos e a gestão gastam agressivamente de forma antecipada para aproveitar a tecnologia imediatamente. Embora ser um pioneiro tenha vantagens, certifique-se de ter os recursos para financiar investimentos de longo prazo em IA. Cronogramas e orçamentos irrealistas podem levar a falhas, em que as empresas esperam resultados imediatos e encerram programas antes de colherem os benefícios.
•Jogue no ataque e na defesa: Garanta que a agenda do seu conselho forneça tempo suficiente para lidar com ameaças e oportunidades. Manter-se atualizado sobre as regulamentações e as ações dos concorrentes será uma questão importante – como você pode aproveitar a IA a seu favor? Existe uma oportunidade de influenciar a regulamentação em seu benefício, aplicar modelos de aprendizagem em relação aos dados proprietários da sua empresa ou implantar tecnologias internamente para obter eficiência significativa?
•Aprendizagem contínua: Nos próximos anos, a IA provavelmente evoluirá mais rapidamente do que qualquer tecnologia anterior. Manter-se atualizado sobre as tecnologias e oportunidades emergentes será fundamental para evoluir as estratégias da sua empresa com o cenário em mudança. Lutar contra a complacência neste campo de batalha emergente pode, em última análise, separar os vencedores e os perdedores.
É impossível prever o futuro, mas os sinais sugerem que o surgimento da IA é um marco significativo e transformacional ao longo da história da tecnologia. Este novo capítulo apresenta oportunidades e riscos ao aderir à revolução – mas ainda maiores ao adotar uma abordagem de esperar para ver. Independentemente da velocidade com que sua organização adota a IA, uma coisa é certa: ela não deve ser ignorada. Irá mudar o nosso mundo de inúmeras formas e todo o seu potencial irá revelar-se ao longo do tempo, remodelando as nossas indústrias, economias e sociedades. Os conselheiros que abraçarem e compreenderem o potencial da IA tornar-se-ão os arquitetos dessa transformação.
*Luis Giolo é head de Iberia e colíder das práticas de Sucessão de CEOs e Conselhos no Brasil na Egon Zehnder
© 1996 – 2023. Todos direitos reservados a Editora Globo S/A. Este material não pode ser publicado, transmitido por broadcast, reescrito ou redistribuído sem autorização.

source