A IA está no mentes de quase todas as empresas e líderes de startups de hoje, desafiando os tomadores de decisão humanos com um fluxo constante de cenários “e se” sobre como trabalharemos e viveremos no futuro. A IA generativa, especialmente, está redefinindo o que as empresas podem fazer com a inteligência artificial – e apresentando questões espinhosas sobre o que as empresas podem fazer. deve fazer.
A gestão de riscos e a garantia de uma supervisão eficaz da IA terão de se tornar um foco central dos conselhos de administração, mas muitas organizações podem ter dificuldades quando se trata de ajudar os seus principais líderes a tornarem-se mais inteligentes em relação à inteligência artificial.
A urgência de educar os membros do conselho está crescendo. Na última década, os casos de uso de aprendizado de máquina e outros tipos de IA se multiplicaram. Os riscos também. Para os conselhos de administração, a era da IA expôs novos desafios no que diz respeito à governação e à gestão de riscos. Um recente Pesquisa Deloitte descobriram que a maioria dos conselhos (72%) tem pelo menos um comitê responsável pela supervisão de riscos e mais de 80% têm pelo menos um especialista em gestão de riscos. Apesar de toda a atenção e investimento na gestão de outros tipos de riscos empresariais, a IA exige o mesmo tratamento.
Os riscos de IA são abundantes. Os riscos de segurança da IA, por exemplo, podem comprometer dados sensíveis. Resultados tendenciosos podem levantar problemas de conformidade. A implantação irresponsável de sistemas de IA pode ter ramificações significativas para as empresas, os consumidores e a sociedade em geral. Todos estes impactos potenciais devem causar preocupação aos membros do conselho — e incentivá-los a desempenhar um papel mais importante ajudando as suas organizações a enfrentar os riscos da IA.
Um crescente senso de urgência
A implantação irresponsável de sistemas de IA pode ter ramificações significativas para as empresas, os consumidores e a sociedade em geral.
A ascensão da IA generativa torna o desafio do risco da IA ainda mais complexo e urgente. Seus recursos surpreenderam os usuários e abriram as portas para casos de uso transformadores. A IA generativa, incluindo grandes modelos de linguagem (LLMs), geradores de imagem e áudio e assistentes de escrita de código, está a oferecer a mais utilizadores ferramentas que podem aumentar a produtividade, gerar insights anteriormente negligenciados e criar oportunidades para aumentar as receitas. E quase qualquer pessoa pode usar essas ferramentas. Você não precisa ter um PhD em ciência de dados para usar um chatbot com LLM treinado em dados corporativos. E como as barreiras à utilização da IA estão a desmoronar-se rapidamente, ao mesmo tempo que as capacidades da IA crescem rapidamente, há muito trabalho a ser feito quando se trata de gestão de riscos.
A IA generativa não só amplifica os riscos associados à IA, mas também encurta o prazo para o desenvolvimento de estratégias que apoiem a mitigação dos riscos da IA. Os riscos atuais são reais e só aumentarão à medida que a IA generativa amadurecer e a sua adoção crescer. Os conselhos não têm tempo a perder para adquirir mais conhecimento sobre a IA generativa e como ela influenciará a gestão de riscos. As cinco etapas a seguir podem ajudar os membros do conselho a preparar suas organizações para um futuro que será moldado pela IA generativa.
