CIOs se preparam para os riscos da GenAI

Ao que tudo indica, a certeza de que a GenAI afetará todos os aspectos da tecnologia e dos negócios nos próximos anos é uma unanimidade. E os investimentos serão altos: segundo o IDC (International Data Corporation), os gastos mundiais com Inteligência Artificial, incluindo aplicativos habilitados para IA, infraestrutura e serviços de TI e negócios relacionados, mais que dobrarão até 2028, quando se espera que atinjam US$ 632 bilhões, de acordo com uma nova previsão do Worldwide AI and GenAI Spending Guide.

A rápida incorporação de IA, e da GenAI em particular, em uma ampla gama de produtos, resultará em uma taxa de crescimento anual composta (CAGR) de 29,0% durante o período de previsão de 2024-2028.

Mas, se por um lado, a GenAI promete revolucionar a produtividade, contribuindo para que as empresas operem com mais agilidade e eficiência, por outro traz diversos riscos para a segurança cibernética, como foi observado no vazamento de dados confirmado pela OpenAI, desenvolvedora do ChatGPT, chatbot com GenAI.

Ano passado, a OpenAI confirmou uma violação de dados causada por um bug em uma biblioteca de código aberto. O vazamento permitia a visualização de títulos do histórico de bate-papos e, o mais preocupante, expôs informações relacionadas a pagamentos de assinantes do serviço pago ChatGPT Plus, incluindo nome e sobrenome, endereço de e-mail, endereço de pagamento, data de validade do cartão de pagamento e os últimos quatro dígitos do número do cartão do cliente.

Com a GenAI, chega a Shadow AI

Se com a chegada do modelo BYOD os CIOs precisaram aprender a lidar com os riscos da Shadow IT, com o aumento do uso de hardwares, softwares e serviços na nuvem sem o conhecimento ou aprovação do departamento, agora é a vez de encarar os riscos provenientes da Shadow AI, termo usado para funcionários que usam ferramentas de GenAI, como o ChatGPT, sem aprovação ou governança de TI.

A violação de dados no ChatGPT em 2023, episódio no qual o Brasil foi um dos países mais afetados, levou diversas empresas como a Samsung, Apple e Amazon a proibirem o seu uso após credenciais serem oferecidas em mercados ilícitos da Dark Web.

A Samsung, inclusive, proibiu funcionários de usarem ferramentas de GenAI, como o ChatGPT, após identificar que uma equipe inseriu acidentalmente um código confidencial na plataforma.

Instituições bancárias globais e brasileiras, como o Banco do Brasil e a Caixa, entre outras, não autorizam o uso da ferramenta, mas estudam a sua adoção, avaliando o risco e a geração de valor para os clientes.

Por conta desse novo risco, entre outros, a segurança cibernética é prioridade estratégica para 100% dos bancos participantes da Pesquisa Febraban de Tecnologia Bancária 2024, estudo realizado pela consultoria Deloitte que está na sua 32ª edição.

As instituições financeiras destacaram que o foco dos investimentos em segurança cibernética está centrado em arquitetura, infraestrutura e ferramentas especializadas em estratégias para detecção e resposta a ameaças, gestão de identidades e acessos, treinamento e conscientização de colaboradores, testes de invasão e criptografia de dados e informações.

Além disso, os bancos estão migrando cada vez mais seus serviços para a nuvem, sendo os investimentos em Cloud security essenciais para proteger informações e garantir a conformidade com as regulamentações.

A pesquisa também indica que 96% dos bancos respondentes possuem tecnologias de IA e 54% já adotam aplicações de GenAI, e a consultoria indica que, inicialmente, sejam implementados estudos de uso em atividades em que o esforço para a geração de dados é alto e em que sua validação é relativamente simples, explorando dados com maior eficiência e assertividade para personalizar o relacionamento com os clientes.

As organizações precisam examinar cuidadosamente sua força de trabalho e entender o impacto da GenAI em cada atividade, avaliando o que os humanos fazem de melhor e como a tecnologia pode apoiar seus esforços.

Como superar os riscos que chegam com a GenAI

O surgimento de novos e variados tipos de ameaças aumenta a demanda por profissionais cada vez mais preparados. Dentre os principais desafios para gerenciar a segurança cibernética, o maior deles é a escassez de especialistas qualificados, indica o estudo da Febraban.

Os analistas apontam como uma das estratégias para superar a dificuldade de acesso a especialistas e na busca por maior eficiência operacional o aumento na contratação de profissionais terceirizados na área de TI. Isso permite às organizações financeiras concentrarem seus esforços em temas estratégicos e em suas principais competências.

No último ano, houve aumento de 89% na quantidade média de profissionais terceirizados em segurança cibernética e, para 2024, a expectativa de 25% dos bancos é de aumentar a quantidade de profissionais desta área.

A lição aprendida pelo setor financeiro pode ser aplicada a diversos outros segmentos. Entre em contato com a Faiston e vamos criar um projeto unificado, integrando a GenAI e a segurança cibernética.