O ChatGPT não foi feito pelo Google; é um concorrente já que essa big tech tem sua própria IA generativa. Mas o Google vem alertando sobre os riscos desse tipo de tecnologia: o sistema de IA precisa não apenas ser confiável, mas também estar protegido de muitos riscos.
Royal Hansen e Phil Venables, respectivamente, VPs de engenharia de privacidade, segurança e proteção da empresa, e de segurança da informação do Google Cloud, listam três riscos principais: extrair informações confidenciais, adicionar informações incorretas aos dados de treinamento (envenenar) e roubar o próprio sistema de inteligência artificial da empresa.
Em uma tentativa de uniformizar os padrões de segurança do mercado (público e privado) para combater isso, o Google lançou seu framework para a IA segura, o SAIF, com seis elementos:
__1. Estabeleça uma base sólida.__ Mapeie seus controles atuais de IA, com caso de uso, e faça um plano para resolver as lacunas encontradas. Imagine um invasor que use um código malicioso para invadir uma IA. Esse risco poderia ser mitigado por meio da limpeza de inputs, um processo pelo qual os prompts são verificados automaticamente para critérios específicos. Sua empresa já tem esse controle ou não?
__2. Acelere a detecção de ameaças.__ Uma área para focar é criar políticas robustas de segurança de conteúdo. Como IA generativa é capaz de criar imagens, áudio e vídeo do zero, seu potencial para gerar conteúdo prejudicial, por exemplo, é óbvio. Impor políticas de conteúdo protege sua marca contra isso.
__3. Automatize suas defesas.__ São elas: criptografia de dados, controle de acessos e auditorias automáticas. Mas atenção: você ainda precisará de um humano fazendo os julgamentos.
__4. Tenha uma estratégia consistente.__ Evite que diferentes áreas de sua organização tenham controles diferentes em relação à tecnologia. Controles fragmentados aumentam a complexidade – além de aumentarem os custos.
__5. Esteja pronto para se adaptar.__ Tenha “equipe vermelha”, com hackers éticos explorando as vulnerabilidades da IA.
__6. Defina sua tolerância a riscos,__ Isso ajudará a escolher a IA a utilizar.
__Leia também: [Bancos durante crises: diversificai e sobrevivereis](https://www.revistahsm.com.br/post/bancos-durante-crises-diversificai-e-sobrevivereis)__
Artigo publicado na HSM Management nº 157.
