Linkedin-in Instagram
CONHEÇA A HSM
Para empresas
Direto ao ponto

Google propõe proteção contra ChatGPT e afins

Conteúdo traz a sugestão de seis padrões de segurança para todo o mercado

Redação HSM Management

Compartilhar:

O ChatGPT não foi feito pelo Google; é um concorrente já que essa big tech tem sua própria IA generativa. Mas o Google vem alertando sobre os riscos desse tipo de tecnologia: o sistema de IA precisa não apenas ser confiável, mas também estar protegido de muitos riscos.

Royal Hansen e Phil Venables, respectivamente, VPs de engenharia de privacidade, segurança e proteção da empresa, e de segurança da informação do Google Cloud, listam três riscos principais: extrair informações confidenciais, adicionar informações incorretas aos dados de treinamento (envenenar) e roubar o próprio sistema de inteligência artificial da empresa.

Em uma tentativa de uniformizar os padrões de segurança do mercado (público e privado) para combater isso, o Google lançou seu framework para a IA segura, o SAIF, com seis elementos:

__1. Estabeleça uma base sólida.__ Mapeie seus controles atuais de IA, com caso de uso, e faça um plano para resolver as lacunas encontradas. Imagine um invasor que use um código malicioso para invadir uma IA. Esse risco poderia ser mitigado por meio da limpeza de inputs, um processo pelo qual os prompts são verificados automaticamente para critérios específicos. Sua empresa já tem esse controle ou não?
__2. Acelere a detecção de ameaças.__ Uma área para focar é criar políticas robustas de segurança de conteúdo. Como IA generativa é capaz de criar imagens, áudio e vídeo do zero, seu potencial para gerar conteúdo prejudicial, por exemplo, é óbvio. Impor políticas de conteúdo protege sua marca contra isso.
__3. Automatize suas defesas.__ São elas: criptografia de dados, controle de acessos e auditorias automáticas. Mas atenção: você ainda precisará de um humano fazendo os julgamentos.
__4. Tenha uma estratégia consistente.__ Evite que diferentes áreas de sua organização tenham controles diferentes em relação à tecnologia. Controles fragmentados aumentam a complexidade – além de aumentarem os custos.
__5. Esteja pronto para se adaptar.__ Tenha “equipe vermelha”, com hackers éticos explorando as vulnerabilidades da IA.
__6. Defina sua tolerância a riscos,__ Isso ajudará a escolher a IA a utilizar.

__Leia também: [Bancos durante crises: diversificai e sobrevivereis](https://www.revistahsm.com.br/post/bancos-durante-crises-diversificai-e-sobrevivereis)__

Artigo publicado na HSM Management nº 157.

Compartilhar:

Artigos relacionados

Parte IV – Futuros em prompts: como disputar e construir realidade

18/04/2026

Este é o quarto texto da série “Como promptar a realidade” e aprofunda como futuros disputam processamento antes de existir como evidência – mostrando por que narrativas constroem organizações, reescrevem culturas ou colapsam democracias, e como reconhecer (ou escolher) o prompt que está rodando agora.

A era do “AI theater”: estamos fingindo transformação?

17/04/2026

Nem toda empresa que fala de IA está, de fato, se transformando. Este artigo expõe o risco do AI theater – quando a inteligência artificial vira espetáculo – e mostra por que a vantagem competitiva está menos no discurso e mais nas mudanças invisíveis de estratégia, governança e decisão.

Parte III – APIs sociotécnicas versus malwares mentais… e como recuperar a soberania imaginal

17/04/2026

Este é o terceiro texto da série “Como promptar a realidade”. Até aqui, as duas primeiras partes mapearam o mecanismo: como contextos são instalados, como narrativas disputam processamento e como ficções ganham densidade de real. A partir daqui, a pergunta muda: o que fazer com esse conhecimento? Como reconhecer quando você está sendo instalado – e como instalar, conscientemente, o prompt que você escolhe?

O esporte que você ama mudou – e isso é uma ótima notícia

16/04/2026

Do vestiário aos dados, o esporte entrou em uma nova era. Este artigo mostra como tecnologia, ciência e informação estão redefinindo decisões, performance, engajamento de torcedores e modelos de receita – sem substituir a emoção que faz o jogo ser o que é

Parte II – Hyperstition: a tecitura ficcional da realidade

16/04/2026

Este é o segundo artigo da série “Como promptar a realidade” e investiga como ficções, ao entrarem em loops de feedback, deixam de descrever o mundo para disputar ontologia – reorganizando mercados, política, tecnologia e comportamento antes mesmo de qualquer evidência.

Tecnologia & inteligencia artificial
18 de abril de 2026 09H00

Parte IV – Futuros em prompts: como disputar e construir realidade

Este é o quarto texto da série "Como promptar a realidade" e aprofunda como futuros disputam processamento antes de existir como evidência - mostrando por que narrativas constroem organizações, reescrevem culturas ou colapsam democracias, e como reconhecer (ou escolher) o prompt que está rodando agora.

Chico Araújo - Diretor Executivo do Instituto Inteligência Artificial de Verdade (IAV), cofundador do The Long Game Futures. e Global Expert da Singularity University.

27 minutos min de leitura
Tecnologia & inteligencia artificial
17 de abril de 2026 15H00

A era do “AI theater”: estamos fingindo transformação?

Nem toda empresa que fala de IA está, de fato, se transformando. Este artigo expõe o risco do AI theater - quando a inteligência artificial vira espetáculo - e mostra por que a vantagem competitiva está menos no discurso e mais nas mudanças invisíveis de estratégia, governança e decisão.

Bruno Padredi - Fundador e CEO da B2B Match

4 minutos min de leitura
Tecnologia & inteligencia artificial, Foresight
17 de abril de 2026 09H00

Parte III – APIs sociotécnicas versus malwares mentais… e como recuperar a soberania imaginal

Este é o terceiro texto da série "Como promptar a realidade". Até aqui, as duas primeiras partes mapearam o mecanismo: como contextos são instalados, como narrativas disputam processamento e como ficções ganham densidade de real. A partir daqui, a pergunta muda: o que fazer com esse conhecimento? Como reconhecer quando você está sendo instalado - e como instalar, conscientemente, o prompt que você escolhe?

Chico Araújo - Diretor Executivo do Instituto Inteligência Artificial de Verdade (IAV), cofundador do The Long Game Futures. e Global Expert da Singularity University.

11 minutos min de leitura
Inovação & estratégia, Tecnologia & inteligencia artificial
16 de abril de 2026 14H00

O esporte que você ama mudou – e isso é uma ótima notícia

Do vestiário aos dados, o esporte entrou em uma nova era. Este artigo mostra como tecnologia, ciência e informação estão redefinindo decisões, performance, engajamento de torcedores e modelos de receita - sem substituir a emoção que faz o jogo ser o que é

Marcos Ráyol - CTO do Lance!

5 minutos min de leitura
Tecnologia & inteligencia artificial, Foresight
16 de abril de 2026 09H00

Parte II – Hyperstition: a tecitura ficcional da realidade

Este é o segundo artigo da série "Como promptar a realidade" e investiga como ficções, ao entrarem em loops de feedback, deixam de descrever o mundo para disputar ontologia - reorganizando mercados, política, tecnologia e comportamento antes mesmo de qualquer evidência.

Chico Araújo - Diretor Executivo do Instituto Inteligência Artificial de Verdade (IAV), cofundador do The Long Game Futures. e Global Expert da Singularity University

13 minutos min de leitura
Liderança
15 de abril de 2026 17H00

Liderança criativa: o caminho para resolver desafios complexos nas organizações

Se liderar ainda é, para você, dar respostas e controlar processos, este artigo não é confortável. Liderança criativa começa quando o líder troca certezas por perguntas e controle por confiança.

Clarissa Almeida - Head de RH da Yank Solutions

2 minutos min de leitura
Cultura organizacional, Foresight, Tecnologia & inteligencia artificial
15 de abril de 2026 08H00

Como promptar a realidade

Este é o primeiro artigo de uma série em quatro partes que propõe uma microtese sobre futuros que disputam processamento - e investiga o papel insuspeito de memes, programação preditiva, hyperstition, cura de traumas, strategic foresight e soberania imaginal no ciclo de inovação que já começou.

Chico Araújo - Diretor Executivo do Instituto Inteligência Artificial de Verdade (IAV), cofundador do The Long Game Futures. e Global Expert da Singularity University

23 minutos min de leitura
Tecnologia & inteligencia artificial, Gestão de pessoas & arquitetura de trabalho
14 de abril de 2026 18H00

Na era da IA, o melhor talento pode ser o maior risco

Este artigo propõe analisar como a combinação entre pressão por velocidade, talento autónomo e uso não estruturado de AI pode deslocar a execução para fora dos sistemas formais- introduzindo riscos que não são imediatamente visíveis nos indicadores tradicionais.

Marta Ferreira

4 minutos min de leitura
Liderança
14 de abril de 2026 14H00

Por que os melhores líderes não lutam para vencer

Este é o primeiro artigo da nova coluna "Liderança & Aikidô" e neste texto inaugural, Kei Izawa mostra por que os líderes mais eficazes deixam de operar pela lógica do confronto e passam a construir vantagem estratégica por meio da harmonia, da não resistência, da gestão de conflitos e de decisões sem ego em ambientes de alta complexidade.

Kei Izawa - 7º Dan de Aikikai e ex-presidente da Federação Internacional de Aikido

7 minutos min de leitura
User Experience, UX, Inovação & estratégia
14 de abril de 2026 07H00

De UX para AX: como a era dos agentes autônomos redefine o design, os negócios e o papel humano

Com a ascensão dos agentes de IA, nos deparamos com uma profunda mudança no papel do designer, de executor para curador, estrategista e catalisador de experiências complexas. A discussão de UX evolui para o território do AX (Agent Experience), onde o foco deixa de ser somente a interação humano-máquina em interfaces e passa a considerar como agentes autônomos agem, decidem e colaboram com pessoas em sistemas inteligentes

Victor Ximenes - Senior Design Manager do CESAR

5 minutos min de leitura

Baixe agora mesmo a nossa nova edição!

Dossiê #171

A Face Executiva de 2026

Líderes de organizações brasileiras de todos os setores, portes e regiões desenham o ano empresarial do Brasil com suas prioridades em relação a negócios, pessoas e tecnologia...

Eu quero

Baixe agora mesmo a nossa nova edição!

Dossiê #171

A Face Executiva de 2026

Líderes de organizações brasileiras de todos os setores, portes e regiões desenham o ano empresarial do Brasil com suas prioridades em relação a negócios, pessoas e tecnologia...

Eu quero