Linkedin-in Instagram
CONHEÇA A HSM
Para empresas
Direto ao ponto

Google propõe proteção contra ChatGPT e afins

Conteúdo traz a sugestão de seis padrões de segurança para todo o mercado

Redação HSM Management

Compartilhar:

O ChatGPT não foi feito pelo Google; é um concorrente já que essa big tech tem sua própria IA generativa. Mas o Google vem alertando sobre os riscos desse tipo de tecnologia: o sistema de IA precisa não apenas ser confiável, mas também estar protegido de muitos riscos.

Royal Hansen e Phil Venables, respectivamente, VPs de engenharia de privacidade, segurança e proteção da empresa, e de segurança da informação do Google Cloud, listam três riscos principais: extrair informações confidenciais, adicionar informações incorretas aos dados de treinamento (envenenar) e roubar o próprio sistema de inteligência artificial da empresa.

Em uma tentativa de uniformizar os padrões de segurança do mercado (público e privado) para combater isso, o Google lançou seu framework para a IA segura, o SAIF, com seis elementos:

__1. Estabeleça uma base sólida.__ Mapeie seus controles atuais de IA, com caso de uso, e faça um plano para resolver as lacunas encontradas. Imagine um invasor que use um código malicioso para invadir uma IA. Esse risco poderia ser mitigado por meio da limpeza de inputs, um processo pelo qual os prompts são verificados automaticamente para critérios específicos. Sua empresa já tem esse controle ou não?
__2. Acelere a detecção de ameaças.__ Uma área para focar é criar políticas robustas de segurança de conteúdo. Como IA generativa é capaz de criar imagens, áudio e vídeo do zero, seu potencial para gerar conteúdo prejudicial, por exemplo, é óbvio. Impor políticas de conteúdo protege sua marca contra isso.
__3. Automatize suas defesas.__ São elas: criptografia de dados, controle de acessos e auditorias automáticas. Mas atenção: você ainda precisará de um humano fazendo os julgamentos.
__4. Tenha uma estratégia consistente.__ Evite que diferentes áreas de sua organização tenham controles diferentes em relação à tecnologia. Controles fragmentados aumentam a complexidade – além de aumentarem os custos.
__5. Esteja pronto para se adaptar.__ Tenha “equipe vermelha”, com hackers éticos explorando as vulnerabilidades da IA.
__6. Defina sua tolerância a riscos,__ Isso ajudará a escolher a IA a utilizar.

__Leia também: [Bancos durante crises: diversificai e sobrevivereis](https://www.revistahsm.com.br/post/bancos-durante-crises-diversificai-e-sobrevivereis)__

Artigo publicado na HSM Management nº 157.

Compartilhar:

Artigos relacionados

ESG

Trabalhabilidade: o road map para estender a carreira dos profissionais 45+

Conheça as 8 habilidades necessárias para que o profissional sênior esteja em consonância com o conceito de trabalhabilidade

Cris Sabbag

6 min de leitura
ESG

Washingmania: quando parecer ser não é o suficiente

No mundo corporativo, onde a transparência é imperativa, a Washingmania expõe a desconexão entre discurso e prática. Ser autêntico não é mais uma opção, mas uma necessidade estratégica para líderes que desejam prosperar e construir confiança real.

Marcelo Murilo

8 min de leitura
Empreendedorismo

A quádrupla hélice do sucesso corporativo — Por que estratégia, gestão, cultura e inovação são inseparáveis (e ignorá-las é um suicídio empresarial)

Em um mundo onde as empresas têm mais ferramentas do que nunca para inovar, por que parecem tão frágeis diante da mudança? A resposta pode estar na desconexão entre estratégia, gestão, cultura e inovação — um erro que custa bilhões e mina a capacidade crítica das organizações

Átila Persici

0 min de leitura
Tecnologia
Tecnologias exponenciais

DeepSeek e IA global: Uma corrida por supremacia, não por ética

A ascensão da DeepSeek desafia a supremacia dos modelos ocidentais de inteligência artificial, mas seu avanço não representa um triunfo da democratização tecnológica. Embora promova acessibilidade, a IA chinesa segue alinhada aos interesses estratégicos do governo de Pequim, ampliando o debate sobre viés e controle da informação. No cenário global, a disputa entre gigantes como OpenAI, Google e agora a DeepSeek não se trata de ética ou inclusão, mas sim de hegemonia tecnológica. Sem uma governança global eficaz, a IA continuará sendo um instrumento de poder nas mãos de poucos.

Carine Roos

5 min de leitura
Tecnologias exponenciais

Upskilling e reskilling: preparando-se na era da IA Generativa

A revolução da Inteligência Artificial está remodelando o mercado de trabalho, impulsionando a necessidade de upskilling e reskilling como estratégias essenciais para a competitividade profissional. Empresas como a SAP já investem pesadamente na requalificação de talentos, enquanto pesquisas indicam que a maioria dos trabalhadores enxerga a IA como uma aliada, não uma ameaça.

Daniel Campos Neto

6 min de leitura
Marketing

Customer experience: como encantar e fidelizar clientes na era da personalização inteligente

Empresas que compreendem essa transformação colhem benefícios significativos, pois os consumidores valorizam tanto a experiência quanto os produtos e serviços oferecidos. A Inteligência Artificial (IA) e a automação desempenham um papel fundamental nesse processo, permitindo a resolução ágil de demandas repetitivas por meio de chatbots e assistentes virtuais, enquanto profissionais se concentram em interações mais complexas e empáticas.

Gustavo Nascimento

4 min de leitura
Texto
Empreendedorismo

O conteúdo vive um processo migratório: você já fez suas malas?

Pela primeira vez, o LinkedIn ultrapassa o Google e já é o segundo principal canal das empresas brasileiras. E o seu negócio, está pronto para essa nova era da comunicação?

Bruna Lopes de Barros

5 min de leitura
ESG

Idade não é limite: combatendo o etarismo e fortalecendo a inclusão geracional no trabalho

O etarismo continua sendo um desafio silencioso no ambiente corporativo, afetando tanto profissionais experientes quanto jovens talentos. Mais do que uma questão de idade, essa barreira limita a inovação e prejudica a cultura organizacional. Pesquisas indicam que equipes intergeracionais são mais criativas e produtivas, tornando essencial que empresas invistam na diversidade etária como um ativo estratégico.

Cleide Cavalcante

4 min de leitura
Jurídico
Empreendedorismo

Advogado 2.0: Como a IA vem revolucionado o papel do profissional jurídico

A automação e a inteligência artificial aumentam a eficiência e reduzem a sobrecarga, permitindo que advogados se concentrem em estratégias e no atendimento personalizado. No entanto, competências humanas como julgamento crítico, empatia e ética seguem insubstituíveis.

Cesar Orlando

5 min de leitura
multiculturalidade
ESG

O conflito de gerações no mercado de trabalho e na vida: problema ou oportunidade?

Em um mundo onde múltiplas gerações coexistem no mercado, a chave para a inovação está na troca entre experiência e renovação. O desafio não é apenas entender as diferenças, mas transformá-las em oportunidades. Ao acolher novas perspectivas e desaprender o que for necessário, criamos ambientes mais criativos, resilientes e preparados para o futuro. Afinal, o sucesso não pertence a uma única geração, mas à soma de todas elas.

Alain S. Levi

6 min de leitura

HSM MANAGEMENT

Home

Colunistas

Dossiês

Artigos

Eventos

E-books

CONHEÇA A HSM

SingularityU Brazil

Learning Village

HSM University

HSM Mais

HSM Academy

Copyright © 2020-2024 HSM Management. Todos os direitos reservados.

Linkedin-in Instagram