Uncategorized

A discussão ética da inteligência artificial avança

No último SxSW, especialistas alertaram: é preciso desenvolver sistemas de IA em três frentes de atuação, para que sejam mais transparentes, compreensíveis e responsáveis

Compartilhar:

À medida que avançam as aplicações da inteligência artificial (IA), crescem também as dúvidas sobre como verdadeiramente se dá o aprendizados das máquinas. Em outras palavras, que caminhos os sistemas inteligentes, que têm a tecnologia de machine learning, percorrem para fazer o que fazem, ou para chegar às conclusões que apresentam. 

Esse foi o tema central do painel “Ética e IA: como se planejar para o imprevisível”, que fez parte da edição deste ano da tradicional feira de tecnologia, música e cinema South by Southwest (SxSW), realizada desde 1987 no Texas. Eis a conclusão dos especialistas, de acordo com reportagem do portal SingularityHub: é preciso desenvolver sistemas de IA mais transparentes, compreensíveis e responsáveis. 

Ryan Welsh, fundador e diretor da startup de AI Kyndi, destacou três frentes de atuação prioritárias para que os sistemas de inteligência artificial deixem de ser algo incompreensível para a maior parte da sociedade:

• Em primeiro lugar vem a transparência, ou seja, a capacidade de identificar as unidades de maior influência em uma rede de machine learning, assim como os pesos de cada uma dessas unidades e como elas se relacionam com os dados e os resultados obtidos. 

• Em seguida, surge a questão da procedência. É preciso saber de onde vêm os dados utilizados. No cenário ideal, um sistema de IA deveria ser capaz de citar, como referência, estudos e artigos criados por seres humanos.

• Por fim, os sistemas de IA devem ser capazes de explicar como funcionam em uma linguagem compreensível para a média dos usuários, com sentenças como: “Cheguei a esse resultado porque x, y, z…”. 

“Os seres humanos são únicos em seu desejo e em sua habilidade de perguntar por quê”, afirmou Josh Marcuse, diretor-executivo do Defense Innovation Board, que presta consultoria aos Departamento de Defesa do governo dos Estados Unidos em assuntos relativos à inovação. “Buscamos explicações das pessoas para entender o sistema de crenças delas, para decidir se concordamos com esse sistema e para saber se queremos seguir com aquele diálogo ou trabalho conjunto”, acrescentou.

Os seres humanos nem sempre conseguem explicar claramente suas escolhas, mas pelo menos tentam fazê-lo, de modo a demonstrar seu processo de tomada de decisões. As máquinas capazes de aprender ainda não fazem isso. Portanto, garantem os especialistas, o caminho é trabalhar na identificação dos dados responsáveis por desencadear o processo que leva à decisão pelo sistema de IA, mesmo que o processo e a decisão em si não sejam perfeitos.

Compartilhar:

Artigos relacionados

Captação de Recursos e Inovação aberta: O caminho para o crescimento

Programas como Finep, Embrapii e a Plataforma Inovação para a Indústria demonstram como a captação de recursos não apenas viabiliza projetos, mas também estimula a colaboração interinstitucional, reduz riscos e fortalece o ecossistema de inovação. Esse modelo de cocriação, aliado ao suporte financeiro, acelera a transformação de ideias em soluções aplicáveis, promovendo um mercado mais dinâmico e competitivo.

Washingmania: quando parecer ser não é o suficiente

No mundo corporativo, onde a transparência é imperativa, a Washingmania expõe a desconexão entre discurso e prática. Ser autêntico não é mais uma opção, mas uma necessidade estratégica para líderes que desejam prosperar e construir confiança real.

Liderança
As tendências de liderança para 2025 exigem adaptação, inovação e um olhar humano. Em um cenário de transformação acelerada, líderes precisam equilibrar tecnologia e pessoas, promovendo colaboração, inclusão e resiliência para construir o futuro.

Maria Augusta Orofino

4 min de leitura
Finanças
Programas como Finep, Embrapii e a Plataforma Inovação para a Indústria demonstram como a captação de recursos não apenas viabiliza projetos, mas também estimula a colaboração interinstitucional, reduz riscos e fortalece o ecossistema de inovação. Esse modelo de cocriação, aliado ao suporte financeiro, acelera a transformação de ideias em soluções aplicáveis, promovendo um mercado mais dinâmico e competitivo.

Eline Casasola

4 min de leitura
Empreendedorismo
No mundo corporativo, insistir em abordagens tradicionais pode ser como buscar manualmente uma agulha no palheiro — ineficiente e lento. Mas e se, em vez de procurar, queimássemos o palheiro? Empresas como Slack e IBM mostraram que inovação exige romper com estruturas ultrapassadas e abraçar mudanças radicais.

Lilian Cruz

5 min de leitura
ESG
Conheça as 8 habilidades necessárias para que o profissional sênior esteja em consonância com o conceito de trabalhabilidade

Cris Sabbag

6 min de leitura
ESG
No mundo corporativo, onde a transparência é imperativa, a Washingmania expõe a desconexão entre discurso e prática. Ser autêntico não é mais uma opção, mas uma necessidade estratégica para líderes que desejam prosperar e construir confiança real.

Marcelo Murilo

8 min de leitura
Empreendedorismo
Em um mundo onde as empresas têm mais ferramentas do que nunca para inovar, por que parecem tão frágeis diante da mudança? A resposta pode estar na desconexão entre estratégia, gestão, cultura e inovação — um erro que custa bilhões e mina a capacidade crítica das organizações

Átila Persici

0 min de leitura
Tecnologias exponenciais
A ascensão da DeepSeek desafia a supremacia dos modelos ocidentais de inteligência artificial, mas seu avanço não representa um triunfo da democratização tecnológica. Embora promova acessibilidade, a IA chinesa segue alinhada aos interesses estratégicos do governo de Pequim, ampliando o debate sobre viés e controle da informação. No cenário global, a disputa entre gigantes como OpenAI, Google e agora a DeepSeek não se trata de ética ou inclusão, mas sim de hegemonia tecnológica. Sem uma governança global eficaz, a IA continuará sendo um instrumento de poder nas mãos de poucos.

Carine Roos

5 min de leitura
Tecnologias exponenciais
A revolução da Inteligência Artificial está remodelando o mercado de trabalho, impulsionando a necessidade de upskilling e reskilling como estratégias essenciais para a competitividade profissional. Empresas como a SAP já investem pesadamente na requalificação de talentos, enquanto pesquisas indicam que a maioria dos trabalhadores enxerga a IA como uma aliada, não uma ameaça.

Daniel Campos Neto

6 min de leitura
Marketing
Empresas que compreendem essa transformação colhem benefícios significativos, pois os consumidores valorizam tanto a experiência quanto os produtos e serviços oferecidos. A Inteligência Artificial (IA) e a automação desempenham um papel fundamental nesse processo, permitindo a resolução ágil de demandas repetitivas por meio de chatbots e assistentes virtuais, enquanto profissionais se concentram em interações mais complexas e empáticas.

Gustavo Nascimento

4 min de leitura
Empreendedorismo
Pela primeira vez, o LinkedIn ultrapassa o Google e já é o segundo principal canal das empresas brasileiras. E o seu negócio, está pronto para essa nova era da comunicação?

Bruna Lopes de Barros

5 min de leitura