Contagem regressiva

Empatia artificial: a próxima fase da IA

A startup Cyrano.ai acrescentou psicologia para oferecer “empatia artificial” à inteligência artificial e gerar oxitocina, como diz seu CEO e cofundador, Scott Sandland, nesta entrevista. Ele esteve em São Paulo para o evento Apix 2023
Pedro Nascimento é presidente do conselho da HSM Management. Sandra Regina da Silva é colaboradora da HSM Management.

Compartilhar:

### 10 – Como você, um hipnoterapeuta, se envolveu com inteligência artificial e com a ideia da empatia artificial?
Eu era diretor-executivo de uma clínica de saúde mental e, uns sete ou oito anos atrás, via de perto essa epidemia de pessoas com menos de 35 anos sentindo-se solitárias e fazendo subir os índices de ansiedade, depressão, suicídio, overdoses de drogas etc. Enquanto isso, eu estava treinando novos funcionários e tinha a vontade de mudar o estado das coisas.

Pensei que o melhor jogador de xadrez do mundo era uma IA e comecei a pesquisar. A terapia funciona muito como o xadrez – a razão pela qual você está fazendo algo ruim é porque está sacrificando determinado peão para conseguir uma posição melhor mais tarde. O desafio é descobrir se podemos ter menos sacrifícios em nossa estratégia. Então, pensei: e se eu pudesse ensinar uma IA a ser conversacional?

Começamos a investigar, e encontrei o gênio Richard Socher, que construiu uma tonelada de IA que a Salesforce usa e é um líder de pensamento absoluto nessa indústria. Ele dizia que chatbots precisam ser otimizados para dar respostas completas e precisas e, na hora, pensei: isso está errado. É uma péssima ideia, mesmo esse cara sendo muito mais inteligente que eu.

Por quê? Porque uma resposta completa e precisa é o oposto de uma comunicação eficaz, já que comunicação eficaz é sobre como ler o contexto e adaptar a ele o que você tem para dizer. Aquele que vai apenas com informações completas e precisas é o “chato da festa”, aquele sujeito que não para de falar sobre algo que ninguém se importa. Não podemos ter isso em conversas que são emocionalmente sensíveis ou de alto valor. Assim vi um gap que eu podia preencher e endereçar a epidemia de solidão.

### 9 – Então, mesmo nessa explosão de IAs generativas, falta levar em consideração o contexto?
Exatamente. Experimente colocar numa mesma sala vendedores e técnicos. Os vendedores falam: “Somos nós que estamos vendendo tudo”. E os técnicos replicam: “Se não fosse a gente, você não teria nada para vender”. Há uma tensão natural entre os dois grupos. E a incompatibilidade vai aparecer de novo: os profissionais da tecnologia estão procurando por coisas que sejam bastante mensuráveis, como feedback do usuário em seus testes ou de controle de qualidade. E os vendedores estão gastando tempo em sentir o cliente, construir um relacionamento com ele.

Eu decidi construir uma ferramenta que fizesse o pessoal de vendas realmente se comunicar com a turma da tecnologia. A análise de sentimento e o resumo automático são o mais próximo disso que existe hoje, mas estão projetados para o gerenciamento mais do que para a pessoa que conversa.

### 8 – E como princípios de terapia foram parar numa tecnologia usada no mercado corporativo?
Parece loucura, mas algumas semanas depois de termos essa ideia sabíamos qual deveria ser o roteiro. Começaria por treinar a IA em conversas importantes para as pessoas, nas quais relacionamento normalmente importa – mas não podia ser em uma situação clínica de saúde, com uma população vulnerável. Não somente pela ética, mas também porque é muito difícil pegar uma conversa clínica e vinculá-la a uma melhora. Há muitas variáveis envolvidas em uma melhora, coisas que às vezes nem estão no radar – o paciente ou sua esposa podem ter conseguido uma promoção no trabalho; se for um garoto, ele pode ter ganhado um cachorrinho ou tirado A numa prova da escola. Em termos de treinamento de modelo, precisávamos de dados não corrompidos.

Então, comecei a treinar a IA com vendas de alto valor do mercado corporativo; isso é emocionalmente forte, depende de relacionamento e apresenta um resultado claro para medirmos. Foi assim que caí no segmento corporativo. Começamos com venda de carros, porque um Honda Civic é um Honda Civic em todos os lugares e, portanto, você sabe que pode vincular melhor o resultado ao relacionamento. Depois seguiríamos em direção à saúde – assim que tivéssemos dados suficientes, que é o que temos agora.

### 7 – Como foi a transição para a saúde?
Está sendo. Em seguida às aplicações comerciais, fizemos um piloto de nove meses com 50 terapeutas. Apenas demos a eles uma ferramenta Zoom, dissemos que era para usarem nas sessões virtuais deles e nos mandar feedbacks. Atualmente estamos revisando nosso sistema com base nos feedbacks que recebemos desses 50 terapeutas.

### 6 – E essa IA poderia ser aplicada em outras áreas, além de vendas e terapia?
Sim, porque os seres humanos são definidos pela comunicação. É o que nos diferencia de todos os animais. É por causa da capacidade de comunicação que estamos tão entusiasmados com o ChatGPT, percebe? Ele fala conosco! Isso gerou o burburinho. Mas acredite: ainda não nos agarrou como uma conversa faria, porque a conversa, na verdade, é algo humano muito primitivo. O sistema da Cyrano.ai foi projetado para melhorar conversas, que são algo complexo, em qualquer lugar onde se converse.

Só que descobrir os melhores locais para levar nossa IA foi um processo difícil e demorou muito mais tempo. A educação em saúde é uma das mais importantes, especialmente a saúde mental, com base apenas em minha formação. Mas vendas de carros, de casas, serviços financeiros, todas essas áreas podem ser beneficiadas. Criamos uma matriz das conversas de maior valor e com menor regulamentação e risco ético, e partimos para o planejamento. Eu diria que estamos no meio de uma primeira fase. A próxima é excluir coisas que não nos pareçam interessantes.

### 5 – E os resultados? Quão melhores têm ficado as conversas?
Temos os resultados comerciais consolidados, e estes superaram nossas estimativas mais ambiciosas. Em nossa primeira implantação, melhoramos as conversões de vendas de carros em 26% e reduzimos o tempo de venda em 44%, em um teste A/B de 120 dias. De jeito algum pensamos que teríamos essa redução no tempo de venda. Depois, aumentamos as vendas de residências em 14% em um mercado que caiu 11%, ou seja, o resultado foi 25% melhor. E esses são os números objetivos. Também tivemos entre 78% e 96% de precisão nas previsões em um ciclo de vendas de vários estágios.

Nossos números de feedback do usuário foram 86% (carros) e 87% (residências). Nossos usuários nos deram feedbacks muito úteis e altamente precisos, de maneira subjetiva e objetiva.
Agora, passar da venda de um carro de US$ 30 mil para outro de US$ 80 mil poderia ser um avanço, mas não é o mais interessante. O que nos interessa é passar da venda de um carro para uma iniciativa relacionada com saúde mental. É quando você vai de uma vertical para outra que os grandes saltos precisam acontecer.

### 4 – Quais as limitações? O que precisa ser melhorado? É uma caixa-preta quando começa a aprender por si só, não é?
O componente da caixa-preta de fato é complicado. O outro lado disso, que também acho complicado, é um termo que minha esposa e eu usamos em nossa casa: tem um “front-end” difuso. Significa que a tecnologia, além de ter aquele componente de caixa-preta que não entendemos, não possui contornos claramente definidos para sabermos onde usá-la e onde não usá-la. Deve ser como quando foi inventada a roda. O homem não devia entender realmente todas as implicações do que iria fazer para transformar a sociedade com uma roda.

Lembra quando você teve seu primeiro telefone celular? Se tivessem lhe dito na época o que você faria com um telefone em 2023, você não acreditaria. Depois do lançamento do iPhone, um dos primeiros aplicativos da App Store que rendeu um “zilhão” de dólares foi algo que reproduzia sons “flatulentes”, a coisa mais estúpida do mundo! E havia um app para fazer parecer que você estava bebendo uma cerveja no telefone.

Acho que é no estágio de aplicativo gerador de “ruído de soltar pum” que estamos com os LLMs {sigla em inglês para modelos de linguagem grande}. E tudo bem. Precisa acontecer como com os smartphones, que ganharam o GPS, a câmera que tira fotos de alta qualidade, a possibilidade de pagar coisas com o celular, e outras tantas contribuições para uma melhor qualidade de vida.

LLM está sendo a ponta da lança, isso vai ficar muito mais profundo e transformador.

### 3 – E aquele filme *Ela*, em que o sujeito se apaixona por um LLM… Vai acontecer?
Acho que sim, nós teremos isso. E é muito melhor do que o temos hoje.

Veja: a maioria dos algoritmos com os quais os humanos interagem hoje, como o do YouTube, o do Facebook e o do Instagram, é centrada em dopamina. Buscam nos fazer sentir um prazer associado à sua interação com esse algoritmo. Isso é uma ideia perversa; e diria até que uma ideia de mercenários. A dopamina é uma droga caça-níqueis; viciante, predatória, perturbadora. Ou seja, essas máquinas nos viciaram e nos isolaram uns dos outros.

Existe uma substância química melhor a acionar; precisamos construir sistemas que otimizem a oxitocina. Trata-se da substância química de intimidade, conexão, confiança, amor e harmonia – o momento em que se tem mais oxitocina é durante o parto, para você ter uma ideia. Ela tem a ver com momentos de verdadeira alegria e conexão, e isso é humanidade. Ainda não criamos ferramentas que fazem isso.

Minha irmã antropóloga, que viveu no sul da Venezuela por sete anos, compartilhou uma história comigo que eu amo: um antropólogo foi questionado sobre o primeiro sinal de cultura e civilização na humanidade. A expectativa era de que sua resposta fosse uma panela de barro, um desenho de caverna, mas foi muito melhor do que isso. Eram os restos mortais de uma mulher da caverna que tinha um fêmur quebrado e cicatrizado. Significou que a tribo cuidou dela até que sua perna sarasse. Foi o primeiro sinal de uma cultura civilizada, inteligente.

Agora, estamos construindo potes de barro com tecnologia, com uma IA, e até podemos desenhar nas paredes no meio da jornada. Tudo isso é legal, mas não a estamos usando ainda para que os vulneráveis em nossa tribo sejam mais bem cuidados. Precisamos construir sistemas que cuidem das pessoas, que valorizem a condição humana. Se não estivermos otimizando para isso, vamos sair perdendo.

Uma parte fundamental para o alinhamento entre tecnologia e humanos é fazer com que os sistemas otimizem oxitocina em vez da dopamina.

### 2 – Sobre sua IA, para onde vai essa empatia artificial conversacional?
Para muitos lugares legais, eu acho. Cada pessoa poderia tê-la como sua própria assistente virtual, embora não seja assim que muitas pessoas estão olhando para a IA. Acho que todos nós teremos nossa própria IA correspondente. Se for bem-feita, ela vai te entender, vai te pegar, vai ser simbiótica com você e estará sempre presente. Vai ser incrível e você será capaz de aprender qualquer coisa, exatamente da maneira que for melhor para você, em alinhamento com suas curiosidades.

O buscador do Google representou um salto em pesquisa de conhecimento, não foi? Com essa IA pessoal, haverá um salto maior ainda no acesso a informação e educação. Um salto que mudará bastante o mundo. Quem não leu a postagem de Sam Altman {da OpenAI} *Moore’s law for everything deveria,* e rápido; ajuda a entender o tamanho da mudança. {[Veja aaqui.](https://moores.samaltman.com/)}

### 1 – Seth Godin diz, em seu blog, que precisamos nos aprofundar no trabalho emocional, porque este é humano e é o que nos separa das máquinas. O que você pensa a respeito?
Novamente, cito o front-end difuso, essa dificuldade de descobrir quais são os melhores usos para essa tecnologia. Pensávamos que íamos construir uma IA para que todos pudéssemos ficar sentados desenhando e compondo músicas. E agora a IA está desenhando e escrevendo músicas para que possamos ser encanadores melhores. Meu sobrinho, que tem 20 anos, diz que algumas de suas melhores lembranças da faculdade serão de jogar videogame online com seus amigos usando um fone de ouvido. Isso é diversão, é social e é humano, apesar da máquina. Não?

De fato, não queremos uma IA para substituir as pessoas na conexão emocional – só para complementá-las –, mas a substituição infelizmente acontecerá, do mesmo modo que as drogas substituem relacionamentos hoje.

Artigo publicado na HSM Management nº 157.

Compartilhar:

Artigos relacionados

Estratégias eficazes para captação de recursos de inovação

Em um mercado cada vez mais competitivo, a inovação se destaca como fator crucial para o crescimento empresarial. Porém, transformar ideias inovadoras em realidade requer compreender as principais fontes de fomento disponíveis no Brasil, como BNDES, FINEP e Embrapii, além de adotar uma abordagem estratégica na elaboração de projetos robustos.

Os 5 maiores mitos sobre IA no RH – e o que realmente importa

Em meio aos mitos sobre IA no RH, empresas que proíbem seu uso enfrentam um paradoxo: funcionários já utilizam ferramentas como ChatGPT por conta própria. Casos práticos mostram que, quando bem implementada, a tecnologia revoluciona desde o onboarding até a gestão de performance.

A IA está no meio de nós

A Inteligência Artificial, impulsionada pelo uso massivo e acessível, avança exponencialmente, destacando-se como uma ferramenta inclusiva e transformadora para o futuro da gestão de pessoas e dos negócios

Paradoxos da liderança

Ao promover autonomia e resultados, líderes se fortalecem, reduzindo estresse e superando o paternalismo para desenvolver equipes mais alinhadas, realizadas e eficazes.

Finanças
Em um mercado cada vez mais competitivo, a inovação se destaca como fator crucial para o crescimento empresarial. Porém, transformar ideias inovadoras em realidade requer compreender as principais fontes de fomento disponíveis no Brasil, como BNDES, FINEP e Embrapii, além de adotar uma abordagem estratégica na elaboração de projetos robustos.

Eline Casalosa

4 min de leitura
Empreendedorismo
A importância de uma cultura organizacional forte para atingir uma transformação de visão e valores reais dentro de uma empresa

Renata Baccarat

4 min de leitura
Tecnologias exponenciais
Em meio aos mitos sobre IA no RH, empresas que proíbem seu uso enfrentam um paradoxo: funcionários já utilizam ferramentas como ChatGPT por conta própria. Casos práticos mostram que, quando bem implementada, a tecnologia revoluciona desde o onboarding até a gestão de performance.

Harold Schultz

3 min de leitura
Gestão de Pessoas
Diferente da avaliação anual tradicional, o modelo de feedback contínuo permite um fluxo constante de comunicação entre líderes e colaboradores, fortalecendo o aprendizado, o alinhamento de metas e a resposta rápida a mudanças.

Maria Augusta Orofino

3 min de leitura
Tecnologias exponenciais
A Inteligência Artificial, impulsionada pelo uso massivo e acessível, avança exponencialmente, destacando-se como uma ferramenta inclusiva e transformadora para o futuro da gestão de pessoas e dos negócios

Marcelo Nóbrega

4 min de leitura
Liderança
Ao promover autonomia e resultados, líderes se fortalecem, reduzindo estresse e superando o paternalismo para desenvolver equipes mais alinhadas, realizadas e eficazes.

Rubens Pimentel

3 min de leitura
Empreendedorismo, Diversidade, Uncategorized
A entrega do Communiqué pelo W20 destaca o compromisso global com a igualdade de gênero, enfatizando a valorização e o fortalecimento da Economia do Cuidado para promover uma sociedade mais justa e produtiva para as mulheres em todo o mundo

Ana Fontes

3 min de leitura
Diversidade
No ambiente corporativo atual, integrar diferentes gerações dentro de uma organização pode ser o diferencial estratégico que define o sucesso. A diversidade de experiências, perspectivas e habilidades entre gerações não apenas enriquece a cultura organizacional, mas também impulsiona inovação e crescimento sustentável.

Marcelo Murilo

21 min de leitura
Finanças
Casos de fraude contábil na Enron e Americanas S.A. revelam falhas em governança corporativa e controles internos, destacando a importância de transparência e auditorias eficazes para a integridade empresarial

Marco Milani

3 min de leitura
Liderança
Valorizar o bem-estar e a saúde emocional dos colaboradores é essencial para um ambiente de trabalho saudável e para impulsionar resultados sólidos, com lideranças empáticas e conectadas sendo fundamentais para o crescimento sustentável das empresas.

Ana Letícia Caressato

6 min de leitura