Contagem regressiva

Empatia artificial: a próxima fase da IA

A startup Cyrano.ai acrescentou psicologia para oferecer “empatia artificial” à inteligência artificial e gerar oxitocina, como diz seu CEO e cofundador, Scott Sandland, nesta entrevista. Ele esteve em São Paulo para o evento Apix 2023
Pedro Nascimento é presidente do conselho da HSM Management. Sandra Regina da Silva é colaboradora da HSM Management.

Compartilhar:

### 10 – Como você, um hipnoterapeuta, se envolveu com inteligência artificial e com a ideia da empatia artificial?
Eu era diretor-executivo de uma clínica de saúde mental e, uns sete ou oito anos atrás, via de perto essa epidemia de pessoas com menos de 35 anos sentindo-se solitárias e fazendo subir os índices de ansiedade, depressão, suicídio, overdoses de drogas etc. Enquanto isso, eu estava treinando novos funcionários e tinha a vontade de mudar o estado das coisas.

Pensei que o melhor jogador de xadrez do mundo era uma IA e comecei a pesquisar. A terapia funciona muito como o xadrez – a razão pela qual você está fazendo algo ruim é porque está sacrificando determinado peão para conseguir uma posição melhor mais tarde. O desafio é descobrir se podemos ter menos sacrifícios em nossa estratégia. Então, pensei: e se eu pudesse ensinar uma IA a ser conversacional?

Começamos a investigar, e encontrei o gênio Richard Socher, que construiu uma tonelada de IA que a Salesforce usa e é um líder de pensamento absoluto nessa indústria. Ele dizia que chatbots precisam ser otimizados para dar respostas completas e precisas e, na hora, pensei: isso está errado. É uma péssima ideia, mesmo esse cara sendo muito mais inteligente que eu.

Por quê? Porque uma resposta completa e precisa é o oposto de uma comunicação eficaz, já que comunicação eficaz é sobre como ler o contexto e adaptar a ele o que você tem para dizer. Aquele que vai apenas com informações completas e precisas é o “chato da festa”, aquele sujeito que não para de falar sobre algo que ninguém se importa. Não podemos ter isso em conversas que são emocionalmente sensíveis ou de alto valor. Assim vi um gap que eu podia preencher e endereçar a epidemia de solidão.

### 9 – Então, mesmo nessa explosão de IAs generativas, falta levar em consideração o contexto?
Exatamente. Experimente colocar numa mesma sala vendedores e técnicos. Os vendedores falam: “Somos nós que estamos vendendo tudo”. E os técnicos replicam: “Se não fosse a gente, você não teria nada para vender”. Há uma tensão natural entre os dois grupos. E a incompatibilidade vai aparecer de novo: os profissionais da tecnologia estão procurando por coisas que sejam bastante mensuráveis, como feedback do usuário em seus testes ou de controle de qualidade. E os vendedores estão gastando tempo em sentir o cliente, construir um relacionamento com ele.

Eu decidi construir uma ferramenta que fizesse o pessoal de vendas realmente se comunicar com a turma da tecnologia. A análise de sentimento e o resumo automático são o mais próximo disso que existe hoje, mas estão projetados para o gerenciamento mais do que para a pessoa que conversa.

### 8 – E como princípios de terapia foram parar numa tecnologia usada no mercado corporativo?
Parece loucura, mas algumas semanas depois de termos essa ideia sabíamos qual deveria ser o roteiro. Começaria por treinar a IA em conversas importantes para as pessoas, nas quais relacionamento normalmente importa – mas não podia ser em uma situação clínica de saúde, com uma população vulnerável. Não somente pela ética, mas também porque é muito difícil pegar uma conversa clínica e vinculá-la a uma melhora. Há muitas variáveis envolvidas em uma melhora, coisas que às vezes nem estão no radar – o paciente ou sua esposa podem ter conseguido uma promoção no trabalho; se for um garoto, ele pode ter ganhado um cachorrinho ou tirado A numa prova da escola. Em termos de treinamento de modelo, precisávamos de dados não corrompidos.

Então, comecei a treinar a IA com vendas de alto valor do mercado corporativo; isso é emocionalmente forte, depende de relacionamento e apresenta um resultado claro para medirmos. Foi assim que caí no segmento corporativo. Começamos com venda de carros, porque um Honda Civic é um Honda Civic em todos os lugares e, portanto, você sabe que pode vincular melhor o resultado ao relacionamento. Depois seguiríamos em direção à saúde – assim que tivéssemos dados suficientes, que é o que temos agora.

### 7 – Como foi a transição para a saúde?
Está sendo. Em seguida às aplicações comerciais, fizemos um piloto de nove meses com 50 terapeutas. Apenas demos a eles uma ferramenta Zoom, dissemos que era para usarem nas sessões virtuais deles e nos mandar feedbacks. Atualmente estamos revisando nosso sistema com base nos feedbacks que recebemos desses 50 terapeutas.

### 6 – E essa IA poderia ser aplicada em outras áreas, além de vendas e terapia?
Sim, porque os seres humanos são definidos pela comunicação. É o que nos diferencia de todos os animais. É por causa da capacidade de comunicação que estamos tão entusiasmados com o ChatGPT, percebe? Ele fala conosco! Isso gerou o burburinho. Mas acredite: ainda não nos agarrou como uma conversa faria, porque a conversa, na verdade, é algo humano muito primitivo. O sistema da Cyrano.ai foi projetado para melhorar conversas, que são algo complexo, em qualquer lugar onde se converse.

Só que descobrir os melhores locais para levar nossa IA foi um processo difícil e demorou muito mais tempo. A educação em saúde é uma das mais importantes, especialmente a saúde mental, com base apenas em minha formação. Mas vendas de carros, de casas, serviços financeiros, todas essas áreas podem ser beneficiadas. Criamos uma matriz das conversas de maior valor e com menor regulamentação e risco ético, e partimos para o planejamento. Eu diria que estamos no meio de uma primeira fase. A próxima é excluir coisas que não nos pareçam interessantes.

### 5 – E os resultados? Quão melhores têm ficado as conversas?
Temos os resultados comerciais consolidados, e estes superaram nossas estimativas mais ambiciosas. Em nossa primeira implantação, melhoramos as conversões de vendas de carros em 26% e reduzimos o tempo de venda em 44%, em um teste A/B de 120 dias. De jeito algum pensamos que teríamos essa redução no tempo de venda. Depois, aumentamos as vendas de residências em 14% em um mercado que caiu 11%, ou seja, o resultado foi 25% melhor. E esses são os números objetivos. Também tivemos entre 78% e 96% de precisão nas previsões em um ciclo de vendas de vários estágios.

Nossos números de feedback do usuário foram 86% (carros) e 87% (residências). Nossos usuários nos deram feedbacks muito úteis e altamente precisos, de maneira subjetiva e objetiva.
Agora, passar da venda de um carro de US$ 30 mil para outro de US$ 80 mil poderia ser um avanço, mas não é o mais interessante. O que nos interessa é passar da venda de um carro para uma iniciativa relacionada com saúde mental. É quando você vai de uma vertical para outra que os grandes saltos precisam acontecer.

### 4 – Quais as limitações? O que precisa ser melhorado? É uma caixa-preta quando começa a aprender por si só, não é?
O componente da caixa-preta de fato é complicado. O outro lado disso, que também acho complicado, é um termo que minha esposa e eu usamos em nossa casa: tem um “front-end” difuso. Significa que a tecnologia, além de ter aquele componente de caixa-preta que não entendemos, não possui contornos claramente definidos para sabermos onde usá-la e onde não usá-la. Deve ser como quando foi inventada a roda. O homem não devia entender realmente todas as implicações do que iria fazer para transformar a sociedade com uma roda.

Lembra quando você teve seu primeiro telefone celular? Se tivessem lhe dito na época o que você faria com um telefone em 2023, você não acreditaria. Depois do lançamento do iPhone, um dos primeiros aplicativos da App Store que rendeu um “zilhão” de dólares foi algo que reproduzia sons “flatulentes”, a coisa mais estúpida do mundo! E havia um app para fazer parecer que você estava bebendo uma cerveja no telefone.

Acho que é no estágio de aplicativo gerador de “ruído de soltar pum” que estamos com os LLMs {sigla em inglês para modelos de linguagem grande}. E tudo bem. Precisa acontecer como com os smartphones, que ganharam o GPS, a câmera que tira fotos de alta qualidade, a possibilidade de pagar coisas com o celular, e outras tantas contribuições para uma melhor qualidade de vida.

LLM está sendo a ponta da lança, isso vai ficar muito mais profundo e transformador.

### 3 – E aquele filme *Ela*, em que o sujeito se apaixona por um LLM… Vai acontecer?
Acho que sim, nós teremos isso. E é muito melhor do que o temos hoje.

Veja: a maioria dos algoritmos com os quais os humanos interagem hoje, como o do YouTube, o do Facebook e o do Instagram, é centrada em dopamina. Buscam nos fazer sentir um prazer associado à sua interação com esse algoritmo. Isso é uma ideia perversa; e diria até que uma ideia de mercenários. A dopamina é uma droga caça-níqueis; viciante, predatória, perturbadora. Ou seja, essas máquinas nos viciaram e nos isolaram uns dos outros.

Existe uma substância química melhor a acionar; precisamos construir sistemas que otimizem a oxitocina. Trata-se da substância química de intimidade, conexão, confiança, amor e harmonia – o momento em que se tem mais oxitocina é durante o parto, para você ter uma ideia. Ela tem a ver com momentos de verdadeira alegria e conexão, e isso é humanidade. Ainda não criamos ferramentas que fazem isso.

Minha irmã antropóloga, que viveu no sul da Venezuela por sete anos, compartilhou uma história comigo que eu amo: um antropólogo foi questionado sobre o primeiro sinal de cultura e civilização na humanidade. A expectativa era de que sua resposta fosse uma panela de barro, um desenho de caverna, mas foi muito melhor do que isso. Eram os restos mortais de uma mulher da caverna que tinha um fêmur quebrado e cicatrizado. Significou que a tribo cuidou dela até que sua perna sarasse. Foi o primeiro sinal de uma cultura civilizada, inteligente.

Agora, estamos construindo potes de barro com tecnologia, com uma IA, e até podemos desenhar nas paredes no meio da jornada. Tudo isso é legal, mas não a estamos usando ainda para que os vulneráveis em nossa tribo sejam mais bem cuidados. Precisamos construir sistemas que cuidem das pessoas, que valorizem a condição humana. Se não estivermos otimizando para isso, vamos sair perdendo.

Uma parte fundamental para o alinhamento entre tecnologia e humanos é fazer com que os sistemas otimizem oxitocina em vez da dopamina.

### 2 – Sobre sua IA, para onde vai essa empatia artificial conversacional?
Para muitos lugares legais, eu acho. Cada pessoa poderia tê-la como sua própria assistente virtual, embora não seja assim que muitas pessoas estão olhando para a IA. Acho que todos nós teremos nossa própria IA correspondente. Se for bem-feita, ela vai te entender, vai te pegar, vai ser simbiótica com você e estará sempre presente. Vai ser incrível e você será capaz de aprender qualquer coisa, exatamente da maneira que for melhor para você, em alinhamento com suas curiosidades.

O buscador do Google representou um salto em pesquisa de conhecimento, não foi? Com essa IA pessoal, haverá um salto maior ainda no acesso a informação e educação. Um salto que mudará bastante o mundo. Quem não leu a postagem de Sam Altman {da OpenAI} *Moore’s law for everything deveria,* e rápido; ajuda a entender o tamanho da mudança. {[Veja aaqui.](https://moores.samaltman.com/)}

### 1 – Seth Godin diz, em seu blog, que precisamos nos aprofundar no trabalho emocional, porque este é humano e é o que nos separa das máquinas. O que você pensa a respeito?
Novamente, cito o front-end difuso, essa dificuldade de descobrir quais são os melhores usos para essa tecnologia. Pensávamos que íamos construir uma IA para que todos pudéssemos ficar sentados desenhando e compondo músicas. E agora a IA está desenhando e escrevendo músicas para que possamos ser encanadores melhores. Meu sobrinho, que tem 20 anos, diz que algumas de suas melhores lembranças da faculdade serão de jogar videogame online com seus amigos usando um fone de ouvido. Isso é diversão, é social e é humano, apesar da máquina. Não?

De fato, não queremos uma IA para substituir as pessoas na conexão emocional – só para complementá-las –, mas a substituição infelizmente acontecerá, do mesmo modo que as drogas substituem relacionamentos hoje.

Artigo publicado na HSM Management nº 157.

Compartilhar:

Artigos relacionados

A ilusão que alimenta a disrupção

Em um ambiente onde o amanhã já parece ultrapassado, o evento celebra a disrupção e a inovação, conectando ideias transformadoras a um público global. Abraçar a mudança e aprender com ela se torna mais do que uma estratégia: é a única forma de prosperar no ritmo acelerado do mercado atual.

De olho

Liderança, ética e o poder do exemplo: o caso Hunter Biden

Este caso reflete a complexidade de equilibrar interesses pessoais e responsabilidades públicas, tema crucial tanto para líderes políticos quanto corporativos. Ações como essa podem influenciar percepções de confiança e coerência, destacando a importância da consistência entre valores e decisões. Líderes eficazes devem criar um legado baseado na transparência e em práticas que inspirem equipes e reforcem a credibilidade institucional.

Passa conhecimento

Incluir intencionalmente ou excluir consequentemente?

A estreia da coluna “Papo Diverso”, este espaço que a Talento Incluir terá a partir de hoje na HSM Management, começa com um texto de sua CEO, Carolina Ignarra, neste dia 3/12, em que se trata do “Dia da Pessoa com Deficiência”, um marco necessário para continuarmos o enfrentamento das barreiras do capacitismo, que ainda existe cotidianamente em nossa sociedade.

Empreendedorismo, ESG
01/01/2001
A maior parte do empreendedorismo brasileiro é feito por mulheres pretas e, mesmo assim, o crédito é majoritariamente dado às empresárias brancas. A que se deve essa diferença?
0 min de leitura
ESG, ESG, Diversidade
09/10/2050
Essa semana assistimos (atônitos!) a um CEO de uma empresa de educação postar, publicamente, sua visão sobre as mulheres.

Ana Flavia Martins

2 min de leitura
ESG
Em um mundo onde o lucro não pode mais ser o único objetivo, o Capitalismo Consciente surge como alternativa essencial para equilibrar pessoas, planeta e resultados financeiros.

Anna Luísa Beserra

3 min de leitura
Inteligência Artificial
Marcelo Murilo
Com a saturação de dados na internet e o risco de treinar IAs com informações recicladas, o verdadeiro potencial da inteligência artificial está nos dados internos das empresas. Ao explorar seus próprios registros, as organizações podem gerar insights exclusivos, otimizar operações e criar uma vantagem competitiva sólida.
13 min de leitura
Estratégia e Execução, Gestão de Pessoas
As pesquisas mostram que o capital humano deve ser priorizado para fomentar a criatividade e a inovação – mas por que ainda não incentivamos isso no dia a dia das empresas?
3 min de leitura
Transformação Digital
A complexidade nas organizações está aumentando cada vez mais e integrar diferentes sistemas se torna uma das principais dores para as grandes empresas.

Paulo Veloso

0 min de leitura
ESG, Liderança
Tati Carrelli
3 min de leitura