Não permita que uma falha de IA prejudique sua marca

Resumo da ideia A situação A forma como as empresas comercializam seus sistemas de IA afeta as repercussões que enfrentam quando seus produtos apresentam falhas. A solução Os profissionais de marketing devem promover seus produtos de IA tendo em mente a possibilidade de falhas. Para isso, eles devem primeiro compreender as atitudes específicas dos consumidores em relação à IA. O caminho a seguir Os profissionais de marketing que evitarem as cinco armadilhas da promoção da IA — as pessoas tendem a culpar primeiro a IA, consideram que uma falha de IA contamina outras IAs, culpam mais as empresas que exageram as capacidades da IA, julgam a IA humanizada com mais severidade e ficam indignadas com as preferências programadas — limitarão os danos causados pelas falhas da IA. Em outubro de 2023, um veículo automatizado (AV) operado pela Cruise, uma subsidiária de táxis robóticos da General Motors, se envolveu em um grave acidente em São Francisco. Um Nissan, conduzido por um humano, atropelou um pedestre, que foi arremessado para a trajetória do AV. De acordo com a investigação do acidente realizada por um consultor de engenharia independente, nenhum motorista humano prudente nessas circunstâncias teria sido capaz de dirigir o AV para evitar a colisão. No entanto, o relatório inicial da Cruise aos reguladores omitiu o fato de que a pedestre foi arrastada por 6 metros sob o AV. Ela sofreu ferimentos graves, mas sobreviveu. Embora a Cruise não fosse culpada pela colisão, o acidente desencadeou uma crise na empresa. Sua falta de transparência resultou em uma multa de US$ 1,5 milhão aplicada pela Administração Nacional de Segurança Rodoviária. Também desencadeou uma investigação criminal pelo Departamento de Justiça; a empresa acabou por chegar a um acordo e pagou uma multa de US$ 500.000. Mas isso não é tudo. Sua licença para operar em São Francisco foi revogada. Metade da força de trabalho da Cruise perdeu seus empregos, o CEO renunciou e a avaliação da empresa caiu mais de 50%. O setor de veículos autônomos em geral também sentiu os tremores. Em poucos meses, um táxi sem motorista da Waymo (de propriedade da Alphabet) foi atacado e incendiado em São Francisco por uma multidão, e a NHTSA abriu investigações sobre vários desenvolvedores de veículos autônomos, incluindo Waymo e Zoox (de propriedade da Amazon). No final de 2024, a GM anunciou que encerraria completamente o desenvolvimento de seu negócio de táxis robóticos. A IA está sendo rapidamente adotada em tudo, desde automóveis até chatbots, mas o exemplo da Cruise destaca uma realidade gritante: eventualmente, a IA falha. Quando isso ocorre, muitas organizações — quer construam seus próprios sistemas de IA ou integrem os de terceiros — se veem na mira do escrutínio público. Embora muito tenha sido escrito sobre como comercializar a IA para impulsionar sua adoção, menos atenção tem sido dada à forma de comercializá-la de maneira a se preparar para suas inevitáveis falhas. Nos últimos sete anos, conduzi sete estudos sobre os perigos das falhas de IA do ponto de vista do marketing. A partir de minha pesquisa, extraí insights sobre como os consumidores percebem e reagem às falhas de IA. Profissionais de marketing experientes precisam levar em consideração cinco armadilhas relacionadas às atitudes dos consumidores, tanto antes quanto depois que algo dá errado. Neste artigo, examinarei como as empresas devem se preparar para falhas e o que fazer depois que a IA falha. Explorarei as maneiras como as empresas realizam o marketing da própria IA e se suas táticas apresentam riscos. Detalharei como algumas organizações responderam à falha da IA e oferecerei conselhos práticos aos gerentes que desejam promover seus sistemas de IA, protegendo suas marcas e fortalecendo a confiança do consumidor. Vamos examinar cada uma das armadilhas. As pessoas tendem a culpar primeiro a IA Para entender melhor por que a reação do público e dos órgãos reguladores ao incidente da Cruise foi tão severa, meus colegas e eu conduzimos um estudo com mais de 5.000 participantes. Compartilhamos com eles um cenário de acidente semelhante ao exemplo da Cruise, no qual um motorista humano colidiu com um pedestre, que foi arremessado contra um segundo veículo, que não tinha culpa. Um grupo de participantes soube que o veículo sem culpa era autônomo; o outro, que era dirigido por um humano. Em seguida, solicitamos aos participantes que avaliassem o grau de responsabilidade do fabricante do veículo. Os participantes atribuíram maior responsabilidade ao fabricante do veículo não culpado quando este era conduzido de forma autônoma do que quando era conduzido por um ser humano — mesmo que, em ambos os casos, o veículo não pudesse ter feito nada para evitar o acidente. Eles também consideraram a empresa de veículos autônomos mais responsável do que o motorista humano do veículo não culpado (quando este era conduzido por um ser humano). Esse resultado foi replicado por um grupo de pesquisa independente na China, o que demonstra que o preconceito persiste em diferentes contextos culturais. A culpa é atribuída indevidamente nesses casos porque os entrevistados, distraídos pela novidade do AV, imaginam o que poderia ter ocorrido se o AV não estivesse presente. Notavelmente, nesses casos, eles tendem a imaginar o que um motorista perfeito faria, levando-os a exigir da IA um padrão mais elevado do que o razoável. Eles concluem, por exemplo, que o veículo autônomo poderia ter evitado a colisão desviando de alguma forma antes do impacto, mesmo que isso fosse impossível. Essas hipóteses imaginárias os levam a considerar o veículo autônomo mais responsável pelo acidente do que um ser humano na mesma situação. Em testes subsequentes, descobrimos que mudar o foco para o motorista humano culpado (aquele que inicialmente causou o acidente) reduziu a quantidade de culpa atribuída à IA. Quando a atenção das pessoas foi desviada da novidade do AV para outros fatores salientes, elas ficaram menos inclinadas a imaginar cenários irrealistas. No entanto, desviar a atenção da novidade não deve ser confundido com enganar deliberadamente as partes interessadas: os executivos não devem ocultar detalhes sobre o papel da IA em incidentes de falha. Embora os líderes da Cruise tenham enfatizado a culpa do motorista humano, eles não divulgaram os danos adicionais causados pelo veículo ao arrastar o pedestre. Quando isso foi descoberto, a Cruise perdeu o controle da narrativa da mídia e prejudicou a confiança dos reguladores. Quando uma IA falha, as pessoas perdem a confiança nas outras Os efeitos em cascata do incidente da Cruise sobre outros participantes, como Waymo e Zoox, sugerem outro risco associado à falha da IA: quando a IA de uma empresa falha, as pessoas tendem a pensar que os sistemas de IA de outras empresas são igualmente defeituosos. Esse efeito de contaminação pode afetar negativamente a percepção pública de várias formas de IA. Um estudo conduzido pelos professores Chiara Longoni, Luca Cian e Ellie Kyung oferece um excelente exemplo de como ocorre a contaminação por falha. Eles informaram 3.724 pessoas sobre um problema: o estado do Arkansas não conseguiu alocar adequadamente os benefícios por invalidez a uma pessoa com deficiência. Eles disseram a alguns participantes que a culpa era de um funcionário humano e a outros que era de um algoritmo. Em seguida, perguntaram qual era a probabilidade de um funcionário ou um algoritmo de outro estado (Kentucky) também cometer um erro na alocação de benefícios por invalidez. Os participantes estavam mais propensos a prever que o algoritmo falharia do que o funcionário humano de Kentucky. Os pesquisadores replicaram esse efeito para várias outras falhas de IA, como a alocação inadequada de pagamentos da Previdência Social. Os entrevistados reagiram dessa maneira porque, segundo os pesquisadores, muitas pessoas não compreendem como a IA funciona. Elas tendem a pensar que as soluções de IA fazem parte de um grupo homogêneo e compartilham as mesmas características subjacentes; elas não consideram as soluções de IA como sistemas distintos, com diferentes capacidades e falhas. Winni Wintermeyer captura os intrincados padrões dos pneus nas interseções, observando como as marcas deixadas pelos carros em alta velocidade se transformam em abstrações em camadas. Para evitar ser afetado por falhas causadas por outras empresas, é recomendável destacar como seus sistemas de IA diferem dos de seus concorrentes. Enfatize os diferenciais, como algoritmos proprietários, medidas de segurança e supervisão humana. Considere como a empresa de IA Anthropic desenvolveu e realiza o marketing do Claude, seu modelo de IA generativa. Ela o denomina “um assistente de IA de última geração... treinado para ser seguro, preciso e confiável, a fim de auxiliá-lo a realizar seu melhor trabalho”. A Anthropic afirma que treina o Claude usando uma abordagem “constitucional” que é mais transparente, interpretável e alinhada com os valores humanos. Isso ajuda a Anthropic a dissociar o Claude de modelos concorrentes populares, como ChatGPT e Bard, que são treinados de maneira diferente e foram acusados de serem tendenciosos e gerarem informações imprecisas. Se qualquer um dos concorrentes falhar, a Anthropic já terá estabelecido as bases para limitar os efeitos potenciais de contaminação da falha. Outra medida preventiva é comunicar quando um ser humano supervisiona a IA e decide se deve implementar a recomendação da IA. Quando há falha nesse arranjo de “ser humano no circuito”, as pessoas tendem a menos presumir que outras IAs são igualmente defeituosas, provavelmente porque são menos propensas a ver a falha como uma acusação contra a IA em geral. As pessoas culpam mais as empresas que exageram as capacidades da IA A Tesla se refere ao seu sistema de assistência ao motorista como Autopilot, embora sua operação exija supervisão humana ativa na estrada. Após vários acidentes fatais envolvendo veículos Tesla com o recurso Autopilot ativado, a montadora se viu envolvida em processos judiciais, incluindo uma investigação do Departamento de Justiça para determinar se esse rótulo constitui marketing enganoso. A Administração Nacional de Segurança Rodoviária também solicitou que a empresa assegure que suas comunicações públicas reflitam com mais precisão as capacidades e limitações do sistema. O CEO da Tesla, Elon Musk, tem historicamente defendido o uso do rótulo Autopilot, observando que ele foi emprestado da aviação, onde é usado como um auxílio aos pilotos, e não como um sistema totalmente autônomo. Mas será que os consumidores interpretam dessa forma? Meus colegas e eu investigamos a questão da deturpação em um estudo envolvendo 9.492 participantes, utilizando simulações de direção e acidentes hipotéticos. Informamos aos participantes que uma montadora estava planejando lançar um novo veículo automatizado. Um grupo foi informado de que ele se chamava Autopilot (sugerindo alta capacidade de IA); o outro grupo foi informado de que ele se chamava Copilot (sugerindo capacidade média de IA). Os participantes foram então colocados em um cenário simulado de direção envolvendo o veículo e solicitados a assumir o controle do volante sempre que sentissem necessidade de intervir. Na simulação, o veículo se aproximava de um cruzamento movimentado e colidia com pedestres imprudentes, a menos que o participante interviesse. Constatamos que os participantes assumiram o controle do veículo mais tarde quando ele era rotulado como Autopilot do que quando era chamado de Copilot. Isso sugere que o próprio rótulo os tornou complacentes. Quanto mais capazes eles achavam que o veículo era, conforme indicado pelo rótulo, mais tarde assumiam o controle. Em outros estudos, descobrimos que as pessoas tendem a considerar as empresas mais responsáveis por acidentes quando elas utilizam rótulos que sugerem maior capacidade, o que indica que os rótulos levam a um comportamento mais arriscado por parte dos consumidores e a mais culpa quando ocorre uma falha. Com base nesses resultados, meus colegas e eu levantamos a hipótese de que uma abordagem de marketing comum pode ser contraproducente quando se trata de falhas de IA: promover seu produto como superior às alternativas. Nossos estudos subsequentes confirmaram essa hipótese: quando as empresas fizeram isso, aumentaram a percepção da capacidade de seus sistemas, inadvertidamente aumentando a responsabilidade que os participantes atribuíam a eles quando ocorria uma falha. Essa descoberta sugere que campanhas publicitárias como a da GM,“Os seres humanos são péssimos motoristas”, podem ter levado os consumidores a atribuir maior responsabilidade à Cruise por acidentes nos quais ela se envolveu posteriormente. Esses efeitos ocorrem porque os sistemas de IA podem abranger todo o espectro, desde a autonomia parcial (em que o ser humano é o principal responsável pela operação do sistema) até a autonomia total (em que a IA está no controle). No entanto, a maioria dos consumidores não sabe em que ponto do espectro se encontra uma determinada IA. Isso cria um dilema para os profissionais de marketing. Embora rótulos honestos reflitam as capacidades reais de um sistema, as empresas muitas vezes são tentadas a usar rótulos que exageram as capacidades para impulsionar as vendas. Se você utilizar um rótulo enganoso para comercializar sua IA, deve explicar com precisão e clareza as verdadeiras capacidades da IA em outro local, como em seu site ou mesmo nas letras miúdas do próprio produto. Minha pesquisa conclui que as empresas que divulgam as capacidades reais da IA juntamente com rótulos enganosos enfrentam menos penalidades quando a IA falha, em comparação com as empresas que utilizam apenas rótulos enganosos. A outra opção, é claro, é simplesmente utilizar um rótulo menos enganoso desde o início. Embora essa abordagem tenha a desvantagem óbvia de não ampliar a percepção das capacidades da sua IA, pelo menos ela é isenta de riscos. As pessoas julgam a IA humanizada com mais severidade As empresas estão cada vez mais implementando sistemas de IA que exibem características humanas. O Wysa, um aplicativo de saúde mental, utiliza um avatar de desenho animado que auxilia as pessoas a realizar exercícios, e aplicativos de IA como o Replika utilizam imagens humanas realistas que expressam “sentimentos” e “reflexões”. Essas pistas podem criar a impressão de que o bot possui sentimentos pessoais, objetivos, desejos e outras qualidades que ele realmente não possui. Os bots humanizados têm várias vantagens para as empresas em comparação com os bots neutros: eles aumentam a intenção de compra dos consumidores, o nível de confiança, a lealdade à marca, a conformidade com as solicitações do fornecedor e a disposição para divulgar informações pessoais. Esses efeitos persistem mesmo quando as pessoas sabem que estão conversando com uma máquina. Winni Wintermeyer Em um estudo conduzido pelos professores Raji Srinivasan e Gülen Sarial-Abi, os participantes foram informados sobre uma empresa de investimentos financeiros que cometeu um erro que resultou em prejuízos para seus clientes. Os pesquisadores informaram a um grupo de participantes que o erro foi cometido por um “programa de algoritmo”; eles informaram ao outro grupo que uma IA humanizada chamada “Charles” era a responsável. Eles descobriram que as atitudes em relação à marca eram mais negativas quando o algoritmo era humanizado do que quando não era. Estudos de acompanhamento sugerem que os bots humanizados são mais propensos a receber atributos mentais, como memória, compreensão, planejamento e raciocínio, o que leva os participantes a atribuir maior responsabilidade aos bots por quaisquer falhas. Em outro estudo, uma equipe de pesquisadores liderada por Cammy Crolic descobriu que os participantes avaliaram um chatbot com falhas de forma mais negativa quando ele empregava sinais verbais e visuais semelhantes aos humanos (usando linguagem na primeira pessoa, apresentando-se como “Jamie” e tendo um avatar feminino) do que quando empregava apenas sinais verbais semelhantes aos humanos. Isso sugere que as características humanizadas têm um efeito aditivo nas reações negativas ao fracasso. É importante ter cuidado ao utilizar chatbots em áreas onde os clientes podem estar insatisfeitos. Em outro estudo conduzido por Crolic, pesquisadores analisaram aproximadamente 500.000 sessões de chatbot com clientes em uma empresa internacional de telecomunicações. Eles descobriram que quanto mais os clientes tratavam os bots como seres humanos (por exemplo, utilizando o primeiro nome do bot nas conversas), mais a satisfação era prejudicada quando os clientes estavam insatisfeitos. Uma maneira de mitigar esse efeito é usar bots humanizados seletivamente em áreas neutras, como pesquisas de produtos, e com menos frequência em funções que tendem a envolver clientes irritados, como centrais de atendimento ao cliente. Outra maneira é moderar as expectativas assim que o cliente inicia uma sessão de chat. O chatbot do Slack, por exemplo, diz: “Olá, sou o Slackbot. Tento ser útil. (Mas ainda sou apenas um bot. Desculpe!)” Os bots que fazem essas divulgações são menos propensos a irritar os clientes quando falham. As pessoas estão indignadas com as preferências programadas Em 2016, um gerente sênior da Mercedes-Benz afirmou que, ao desenvolver seus veículos autônomos, a empresa colocaria a segurança de seus passageiros acima da segurança dos pedestres e outros usuários da via. Sua lógica era direta: se apenas uma vida pudesse ser salva, deveria ser a pessoa dentro do carro. Sua declaração gerou uma grande repercussão na mídia. Uma manchete de tabloide acusou a montadora de essencialmente optar por “atropelar uma CRIANÇA em vez de desviar” para proteger aqueles que estavam dentro do carro. Em poucas semanas, a Mercedes-Benz esclareceu publicamente que nem os engenheiros nem os sistemas autônomos deveriam fazer julgamentos sobre o valor relativo das vidas humanas. As emoções despertadas por esse incidente sugerem que as pessoas consideram antiético que as empresas codifiquem deliberadamente preferências baseadas em grupos (por exemplo, com base na idade, gênero ou status do cliente) em sistemas de IA. Para testar essa hipótese, conduzi um estudo com a professora Mina Cikara, da Universidade de Harvard, no qual solicitamos a 826 participantes nos Estados Unidos que imaginassem que um veículo totalmente automatizado enfrentava vários dilemas difíceis — por exemplo, se desviar para atropelar um idoso ou uma criança — e, em seguida, colidia com uma pessoa de um desses dois grupos. É importante ressaltar que manipulamos se o veículo decidia isso aleatoriamente ou com base em uma preferência programada para favorecer um grupo em detrimento do outro. Descobrimos que os participantes ficavam mais indignados quando o veículo tinha qualquer tipo de preferência programada do que quando escolhia aleatoriamente. Isso sugere que as empresas podem não querer comunicar quando seus sistemas tomam decisões com base em preferências grupais. Em alguns casos, elas podem até querer evitar a coleta de dados sobre características como raça, gênero e idade para informar o comportamento dos sistemas de IA. Outra abordagem é usar características mais estruturais da situação, como priorizar salvar mais pessoas em vez de menos. Um estudo de Yochanan Bigman e Kurt Gray descobriu que as pessoas apoiam mais os sistemas de IA que usam preferências estruturais do que aqueles baseados em grupos, provavelmente porque há uma razão clara e utilitária para as preferências estruturais com a qual a maioria das pessoas concorda. . . . As falhas da IA são inevitáveis. Os profissionais de marketing devem reconhecer que as mesmas ações que aumentam a adoção hoje podem criar problemas quando ocorre uma falha na IA, especialmente quando essas ações promovem os benefícios e a superioridade da sua IA. Portanto, antes de implementar uma estratégia de marketing, certifique-se de compreender as cinco armadilhas relacionadas à IA. Avaliar esses riscos pode ajudar sua empresa a adotar uma estratégia de marketing que venda sua IA agora, reduzindo sua responsabilidade e o risco da marca em uma falha futura.

Não permita que uma falha de IA prejudique sua marca

Resumo.

Partner Center