No permita que un fallo de la IA perjudique a su marca

Resumen de la idea La situación La forma en que las empresas comercializan sus sistemas de IA afecta a las repercusiones a las que se enfrentan cuando sus productos fallan. La solución Los profesionales del marketing deben promocionar sus productos de IA teniendo en cuenta la posibilidad de que fallen. Para ello, primero deben comprender las actitudes únicas de los consumidores hacia la IA. El camino a seguir Los profesionales del marketing que eviten los cinco errores al promocionar la IA (la gente tiende a culpar primero a la IA, considera que un fallo de una IA contamina a otras IA, culpa más a las empresas que exageran las capacidades de la IA, juzga con más dureza a la IA humanizada y se indigna por las preferencias programadas) limitarán el daño causado por los fallos de la IA. En octubre de 2023, un vehículo autónomo (AV) operado por Cruise, una filial de robotaxis de General Motors, se vio involucrado en un grave accidente en San Francisco. Un Nissan, conducido por un humano, atropelló a un peatón, que fue lanzado a la trayectoria del AV. Según la investigación del accidente realizada por un consultor de ingeniería independiente, ningún conductor humano prudente habría podido maniobrar el AV para evitar el choque en esas circunstancias. Sin embargo, el informe inicial de Cruise a las autoridades reguladoras omitió el hecho de que la peatona fue arrastrada bajo el AV durante 20 pies. Sufrió lesiones graves, pero sobrevivió. Aunque Cruise no tuvo la culpa de la colisión, el accidente desencadenó una crisis en la empresa. Su falta de transparencia le valió una multa de 1,5 millones de dólares por parte de la Administración Nacional de Seguridad Vial. También provocó una investigación penal por parte del Departamento de Justicia; finalmente, la empresa llegó a un acuerdo y pagó una multa de 500 000 dólares. Pero eso no es todo. Se le revocó el permiso para operar en San Francisco. La mitad de la plantilla de Cruise perdió su puesto de trabajo, el CEO dimitió y la valoración de la empresa cayó más de un 50 %. El sector de los vehículos autónomos en general también se vio afectado. En cuestión de meses, un taxi sin conductor de Waymo (propiedad de Alphabet) fue atacado e incendiado en San Francisco por una multitud, y la NHTSA abrió investigaciones sobre varios desarrolladores de vehículos autónomos, entre ellos Waymo y Zoox (propiedad de Amazon). A finales de 2024, GM anunció que pondría fin al desarrollo de su negocio de robotaxis. La IA se está adoptando rápidamente en todo, desde automóviles hasta chatbots, pero el ejemplo de Cruise pone de relieve una cruda realidad: al final, la IA falla. Cuando esto ocurre, muchas organizaciones, tanto si crean sus propios sistemas de IA como si integran los de otros, se ven en el punto de mira del escrutinio público. Aunque se ha escrito mucho sobre cómo comercializar la IA para impulsar su adopción, se ha prestado menos atención a cómo comercializarla de manera que se prepare para sus inevitables fallos. Durante los últimos siete años, he realizado siete estudios sobre los peligros de los fallos de la IA desde una perspectiva de marketing. A partir de mi investigación, he extraído conclusiones sobre cómo perciben y reaccionan los consumidores ante los fallos de la IA. Los expertos en marketing deben tener en cuenta cinco errores relacionados con las actitudes de los consumidores, tanto antes como después de que algo salga mal. En este artículo, examinaré cómo deben prepararse las empresas para los fallos y qué hacer después de que la IA falle. Analizaré las formas en que las empresas comercializan su propia IA y si sus tácticas presentan riesgos. Detallaré cómo algunas organizaciones han respondido a los fallos de la IA y ofreceré consejos prácticos a los directivos que deseen promover sus sistemas de IA al tiempo que protegen sus marcas y refuerzan la confianza de los consumidores. Veamos cada uno de los escollos por separado. La gente tiende a culpar primero a la IA Para comprender mejor por qué la reacción del público y de los organismos reguladores ante el incidente de Cruise fue tan severa, mis colegas y yo realizamos un estudio con más de 5000 participantes. Les presentamos un escenario de accidente similar al ejemplo de Cruise, en el que un conductor humano chocó contra un peatón, que salió despedido contra un segundo vehículo que no tenía la culpa. A un grupo de participantes se les informó de que el vehículo que no tenía la culpa era autónomo; al otro, que estaba conducido por un humano. A continuación, pedimos a los participantes que evaluaran el grado de responsabilidad del fabricante del vehículo. Los participantes atribuyeron mayor responsabilidad al fabricante del vehículo no culpable cuando este era autónomo que cuando era conducido por un humano, a pesar de que en ambos casos el vehículo no podía haber hecho nada para evitar el accidente. También consideraron que la empresa de vehículos autónomos era más responsable que el conductor humano del vehículo no culpable (cuando era conducido por un humano). Este resultado ha sido replicado por un grupo de investigación independiente en China, lo que demuestra que el sesgo persiste en todos los contextos culturales. En estos casos, la culpa se atribuye erróneamente porque los encuestados, distraídos por la novedad del vehículo autónomo, imaginan lo que podría haber ocurrido si este no hubiera estado presente. Cabe destacar que, en estos casos, tienden a imaginar lo que haría un conductor perfecto, lo que les lleva a exigir a la IA un nivel más alto de lo razonable. Llegan a la conclusión, por ejemplo, de que el vehículo autónomo podría haber evitado la colisión desviándose de alguna manera antes del impacto, aunque esto hubiera sido imposible. Estas hipótesis contrarias les llevan a considerar que el vehículo autónomo es más responsable del accidente que un ser humano en la misma situación. En pruebas posteriores, descubrimos que centrar la atención en el conductor humano culpable (el que provocó inicialmente el accidente) reducía la culpa atribuida a la IA. Cuando la atención de las personas se desviaba de la novedad del vehículo autónomo hacia otros factores destacados, se mostraban menos propensas a imaginar escenarios poco realistas. Pero desviar la atención de la novedad no debe confundirse con engañar deliberadamente a los stakeholders: los ejecutivos no deben ocultar detalles sobre el papel de la IA en los incidentes de fallo. Aunque los responsables de Cruise hicieron hincapié en la culpa del conductor humano, no revelaron el daño adicional que causó su vehículo al arrastrar al peatón. Cuando eso se descubrió, Cruise perdió el control de la narrativa de los medios de comunicación y dañó la confianza de los reguladores. Cuando una IA falla, las personas pierden la fe en las demás Las repercusiones del incidente de Cruise en otros actores como Waymo y Zoox sugieren otro riesgo asociado al fallo de la IA: cuando la IA de una empresa falla, la gente tiende a pensar que los sistemas de IA de otras empresas son igualmente defectuosos. Este efecto de contaminación podría afectar negativamente a la percepción pública de diversas formas de IA. Un estudio realizado por los profesores Chiara Longoni, Luca Cian y Ellie Kyung ofrece un excelente ejemplo de cómo se produce la contaminación por fracaso. Informaron a 3724 personas sobre un problema: el estado de Arkansas no había asignado correctamente las prestaciones por discapacidad a una persona discapacitada. A algunos participantes les dijeron que la culpa era de un empleado humano y a otros que era de un algoritmo. A continuación, les preguntaron qué probabilidad había de que un empleado o un algoritmo de otro estado (Kentucky) también cometieran un error al asignar las prestaciones por discapacidad. Los participantes se mostraron más propensos a predecir que el algoritmo fallaría que el empleado de Kentucky. Los investigadores replicaron este efecto con otros fallos de la IA, como la asignación incorrecta de los pagos de la Seguridad Social. Los encuestados reaccionaron de esa manera porque, según descubrieron los investigadores, muchas personas no entienden cómo funciona la IA. Tienden a pensar que las soluciones de IA forman parte de un grupo homogéneo y comparten las mismas características subyacentes; no consideran que las soluciones de IA sean sistemas distintos con diferentes capacidades y defectos. Winni Wintermeyer captura los intrincados patrones de los neumáticos en las intersecciones, observando cómo las marcas dejadas por los derrapes de los coches se convierten en abstracciones en capas. Para evitar verse contaminado por los fallos causados por otras empresas, debe destacar en qué se diferencian sus sistemas de IA de los de sus competidores. Haga hincapié en los factores diferenciadores, como los algoritmos patentados, las medidas de seguridad y la supervisión humana. Piense en cómo la empresa de IA Anthropic creó y realiza el marketing de Claude, su modelo de IA generativa. Lo denomina «un asistente de IA de última generación... entrenado para ser seguro, preciso y fiable, con el fin de ayudarle a dar lo mejor de sí mismo en el trabajo». Anthropic afirma que entrena a Claude utilizando un enfoque «constitucional» que es más transparente, interpretable y alineado con los valores humanos. Esto ayuda a Anthropic a disociar a Claude de modelos populares de la competencia como ChatGPT y Bard, que están entrenados de forma diferente y han sido acusados de ser parciales y generar información inexacta. Si alguno de los competidores falla, Anthropic ya habrá sentado las bases para limitar los posibles efectos de contaminación por fallos. Otra medida preventiva es comunicar cuándo un humano supervisa la IA y decide si se implementa la recomendación de la IA. Cuando se produce un fallo en este tipo de disposición «human in the loop», las personas son menos propensas a asumir que otras IA son igualmente defectuosas, presumiblemente porque son menos propensas a considerar el fallo como una crítica a la IA en general. Las personas culpan más a las empresas que exageran las capacidades de la IA Tesla se refiere a su sistema de asistencia al conductor como «piloto automático», aunque su funcionamiento requiere una supervisión humana activa en la carretera. Tras varios accidentes mortales en los que se vieron implicados vehículos Tesla con la función de piloto automático activada, el fabricante de automóviles se ha visto envuelto en demandas judiciales, incluida una investigación del Departamento de Justicia para determinar si esta denominación constituye una práctica comercial engañosa. La Administración Nacional de Seguridad del Tráfico en Carreteras también le ha pedido que se asegure de que sus comunicaciones públicas reflejen con mayor precisión las capacidades y limitaciones del sistema. El CEO de Tesla, Elon Musk, ha defendido históricamente el uso de la etiqueta «piloto automático» señalando que se tomó prestada de la aviación, donde se utiliza como ayuda para los pilotos y no como un sistema totalmente autónomo. Pero, ¿lo interpretan así los consumidores? Mis colegas y yo investigamos la cuestión de la tergiversación en un estudio en el que participaron 9492 personas, utilizando simulaciones de conducción y accidentes hipotéticos. Les dijimos a los participantes que un fabricante de automóviles tenía previsto lanzar un nuevo vehículo automatizado. A un grupo se le dijo que se llamaba Autopilot (lo que sugería una alta capacidad de IA); al otro grupo se le dijo que se llamaba Copilot (lo que sugería una capacidad de IA de nivel medio). A continuación, se colocó a los participantes en una situación de conducción simulada en la que intervenía el vehículo y se les pidió que tomaran el control del volante siempre que sintieran la necesidad de intervenir. En la simulación, el vehículo se acercaba a una intersección muy transitada y chocaba con peatones que cruzaban la calle de forma imprudente, a menos que el participante interviniera. Descubrimos que los participantes tomaban el control del vehículo más tarde cuando este se denominaba «Autopilot» que cuando se llamaba «Copilot». Esto sugiere que la propia denominación les hacía bajar la guardia. Cuanto más capaz creían que era el vehículo, según indicaba la etiqueta, más tarde tomaban el control. En otros estudios, descubrimos que las personas tienden a considerar a las empresas responsables de los accidentes cuando utilizan etiquetas que sugieren una mayor capacidad, lo que sugiere que las etiquetas conducen tanto a un comportamiento más arriesgado por parte de los consumidores como a una mayor culpabilidad cuando se produce un fallo. Basándonos en estos resultados, mis colegas y yo planteamos la hipótesis de que un enfoque de marketing común puede ser contraproducente cuando se trata de fallos de IA: promocionar su producto como superior a las alternativas. Nuestros estudios posteriores confirmaron esta hipótesis: cuando las empresas hacían esto, aumentaban la capacidad percibida de sus sistemas, lo que inadvertidamente aumentaba la responsabilidad que los participantes atribuían a estos cuando se producía un fallo. Este hallazgo sugiere que campañas publicitarias como la de GM«Los humanos son pésimos conductores»podrían haber hecho que los consumidores atribuyeran una mayor responsabilidad a Cruise por los accidentes en los que se vio involucrada posteriormente. Estos efectos se producen porque los sistemas de IA pueden abarcar todo el espectro, desde la autonomía parcial (en la que el ser humano es el principal responsable del funcionamiento del sistema) hasta la autonomía total (en la que la IA tiene el control). Sin embargo, la mayoría de los consumidores no saben en qué punto del espectro se encuentra cada sistema de IA. Esto plantea un dilema a los profesionales del marketing. Aunque las etiquetas honestas reflejan las capacidades reales del sistema, las empresas suelen verse tentadas a utilizar etiquetas que exageran las capacidades para impulsar las ventas. Si utiliza una etiqueta engañosa para el marketing de su IA, debe explicar de forma precisa y clara las verdaderas capacidades de la IA en otro lugar, como en su sitio web o incluso en la letra pequeña del propio producto. Mi investigación revela que las empresas que revelan las capacidades reales de la IA junto con etiquetas engañosas se enfrentan a menos sanciones cuando la IA falla, en comparación con las empresas que solo utilizan etiquetas engañosas. La otra opción, por supuesto, es simplemente utilizar una etiqueta menos engañosa desde el principio. Aunque este enfoque tiene el inconveniente obvio de no amplificar la percepción de las capacidades de su IA, al menos no conlleva ningún riesgo. La gente juzga con más dureza a la IA humanizada Las empresas están implementando cada vez más sistemas de IA que exhiben características humanas. Wysa, una aplicación de salud mental, utiliza un avatar de dibujos animados que ayuda a las personas a completar ejercicios, y las aplicaciones de compañía con IA, como Replika, utilizan imágenes humanas realistas que expresan «sentimientos» y «reflexiones». Estas señales pueden crear la impresión de que el bot posee sentimientos personales, objetivos, deseos y otras cualidades que en realidad no tiene. Los bots humanizados tienen varias ventajas para las empresas en comparación con los bots neutros: aumentan la intención de compra de los consumidores, el nivel de confianza, la lealtad a la marca, el cumplimiento de las solicitudes del proveedor y la disposición a revelar información personal. Estos efectos persisten incluso cuando las personas saben que están conversando con una máquina. Winni Wintermeyer En un estudio realizado por los profesores Raji Srinivasan y Gülen Sarial-Abi, se informó a los participantes sobre una empresa de inversión financiera que cometió un error que provocó pérdidas a sus clientes. Los investigadores dijeron a un grupo de participantes que el error lo había cometido un «programa algorítmico», mientras que al otro grupo les dijeron que el responsable era una IA humanizada llamada «Charles». Descubrieron que las actitudes hacia la marca eran más negativas cuando el algoritmo estaba humanizado que cuando no lo estaba. Estudios posteriores sugieren que es más probable que a los bots humanizados se les atribuyan capacidades mentales como recordar, comprender, planificar y pensar, lo que lleva a los participantes a atribuirles una mayor responsabilidad por cualquier fallo. En otro estudio, un equipo de investigadores dirigido por Cammy Crolic descubrió que los participantes evaluaban más negativamente a un chatbot defectuoso cuando este empleaba señales verbales y visuales similares a las humanas (utilizando un lenguaje en primera persona, presentándose como «Jamie» y teniendo un avatar femenino) que cuando solo empleaba señales verbales similares a las humanas. Esto sugiere que los rasgos humanizados tienen un efecto aditivo en las reacciones negativas ante el fracaso. Debe tener especial cuidado al utilizar chatbots en ámbitos en los que los clientes pueden estar enfadados. En otro estudio dirigido por Crolic, los investigadores analizaron aproximadamente 500 000 sesiones de chatbot con clientes en una empresa internacional de telecomunicaciones. Descubrieron que cuanto más trataban los clientes a los bots como a un ser humano (por ejemplo, utilizando el nombre de pila del bot en las conversaciones), más disminuía la satisfacción cuando los clientes estaban enfadados. Una forma de mitigar este efecto es utilizar selectivamente bots humanizados en ámbitos neutros, como las búsquedas de productos, y con menos frecuencia en funciones que suelen implicar a clientes enfadados, como los centros de atención al cliente. Otra forma es moderar las expectativas tan pronto como un cliente inicia una sesión de chat. El chatbot de Slack, por ejemplo, dice: «Hola, soy Slackbot. Intento ser útil. (Pero sigo siendo solo un bot. Lo siento!)». Los bots que hacen este tipo de revelaciones son menos propensos a enfadar a los clientes cuando fallan. La gente está indignada por las preferencias programadas En 2016, un alto directivo de Mercedes-Benz declaró que, al desarrollar sus vehículos autónomos, la empresa antepondría la seguridad de sus pasajeros a la de los peatones y demás usuarios de la vía pública. Su lógica era sencilla: si solo se pudiera salvar una vida, debería ser la de la persona que viajara dentro del coche. Su declaración desató una tormenta mediática. Un titular de un periódico sensacionalista acusó al fabricante de automóviles de elegir esencialmente «atropellar a un NIÑO en lugar de desviarse» para proteger a los que estaban dentro. En cuestión de semanas, Mercedes-Benz aclaró públicamente que ni los ingenieros ni los sistemas autónomos debían emitir juicios sobre el valor relativo de las vidas humanas. Las emociones suscitadas por este incidente sugieren que la gente considera poco ético que las empresas codifiquen deliberadamente preferencias basadas en grupos (por ejemplo, en función de la edad, el género o la condición de cliente) en los sistemas de IA. Para comprobar esa hipótesis, realicé un estudio junto con la profesora Mina Cikara, de Harvard, en el que pedimos a 826 participantes en Estados Unidos que imaginaran que un vehículo totalmente automatizado se enfrentaba a varios dilemas difíciles —por ejemplo, si desviarse hacia una persona mayor o hacia un niño pequeño— y que luego chocaba contra una persona de uno de esos dos grupos. Es importante destacar que manipulamos si el vehículo tomaba esta decisión al azar o basándose en una preferencia programada para favorecer a un grupo sobre otro. Descubrimos que los participantes se indignaban más cuando el vehículo tenía algún tipo de preferencia programada que cuando elegía al azar. Esto sugiere que las empresas quizá no quieran comunicar cuándo sus sistemas toman decisiones basadas en preferencias grupales. En algunos casos, es posible que incluso quieran evitar recopilar datos sobre características como la raza, el género y la edad para informar el comportamiento de los sistemas de IA. Otro enfoque consiste en utilizar características más estructurales de la situación, como dar prioridad a salvar a más personas frente a salvar a menos. Un estudio realizado por Yochanan Bigman y Kurt Gray descubrió que las personas apoyan más los sistemas de IA que utilizan preferencias estructurales que los que se basan en grupos, presumiblemente porque existe una razón clara y utilitaria para las preferencias estructurales con la que la mayoría de las personas pueden estar de acuerdo. . . . Los fallos de la IA son inevitables. Los profesionales del marketing deben reconocer que las mismas acciones que aumentan la adopción hoy en día pueden crear problemas cuando se produce un fallo de la IA, especialmente cuando esas acciones promocionan las ventajas y la superioridad de su IA. Por lo tanto, antes de implementar una estrategia de marketing, asegúrese de comprender los cinco escollos relacionados con la IA. Evaluar esos riesgos puede ayudar a su empresa a aplicar una estrategia de marketing que venda su IA ahora, al tiempo que reduce su responsabilidad y el riesgo para la marca en caso de un fallo futuro.

No permita que un fallo de la IA perjudique a su marca

Resumen.

Partner Center