¿Ha tocado techo la IA generativa?

La IA generativa podría estar en declive. Esto podría sonar descabellado, incluso absurdo, dada la rápida adopción de herramientas de IA generativa, con ChatGPT, superando incluso a TikTok y WhatsApp. Después de todo, todo el mundo -desde los inversores y las grandes tecnológicas hasta los principales actores publicitarios y editores- parece estar esforzándose por hacerse un hueco en una inminente era impulsada por la IA. Pero, ¿y si esta misma explosión de popularidad marca el comienzo de una caída? El auge de la IA generativa corre el riesgo de inundar Internet de contenidos sintéticos. De hecho, esto ya está ocurriendo. En la fecha de publicación de este artículo, Newsguard, por ejemplo, ha identificado 537 sitios de noticias e información generados por IA. Consideremos también el curioso caso de un libro sobre los incendios forestales de Maui, listado en Amazon con fecha de publicación del 10 de agosto, que afirma relatar los acontecimientos del 8 al 11 de agosto basándose en diversas fuentes, como investigaciones científicas, relatos de testigos presenciales e informes oficiales. Un estudio reciente estima incluso que hasta el 46% de los trabajadores remotos de Amazon Mechanical Turk podrían estar utilizando grandes modelos lingüísticos (LLM) para tareas de producción de textos. Esto nos lleva a una perspectiva inquietante pero totalmente concebible: Los futuros modelos de IA podrían entrenarse predominantemente en sus propios resultados. ¿Podría un modelo así captar realmente los matices del pensamiento y el comportamiento humanos? Parece inevitable que este ciclo de endogamia dé lugar a una anodina cámara de eco de la IA. Esto no es sólo una especulación. Un estudio reciente demostró que el entrenamiento de modelos basados en datos de otros modelos generativos de IA conduce a un proceso irreversible y degenerativo. El modelo final empieza a sobrestimar los sucesos probables mientras subestima los improbables, perdiendo finalmente el contacto con la distribución real de los datos. Es importante señalar que este fenómeno, denominado "colapso del modelo", se observa en diferentes tipos de modelos, desde los LLM hasta los generadores de imágenes, y que bastan unas pocas generaciones para que los resultados se vuelvan inútiles. Otro estudio documentó un patrón similar, al que se denominó "trastorno de autofagia de modelos" (MAD, por sus siglas en inglés). Demuestra que el entrenamiento recursivo de los modelos generativos sobre su propio contenido conduce a bucles de autoconsumo que degradan la calidad y la diversidad del modelo. En pocas palabras, los modelos generativos se vuelven "MAD" a menos que se les infundan regularmente datos humanos frescos del mundo real. La conclusión clave es clara: los futuros modelos generativos de IA podrían retroceder si el contenido generado por la IA sigue proliferando en Internet. El dilema de la organización Pero el problema se extiende más allá del círculo inmediato de los desarrolladores de los LLM o de las organizaciones que los integran en sus operaciones. Las consecuencias son más amplias, con efectos dominó en todo el ecosistema digital. Considere las plataformas de medios sociales, los sitios de comercio electrónico y los portales educativos que se construyen sobre la base de contenidos auténticos. La amenaza inminente de una crisis de autenticidad podría poner en serio peligro su propuesta de valor, sobre todo teniendo en cuenta que el sentimiento de los consumidores se inclina en contra de los contenidos generados algorítmicamente. De hecho, la esencia de Internet es la interacción y los contenidos humanos: el dominio de los contenidos generados por la IA corre el riesgo de socavar el tejido mismo que confiere a Internet su valor. En conjunto, parece claro que avanzamos hacia un nuevo paisaje digital en el que los contenidos genuinamente humanos son un bien cada vez más escaso. Y, como todos sabemos por Economía 101, su valor debería por tanto aumentar. Esto exige un replanteamiento de los incentivos y la economía que rodean a los contenidos generados por humanos. Un nuevo modelo económico y tecnológico para la creatividad humana El modus operandi actual de los desarrolladores de LLM - raspar datos, entrenar modelos, capitalizar - les ha servido bien hasta ahora. Sin embargo, un descontento creciente entre las plataformas de contenidos sugiere que esta relación unilateral no es sostenible. Consideremos la reciente decisión de Reddit de cobrar a terceros por el acceso a la API, una medida impulsada en gran medida por la preocupación de que las herramientas de IA generativa estuvieran cosechando beneficios sin corresponder a la empresa. Como explica el CEO Steve Huffmann: "Rastrear Reddit, generar valor y no devolver nada de ese valor a nuestros usuarios es algo con lo que tenemos un problema". Del mismo modo, Getty Images ha emprendido acciones legales contra Stability AI -desarrollador de la popular herramienta de IA de texto a imagen Stable Diffusion- por extraer millones de imágenes de su base de datos sin permiso ni compensación. Algunos de los principales desarrolladores de LLM, como Open AI y Google, reconocen este cambio e intentan adaptarse explorando acuerdos de licencia con editores. Open AI, por ejemplo, ya ha sellado acuerdos de colaboración con Associated Press para las noticias y con Shutterstock para las imágenes. Open AI también ha puesto en marcha recientemente una función que permite a los desarrolladores optar por que sus datos no sean raspados. Aunque se trata de pasos en la dirección correcta, no abordan la cuestión subyacente fundamental: ¿Cómo podemos crear un ecosistema en el que se anime a los humanos a seguir creando y compartiendo contenidos auténticos? Para lograrlo, deberíamos fundamentar nuestro enfoque y centrar nuestros esfuerzos en tres pilares: una compensación justa por la creatividad humana, una mayor agencia sobre los resultados creativos a través de la transparencia e innovaciones tecnológicas que delimiten claramente lo hecho por humanos de lo generado por máquinas. 1. Compensación justa por la creatividad Un buen punto de partida es explorar sistemas económicos y tecnológicos en los que los creadores -no sólo las grandes plataformas digitales- reciban una compensación justa por los contenidos auténticamente humanos. Las plataformas de contenidos han empezado a plantearse cómo apreciar parte del valor generado por los LLM mediante, por ejemplo, la concesión de licencias sobre sus contenidos. Pero esto también debería distribuirse con los creadores de contenidos reales para incentivarles a poner el esfuerzo para la creación de contenidos auténticos. Un ejemplo de ello es el Fondo de Colaboradores de Shutterstock, que ofrece a los creadores una compensación cuando su imagen se utiliza en el entrenamiento de modelos generativos de IA. Existen otras vías potenciales que los creadores de LLM y las plataformas de contenidos podrían explorar. Por ejemplo, blockchain podría proporcionar la infraestructura tecnológica para establecer contratos inteligentes para contenidos digitales. Tomemos como ejemplo Kara, un sistema basado en blockchain que compensa a los pacientes por el uso de sus historiales médicos en el entrenamiento de modelos de aprendizaje automático. Este sistema utilizó el Shapley de datos como métrica clave para la valoración de los datos; en términos sencillos, puso precio a los datos en función de su contribución al rendimiento global del modelo. En el futuro, podríamos ver mercados de datos en los que el contenido humano se valore dinámicamente en función de su autenticidad, rareza o especificidad, así como un aumento de las iniciativas de crowdsourcing dirigidas que ofrezcan compensaciones por necesidades específicas de contenido. 2. Agencia y transparencia Aunque los incentivos financieros son importantes, no captan todo el espectro de la motivación humana. Mi propia investigación sobre el crowdsourcing de innovación ha identificado una serie de factores de motivación de los creadores que van más allá del dinero. Entre ellos se incluyen la motivación intrínseca, en la que los individuos se sienten impulsados por la mera alegría de crear, y la motivación prosocial, en la que el objetivo es influir positivamente en los demás. Otros estudios apoyan la idea de que un sentimiento de autonomía y competencia subyace a la motivación intrínseca y a la creatividad. En conjunto, las investigaciones previas sobre motivación y creatividad apuntan hacia la importancia de dotar a los creadores de información y agencia sobre sus creaciones. Por ejemplo, los creadores deberían poder saber qué modelos de IA están utilizando sus contenidos, cuáles son los principios rectores de esos modelos y qué medidas específicas se toman para atenerse a esos principios. Tomemos como ejemplo a Anthropic Claude. A diferencia de otros grandes desarrolladores de LLM, tiene una constitución públicamente compartida para su formación, basada en fuentes como la Declaración Universal de los Derechos Humanos. Al igual que hoy en día la gente puede optar por el café de origen ético o la moda sostenible, debería tener la opción de suministrar contenidos exclusivamente a una IA ética. 3. Resolver el problema de la procedencia Uno de los retos tecnológicos es nuestra capacidad para distinguir los contenidos humanos de los sintéticos. Este problema de procedencia está resultando extremadamente difícil hasta el momento. Los estudios demuestran que soluciones sencillas como la paráfrasis ligera o el prompt inteligente evaden los métodos de detección más avanzados, como los detectores de marca de agua blanda, de disparo cero, basados en la recuperación y basados en redes neuronales. También se sugiere que a medida que los modelos lingüísticos mejoran en la imitación de la producción humana, la eficacia de estos detectores disminuye aún más. De hecho, incluso OpenAI tuvo que archivar sus esfuerzos en la detección de contenidos producidos por IA debido a su falta de fiabilidad. La aparente complejidad de este reto exige un enfoque colectivo. Es decir, los desarrolladores de LLM, las empresas centradas en los contenidos, el mundo académico y las agencias gubernamentales, todos ellos con intereses creados, deberían coordinar sus esfuerzos para abordarlo. La velocidad sin precedentes a la que se desarrollaron las vacunas Covid-19 es un testimonio de lo que puede lograr la innovación colectiva cuando se enfrenta a retos aparentemente insuperables. El futuro de la IA generativa Si usted es un responsable en una empresa que desarrolla herramientas de IA generativa o que depende en gran medida de los contenidos, su competitividad futura bien podría depender del aprovechamiento de la auténtica creatividad humana. Es hora de explorar formas de compartir el valor económico generado por la IA, aprovechar las motivaciones intrínsecas de los creadores de contenidos y establecer métodos creíbles para la verificación de los contenidos. No se trata sólo de una cuestión de responsabilidad corporativa; es un imperativo estratégico para el éxito a largo plazo. En términos más generales, el entusiasmo en torno a la IA generativa es palpable, y por una buena razón. Pero muchas decisiones sobre su adopción parecen tomarse bajo la presunción de un crecimiento imparable y exponencial. Lo que falta en la conversación es una crucial comprobación de la realidad: ¿Existe una meseta potencial o incluso un declive para la IA generativa en el horizonte cercano? Los directivos deben resistir la tentación de subirse al carro; necesitan evaluar a fondo a dónde podría conducir esta tecnología, tanto para bien como para mal. Mientras navegamos por este territorio intrigante e incierto, es más importante que nunca mantener una mentalidad abierta pero crítica, participar en una experimentación continua y estar preparados para recalibrar nuestros puntos de vista a la luz de la evolución de los conocimientos. En definitiva, puede que el verdadero cuello de botella de la IA generativa no sea la capacidad de cálculo o los parámetros del modelo, sino nuestro toque humano único. Sin embargo, estamos al borde de un mundo digital cada vez más lleno de desorden generado por la IA. ¿Podría ser que ya hayamos visto el pináculo de la IA generativa? La forma en que se desarrolle el próximo capítulo depende de nuestra capacidad para reconocer, proteger, alimentar y tratar con justicia la creatividad humana.

¿Ha tocado techo la IA generativa?

Resumen.

Partner Center