A IA generativa atingiu seu ápice?

A IA generativa pode estar em declínio. Isso pode parecer rebuscado, até mesmo absurdo, dada a rápida adoção de ferramentas de IA generativa, com o ChatGPT, ultrapassando até mesmo o TikTok e o WhatsApp. Afinal, todos - de investidores e grandes empresas de tecnologia a grandes anunciantes e editores - parecem estar lutando por uma posição em uma era iminente impulsionada pela IA. Mas e se essa explosão de popularidade marcar o início de uma queda? A ascensão da IA generativa corre o risco de inundar a Internet com conteúdo sintético. Na verdade, isso já está acontecendo. Até a data de publicação deste artigo, a Newsguard, por exemplo, identificou 537 sites de notícias e informações gerados por IA. Considere também o curioso caso de um livro sobre os incêndios florestais de Maui, listado na Amazon com data de publicação de 10 de agosto, que alega narrar os eventos de 8 a 11 de agosto com base em várias fontes, incluindo pesquisas científicas, relatos de testemunhas oculares e relatórios oficiais. Um estudo recente estima que até 46% dos trabalhadores remotos da Amazon Mechanical Turk podem estar usando modelos de linguagem grandes (LLMs) para tarefas de produção de texto. Isso nos leva a uma perspectiva inquietante, mas totalmente concebível: Os futuros modelos de IA poderão ser treinados predominantemente em seus próprios resultados. Será que esse modelo poderia realmente capturar as nuances dos pensamentos e do comportamento humano? Parece inevitável que esse ciclo de consanguinidade crie uma câmara de eco de IA insípida. Isso não é apenas especulação. Um estudo recente mostrou que os modelos de treinamento baseados em dados de outros modelos de IA generativa levam a um processo irreversível e degenerativo. O modelo final começa a superestimar os eventos prováveis e a subestimar os improváveis, acabando por perder o contato com a distribuição real dos dados. É importante ressaltar que esse fenômeno, denominado "colapso do modelo", é observado em diferentes tipos de modelos, de LLMs a geradores de imagens, e que são necessárias apenas algumas gerações para que os resultados se tornem inúteis. Outro estudo documentou um padrão semelhante, que foi denominado Distúrbio de Autofagia do Modelo (MAD). O TI mostra que o treinamento recursivo de modelos generativos em seu próprio conteúdo leva a loops de autoconsumo que degradam a qualidade e a diversidade do modelo. Simplificando, os modelos generativos ficam "MAD", a menos que sejam regularmente infundidos com dados humanos novos e reais. A principal conclusão é clara: os futuros modelos generativos de IA poderão regredir se o conteúdo gerado por IA continuar a proliferar na Internet. O dilema da organização Mas o problema vai além do círculo imediato dos desenvolvedores de LLMs ou das organizações que integram LLMs em suas operações. As consequências são mais amplas, com efeitos em cascata em todo o ecossistema digital. Considere as plataformas de mídia social, os sites de comércio eletrônico e os portais educacionais que são construídos sobre a base de conteúdo autêntico. A ameaça iminente de uma crise de autenticidade poderia comprometer seriamente sua proposta de valor, especialmente porque o sentimento do consumidor se inclina contra o conteúdo gerado por algoritmos. Na verdade, a essência da Internet é a interação e o conteúdo humanos - o domínio do conteúdo gerado por TI corre o risco de minar a própria estrutura que dá valor à Internet. Em conjunto, parece claro que estamos caminhando para um novo cenário digital em que o conteúdo humano genuíno é uma mercadoria cada vez mais rara. E, como todos nós sabemos da Introdução à Economia, seu valor deve, portanto, aumentar. Isso exige que se repense os incentivos e a economia que envolvem o conteúdo gerado por humanos. Um novo modelo econômico e tecnológico para a criatividade humana Até agora, o modus operandi atual dos desenvolvedores de LLM - coletar dados, treinar modelos, capitalizar - tem lhes servido bem. Entretanto, um descontentamento crescente entre as plataformas de conteúdo sugere que essa relação unilateral não é sustentável. Considere a recente decisão do Reddit de cobrar de terceiros pelo acesso à API, uma medida em grande parte motivada por preocupações de que as ferramentas de IA generativa estavam colhendo benefícios sem retribuir à empresa. Como explica o CEO Steve Huffmann: "Rastrear o Reddit, gerar valor e não devolver nada desse valor aos nossos usuários é algo com o qual temos problemas." Da mesma forma, a Getty Images entrou com uma ação legal contra a Stability AI - desenvolvedora da popular ferramenta de IA de texto para imagem Stable Diffusion - por extrair milhões de imagens de seu banco de dados sem permissão ou compensação. Alguns dos principais desenvolvedores de LLM, como a Open AI e o Google, estão reconhecendo essa mudança e tentando se adaptar explorando acordos de licenciamento com editoras. A Open AI, por exemplo, já fechou acordos de parceria com a Associated Press para notícias e com a Shutterstock para imagens. A Open AI também lançou recentemente um recurso que permite que os desenvolvedores optem por não ter seus dados coletados. Embora esses sejam passos na direção certa, eles não abordam a questão central subjacente: Como criamos um ecossistema em que os seres humanos são incentivados a continuar criando e compartilhando conteúdo autêntico? Para isso, devemos fundamentar nossa abordagem e concentrar nossos esforços em três pilares: compensação justa para a criatividade humana, maior controle sobre os resultados criativos por meio da transparência e inovações tecnológicas que demarquem claramente o conteúdo criado por humanos do conteúdo gerado por máquinas. 1. Compensação justa pela criatividade Um bom ponto de partida é explorar sistemas econômicos e tecnológicos em que os criadores - e não apenas as grandes plataformas digitais - sejam remunerados de forma justa pelo conteúdo humano autêntico. As plataformas de conteúdo começaram a considerar como apreciar parte do valor gerado pelos LLMs, por exemplo, licenciando seu conteúdo. Mas isso também deve ser distribuído com os verdadeiros criadores de conteúdo para incentivá-los a se esforçar na criação de conteúdo genuíno. Um exemplo disso é o Fundo de Colaboradores da Shutterstock, que oferece aos criadores uma compensação quando sua imagem é usada no treinamento de modelos de IA generativos. Há outros caminhos em potencial que os desenvolvedores de LLM e as plataformas de conteúdo poderiam explorar. Por exemplo, o blockchain poderia fornecer a infraestrutura tecnológica para estabelecer contratos inteligentes para conteúdo digital. Veja o caso do Kara, um sistema baseado em blockchain que compensa os pacientes pelo uso de seus registros médicos no treinamento de modelos de aprendizado de máquina. Esse sistema usou o Shapley de dados como uma métrica fundamental para a avaliação de dados; em termos simples, ele precificou os dados com base em sua contribuição para o desempenho geral do modelo. No futuro, poderemos ver mercados de dados em que o conteúdo humano é precificado dinamicamente com base na autenticidade, raridade ou especificidade, bem como um aumento nas iniciativas de crowdsourcing direcionadas que oferecem remuneração para necessidades específicas de conteúdo. 2. Agência e transparência Embora os incentivos financeiros sejam importantes, eles não capturam todo o espectro da motivação humana. Minha própria pesquisa em crowdsourcing de inovação identificou uma série de fatores motivacionais dos criadores que vão além do dinheiro. Isso inclui a motivação intrínseca, em que os indivíduos são movidos pela pura alegria de criar, e a motivação pró-social, em que o objetivo é impactar positivamente os outros. Outros estudos apóiam a ideia de que um senso de autonomia e competência é a base da motivação intrínseca e da criatividade. De modo geral, as pesquisas anteriores sobre motivação e criatividade apontam para a importância de capacitar os criadores com informações e autonomia sobre suas criações. Por exemplo, os criadores devem ser capazes de saber quais modelos de IA estão usando seu conteúdo, quais são os princípios que regem esses modelos e quais medidas específicas são tomadas para aderir a esses princípios. Veja o caso da Anthropic Claude, por exemplo. Diferentemente de outros grandes desenvolvedores de LLM, a TI tem uma constituição publicamente compartilhada para seu treinamento, com base em fontes como a Declaração Universal dos Direitos Humanos. Assim como as pessoas hoje podem optar por café de origem ética ou moda sustentável, elas devem ter a opção de fornecer conteúdo exclusivamente para IA ética. 3. Resolvendo o problema da proveniência Um desafio tecnológico é nossa capacidade de distinguir o conteúdo humano do conteúdo sintético. Esse problema de procedência está se mostrando extremamente difícil até o momento. Estudos mostram que soluções simples, como paráfrases leves ou prompt inteligente, evitam métodos de detecção de última geração, como marca d'água suave, zero-shot, detectores baseados em recuperação e em redes neurais. A TI também sugere que, à medida que os modelos de linguagem melhoram na imitação de resultados humanos, a eficácia desses detectores diminui ainda mais. De fato, até mesmo a OpenAI teve que engavetar seus esforços para detectar conteúdo produzido por TI devido à sua falta de confiabilidade. A aparente complexidade desse desafio exige uma abordagem coletiva. Ou seja, os desenvolvedores de LLM, as empresas centradas em conteúdo, o meio acadêmico e as agências governamentais, todos com direito adquirido, devem coordenar esforços para enfrentá-lo. A velocidade sem precedentes com que as vacinas contra a Covid-19 foram desenvolvidas é um testemunho do que a inovação coletiva pode alcançar quando confrontada com desafios aparentemente intransponíveis. O futuro da IA generativa Se o senhor é um tomador de decisões em uma empresa que desenvolve ferramentas de IA generativa ou depende muito de conteúdo, sua competitividade futura pode muito bem depender do aproveitamento da autêntica criatividade humana. Chegou a hora de explorar formas de compartilhar o valor econômico gerado pela IA, explorar as motivações intrínsecas dos criadores de conteúdo e estabelecer métodos confiáveis para a verificação de conteúdo. Isso não é apenas uma questão de responsabilidade corporativa; é um imperativo estratégico para o sucesso a longo prazo. De modo mais amplo, o entusiasmo em torno da IA generativa é palpável, e por um bom motivo. Mas muitas decisões sobre sua adoção parecem ser tomadas sob a presunção de um crescimento exponencial e imparável. O que está faltando na conversa é uma verificação crucial da realidade: Existe um possível platô ou até mesmo uma desaceleração da IA generativa no horizonte próximo? Os gerentes devem resistir à tentação de entrar na onda; eles precisam avaliar minuciosamente aonde essa tecnologia pode levar - tanto para o bem quanto para o mal. À medida que navegamos nesse território intrigante e incerto, é mais importante do que nunca manter uma mentalidade aberta, porém crítica, participar de experimentos contínuos e estar prontos para recalibrar nossos pontos de vista à luz dos insights em evolução. Em suma, o verdadeiro gargalo da IA generativa pode não ser a capacidade de computação ou os parâmetros do modelo, mas nosso toque humano exclusivo. No entanto, estamos à beira de um mundo digital que está cada vez mais repleto de lixo gerado pela IA. Será que já vimos o auge da TI generativa? O desenrolar do próximo capítulo depende de nossa capacidade de reconhecer, proteger, nutrir e tratar de forma justa a criatividade humana.

A IA generativa atingiu seu ápice?

Resumo.

Partner Center