CEO do Grammarly defende uso de nomes reais em IA

*Por Joshua Benton

Às vezes você simplesmente dá sorte com o calendário editorial.

Há cerca de 1 mês, o CEO da Superhuman, Shishir Mehrotra, aceitou ser convidado do Decoder, o podcast do The Verge apresentado pelo editor-chefe Nilay Patel. A Superhuman é a empresa anteriormente conhecida como Grammarly, que agora é apenasuma1 de suas ferramentas de produtividade focadas em Inteligência Artificial, e Mehrotra e Patel já teriam bastante assunto para discutir.

Mas então jornalistas começaram a notar um recurso pouco conhecido do Grammarly chamado “Expert Review”, que oferecia aos usuários sugestões de melhoria para o que estavam escrevendo. Mas as mudanças propostas eram apresentadas como vindas de especialistas reais em escrita —jornalistas, romancistas, acadêmicos e mais. Não era a IA sugerindo uma reviravolta na trama —era Stephen King. Não era a IA propondo uma forma mais clara de explicar ciência —era Carl Sagan. E não era a IA apontando uma maneira de melhorar sua coluna de tecnologia —era Nilay Patel.

Escritores, como se poderia esperar, não ficaram satisfeitos ao ver seus nomes sendo usados para dar credibilidade a sugestões de edição por IA. (Inclusive eu!) A jornalista de tecnologia Julia Angwin entrou com uma ação coletiva contra o Grammarly, buscando indenização. Nesse momento, Mehrotra já havia do “Expert Review” após 8 meses, dizendo que queria “pedir desculpas e reconhecer que vamos repensar nossa abordagem daqui para frente”.

Mehrotra ainda assim participou da entrevista com Patel. Após uma breve conversa sobre a estratégia de produto da Superhuman, Patel foi direto ao ponto:

Patel: “Você não tem nossa permissão para usar nossos nomes para fazer isso. Havia pequenos sinais de verificação ao lado do nome que indicavam que era algo de alguma forma oficial. As pessoas não gostaram disso, eu não gostei disso, e você removeu o recurso. Fale sobre a decisão de lançar esse recurso com nomes para os quais você não tinha permissão e a decisão de retirar o recurso”.

Mehrotra pede desculpas novamente: “Isso me causou muita dor ao sentir que entregamos menos do que o esperado”, observa que o “Expert Review” não era especialmente popular e que “o recurso não era bom. Não era bom para especialistas, não era bom para usuários”.

Mehrotra: “Para alguns dos [usuários do Grammarly], as pessoas de quem eles querem feedback são aquelas que admiram. São os especialistas do mundo, são as pessoas que eles tentam admirar e tentar modelar. Eles tentam fazer isso hoje com LLMs. Eles vão ao ChatGPT e ao Claude e dizem: ‘O que Nilay pensaria sobre o meu texto?’ Essa foi a inspiração para o que o usuário estava tentando fazer.

Do outro lado estava o que os especialistas estavam tentando fazer. À medida que formávamos nossa estratégia aqui, transformando o Grammarly em uma plataforma, as primeiras pessoas para quem liguei ao pensar nisso foram um conjunto de especialistas. Falei com alguns youtubers de destaque, falei com um autor de livros muito conhecido, e todos me disseram a mesma coisa. É um mundo muito difícil para especialistas agora. É muito difícil criar conexão. Se você é autor, seu caminho para chegar aos seus fãs é continuar publicando cada vez mais livros. E todos ouviram o que estávamos fazendo e disseram: “Seria realmente incrível desenvolver uma conexão contínua com meus fãs. O que acontece quando eles fecham meu livro? Ainda posso estar com eles e ajudá-los ao longo do caminho?” Parece que o mundo mudou contra eles, com resumos de IA tomando uma grande parte do tráfego deles e assim por diante. Isso parece uma forma muito melhor de lidar com isso.

Essa foi a inspiração por trás disso. A equipe e o recurso não entregaram. Não entregaram em nenhum dos lados, na verdade. Acabamos com uma experiência que era bastante abaixo do ideal para o usuário e obviamente abaixo do ideal para o especialista. A razão fundamental é algo que você disse na semana passada, que é muito difícil destilar o que você faria como editor com base no resultado do seu trabalho publicado. É muito difícil para a IA fazer isso. Precisamos do seu envolvimento para que isso seja um bom recurso”.

Ao que Patel deu uma resposta bastante direta:

Patel: “Certo. Quanto você acha que deveria me pagar para usar meu nome?”.

A resposta de Mehrotra é, em essência, atribuição e um link.

Mehrotra: É muito importante pensar em atribuição e pensar em impersonação, e assim por diante. Como especialista, há uma troca que você faz na internet. A ideia é que, quando você publica conteúdo, eu incluído, você espera que as pessoas o usem. Você quer se referir ao conteúdo de outras pessoas. Você quer que as pessoas façam links para você. Você realmente espera que atribuam a você quando fazem isso. Quando alguém usa seu conteúdo, deve atribuir a você? Claro. E, para atribuir a você, é preciso usar seu nome.

Há uma linha diferente, que é: as pessoas devem poder se passar por você? E acho que esse é um padrão muito diferente. E vimos o processo. Respeitosamente, acreditamos que as alegações não têm mérito. A ideia de que o recurso é impersonação é um grande exagero. Cada menção era muito clara: “Isso é inspirado não só por essa pessoa, mas também por um trabalho específico dessa pessoa, com um link de atribuição claro para voltar até ela”.

É verdade que citar nomes de pessoas específicas pode ser uma forma poderosa de moldar a resposta de um LLM. Muitos prompts começam dizendo ao Claude algo como: “Você é ________, o maior especialista do mundo em ___________”. Você pode pedir ao ChatGPT: “Reescreva este ensaio em um estilo enxuto e contido, usando linguagem clara e direta e frases curtas, privilegiando vocabulário simples em vez de construções elaboradas, enfatizando detalhes concretos e ação em vez de explicação, evitando abstração e sentimentalismo, e transmitindo profundidade emocional indiretamente por meio de uma prosa precisa e sem adornos”. Ou você pode simplesmente digitar “Reescreva isso como Ernest Hemingway” e economizar algumas teclas.

Mas a resposta desse LLM significa que o espólio de Hemingway agora tem direito a receber dinheiro? E o Grammarly dizer “Esta sugestão é inspirada nas ‘análises do Nieman Journalism Lab’ de Joshua Benton” significa que Mehrotra me deve um jantar?

Confira o episódio completo do Decoder para ouvir o intenso bate-boca sobre como, nas palavras de Patel, “as pessoas não entendem a diferença entre direitos autorais e marcas e nomes e imagem”, e que “a IA está colapsando essas diferenças mais rápido do que nunca antes”.