CEO da Superhuman se pronuncia sobre polêmica do uso não autorizado de nomes em recurso de IA

Em entrevista ao Decoder, Nilay Patel, editor-chefe do The Verge, confrontou Shishir Mehrotra, CEO da Superhuman — empresa que anteriormente era conhecida como Grammarly e que mantém este produto como carro-chefe — sobre a controvérsia envolvendo o recurso Expert Review, que utilizava nomes de especialistas, jornalistas e personalidades sem autorização para gerar sugestões de escrita baseadas em IA.

Superhuman: expansão e foco em IA integrada

Shishir Mehrotra explicou que a mudança do nome da empresa de Grammarly para Superhuman reflete o crescimento do escopo da companhia, que hoje engloba não só o assistente de escrita Grammarly, mas também o espaço de documentos Coda e o cliente de e-mail Mail. O lançamento recente do Superhuman Go amplia a ideia de assistência por IA, permitindo que agentes inteligentes operem diretamente nos ambientes de trabalho dos usuários, como Gmail, Google Docs, Slack, entre outros, sem exigir mudanças comportamentais significativas.

O que motivou o recurso Expert Review e o erro cometido

O recurso Expert Review, lançado em agosto do ano passado, oferecia sugestões de escrita baseadas em modelos de IA que simulavam “especialistas” — entre eles o próprio Nilay Patel e jornalistas como Casey Newton e Julia Angwin. A utilização dos nomes dessas pessoas sem consentimento gerou indignação e uma ação coletiva liderada por Angwin. Em resposta, a Superhuman primeiro ofereceu uma opção de exclusão via e-mail e posteriormente desativou completamente a funcionalidade.

Mehrotra reconheceu que a funcionalidade foi um erro e pediu desculpas. Ele afirmou que o recurso era pouco utilizado e mal alinhado à estratégia da empresa, sendo removido antes mesmo da ação judicial. O CEO destacou que o objetivo inicial era criar uma experiência de IA que pudesse atuar como um assistente pessoal, trazendo conselhos de especialistas que os usuários admirassem, mas que a execução falhou tanto para os usuários quanto para os especialistas envolvidos.

Decisões internas e processo de desenvolvimento

Questionado sobre o processo decisório que levou ao lançamento da função sem autorização, Mehrotra explicou que a decisão partiu de uma pequena equipe, envolvendo um gerente de produto e alguns engenheiros, e que a questão do uso não autorizado dos nomes não foi antecipada como um problema grave. Ele ressaltou que a empresa mantém um rigoroso processo para evitar o pensamento de grupo, com práticas como o método “Dory and Pulse” para coletar opiniões diversas.

Distinção entre atribuição e personificação na IA

Um ponto central da conversa foi a distinção feita por Mehrotra entre atribuição e personificação. Ele defende que a utilização do nome de especialistas para atribuir a inspiração do conteúdo é legítima e desejável, desde que fique claro que o texto é inspirado e não uma imitação da pessoa. Já a personificação, segundo ele, implicaria em tentar replicar a identidade ou a voz real do especialista, o que a Superhuman afirma não ter feito.

O futuro da IA e a relação com criadores de conteúdo

Mehrotra afirmou que a empresa pretende aprimorar a forma como especialistas participam da plataforma, buscando um modelo mais colaborativo e respeitoso. Ele reconheceu as dificuldades enfrentadas por criadores de conteúdo na era da IA, especialmente em relação à conexão contínua com seus públicos diante da automação e do uso de seus trabalhos por ferramentas inteligentes.

Links úteis

• Entrevista completa no The Verge (em inglês)
• Assine o podcast Decoder
• Eigenquestions: artigo de Shishir Mehrotra sobre tomada de decisão
• Dory and Pulse: método para evitar groupthink