A medida que la IA generativa se incorpora en las plataformas que usamos a diario, los debates giran en torno a quién debería recibir crédito y compensación por las obras generadas por IA.

YouTube está negociando acuerdos de licencia con sellos discográficos para usar las voces de músicos y crear nueva música en sus estilos. Mientras tanto, algunas plataformas de IA generadoras de arte están ideando formas de pagar a los artistas por sus contribuciones a los datos utilizados para entrenar los modelos de IA de las plataformas.

Pero ¿qué pasa con el texto? ¿Deberían —y en ese caso, cómo deberían— los escritores ser reconocidos y remunerados por obras generadas por IA que imitan sus voces?

Estas son preguntas que probablemente sean planteadas por una función en Grammarly, el asistente de escritura basado en la nube, que está programada para lanzarse antes de fin de año para suscriptores del nivel empresarial de Grammarly. Llamada “Detección y aplicación de voz personalizada”, la función detecta automáticamente el estilo de escritura único de una persona y crea un “perfil de voz” que puede reescribir cualquier texto en el estilo de la persona.

“Como Grammarly funciona en diversas aplicaciones y herramientas, podemos entender el estilo y las preferencias únicas de un usuario en los lugares donde se comunica para generar un perfil personalizado”, dijo Tal Oppenheimer, jefe de producto de las aplicaciones cliente de Grammarly, en una entrevista por correo electrónico con TechCrunch. “Generamos el perfil de una persona mientras usan nuestro producto de forma pasiva.”

Oppenheimer explica que cada perfil, que viene con una descripción generada por IA que destaca lo que Grammarly considera las características definitorias del estilo de la persona (por ejemplo, “positivo”, “alentador”), se puede personalizar hasta cierto punto. Los usuarios pueden desechar elementos como el tono y las elecciones de estilo —como una tendencia a usar voz activa y frases compuestas— que crean que no reflejan con precisión la forma en que escriben.

“Dado que esta es la primera versión de nuestras funciones de voz personalizadas, seguiremos refinándolas con el tiempo y consideraremos formas de hacerlas aún más personalizadas para los clientes y sus necesidades”, dijo Oppenheimer.

Grammarly presenta la tecnología como una forma para que los escritores aprovechen el contexto para “hacer que su escritura suene más personal”. Pero este escritor se preocupa por cómo podría ser utilizada de manera considerablemente menos caritativa.

Imagínese una empresa utilizando un perfil de voz de Grammarly mientras un escritor está de licencia —o después de haber sido despedido— para publicar entradas de blog bajo su nombre sin su aprobación y sin compensarle. O imagine un perfil de voz de Grammarly siendo utilizado para suplantar a alguien en un intento sofisticado de phishing.

No es tan descabellado como suena. La autora Jane Friedman descubrió en agosto que se estaban vendiendo nuevos libros en Amazon bajo su nombre —nuevos libros que ella no escribió y que parecían haber sido generados por IA. (Amazon eliminó posteriormente los libros falsos y dijo que sus políticas prohíben tal imitación).

Por supuesto, Grammarly no es el primero en sacar a la luz el problema de protección de los escritores en lo que respecta a la IA generativa. Miles de autores firmaron recientemente una carta abierta denunciando tecnologías de IA generativa que “imitan y regurgitan” su “lenguaje, historias, estilo e ideas”. Escritores en California y Nueva York, mientras tanto, han ido un paso más allá, demandando a la startup de IA OpenAI —que, según dicen, entrenó la IA generadora de texto con su trabajo sin permiso— por presunto robo de propiedad intelectual.

Ahora, para ser justos con Grammarly, no cualquiera puede acceder a un perfil de voz de Grammarly. Al menos en el lanzamiento, los usuarios individuales solo pueden utilizar su perfil de voz correspondiente —no el de nadie más. Y no se pueden exportar.

Aunque estoy preocupado por cómo podrían evolucionar los perfiles de voz en el futuro dada la énfasis de Grammarly en el ahorro de costos en sus materiales de marketing. Concebiblemente, en la búsqueda de reducción de costos, a una empresa suscrita a Grammarly eventualmente le interesará acceder a todos los perfiles de sus escritores. ¿Los denegará Grammarly? ¿Quién sabe?

Por su parte, Oppenheimer hizo hincapié en que los perfiles de voz “no están diseñados para reemplazar a nadie”.

“En lugar de imitarlos, [los perfiles de voz] ayudan a [los escritores] a aprender cómo suenan, crear resultados más personalizados y escribir de una manera más auténtica.”

Llámenme escéptico, pero estoy muy cauteloso.

La detección y aplicación de voz personalizada se suma a otras características de IA generativa de Grammarly, muchas de las cuales están entrando en disponibilidad general esta semana. La compañía, que tiene más de 30 millones de usuarios y más de 70,000 equipos en sus plataformas, dice que los usuarios crean más de 12 millones de piezas de contenido semanalmente con las características.