La aplicación de edición de fotos Lensa ha ganado popularidad durante la última semana con las redes sociales repletas de personas que publican selfies generados por IA a partir de la función más reciente de la aplicación.
Por $3.99, los usuarios de Lensa pueden subir de 10 a 20 imágenes de ellos mismos y luego recibir 50 selfies generados por la inteligencia artificial de la aplicación en una variedad de estilos artísticos.
Pero, antes de presionar el botón de compra, una advertencia: la política de privacidad y los términos de uso de Lensa establecen que las imágenes que los usuarios envían para generar sus selfies, o más bien los «Datos faciales», utilizados por Prisma AI, la compañía detrás de esto. Lensa, para seguir entrenando la red neuronal de la IA.
Una red neuronal artificial como la que utiliza Lensa, o el popular generador de texto a imagen Dall-E 2, estudia enormes cantidades de datos para aprender a crear mejores resultados. Para poder convertir oraciones simples en imágenes deslumbrantes y bien elaboradas, Dall-E 2 se entrenó en cientos de millones de imágenes para aprender la asociación entre diferentes palabras y diferentes atributos visuales. De manera similar, la red neuronal de Lensa está aprendiendo continuamente cómo representar caras con mayor precisión.
Estos datos faciales, incluida la ubicación, la orientación y la topología facial, se extraen mediante la API TrueDepth de Apple, las mismas capacidades de seguimiento facial que permiten a los usuarios de iPhone desbloquear sus teléfonos con la cara al mirar la pantalla. Son estos datos faciales los que se introducen en la red neuronal. Sin embargo, estos datos faciales no se venden a terceros.
Para la escritora y ex modelo Maya Kotomori, quien recientemente subió sus propios selfies de Lensa, no está claro si estos generadores asistidos por IA son problemáticos o no. En la comunidad artística, aplicaciones como Dall-E 2 han sido controvertidas porque a los artistas les preocupan sus ingresos como ilustradores y la posibilidad de que les roben su trabajo para alimentar las redes neuronales. En muchos casos, los usuarios han utilizado generadores de IA para provocar imágenes al estilo de artistas particulares, sin su consentimiento o pago.
Sin embargo, ¿cuál es el efecto cuando los individuos renuncian a su propio rostro?
Kotomori dijo que compró dos paquetes de selfies debido al primer conjunto de selfies. la hizo parecer una mujer blanca, a pesar de que Kotomori es una persona negra de piel clara. Después de enviar más fotos y pagar por segunda vez, Kotomori obtuvo selfies con las que estaba más feliz.
“Como persona negra de piel clara, definitivamente siento que la IA sacó muchas conclusiones en función de mi tono de piel. El segundo lote que recibí se parecía más a mí”, escribió Kotomori en un mensaje directo. “Entonces comencé a patearme a mí mismo: ¿ayudé a enseñar a la IA cómo reconocer los matices raciales? ¿Cómo puede esto ayudar/perjudicar a la sociedad a largo plazo? La respuesta es: no tengo ni idea”.