La IA creativa 'sacude' el núcleo de la humanidad y requiere un debate más amplio sobre la ética

Durante la última década, la IA se ha dedicado a automatizar las tareas más mundanas y repetitivas. Los humanos todavía estaban a cargo de hacer el trabajo creativo y el pensamiento. El límite entre humanos y máquinas era claro. Las máquinas pueden calcular, pero los humanos escriben el algoritmo. O la IA puede ayudar a arreglar una foto que tomó un humano. Ese tipo de automatización trajo muchas más oportunidades que desafíos. Como sociedad, tenía la promesa de que si podíamos utilizarlo adecuadamente, liberaría más tiempo para las relaciones, la autoexpresión y la creatividad. Esas cosas que nos dan significado, cosas que son el núcleo de nuestra humanidad.

Luego, recientemente y más aún en el último año, la IA generativa se hizo realidad. Stable Diffusion, Dalle, Midjourney y similares pueden crear imágenes profesionales basadas en un mensaje de texto y GPT-chat puede responder preguntas y escribir ensayos. ¡La máquina se ha vuelto creativa! Y eso sacudirá la frontera entre humanos y máquinas. Nos va a hacer cuestionar el núcleo de nuestra humanidad. ¿Cómo operaremos en un mundo donde una máquina puede hacer todos los dibujos y escribir cualquier ensayo sin esfuerzo? ¿Qué valoramos y qué nos dará sentido? ¿Y por qué siquiera molestarse en esforzarse en algo?

No se trata de proteger puestos de trabajo

Para los artistas entre nosotros, hay un giro irónico adicional. La IA generativa no solo podría amenazar su sustento y hacerles cuestionar el significado de su vida, sino que la máquina también lo hace copiando su trabajo. El trabajo de cualquier artista que se pone en línea se desecha sin la aprobación de los derechos de autor, se entrena y se reproduce en nuevas variaciones. Si copia de una persona, eso es plagio, pero si copia de todos, potencialmente se considera uso justo y también es imposible de rastrear.

No es de extrañar que haya comenzado una protesta generalizada. Artistas en Artstation, un sitio web para exhibir ilustraciones y arte CGI, cambiaron su foto de perfil a 'sin IA', y eso ha obligado a Artstation a cambiar su politica y ahora cada elemento se puede marcar como 'sin IA', lo que indica que no está permitido usarlo para entrenar IA. Ese es un cambio en la dirección correcta, obliga a las empresas de IA a adherirse a las reglas de propiedad. Sin embargo, no detendrá la automatización del arte por completo y no debería hacerlo.

Cambiar de profesión debido a un avance tecnológico es inevitable. Hemos pasado por ese ciclo muchas veces antes. Los ascensoristas son cosa del pasado. Ya no quedan muchos agentes de viajes, y hay muchos más ejemplos. Incluso hay precedencia en el trabajo creativo, la invención de la fotografía redujo drásticamente el número de artistas realistas y, más tarde, la cámara digital cambió la industria de la fotografía.

Además, no es ético intentar detener la tecnología para salvar puestos de trabajo. Eso será preferir los derechos de unos pocos, aquellos cuyos trabajos están amenazados, sobre los derechos de muchos otros, los que pueden disfrutar de los frutos de esta automatización. Pero hay maneras de hacer frente a esta amenaza.

Hay formas de reemplazar los trabajos que se perderán debido a la IA generativa

En una investigación Pew encuesta realizado en 2017, la mayoría de los expertos creían que así como algunos puestos de trabajo se vuelven obsoletos, se crean más puestos de trabajo nuevos. Basado en tendencias históricas, el Foro Económico Mundialestimado en 2020 esa automatización creará Doce millones de puestos de trabajo más de los que abandona.

Tiendo a pensar más como Jason Hickel que bajo el sistema económico actual, donde el capital siempre busca crecer, todos los ahorros de costos obtenidos por la automatización se reinvierten en la producción y la gente sigue produciendo. Pero que la gente produzca más sin fin. Se crean nuevos puestos de trabajo, se consumen más productos y materiales, pero la calidad de vida no aumenta. Por lo tanto, Jason y otros progresistas piensan que al desacelerar el crecimiento podemos usar esos ahorros de costos para proporcionar a todos un ingreso básico universal y liberar su tiempo. Tiempo que la gente puede utilizar para actividades creativas.

Ya sea que miremos a corto plazo, donde los empleos se transforman pero no se pierden, como piensa el Foro Económico Mundial, o a más largo plazo, donde trabajamos menos y consumimos menos como espera Jason Hickel, existe una hoja de ruta para abordar la pérdida de empleos. Pero debe comenzar una conversación sobre cómo preservar la creatividad humana en una era de máquinas creativas.

Ética en IA generativa

La ética en la IA solía tratarse de crear sistemas imparciales , sobre la defensa derechos de privacidad mientras está bajo vigilancia constante por un software con detección de rostros y objetos. Luego, cuando el aprendizaje automático generativo comenzó, la ética se expandió a prevención de la propagación de falsificaciones en un mundo con falsificaciones profundas, y sobre derechos de autor . Todo eso es cierto, pero hay algo más amplio en juego. La ética en el aprendizaje automático creativo también debe tratar de mantener la humanidad en los humanos.

En la ciencia ficción distópica, como la odisea del espacio, la amenaza siempre es que la máquina desarrolle una voluntad propia y se vuelva violentamente contra las personas. La realidad no está resultando nada de eso. ¿Quién hubiera pensado que la máquina nos amenazaría haciendo dibujos y escribiendo ensayos?

Aquí hay algunas políticas sugeridas que debemos considerar si queremos dar forma a un futuro justo, equitativo y significativo. Algunas políticas son más a corto plazo, otras son más difíciles de alcanzar. Pero si el ingenio humano puede inventar esas máquinas, también puede inventar las políticas para gobernarlas. Debe, nuestro futuro depende de ello.

Actualizar licencias creativas: para el uso en capacitación de IA

Cada pieza de creación original: fotos, arte o código tiene una licencia que define qué se puede hacer con ella. Algunas creaciones son gratuitas, otras se ofrecen a cambio de regalías. Algunos se pueden usar para cualquier uso, incluidos los usos comerciales, y otros son solo para uso privado e investigación. Y así.

El uso del trabajo de terceros para entrenar un modelo de aprendizaje automático es un nuevo caso de uso. Por lo tanto, debe ser una nueva categoría en la concesión de licencias. Se permite un trabajo para la capacitación en aprendizaje automático (gratis o por regalías) o no, según la licencia. Sloyd (el autor es cofundador) tiene artistas que crean modelos 3D y partes de modelos especialmente para IA y reciben una compensación por ello.

Cuando los datos de entrenamiento se vuelvan más escasos, los creadores que propongan nuevas formas de expresión tendrán más tiempo para disfrutar los frutos de esa nueva vía creativa antes de que sea imitada por una máquina. O bien, esos creadores pueden decidir vender sus creaciones para entrenar la IA a un valor justo y cobrar sus nuevas creaciones rápidamente.

Los modelos ya capacitados en obras públicas masivas protegidas por derechos de autor deben pertenecer al público.

Luego están los modelos ya entrenados en grandes cantidades de creaciones sin consentimiento. 'El barco ha zarpado' y no se puede deshacer. Litigio sobre qué hacer con el trabajo anterior que se ha utilizado en la capacitación continuará durante años, y el aprendizaje automático que existe ahora se utilizará miles de millones de veces antes de que se resuelva el litigio.

Además, no existe una forma justa de redistribuir el valor creado por esas máquinas a los creadores. Si la riqueza no se puede redistribuir, lo mejor que se puede hacer es ofrecerla gratuitamente al público. LAION, un conjunto de datos de enlaces a imágenes y descripciones coincidentes que se utilizan para el entrenamiento de texto a imagen, ya es una organización sin fines de lucro (aunque no se filtra según las restricciones de derechos de autor). Stability AI, el creador de la difusión estable, es una empresa de aprendizaje automático generativo de código abierto. Usar su máquina es gratis y ganan dinero con los complementos. Del mismo modo, como solución para salir del litigio, otras empresas deberán ofrecer sus herramientas de aprendizaje automático de forma gratuita o dividir ese producto en una empresa separada que lo ejecute como código abierto.

Eso puede sonar exagerado, pero la FTC ya está considerando tales políticas de quebrar a las grandes empresas tecnológicas para aumentar la competencia. Usar las mismas políticas para gobernar el mayor cambio tecnológico de nuestra vida no es descabellado.

Valorar la IA que impulsa la creatividad en lugar de disminuirla

Las empresas y las personas que diseñan y entrenan la IA deben pensar en formas de empoderar a las personas para que sean más creativas. La revisión de tecnología trae una algunos ejemplos donde la máquina mejora la creatividad y no la reemplaza: Complemento de texto a imagen en Photoshop; un complemento de difusión estable para Blender y un widget de texto a imagen para Office.

En Sloyd pensamos en la creación asistida por IA en lugar de en la creación por IA. Comenzamos con un enfoque más en la automatización de modelos 3D para el entorno y accesorios de juegos, ya que a la mayoría de los artistas 3D les encanta trabajar en personajes para sus juegos, pero les vendría bien la ayuda para automatizar el resto. Utilizamos creadores comunitarios pagados para crear la base de datos de capacitación y esa base de datos siempre se expandirá para que siempre haya aportes humanos creativos en ella. Intentamos proporcionar formas de manipular directamente los objetos con las entradas del usuario para que los usuarios tengan un mejor control de la salida. En este caso, la sugerencia es una directriz ética y no una sugerencia de política. Sin embargo, si tenemos una directriz ética clara, con el tiempo podremos sugerir una política para respaldarla.

Considere el costo real de la capacitación, incluido el impacto ambiental

Pagamos la electricidad en función del costo de extracción de materia prima y producción, el costo ambiental no se tiene en cuenta. Eso es cierto para todos los usos, para calefacción e iluminación y también para centros de datos que ejecutan IA.

Centros de datos consumir alrededor del 2% de la energía total de EE. UU. y se espera que esa participación crezca al 8%, en gran parte impulsada por el consumo de energía de IA que se duplica cada 3 meses . Entrenar el aprendizaje automático consume mucha energía, pero también la inferencia (usar un modelo entrenado para crear un resultado) es un trabajo que requiere muchos recursos. En este momento es difícil encontrar datos sobre cuánta energía consume la inferencia y eso es parte del problema. Con los electrodomésticos sabemos cuánta energía se consume, incluso tenemos calificaciones energéticas. ¿Por qué no tenemos calificaciones energéticas similares en el software? (esto fue propuesto por Øyvnind Sørøy, mi colega en Sloyd).

Si comenzamos a medir y si tenemos que pagar el costo real de la energía, en muchos casos encontraremos que el mismo objetivo podría lograrse de manera mucho más eficiente con un tipo diferente de automatización o con una IA más eficiente. Esto es parte de una revolución verde más grande, pero se espera que los centros de datos representen el 8% del consumo y que, además del consumo de software para el hogar y la oficina, el software y la IA en particular no pueden estar exentos.

La discusión sobre la ética y la política de IA generativa acaba de comenzar.

Las opciones que abren las máquinas creativas son profundas, pero también lo son las implicaciones. Si podemos imaginar el futuro que queremos, un futuro en el que los humanos encuentren significado a través de la creatividad, podemos comenzar a establecer las pautas correctas para el aprendizaje automático generativo ético. Las ideas proporcionadas aquí pueden ser una base para futuras políticas, o tal vez surjan mejores ideas. Una cosa cierta es que la comprensión de las implicaciones y las discusiones sobre las medidas que tomaremos apenas comienzan.