Una discusión artificial sobre la inteligencia artificial

Para hablar de verdad sobre inteligencia artificial, también tendremos que usar el término "aprendizaje automático". La IA es lo más importante para lo que la gente usa el aprendizaje automático. El aprendizaje automático es la base de la IA, las matemáticas y los algoritmos que la impulsan.

No son lo mismo, pero su diagrama de Venn se superpone lo suficiente como para que realmente no importe para nuestros propósitos.

Básicamente, hay matemáticas que describen curvas. ¿Recuerdas las parábolas? ¿Cosas con aspecto de herradura donde los extremos continúan?

Puedes modelar un montón de cosas en la vida real con ecuaciones de curvas, y específicamente, con cantidades absurdas de ellas en capas de formas absurdamente complejas. El poder de cómputo es barato ahora. Eso más la capacidad de Internet para crear cantidades masivas de datos de entrenamiento es una gran combinación.

Las personas que hacen este modelo generalmente intentan encontrar algún valor óptimo en muchas curvas a la vez: el punto final, la parte superior o inferior de la parábola, el extremo finito de la herradura.

Algunas curvas suelen ser más importantes para el resultado final que otras; desea ser realmente exacto en la optimización de algunos y puede ser más confuso en la optimización de otros.

Puede hacer que la computadora aprenda los "pesos" correctos para poner en diferentes. Puede hacer que reduzca las ecuaciones de modelado en sí.

Al final, la computadora encuentra un conjunto óptimo de valores de una manera que optimiza algún resultado final. Esta es la "magia" (comillas gruesas) del aprendizaje automático.

Puede tomar una entrada (un mensaje verbal, un conjunto de datos sobre sus preferencias) y hacer una salida que sea bastante realista en alguna dimensión: un dibujo, la voz de una celebridad, una recomendación de una canción.

El poder de cómputo puede ser barato, pero pagar a los humanos para que hagan todas esas matemáticas, o incluso programar esas matemáticas en una computadora, se vuelve costoso.

Las personas inteligentes descubrieron cómo hacer que las máquinas hicieran mucho de ese trabajo preliminar por nosotros: hay formas de hacer que las máquinas "viajen a lo largo" de ecuaciones de curvas y las sigan "cuesta abajo".

Esto ha personalizado sus resultados de Google durante un par de décadas. Desde entonces, ha habido una carrera armamentista de tarjetas gráficas. Ha estado AlphaGo, que venció al mejor jugador de Go del mundo en 2015.

Ha habido perros robot de Boston Dynamics. Ha habido aplicaciones como Shazam y Siri. Ha habido programas de dibujo como DALL-E y Midjourney .

Todo esto está bien, pero el dinero no se ha alejado mucho de los resultados de búsqueda. Ha vertido mano a mano en una cosa adyacente: mostrarle a la gente cosas que les gustarán en las redes sociales. Cosas que dedicará tiempo a mirar y anuncios en los que podría hacer clic.

Mientras tanto, el concepto más amplio de IA ha sido un elemento básico de la ciencia ficción durante un poco más de tiempo, y está interactuando con este "estallido" que el campo ha experimentado en los últimos cinco a diez años. Vemos este crecimiento exponencial y pensamos en "Terminator".

Las personas que venden IA están felices de dejarnos pensar esto, para omitir algunos hechos clave, por lo que creeremos sus afirmaciones de "¡sí! ¡compáranos con Skynet de las películas de Terminator! [Crazy Invention #4852], que construye mi compañía, ¡es de 5 a 10 años como máximo!”

Entiendo por qué la gente vería el rápido crecimiento en lo que puede hacer y pensaría que realmente estamos en un precipicio de darle conciencia.

Incluso si ese precipicio está más en la escala de 200 años en lugar de 2 o 20, eso es algo bastante significativo en comparación con el tiempo que los humanos hemos existido.

Realmente podríamos, en esa escala de tiempo, superar el punto en el que los programas de IA son simplemente "autocompletados para conceptos en lugar de palabras" como lo son en ChatGPT o el argumento de la sala china de Searle .

De hecho, podemos poner los programas correctos en el hardware de inspiración biológica correcto e imitar verdaderamente la mente humana, planteando preguntas sobre la humanidad y la sensibilidad planteadas por Philip K. Dick y otros.

Si la IA realmente rivaliza con nuestra inteligencia emocional y perceptiva, y cuando posea una conciencia ininterrumpida como la nuestra en lugar de una mera habilidad en dominios específicos, nos enfrentaremos a un ajuste de cuentas.

No será hoy, mañana, la semana que viene, ni siquiera el año que viene.

Las conexiones neuronales masivamente paralelas (es decir, en este caso, trabajando al mismo tiempo) que tenemos en nuestros cerebros: este es el foso de nuestro castillo, por así decirlo. Es lo que hace que la "inteligencia general artificial" falte años o más probablemente décadas.

El aprendizaje profundo, la rama del aprendizaje automático detrás de muchos de sus avances recientes, es un nombre genial para las estadísticas y el cálculo de imitar las relaciones de entrada y salida que vemos en el mundo real. No significa, al menos no todavía, que las computadoras estén "aprendiendo profundamente" nada.

Tan impresionante como es, son las matemáticas sucediendo en una computadora, de una manera fundamentalmente ajena a cómo "las matemáticas suceden" en su cerebro.

El cerebro usa sorprendentemente poca electricidad. Los centros de datos usan cantidades sorprendentemente grandes. Estos últimos son máquinas de fuerza bruta. Procesan menos subprocesos y con menos flexibilidad que nosotros; cada uno es tan rápido .

Calcula y reduce las posibilidades tan rápido que incluso los mejores jugadores de ajedrez y Go no pueden seguir el ritmo.

Su talón de Aquiles es el hecho de que requiere problemas bastante bien definidos, entradas y salidas bastante claras. Un juego de mesa. Un robot que no cae. No puede lidiar con un conjunto de problemas de "optimización" absurdamente diversos y que cambian rápidamente a la vez, cambiando entre ellos todo el tiempo.

Independientemente de las fortalezas y fallas de la IA en áreas individuales, no puede vincular muchas áreas como lo hacemos nosotros, cambiando el enfoque según sea necesario, adaptando y transfiriendo el comportamiento entre dominios. No puede hacer esto al nivel de un niño humano.

Un gran objetivo en la investigación de la IA ha sido el aprendizaje de "una oportunidad" o "pocas oportunidades", lo que significa que no se requieren conjuntos de datos masivos ni tiempos de capacitación para aprender a hacer algo. Ha habido un éxito aquí; todavía está muy por detrás de nuestros cerebros.

Automáticamente, somos buenos en el aprendizaje de pocos intentos en muchos dominios, y desde una edad temprana. Aprendemos reglas y estrategias casi sin datos de entrenamiento rápidamente. Puede mostrarle a un niño cómo usar un iPad, andar en bicicleta, atarse los zapatos o explicar la moraleja de una historia (no solo el resumen de la trama).

Difícilmente se puede entrenar una computadora para hacer bien una de estas cosas. Si pudiera hacer razonamiento cognitivo, locomoción e interacción humana sin ser aterrador, ya lo estaríamos usando para todas esas cosas.

Las empresas son alérgicas al trabajo humano desordenado y siempre buscan versiones de máquinas más baratas. Habrían hecho que esto sucediera. No lo han hecho.

Los laboratorios de neurociencia computacional en las universidades son los que están interesados en modelar el pensamiento interno y el razonamiento que hace nuestro cerebro sobre el mundo. No es el objetivo de las modelos mezclar las fotos de dos personas para ver cómo se verían sus bebés.

Probablemente durante décadas, solo nosotros, los humanos, podremos navegar por el mundo de formas difusas, adaptativas y improvisadas, juntas sobre la marcha.

Esta capacidad general de aprender y navegar en el mundo, a partir de una base de emociones y experiencias, no es algo que la industria tecnológica haya encontrado útil al construir IA.

Escasas son las formas en que la imitación del cerebro real ha ocurrido hasta ahora en el aprendizaje automático. Copiar el cerebro no ha sido necesario, es decir rentable.

Las empresas (y las universidades que financian) se han optimizado para cosas más medibles: la cantidad de clics en un feed de redes sociales o la precisión de un ataque con drones.

Si ha tratado de imitarnos, ha sido un golpe impulsado por las ganancias para obtener los resultados de ciertas cosas que los cerebros pueden hacer. Algunas formas impresionantes e interesantes de reconocimiento de patrones ocurren en la visión artificial.

Todo esto es para recalcar el punto de que la IA no es ni la "magia que hace que las computadoras cobren vida" ni la "magia que algunas personas pueden hacer con las computadoras". Es matemática de fuerza bruta. Conocimiento mezclado con poder de cómputo. Aprovechar. La mayoría de los modelos de IA procesan números para hacer una cosa: ganar dinero.

Las personas con esta gallina de los huevos de oro, esta poderosa herramienta, están incentivadas económicamente para afirmar que la IA está a la vuelta de la esquina de hacer algo cósmico o apocalíptico para ocultar las cosas más reales, mundanas y menos llamativas que está haciendo por su negocio.

Tienen un interés creado en afirmar que será capaz de hacer ciertas cosas importantes en los próximos 1, 5, 10 o 15 años. Estas son líneas de tiempo que les gustan a los inversionistas. Los autos totalmente autónomos que no funcionan son solo uno de los primeros fracasos que veremos en este frente.

Las elevadas premisas y promesas de la ciencia ficción son buenas películas. Ex Machina, Ella, Blade Runner . Eso no significa que sean ciertos.

Cuando aceptamos que los propios desarrolladores de IA enmarcan sus productos como (1) inevitables y (2) política y económicamente transformadores, se vuelve fácil eludir el hecho obvio de que las formas que adopta la IA (es decir, ¡como chatbots! ¡como "motores de búsqueda"! ) y los usos que se le den (es decir, ¡los empleos que aumentará o reemplazará! ¡Las tareas que hará más fáciles o más difíciles!) dependen de las condiciones políticas y económicas en las que surja.

…

Estoy abierto a la posibilidad de que estemos al borde de un precipicio, que un mundo “irreconociblemente transformado” por grandes modelos lingüísticos sea solo cuestión de meses, como parece creer Paul Christiano. Pero una regla general básica de este boletín es que las cosas cambian lenta y estúpidamente en lugar de rápida y dramáticamente, y una crítica adecuada de la IA debe tener en cuenta esta probabilidad. Por ahora, estoy lleno de resentimiento por encontrarme una vez más en medio de un discurso sobre tecnología en el que los términos y marcos de discusión han sido establecidos más o menos por completo por las empresas privadas que se benefician de su desarrollo y adopción. .

— Max Read, Lo que la crítica de Facebook puede enseñarnos sobre la crítica de la IA

Hagamos un balance por un segundo. ¿Cómo, históricamente, nos ha ido esto, aceptando los “términos y marcos de discusión” que la élite tecnocrática impone en las discusiones de asuntos técnicos, ya sea criptomoneda o banca?

¿Cuántas crisis bancarias que colapsaron la economía ocurrieron entre las reformas posteriores a la Gran Depresión de FDR y los años 80? ¿Cuántos sucedieron desde entonces después de que Reagan los revirtiera?

Max Read cita el excelente artículo de Harper de Joe Bernstein sobre cómo Facebook ya ha hecho esto tras bambalinas; ha vendido a toda una clase de personas un modelo inestable y cada vez más insostenible de la eficacia de sus propios anuncios.

El hecho de que un esquema piramidal se base en un producto real no significa que no sea un esquema piramidal.

Un punto importante aquí es este: la tecnología no es "mejor" que las finanzas cuando se trata de engañar al público sobre sus ofertas. Podría decirse que es peor. Viste lo que sucedió con las pruebas de sangre baratas, los espacios de coworking y blockchain. Las industrias finas están contaminadas por la estupidez.

Mira cómo masacraron a mi chico.

Confunden las cosas internamente, pero de una manera que nos afecta a todos, porque nuestros amigos y vecinos se tragan sus estupideces y les permiten establecer los términos de la discusión. Luego pagamos por sus paracaídas dorados.

Millones pierden su sustento en eventos económicos que podrían haberse evitado con un par de regulaciones bien ubicadas. Cuento tan viejo como el tiempo.

Nos corresponde probar algo nuevo con la IA. Vale la pena darnos a nosotros mismos en el futuro la libertad de tomar decisiones acertadas al respecto, basadas en información sólida. Vale la pena aprender la verdad al respecto. Tomar los caprichos de los demás al pie de la letra garantiza que pagará un precio más alto en el futuro.

Las personas se están volviendo buenas en el uso de ML y aprendizaje profundo para todo tipo de cosas: hacer que las computadoras reconozcan rostros, reproduzcan voces y muestren a las personas contenido que los mantendrá desplazándose.

Esos usos no mejorarán ni serán más útiles para nuestras vidas, en lugar de hacer que algunas personas sean muy ricas, a menos que lo hagamos así.

Mientras tanto, por supuesto, pueden ser muy entretenidos.

La IA se puede usar para el bien, el mal, simplemente para cosas extrañas o para cualquier cosa, según las condiciones humanas. En la actualidad, esto solo significa que todo depende de adónde conduzca el afán de lucro.

La mayor parte de la experiencia en IA ha sido absorbida por empresas que intentan exprimirnos por dólares. Simplemente no hay tanto dinero en los esfuerzos públicos, transparentes e impulsados por las personas para hacer la vida fundamentalmente mejor (anteriormente el dominio del gobierno) o incluso en la simulación cerebral.

Está en pan y circo y usos militares. Este tipo de condiciones son las que hacen que la IA, y cualquier otra tecnología, vaya en la dirección que lo hace.

AI está ahí fuera ahora. Ese hecho es agua debajo del puente. Hablar de ello como si fuera magia solo beneficia a las personas que tienen más que ganar con las tonterías al respecto.

Vestir a la IA con una gran charla pesada, en este caso, la charla del fin del mundo, aprovechando el interés desinformado de las personas en ella, es un patrón que hemos visto antes.

“Theranos/WeWork/NFT cambiarán todo”. Corrección: podrían haber cambiado mucho. En cambio, se sobrevendieron a sí mismos. Prometieron demasiado y no cumplieron.

Esta histeria en torno a la IA, que exagera tanto sus capacidades como sus riesgos para que algunas personas se vuelvan más ricas, es difícil de separar de las personas que simplemente están naturalmente interesadas en ella. Es una cosa interesante con una amplia gama de usos.

La gente lo comprará de todos modos, como lo hicieron con las criptomonedas y las NFT, y probablemente más. Razón de más para saber la verdad al respecto.

Si no quita nada más de esta publicación, tome esto: la forma en que usamos la IA entre nosotros es, en la actualidad, un problema mucho más apremiante que cualquier cosa sobre el crecimiento de la conciencia de la IA. Piénselo: si se volvió consciente y quiso hacernos daño, ¿ por qué ? ¿Por qué podría querer hacer esto?

¿No parece patentemente obvio que la forma en que lo traigamos al mundo tendrá algún efecto en su postura hacia la especie humana?

¿Tiene sentido confiar esto, y las narrativas que lo rodean, completamente a los directores ejecutivos y propietarios de capital adyacentes a la tecnología, un grupo con un historial terrible en esto y que ha demostrado tener una mayor incidencia de psicopatía que la población en general?

¿Los queremos a cargo de su uso, su investigación y desarrollo, hasta el momento en que se vuelva consciente, ya sea en 2030 o 2230?

Como señaló Read, a los alarmistas de la IA les resulta conveniente que las personas no piensen en esto.

Les resulta mucho más conveniente que este hecho permanezca oculto para poder hablar de que su avance es inevitable, que no vale la pena cuestionarlo y que la Singularidad está a la vuelta de la esquina.

No hay nada inevitable aquí excepto lo que los humanos hacen inevitable. Los gorilas no están trabajando en esto.

Si llega la inteligencia artificial general y cuando llegue, será una cuestión de astrobiología, de una forma de vida extraterrestre. Hasta ese momento, es de filosofía, de historia, de humanidades. ¿Lo haremos como nosotros, a nuestra imagen, quizás incluso mejor que nosotros?

¿Lo empeoraremos, un espejo de nuestras tendencias más sociópatas? Lo loco es: los humanos deciden. Somos los constructores. Estamos ejerciendo control sobre qué tan extraño o humano es.

Excepto, por supuesto, "nosotros" no. Algunas personas son más que otras. ¿Estamos de acuerdo con eso? ¿Estamos de acuerdo con quiénes son esas personas? ¿Estamos de acuerdo con hacia dónde están dirigiendo esta tecnología?

Habiendo visto lo que la clase propietaria de alto capital tiende a “hacer inevitable” —sus pronósticos en otras industrias, sus prácticas miopes e ignorantes de los hechos y de mentalidad de rebaño que han hecho colapsar tantas empresas de miles de millones de dólares— cierto escepticismo acerca de cómo hablan de IA está justificado.

También publicado aquí