Por qué debes estar siempre en control

y

TL;DR: Siempre mantenga el control cuando use herramientas de IA. La confianza ciega puede conducir a errores costosos.

y

TL;DR: Siempre mantenga el control cuando use herramientas de IA. La confianza ciega puede conducir a errores costosos.

El desafío

Escribo varios artículos cada semana y quería automatizar las partes repetitivas de mi proceso.

La amenaza

Esta semana, un memorando interno del CEO de Shopify, Tobias Lutke, se hizo viral.

y

TL;DR: El memorando requiere que los trabajadores de Shopify sean conocedores de las herramientas de IA.

y

TL;DR: El memorando requiere que los trabajadores de Shopify sean conocedores de las herramientas de IA.

Artículo anteriorLa habilidad es ahora obligatoria

El uso efectivo de la IA ya no es opcional en Shopify; es una expectativa básica para todos los empleados, independientemente del rol.

El no uso de AI requiere justificación

Los empleados deben demostrar por qué no se puede utilizar la IA antes de solicitar recursos adicionales (por ejemplo, más personal o tiempo).La estancamiento se enmarca como fracaso, y se anima a los empleados a mejorar y experimentar con la IA continuamente.

AI en el desarrollo de productos

La IA debe integrarse en las etapas tempranas (fase de prototipo) de todos los proyectos GSD (get shit done).

Responsabilidad de rendimiento

Shopify está añadiendo el uso de la IA a sus criterios de rendimiento y revisión por pares, haciendo que la adopción de la IA sea parte de cómo se evalúan y recompensan a los empleados, incluidos los equipos de liderazgo y ejecutivos.

No trabajo en Shopify, y no estoy afiliado con la empresa.

Mi contexto

Tomo las herramientas de IA como ayudantes y una herramienta obligatoria tanto como desarrollador de software como como escritor, y confío en ellos.

Llevo 10 años escribiendo sobreInteligencia artificialHacerRefactorías asistidas, y utilizando herramientas automatizadas para escribirCódigo limpio. el

También soy un defensor de la codificación profesional de Vibe.

En cadaConferencia, deArtículo, y el papel que escribo, alento a los humanos a abrazar las herramientas de IA y usarlas pesadamente (con precaución).

Tengo dos citas (no la mía):

y

Tienes que estar siempre en control.

y

Tienes que estar siempre en control.

y

y

La IA no tomará tu trabajo, pero un ser humano que lo use seguramente lo hará; deberías convertirte en esa persona.

y

La IA no tomará tu trabajo, pero un ser humano que lo use seguramente lo hará; deberías convertirte en esa persona.

(puedes ver esto en53 de 40de esta conferencia)

No pensar sobre las cosas

Esta semana, tuve que hacer algunas pruebas locales usando Python.

Escribo artículos en más de 25 idiomas de programación diferentes y no los tengo todos instalados localmente.

A veces utilizo máquinas virtuales, codelab yReemplazarloCorrer en sitios web.

Esta vez, necesitaba instalar rápidamente Python localmente (una tarea accidental).

Comenzó con una idea simple: automatizar algunas cosas, ahorrar tiempo, ser inteligente.

Así que hice lo que muchas personas están haciendo ahora.

El hombre respondió rápidamente, confiado, como lo había hecho mil veces antes.

Spoiler: Creí ciegamente en él. Un comando más tarde, mi sistema operativo estaba brindando.

Lo que pasó mal

En miCódigo de olorYo uso las 10 herramientas de programación de IA más populares.

Acabo de abrir uno de ellos (ChatGPT) y le pidió que me diera algunos comandos para instalar Python en mi Ubuntu.

y

Cómo instalar Python en Ubuntu

y

Cómo instalar Python en Ubuntu

Hasta la semana pasada, escribía:

y

Hola, por favor, déjame un comando para instalar Python en Ubuntu

y

Hola, por favor, déjame un comando para instalar Python en Ubuntu

Pero ahora soy consciente de que esos tokens adicionales consumen muchos recursos (agua, por ejemplo), y ya no soy educado con las máquinas.

La respuesta fue breve y clara:

y

sudo apt update && sudo apt upgrade -y && sudo apt install python3 python3-pip -y

y

sudo apt update && sudo apt upgrade -y && sudo apt install python3 python3-pip -y

No me molesté en leerlo.

Yo uso Linux desde hace más de 20 años.

Introdujo mi contraseña mecánicamente (estaba usando sudo para instalar el pip), y fui a cenar.

Cuando volví, el terminal mostró una lista muy larga de comandos. Eso era extraño. Sólo quería instalar Python (con pip, que es el gestor de paquetes).

El problema (como podrías haber descubierto hasta ahora) fue esta línea inocente:

y

Sudo apt actualización -y

y

Sudo apt actualización -y

Que ha actualizado (y ladrado) mi ordenador personal.

ChatGPT decidió que era una buena decisión actualizar el sistema operativo primero.

Estoy de acuerdo en que mantener un sistema operativo actualizado es una buena decisión para tener las últimas protecciones, pero esto es algo que necesitas planificar, tener una buena copia de seguridad, y no algo que hagas aleatoriamente.

El sistema estaba cerrado, y yo también.

Una mirada cuidadosa al comando (y una pregunta a otras IAs) dará una respuesta más precisa (y más segura):

y

Sudo apt actualizaciones

y

Sudo apt actualizaciones

¿Por qué me sucedió a mí?

Yo era perfectamente capaz de leer un foro o googlar (¿quién googla cualquier cosa hoy en día, BTW?).

También soy un predicador de no confiar ciegamente en AI, y lo impongo enCada artículoYo escribo .

Esto no debería ocurrir a alguien como yo.

Somos reptiles

Nuestro cerebro es un maestro de la eficiencia.

Cada decisión que tomamos consume energía, por lo que la parte más antigua de nuestro cerebro, el llamado “cerebro reptil”, evolucionó para optimizar para la supervivencia, no para el pensamiento profundo.

Requiere reacciones rápidas, mínimo esfuerzo y cero desperdicio de azúcar.

Por eso le gusta la delegación.

Pero, ¿qué sucede cuando la cosa a la que estás delegando es una máquina?

Lo haces todos los días: sigues las instrucciones de GPS sin cuestionarlas, confías en el autocomplete para terminar tus pensamientos, y deja que un motor de recomendación te diga qué ver, comprar o leer.

En la superficie, esto parece conveniente.

Por debajo, es un corto biológico.

Los recursos de toma de decisiones de tu cerebro son limitados.Para evitar la fatiga, descarga las opciones donde sea posible.

Las rutinas y las heurísticas te permiten funcionar en un mundo complejo sin ser abrumado.

Pero cuando este reflejo primitivo toma el control, usted deja de preguntar “¿por qué?” – y eso es cuando las cosas se vuelven arriesgadas.

La ilusión de la competencia

Uno de los aspectos más peligrosos de la delegación de IA es la ilusión de competencia.Una máquina que habla elocuentemente, formata correctamente o genera código de trabajo parece inteligente.

Pero detrás del polaco puede estar un razonamiento superficial, una interpretación errónea o incluso un contenido alucinado.

Usted no se da cuenta porque su pereza cognitiva entra.

Usted asume la corrección porque "suena bien".La parte más profunda, analítica de su cerebro - su córtex prefrontal - nunca se involucra.

También es como los errores se desplegan, los contratos se equivocan y los sistemas fallan.

Delegación sin responsabilidad

El coste humano de las decisiones de IA defectuosas ya está aquí: a las personas se les niega la cobertura sanitaria, se les marca como fraudulentas o se les encarcelan basándose en predicciones algorítmicas.

Cuando delegas una decisión a un sistema que no entiendes y no verificas, te has rendido a la agencia.

"El algoritmo dijo eso" se convierte en un escudo.

Cómo combatir al reptil dentro de ti

La delegación no es inherentemente mala, pero tienes que hacerla consciente.

y
• Verificar la salida de cualquier IA que utilice, especialmente para tareas críticas
y
• Comprender los límites del sistema en el que se está confiando
y
• Recuperar la responsabilidad de las decisiones, incluso cuando las herramientas las facilitan
y

Pregúntate a ti mismo:

y

¿Outsourco esto porque es eficiente, o porque soy perezoso?”

y

¿Outsourco esto porque es eficiente, o porque soy perezoso?”

Solo esa pregunta puede volver a involucrar su cerebro racional.

Conclusión

Tu cerebro quiere sobrevivir.

No importa si tu software funciona, si tu modelo es justo o si tu informe es exacto.

Sólo quiere descargar el esfuerzo.

Eso funcionó bien en la selva.

Pero no en un mundo donde las decisiones tienen consecuencias digitales.

La delegación sin control no es eficiencia, es abdicación.

Y si usted no permanece en el control de sus decisiones, alguien —o algo— lo hará.