Varför du alltid bör vara i kontroll

är

TL;DR: Håll alltid kontrollen när du använder AI-verktyg. Blind förtroende kan leda dig till kostsamma misstag.

är

TL;DR: Håll alltid kontrollen när du använder AI-verktyg. Blind förtroende kan leda dig till kostsamma misstag.

Utmaningen

Jag skriver flera artiklar varje vecka och ville automatisera de repetitiva delarna av min process.

Hotet är

Denna vecka blev ett internt memo av Shopifys VD, Tobias Lutke, viralt.

är

TL;DR: Memoen kräver att Shopifys anställda är skickliga på AI-verktyg.

är

TL;DR: Memoen kräver att Shopifys anställda är skickliga på AI-verktyg.

AI-kompetens är nu obligatorisk

Att använda AI effektivt är inte längre valfritt på Shopify; det är en baslinjeförväntan för alla anställda, oavsett roll.

Icke-användning av AI kräver motivering

Anställda måste visa varför AI inte kan användas innan de begär ytterligare resurser (t.ex. mer personal eller tid).

AI i produktutveckling

AI måste integreras i de tidiga stadierna (prototypfasen) av alla GSD-projekt.Detta tillvägagångssätt syftar till att dramatiskt påskynda inlärning, iteration och samarbete.

Prestationsansvar

Shopify lägger till AI-användning till sina prestations- och peer review-kriterier, vilket gör AI-antagande en del av hur anställda utvärderas och belönas, inklusive ledarskap och verkställande team.

Jag arbetar inte på Shopify, och jag är inte ansluten till företaget.

Mitt sammanhang

Jag tar AI-verktyg som hjälpare och ett obligatoriskt verktyg både som mjukvaruutvecklare och författare, och jag litar starkt på dem.

Jag har använt AI i 10 år, skriver omArtificiell intelligensAtt göraAI-assisterade refaktoreroch använda automatiska verktyg för att skrivaRen kodoch .

Jag är också en förespråkare av professionell Vibe Coding.

I varjekonferensochArtikeln, och papper jag skriver, jag uppmuntrar människor att omfamna AI-verktygen och använda dem tungt (med försiktighet).

Jag har två citat (inte mina):

är

Du måste alltid vara i kontroll.

är

Du måste alltid vara i kontroll.

och

är

AI kommer inte att ta ditt jobb, men en människa som använder det kommer säkert att göra; du borde bli den personen.

är

AI kommer inte att ta ditt jobb, men en människa som använder det kommer säkert att göra; du borde bli den personen.

(Du kan se detta på53:40 frånfrån denna konferens)

Tänk inte över saker

Den här veckan behövde jag göra några lokala tester med Python.

Jag skriver artiklar på över 25 olika programmeringsspråk och har inte alla installerade lokalt.

Ibland använder jag virtuella maskiner, codelabs ochRepl.seKör på webbplatser.

Den här gången behövde jag snabbt installera Python lokalt (en oavsiktlig uppgift).

Det började med en enkel idé: automatisera några saker. spara tid. vara smart.

Jag har gjort det som många gör nu.

Svara snabbt, som jag hade gjort tusen gånger förut.

Spoiler: Jag trodde blindt på det. Ett kommando senare, mitt operativsystem var toast.

Vad som gick fel

I minKoden luktarJag använder de 10 mest populära AI-programmeringsverktygen.

Jag har precis öppnat en av dem (Chattar) och uppmanade det att ge mig några kommandon för att installera Python på min Ubuntu.

är

Ge mig ett kommando för att installera Python i Ubuntu

är

Ge mig ett kommando för att installera Python i Ubuntu

Förra veckan brukade jag skriva:

är

Hej, snälla ge mig ett kommando att installera Python i Ubuntu

är

Hej, snälla ge mig ett kommando att installera Python i Ubuntu

Men nu är jag medveten om att dessa extra tokens förbrukar mycket resurser (vatten, till exempel), och jag är inte artig mot maskiner längre.

Svaret var kort och tydligt:

är

sudo apt update && sudo apt upgrade -y && sudo apt install python3 python3-pip -y

är

sudo apt update && sudo apt upgrade -y && sudo apt install python3 python3-pip -y

Jag störde mig inte på att läsa den.

Jag har använt Linux i över 20 år nu.

Jag skrev mitt lösenord mekaniskt (jag använde sudo för att installera pip), och gick till middag.

När jag kom tillbaka visade terminalen en mycket lång lista med kommandon. Det var konstigt. jag ville bara installera Python (med pip, vilket är pakethanteraren).

Problemet (som du kanske har upptäckt hittills) var denna oskyldiga linje:

är

sudo apt uppgradering -y

är

sudo apt uppgradering -y

Som uppgraderade (och tegel) min personliga dator.

ChatGPT beslutade att det var ett mycket bra beslut att uppgradera operativsystemet först.

Jag håller med om att hålla ett uppdaterat operativsystem är ett bra beslut att ha de senaste skydd, men det här är något du behöver planera, ha en bra backup, och inte något du gör slumpmässigt.

Systemet var förstört och det var jag också.

En noggrann titt på kommandot (och en fråga till andra IAs) kommer att ge ett mer exakt (och säkrare) svar:

är

sudo apt uppdatering

är

sudo apt uppdatering

Varför hände det mig?

Jag var perfekt kunna läsa ett forum eller googla (vem googlar någonting idag, BTW?).

Jag är också en predikant på att inte lita på AI blint, och jag tvingar det påVarje artikelJag skriver .

Det borde inte hända någon som mig.

Vi är reptiler

Vår hjärna är en mästare på effektivitet.

Varje beslut vi fattar förbrukar energi, så den äldsta delen av vår hjärna, den så kallade "reptilianska hjärnan", utvecklades för att optimera för överlevnad, inte för djupt tänkande.

Det kräver snabba reaktioner, minimal ansträngning och noll sockeravfall.

Det är därför vi älskar delegation.

Men vad händer när det du delegerar till är en maskin?

Du gör det varje dag: du följer GPS-instruktioner utan att ifrågasätta dem, förlitar dig på autocomplete för att avsluta dina tankar, och låt en rekommendationsmotor berätta vad du ska titta på, köpa eller läsa.

På ytan ser det ut som bekvämlighet.

Nedanför är det en biologisk genväg.

Din hjärnans beslutsresurser är begränsade.För att undvika trötthet avlastar den val där det är möjligt.

Rutiner och heuristik tillåter dig att fungera i en komplex värld utan att bli överväldigad.

Men när denna primitiva reflex tar kontroll, slutar du fråga "varför?" - och det är då saker och ting blir riskabla.

Illusionen av kompetens

En av de farligaste aspekterna av AI-delegering är illusionen av kompetens.En maskin som talar vältaligt, formaterar korrekt eller genererar arbetskod verkar smart.

Men bakom det polska kan ligga grunt resonemang, missförstånd eller till och med hallucinerat innehåll.

Du märker inte eftersom din kognitiva lathet slår in.

Den djupare, analytiska delen av din hjärna - din prefrontala cortex - blir aldrig inblandad.

Det är också hur buggar distribueras, kontrakt går fel och system misslyckas.

Delegation utan ansvar

Den mänskliga kostnaden för felaktiga AI-beslut är redan här: människor blir nekade sjukvårdstäckning, märkta som bedrägliga eller fängslade baserat på algoritmiska förutsägelser.

När du delegerar ett beslut till ett system som du inte förstår och inte kontrollerar, har du överlämnat byrån.

"Algoritmen sa så" blir en sköld.

Hur man bekämpar reptilen inom dig

Delegering är inte i sig dåligt, men du måste göra det medvetet.

är
• Kontrollera utgången av någon AI du använder, särskilt för kritiska uppgifter
är
• Förstå gränserna för det system du litar på
är
• Ta tillbaka ansvaret för beslut, även när verktyg gör dem enklare
är

Fråga dig själv:

är

Är jag outsourcing detta för att det är effektivt - eller för att jag är lat?”

är

Är jag outsourcing detta för att det är effektivt - eller för att jag är lat?”

Den frågan ensam kan återansluta din rationella hjärna.

Slutsats

Hjärnan vill överleva.

Det spelar ingen roll om din programvara fungerar, din modell är rättvis eller din rapport är korrekt.

Det vill bara offload ansträngning.

Det fungerade bra i djungeln.

Men inte i en värld där beslut har digitala konsekvenser.

Delegering utan granskning är inte effektivitet, det är abdikation.

Och om du inte behåller kontrollen över dina beslut, kommer någon - eller något - att göra det.