Miksi sinun pitäisi aina olla hallinnassa

on

TL;DR: Pysy aina hallinnassa kun käytät AI-työkaluja. sokea luottamus voi johtaa kalliisiin virheisiin.

on

TL;DR: Pysy aina hallinnassa kun käytät AI-työkaluja. sokea luottamus voi johtaa kalliisiin virheisiin.

Haasteen

Kirjoitan useita artikkeleita joka viikko ja halusin automatisoida prosessini toistuvat osat.

Uhkauksen

Tällä viikolla Shopifyn toimitusjohtajan, Tobias Lutken sisäinen muistio tuli viralliseksi.

on

TL;DR: Muistio vaatii Shopifyn työntekijöitä olemaan taitavia AI-työkaluissa.

on

TL;DR: Muistio vaatii Shopifyn työntekijöitä olemaan taitavia AI-työkaluissa.

Osaaminen on nyt pakollista

Tehokas tekoälyn käyttö ei ole enää valinnaista Shopifyssä; se on lähtökohtainen odotus kaikille työntekijöille roolista riippumatta.

IA:n käyttämättömyys vaatii perustelua

Työntekijöiden on osoitettava, miksi tekoälyä ei voida käyttää ennen kuin he pyytävät lisäresursseja (esim. lisää henkilökuntaa tai aikaa).

AI tuotekehityksessä

AI on integroitava kaikkien GSD-hankkeiden varhaisiin vaiheisiin (prototyyppivaiheisiin).Tämän lähestymistavan tarkoituksena on nopeuttaa dramaattisesti oppimista, iteraatiota ja tiimiyhteistyötä.

suorituskyvyn vastuuvelvollisuus

Shopify lisää tekoälyn käyttöä suorituskykyyn ja vertaisarviointiperusteisiinsa, joten tekoälyn hyväksyminen on osa sitä, miten työntekijät arvioidaan ja palkitaan, mukaan lukien johtajuus ja johtoryhmät.

En työskentele Shopify, enkä ole sidoksissa yhtiöön.

Minun kontekstini

Otan AI-työkalut avustajina ja pakollisena työkaluna sekä ohjelmistokehittäjänä että kirjailijana, ja luotan niihin voimakkaasti.

Olen käyttänyt AI: ta 10 vuotta, kirjoittanutKeinotekoinen älykkyystekemälläAI-avustettu uudelleenrakentaminenKäytä automaattisia työkaluja kirjoittamiseenPuhdas koodija

Olen myös ammattimaisen Vibe Codingin kannattaja.

JokaisessakonferenssijaArtikkelin, ja paperi kirjoitan, kannustan ihmisiä omaksumaan AI-työkalut ja käyttämään niitä voimakkaasti (varovaisesti).

Minulla on kaksi lainausta (ei minun):

on

Sinun on aina oltava hallinnassa.

on

Sinun on aina oltava hallinnassa.

ja

on

AI ei ota työtäsi, mutta ihminen, joka käyttää sitä, varmasti tekee sen; sinun pitäisi tulla se henkilö.

on

AI ei ota työtäsi, mutta ihminen, joka käyttää sitä, varmasti tekee sen; sinun pitäisi tulla se henkilö.

(Tämä näkyy täällä53:40 Näytä lisääTämän konferenssin aikana)

Älä ajattele asioita

Tällä viikolla minun piti tehdä joitakin paikallisia testejä käyttämällä Pythonia.

Kirjoitan artikkeleita yli 25 eri ohjelmointikielellä enkä ole asentanut kaikkia paikallisesti.

Joskus käytän virtuaalikoneita, koodilaboratorioita jaTäydennäKäytetään verkkosivuilla

Tällä kertaa minun piti nopeasti asentaa Python paikallisesti (onnettomasti tehtävä).

Se alkoi yksinkertaisella idealla: automatisoi muutama asia. säästä aikaa. ole fiksu.

Tein sen, mitä monet tekevät nyt.

Hän vastasi nopeasti. luottavainen. kuten se oli tehnyt tuhat kertaa ennen.

Spoiler: Olen sokeasti luottanut siihen. Yksi komento myöhemmin, käyttöjärjestelmäni oli toast.

Mikä meni pieleen

MeidänKoodi tuoksuuKäytän 10 suosituinta AI-ohjelmointityökalua.

Olen juuri avannut yhden niistä (chattiä) ja kehotti antamaan minulle joitakin komentoja Pythonin asentamiseksi Ubuntuani.

on

Anna minulle komento Pythonin asentamiseksi Ubuntuon

on

Anna minulle komento Pythonin asentamiseksi Ubuntuon

Ennen viime viikkoa kirjoitin:

on

Hei, anna minulle käsky asentaa Python Ubuntu

on

Hei, anna minulle käsky asentaa Python Ubuntu

Mutta nyt olen tietoinen siitä, että nämä ylimääräiset tokenit kuluttavat paljon resursseja (esimerkiksi vettä), enkä ole enää kohtelias koneille.

Vastaus oli lyhyt ja selkeä:

on

sudo apt update && sudo apt upgrade -y && sudo apt install python3 python3-pip -y

on

sudo apt update && sudo apt upgrade -y && sudo apt install python3 python3-pip -y

En haitannut sitä lukemista.

Olen käyttänyt Linuxia jo yli 20 vuotta.

Kirjoitin salasanani mekaanisesti (käytin sudoa pipin asentamiseen) ja menin ruoanlaittoon.

Kun tulin takaisin, terminaali näytti hyvin pitkän komentojen luettelon. Se oli outoa. Halusin vain asentaa Pythonin (pipillä, joka on pakettien hallitsija).

Ongelma (kuten olette ehkä löytäneet tähän mennessä) oli tämä viaton rivi:

on

sudo apt päivitys -y

on

sudo apt päivitys -y

Mikä päivitti (ja taitteli) henkilökohtaisen tietokoneeni.

ChatGPT päätti, että oli erittäin hyvä päätös päivittää käyttöjärjestelmä ensin.

Olen samaa mieltä siitä, että päivitetyn käyttöjärjestelmän pitäminen on hyvä päätös saada uusimmat suojaukset, mutta tämä on jotain, jota sinun täytyy suunnitella, on hyvä varmuuskopio, eikä jotain, jota teet satunnaisesti.

Järjestelmä oli murskattu, ja niin olin minäkin.

Tarkempi käsky (ja kysymys muille IA: lle) antaa tarkemman (ja turvallisemman) vastauksen:

on

sudo apt päivitys

on

sudo apt päivitys

Miksi se tapahtui minulle?

Minulla oli erittäin pitkä kokemus Ubuntu. Olin täysin kykenevä lukemaan foorumia tai googlaamaan (kuka googlaa mitään tänään, BTW?).

Olen myös saarnaaja, joka ei luota AI:hen sokeasti, ja panen sen täytäntöön.Jokainen artikkeliMinä kirjoitan.

Minun kaltaiselleni ei pitäisi tapahtua näin.

Me olemme reptilejä

Aivot ovat tehokkuuden mestareita.

Jokainen päätös, jonka teemme, kuluttaa energiaa, joten aivomme vanhin osa, niin sanottu "reptilien aivot", kehittyi optimoimaan selviytymistä, ei syvää ajattelua.

Se vaatii nopeita reaktioita, minimaalisia ponnisteluja ja nollaa sokerijätettä.

Siksi hän rakastaa valtuuskuntaa.

Mutta mitä tapahtuu, kun asia, johon olet valtuuttanut, on kone?

Teet sen joka päivä: noudatat GPS-ohjeita kyseenalaistamatta niitä, luotat automaattiseen täydentämiseen ajatuksiesi loppuun ja anna suosituksen moottorin kertoa, mitä katsoa, ostaa tai lukea.

Pinnalta tämä näyttää mukavuudelta.

Alapuolella se on biologinen pikakuvake.

Aivosi päätöksenteon resurssit ovat rajalliset. väsymyksen välttämiseksi se tyhjentää valintoja aina kun mahdollista.

Rutiinit ja heuristiikka antavat sinulle mahdollisuuden toimia monimutkaisessa maailmassa ilman, että tulet ylivoimaiseksi.

Mutta kun tämä primitiivinen refleksi ottaa hallinnan, lakkaat kysymästä "miksi?" - ja silloin asiat tulevat riskialttiiksi.

Pätevyyden illuusio

Yksi AI-delegaation vaarallisimmista näkökohdista on osaamisen illuusio. Kone, joka puhuu eloisasti, muotoilee oikein tai tuottaa työkoodia, näyttää älykkäämmältä.

Mutta puolalaisen takana voi olla matala ajattelu, väärä tulkinta tai jopa hallusinoitu sisältö.

Et huomaa, koska kognitiivinen laiskuutesi hyökkää sisään.

Oletat oikeellisuuden, koska se "kuulostaa oikealta." Aivosi syvempi, analyyttinen osa - eturauhasen kuori - ei koskaan osallistu.

Tämä on myös tapa, jolla vikoja otetaan käyttöön, sopimukset menevät pieleen ja järjestelmät epäonnistuvat.

Valtuuskunta ilman vastuuta

Virheellisten tekoälypäätösten inhimilliset kustannukset ovat jo täällä: ihmisiltä evätään terveydenhuollon kattavuus, heidät merkitään petollisiksi tai heidät vangitaan algoritmisten ennusteiden perusteella.

Kun siirrät päätöksen järjestelmään, jota et ymmärrä ja jota et tarkista, olet luovuttanut viraston.

"Algoritmi sanoi niin" tulee kilpi, mutta sen ei pitäisi olla.

Miten taistella reptiliä sisälläsi

Valtuuskunta ei ole luonnostaan huono, mutta sinun on tehtävä se tietoiseksi.

on
• Tarkista käyttämäsi tekoälyn tuotto, erityisesti kriittisiin tehtäviin
on
• Ymmärrä sen järjestelmän rajat, johon luotat
on
• Vastuun ottaminen päätöksistä, vaikka työkalut helpottaisivat päätöksentekoa
on

Kysy itseltäsi:

on

Olenko ulkoistanut tämän, koska se on tehokasta - vai koska olen laiska?"

on

Olenko ulkoistanut tämän, koska se on tehokasta - vai koska olen laiska?"

Vain tämä kysymys voi uudelleen sitoa rationaalisen aivosi.

Johtopäätös

Aivot haluavat selviytyä.

Ei ole väliä, jos ohjelmisto toimii, malli on oikeudenmukainen tai raportti on tarkka.

He haluavat vain purkaa ponnistelunsa.

Se toimi viidakossa hyvin.

Mutta ei maailmassa, jossa päätöksillä on digitaalisia seurauksia.

Delegaatio ilman valvontaa ei ole tehokkuutta, se on luopumista.

Ja jos et pysy hallinnassa päätöksistäsi, joku - tai jotain - on.