Dlaczego zawsze powinieneś mieć kontrolę

TL;DR: Zawsze pozostawaj pod kontrolą podczas korzystania z narzędzi AI. Ślepe zaufanie może prowadzić do kosztownych błędów.

TL;DR: Zawsze pozostawaj pod kontrolą podczas korzystania z narzędzi AI. Ślepe zaufanie może prowadzić do kosztownych błędów.

Wyzwanie

Piszę kilka artykułów co tydzień i chciałem zautomatyzować powtarzające się części mojego procesu.

O zagrożeniu

W tym tygodniu wewnętrzny memorandum CEO Shopify, Tobias Lutke, stał się wirusem.

TL;DR: Memo wymaga, aby pracownicy Shopify byli kompetentni w narzędziach AI.

TL;DR: Memo wymaga, aby pracownicy Shopify byli kompetentni w narzędziach AI.

Szkolenie jest teraz obowiązkowe

Efektywne korzystanie z sztucznej inteligencji nie jest już opcjonalne w Shopify; jest to oczekiwanie podstawowe dla wszystkich pracowników, niezależnie od roli.

Niewykorzystanie AI wymaga uzasadnienia

Pracownicy muszą wykazać, dlaczego sztuczna inteligencja nie może być używana przed żądaniem dodatkowych zasobów (np. więcej personelu lub czasu).

AI w rozwoju produktu

Sztuczna inteligencja musi być zintegrowana z wczesnymi etapami (faza prototypu) wszystkich projektów GSD (get shit done).

Odpowiedzialność za wyniki

Shopify dodaje wykorzystanie sztucznej inteligencji do swoich kryteriów wydajności i przeglądu peer-review, czyniąc przyjęcie sztucznej inteligencji częścią tego, w jaki sposób pracownicy są oceniani i nagradzani, w tym zespoły przywódcze i kierownicze.

Nie pracuję w Shopify i nie jestem powiązany z firmą.

Mój kontekst

Przyjmuję narzędzia AI jako pomocników i obowiązkowe narzędzie zarówno jako deweloper oprogramowania, jak i pisarz, i mocno na nich polegam.

Używam AI od 10 lat, piszę oSztuczna inteligencjaczyniącAsystowane refaktoryi zautomatyzowane narzędzia do pisaniaczysty kod...

Jestem również zwolenniczką profesjonalnego kodowania Vibe.

W każdymKonferencja,artykuł, i papier, który piszę, zachęcam ludzi do przyjęcia narzędzi AI i używania ich ciężko (z ostrożnością).

Mam dwa cytaty (nie moje):

Zawsze musisz mieć kontrolę.

Zawsze musisz mieć kontrolę.

i

Sztuczna inteligencja nie zabierze ci pracy, ale człowiek, który ją używa, z pewnością to zrobi; powinieneś stać się tą osobą.

Sztuczna inteligencja nie zabierze ci pracy, ale człowiek, który ją używa, z pewnością to zrobi; powinieneś stać się tą osobą.

(Możesz to zobaczyć na53:40 Śmierćz tej konferencji)

Nie przemyśl rzeczy

W tym tygodniu musiałem wykonać kilka lokalnych testów za pomocą Pythona.

Piszę artykuły w 25+ różnych językach programowania i nie mam ich wszystkich zainstalowanych lokalnie.

Czasami używam maszyn wirtualnych, kodelabów iReplika.plBieganie na stronach internetowych.

Tym razem musiałem szybko zainstalować Python lokalnie (przypadkowe zadanie).

Zaczęło się od prostego pomysłu: zautomatyzować kilka rzeczy. oszczędzać czas.

Zrobiłem to, co teraz robi wielu ludzi.

Szybko odpowiedział, pewny siebie, tak jak to robił tysiąc razy.

Spoiler: Ślepo mu zaufałem.Jedno polecenie później, mój system operacyjny był toast.

Co poszło nie tak

W mojejKod zapachowyUżywam 10 najpopularniejszych narzędzi do programowania AI.

Właśnie otworzyłem jedną z nich (ChatGPTI poprosił, aby dać mi kilka poleceń, aby zainstalować Python na moim Ubuntu.

Jak zainstalować Python w Ubuntu

Jak zainstalować Python w Ubuntu

Jeszcze w zeszłym tygodniu pisałem:

Witam, proszę dać mi polecenie, aby zainstalować Python w Ubuntu

Witam, proszę dać mi polecenie, aby zainstalować Python w Ubuntu

Ale teraz zdaję sobie sprawę, że te dodatkowe tokeny zużywają wiele zasobów (na przykład wodę) i nie jestem już uprzejmy wobec maszyn.

Odpowiedź była krótka i jasna:

sudo apt update && sudo apt upgrade -y && sudo apt install python3 python3-pip -y

sudo apt update && sudo apt upgrade -y && sudo apt install python3 python3-pip -y

Nie przeszkadzało mi to czytać.

Używam Linuksa od ponad 20 lat.

Wpisywałem hasło mechanicznie (używałem sudo do instalacji pip) i poszedłem na kolację.

Kiedy wróciłem, terminal pokazał bardzo długą listę poleceń. To było dziwne. Po prostu chciałem zainstalować Python (z pip, który jest menedżerem pakietów).

Problemem (jak mogłeś odkryć do tej pory) była ta niewinna linia:

Sudo apt upgrade -y

Sudo apt upgrade -y

Coś, co zmieniło (i zmieniło) mój komputer osobisty.

ChatGPT zdecydował, że bardzo dobrą decyzją jest najpierw uaktualnienie systemu operacyjnego.

Zgadzam się, że utrzymanie zaktualizowanego systemu operacyjnego jest dobrą decyzją, aby mieć najnowsze zabezpieczenia, ale to jest coś, co musisz zaplanować, mieć dobrą kopię zapasową, a nie coś, co robisz losowo.

System został zniszczony, a ja też.

Spojrzenie na instrukcję (i pytanie do innych IA) da dokładniejszą (i bezpieczniejszą) odpowiedź:

Sudo apt aktualizacja

Sudo apt aktualizacja

Dlaczego mi się to przydarzyło?

Miałem bardzo długie doświadczenie z Ubuntu. doskonale umiałem czytać forum lub googlować (kto googluje dziś cokolwiek, BTW?).

Jestem również kaznodzieją, aby nie ufać AI ślepo, i narzucam toKażdy artykułJa piszę .

Tego nie powinno się zdarzyć komuś takim jak ja.

Jesteśmy reptylami

Nasz mózg jest mistrzem efektywności.

Każda decyzja, którą podejmujemy, zużywa energię, więc najstarsza część naszego mózgu, tzw. „mózg reptylina”, ewoluowała, aby zoptymalizować przetrwanie, a nie głębokie myślenie.

Wymaga szybkich reakcji, minimalnego wysiłku i zerowego marnotrawstwa cukru.

Dlatego uwielbia delegację.

Ale co się dzieje, gdy to, na co delegujesz, jest maszyną?

Robisz to codziennie: postępujesz zgodnie z instrukcjami GPS bez kwestionowania ich, polegasz na automatycznym uzupełnieniu, aby zakończyć swoje myśli, i pozwól, aby silnik rekomendacyjny powiedział ci, co oglądać, kupić lub przeczytać.

Na powierzchni to wygląda na wygodę.

Poniżej znajduje się skrót biologiczny.

Twój mózg ma ograniczone zasoby decyzyjne. Aby uniknąć zmęczenia, rozładowuje wybory, gdziekolwiek to możliwe.

Rutiny i heurystyka pozwalają funkcjonować w złożonym świecie bez bycia przytłoczonym.

Ale kiedy ten prymitywny refleks przejmie kontrolę, przestajesz pytać „dlaczego?” – i wtedy rzeczy stają się ryzykowne.

Iluzja kompetencji

Jednym z najbardziej niebezpiecznych aspektów delegowania sztucznej inteligencji jest iluzja kompetencji. Maszyna, która mówi słownie, poprawnie formatuje lub generuje kod roboczy, wydaje się inteligentna.

Ale za polskim może leżeć płytkie rozumowanie, błędna interpretacja, a nawet halucynowane treści.

Nie zauważasz tego, ponieważ twoja kognitywna lenistwo wkracza.

Zaakceptujesz poprawność, ponieważ "brzmi to dobrze".Głębsza, analityczna część twojego mózgu - twoja skorupa przedramienna - nigdy nie jest zaangażowana.

Jest to również sposób, w jaki błędy są wdrażane, umowy idą nie tak, a systemy zawiodą.

Delegacja bez odpowiedzialności

Koszty ludzkie błędnych decyzji dotyczących sztucznej inteligencji są już tutaj: ludzie zostają pozbawieni pokrycia opieki zdrowotnej, oznaczeni za oszustów lub uwięzieni na podstawie algorytmicznych przewidywań.

Kiedy delegujesz decyzję do systemu, którego nie rozumiesz i nie sprawdzasz, poddałeś się agencji.

"Algorytm tak powiedział" staje się tarczą.

Jak walczyć z reptylem wewnątrz ciebie

Delegacja nie jest z natury zła, ale musisz to uświadomić.

• Sprawdzanie wydajności dowolnej sztucznej inteligencji, której używasz, zwłaszcza w przypadku zadań krytycznych
• Zrozumienie ograniczeń systemu, na którym polegasz
• Przyjmowanie odpowiedzialności za decyzje, nawet gdy narzędzia ułatwiają podejmowanie decyzji

Zapytaj siebie:

Czy outsourcę to dlatego, że jest efektywne – czy dlatego, że jestem leniwy?”

Czy outsourcę to dlatego, że jest efektywne – czy dlatego, że jestem leniwy?”

To pytanie może ponownie zaangażować twój racjonalny mózg.

konkluzji

Twój mózg chce przetrwać.

Nie ma znaczenia, czy Twoje oprogramowanie działa, czy Twój model jest uczciwy, czy Twój raport jest dokładny.

Po prostu chce odciąć wysiłek.

W dżungli wszystko działało dobrze.

Ale nie w świecie, w którym decyzje mają konsekwencje cyfrowe.

Delegacja bez kontroli to nie efektywność, to abdykacja.

A jeśli nie będziesz mieć kontroli nad swoimi decyzjami, ktoś - lub coś - to zrobi.