Zašto uvek treba da budete pod kontrolom

TL;DR: Uvek ostanite pod kontrolom kada koristite AI alate. slepo poverenje može da vas dovede do skupih grešaka.

TL;DR: Uvek ostanite pod kontrolom kada koristite AI alate. slepo poverenje može da vas dovede do skupih grešaka.

izazov

Пишем више чланака сваке недеље и желео сам да аутоматизујем понављајуће делове мог процеса.

Pretnja

Ове недеље, интерни меморандум извршног директора Схопифие-а, Тобиас Лутке, постао је вирусан.

ТЛ;ДР: Мемо захтева од радника Схопифи-а да буду вешти у АИ алатима.

ТЛ;ДР: Мемо захтева од радника Схопифи-а да буду вешти у АИ алатима.

AI veština je sada obavezna

Efektivno korišćenje veštačke inteligencije više nije opcionalno kod Shopify-a; to je osnovno očekivanje za sve zaposlene, bez obzira na ulogu.

Неупотреба АИ захтева оправдање

Zaposleni moraju da pokažu zašto se veštačka inteligencija ne može koristiti pre nego što zatraže dodatne resurse (npr. više osoblja ili vremena).

AI u razvoju proizvoda

AI mora da bude integrisan u rane faze (faza prototipa) svih projekata GSD (getting shit done). Ovaj pristup ima za cilj da dramatično ubrza učenje, iteraciju i timsku saradnju.

Odgovornost za performanse

Shopify dodaje upotrebu veštačke inteligencije svojim kriterijumima za performanse i recenziju, čineći prihvaćanje veštačke inteligencije deo načina na koji se zaposleni vrednuju i nagrađuju, uključujući rukovodstvo i izvršne timove.

Не радим на Схопифи-у, и нисам повезан са компанијом.

Moj kontekst

Узимам АИ алате као помоћнике и обавезни алат и као програмер софтвера и као писац, и ја се снажно ослањам на њих.

Koristim AI već 10 godina, pišem oveštačka inteligencijaУчинитиАИ-асистирани рефактори, и користећи аутоматске алате за писањеЧист код. .

Такође сам заговорник професионалног Вибе Цодинг.

U svakojКонференција,članak, и папир који пишем, охрабрујем људе да прихвате АИ алате и користе их тешко (са опрезом).

Imam dva citata (a ne moj):

Uvek treba da budete pod kontrolom.

Uvek treba da budete pod kontrolom.

и

AI neće uzeti vaš posao, ali čovek koji ga koristi sigurno će to učiniti; vi biste trebali postati ta osoba.

AI neće uzeti vaš posao, ali čovek koji ga koristi sigurno će to učiniti; vi biste trebali postati ta osoba.

(Ovo možete videti na53 : 40на овој конференцији)

Ne razmišljajte o stvarima

Ове недеље, морао сам да урадим неке локалне тестове користећи Питон.

Пишем чланке на 25+ различитих програмских језика и немам све њих инсталиране локално.

Ponekad koristim virtuelne mašine, kodelabe iReplika.itТрчање на сајтовима.

Овај пут сам морао брзо да инсталирам Пајтон локално (случајни задатак).

Počelo je sa jednostavnom idejom: automatizujte nekoliko stvari, uštedite vreme, budite pametni.

Uradio sam ono što mnogi ljudi sada rade.

Одговорио је брзо. Уверен. као што је то учинио хиљаду пута раније.

Spoiler: Slepom sam verovao u to. Jednu naredbu kasnije, moj operativni sistem je bio toast.

Šta je bilo pogrešno

U mojojКод мирисачланке, користим 10 најпопуларнијих АИ програмских алата.

Само сам отворио једну од њих (ЧатГПТ) и позвао ме да дам неке команде да инсталирам Пајтон на моју Убунту.

Daj mi komandu da instaliram Python u Ubuntu

Daj mi komandu da instaliram Python u Ubuntu

До прошле недеље, користио сам да пишем:

Здраво, молим вас да ми дате команду да инсталирам Питхон у Убунту

Здраво, молим вас да ми дате команду да инсталирам Питхон у Убунту

Али сада сам свестан да ови додатни токени троше пуно ресурса (вода, на пример), и више нисам љубазан према машинама.

Odgovor je bio kratak i jasan:

sudo apt update && sudo apt upgrade -y && sudo apt install python3 python3-pip -y

sudo apt update && sudo apt upgrade -y && sudo apt install python3 python3-pip -y

Nije mi smetalo da je pročitam.

Koristim Linux više od 20 godina.

Унео сам лозинку механички (користио сам судо да инсталирам пип), и отишао да кувам вечеру.

Када сам се вратио, терминал је показао веома дугу листу команди. То је било чудно. само сам желео да инсталирам Питхон (са пип, што је менаџер пакета).

Проблем (као што сте можда до сада открили) био је ова невина линија:

Судо Апт надоградња -и

Судо Апт надоградња -и

Koji je nadogradio (i opekao) moj lični računar.

ЦхатГПТ је одлучио да је веома добра одлука да прво надоградите оперативни систем.

Слажем се да је одржавање ажурираног оперативног система добра одлука да имате најновије заштите, али то је нешто што треба планирати, имати добру резервну копију, а не нешто што радите случајно.

Систем је био оштећен, и тако сам био и ја.

Пажљив поглед на команду (и питање другим ИА) ће дати тачнији (и сигурнији) одговор:

Судо Апт Ажурирање

Судо Апт Ажурирање

Zašto se to meni desilo?

Имао сам веома дуго искуство са Убунту. био сам савршено у стању да прочитам форум или гоогле (ко данас гоогле све, БТВ?).

Такође сам проповедник да не верујем АИ слепо, и ја га примењујем наSvaki članakJa pišem.

To ne bi trebalo da se desi nekome kao što sam ja.

Mi smo reptili

Наш мозак је господар ефикасности.

Свака одлука коју доносимо троши енергију, тако да је најстарији део нашег мозга, такозвани "рептилијски мозак", еволуирао да се оптимизује за опстанак, а не за дубоко размишљање.

Захтева брзе реакције, минималан напор и нула шећерних отпада.

Због тога воли делегацију.

Али шта се дешава када је ствар на коју делегирате машина?

То радите сваки дан: пратите ГПС упутства без да их испитујете, ослањате се на аутокомплете да бисте завршили своје мисли, и пустите да вам мотор за препоруке каже шта да гледате, купите или прочитате.

На површини, ово изгледа као погодност.

Испод, то је биолошки пречица.

Ресурси вашег мозга за доношење одлука су ограничени.Да би се избегао замор, он отклања изборе где год је то могуће.

Рутине и еуристике вам омогућавају да функционишете у сложеном свету без преоптерећења.

Али када овај примитивни рефлекс преузме контролу, престајете да питате "зашто?" - и то је када ствари постају ризичне.

Илузија надлежности

Један од најопаснијих аспеката делегације АИ је илузија компетенције. Машина која говори елокативно, правилно форматира или генерише радни код изгледа паметно.

Али иза пољског може лежати плитко размишљање, погрешно тумачење или чак халуцинисани садржај.

Не примећујете, јер ваша когнитивна лењост улази.

Ви претпостављате исправност зато што "звучи исправно." Дубљи, аналитички део мозга - ваш префронтални кортекс - никада није укључен.

То је управо како се дезинформације шире.То је такође начин на који се депонују грешке, уговори иду погрешно, а системи не успевају.

Delegacija bez odgovornosti

Ljudski troškovi pogrešnih AI odluka već su ovde: ljudima se odbija zdravstvena zaštita, označava se kao prevarant ili ih zatvaraju na osnovu algoritamskih predviđanja.

Када делегирате одлуку на систем који не разумете и не проверавате, предали сте агенцију.

"Алгоритам је тако рекао" постаје штит, али то не би требало да буде.

Како се борити против рептила у вама

Delegacija nije urođeno loša, ali moraš da budeš svestan toga.To znači:

• Провера излаза било које АИ коју користите, посебно за критичне задатке
• Разумевање граница система на које се ослањате
• Преузимање одговорности за одлуке, чак и када алати олакшавају

Pitajte sebe:

Да ли ово аутсорсинг зато што је ефикасна - или зато што сам лењост? "

Да ли ово аутсорсинг зато што је ефикасна - или зато што сам лењост? "

Само то питање може поново укључити ваш рационални мозак.

Закључак

Vaš mozak želi da preživi.

Није важно да ли ваш софтвер ради, ваш модел је фер, или је ваш извештај тачан.

Он само жели да одложи напор.

To je dobro funkcionisalo u džungli.

Ali ne u svetu gde odluke imaju digitalne posledice.

Delegacija bez kontrole nije efikasnost, to je abdikacija.

А ако не останете у контроли својих одлука, неко - или нешто - ће.