למה אתה צריך תמיד להיות בשליטה

→

TL;DR: תמיד להישאר בשליטה כאשר משתמשים בכלי AI. אמון עיוור יכול להוביל אותך לטעות יקרות.

→

TL;DR: תמיד להישאר בשליטה כאשר משתמשים בכלי AI. אמון עיוור יכול להוביל אותך לטעות יקרות.

האתגר

אני כותב מאמרים מרובים בכל שבוע ורוצה לאוטומטיזציה את החלקים החוזרים של התהליך שלי.

האיום

השבוע, הודעה פנימית של מנכ"ל Shopify, Tobias Lutke, הפך ויראלי.

→

TL;DR: ההערה דורשת העובדים של Shopify להיות מוכשרים בכלים AI.

→

TL;DR: ההערה דורשת העובדים של Shopify להיות מוכשרים בכלים AI.

כעת היכולת היא חובה

שימוש בינה מלאכותית ביעילות אינו אופציונלי יותר ב-Shopify; זהו ציפיות בסיסיות עבור כל העובדים, ללא קשר לתפקיד.

אי שימוש ב-AI דורש תירוצים

העובדים חייבים להוכיח מדוע לא ניתן להשתמש ב- AI לפני ביקוש משאבים נוספים (לדוגמה, יותר צוות או זמן).

AI בפיתוח מוצרים

AI חייב להיות משולב בשלבים המוקדמים (שלב הפרוטוטיפ) של כל פרויקטים GSD (Get shit done) גישה זו נועדה להאיץ באופן דרמטי למידה, iteration, ושיתוף פעולה צוות.

אחריות ביצועים

Shopify מוסיפה שימוש ב- AI לקריטריונים שלה ביצועים וביקורות עמיתים, מה שהופך את אימוץ ה- AI לחלק מהדרך בה עובדים מוערכים ומתגמלים, כולל מנהיגות וקבוצות מנהיגות.

אני לא עובד ב- Shopify, ואני לא קשור לחברה.

ההקשר שלי

אני לוקח את הכלים של AI כעוזרים וככלי חובה הן בתור מפתח תוכנה והן ככותב, ואני סומך עליהם מאוד.

אני משתמש AI במשך 10 שנים, כותב עלאינטליגנציה מלאכותיתלעשותתחזוקה עוזרתשימוש בכלים אוטומטיים כדי לכתובקוד נקי→

אני גם תומך בקוד Vibe מקצועי.

בכלישיבת,מאמר, ועל הנייר שאני כותב, אני מעודד את בני האדם לאמץ את הכלים של AI ולהשתמש בהם בחומרה (עם זהירות).

יש לי שני ציטוטים (לא שלי):

→

אתה תמיד צריך להיות בשליטה.

→

אתה תמיד צריך להיות בשליטה.

ו

→

AI לא ייקח את העבודה שלך, אבל אדם המשתמש בו בוודאי יעשה את זה; אתה צריך להיות האדם הזה.

→

AI לא ייקח את העבודה שלך, אבל אדם המשתמש בו בוודאי יעשה את זה; אתה צריך להיות האדם הזה.

(אתה יכול לראות את זה ב53 : 40מתוך המפגש הזה)

אל תחשבו על דברים

השבוע, הייתי צריך לעשות כמה בדיקות מקומיות באמצעות Python.

אני כותב מאמרים ב 25+ שפות תכנות שונות ואין לי את כולם מותקנים באופן מקומי.

לפעמים אני משתמש במכונות וירטואליות, codelabs ותגיות itלרוץ באתר WEB

הפעם הייתי צריך להתקין במהירות את Python באופן מקומי (משימה אקראית).

זה התחיל עם רעיון פשוט: אוטומטי כמה דברים, לחסוך זמן, להיות חכם.

עשיתי את מה שאנשים רבים עושים עכשיו.

הוא ענה מהר, בטוח, כמו שהוא עשה אלף פעמים בעבר.

ספויילר: אני סומך על זה עיוורון, פקודה אחת מאוחר יותר, מערכת ההפעלה שלי הייתה טוסט.

מה לא בסדר

בתוך שליריח של קודמאמרים, אני משתמש ב 10 הכלים הפופולריים ביותר AI תכנות.

פתחתי רק אחד מהם (צ'אט) וגרם לו לתת לי כמה פקודות להתקין את Python על Ubuntu שלי.

→

תן לי פקודה להתקין Python ב-Ubuntu

→

תן לי פקודה להתקין Python ב-Ubuntu

עד לפני שבוע כתבתי:

→

שלום, אנא תן לי פקודה להתקין Python ב- Ubuntu

→

שלום, אנא תן לי פקודה להתקין Python ב- Ubuntu

אבל עכשיו אני מודע לכך שסימנים נוספים אלה צורכים הרבה משאבים (מים, למשל), ואני כבר לא אדיב למכונות.

התשובה הייתה קצרה וברורה:

→

sudo apt update && sudo apt upgrade -y && sudo apt install python3 python3-pip -y

→

sudo apt update && sudo apt upgrade -y && sudo apt install python3 python3-pip -y

לא התעסקתי לקרוא אותו.

אני משתמש ב-Linux כבר יותר מ-20 שנה.

הכניסתי את הסיסמה שלי באופן מכני (שתמשתי ב- sudo כדי להתקין את הצינור), והלכתי לאכול ארוחת ערב.

כשחזרתי, הטרמינל הראה רשימה ארוכה מאוד של פקודות.זה היה מוזר.הייתי רק רוצה להתקין Python (עם pip, שהוא מנהל הפקודות).

הבעיה (כפי שניתן היה לגלות עד כה) הייתה השורה האמיתית הזו:

→

sudo apt upgrade -y

→

sudo apt upgrade -y

מה שעדכן (ואחזיר) את המחשב האישי שלי.

ChatGPT החליט שזה היה החלטה טובה מאוד לשדרג את מערכת ההפעלה תחילה.

אני מסכים ששמירה על מערכת הפעלה מעודכנת היא החלטה טובה לקבל את ההגנות העדכניות ביותר, אבל זה משהו שאתה צריך לתכנן, יש גיבוי טוב, ולא משהו שאתה עושה במקרה.

המערכת הייתה מבולבלת, וכך גם אני.

מבט זהיר על הפקודה (והשאלה לשאלות אחרות) ייתן תשובה מדויקת יותר (וגם בטוחה יותר):

→

sudo apt עדכון

→

sudo apt עדכון

למה זה קרה לי?

יש לי ניסיון ארוך מאוד עם אובונטו.הייתי מסוגל לחלוטין לקרוא פורום או לגלוש (מי גולש כל דבר היום, BTW?).

אני גם מטיף על לא לסמוך על AI עיוור, ואני מחזק את זה עלכל מאמראני כותב

זה לא צריך לקרות למישהו כמוני.

אנחנו רפילים

המוח שלנו הוא אדון של יעילות.

כל החלטה שאנו מקבלים מבזבזת אנרגיה, ולכן החלק העתיק ביותר של המוח שלנו, מה שנקרא "מוח הרפטילי", התפתח כדי לאופטימיזציה להישרדות, לא לחשיבה עמוקה.

זה דורש תגובות מהירות, מאמץ מינימלי, ופסולת סוכר.

זו הסיבה שהוא אוהב נציגות.

אבל מה קורה כאשר הדבר שאתה מעביר הוא מכונה?

אתה עושה את זה כל יום: אתה עוקב אחר הוראות GPS מבלי לשאול אותם, לסמוך על autocomplete כדי להשלים את המחשבות שלך, ולתת מנוע המלצות להגיד לך מה לצפות, לקנות, או לקרוא.

על פני השטח, זה נראה כמו נוחות.

למטה, זה קיצור ביולוגי.

משאבי קבלת ההחלטות של המוח מוגבלים.כדי למנוע עייפות, הוא משחרר בחירות בכל מקום אפשרי.

שגרות והאווריסטיקה מאפשרים לך לתפקד בעולם מורכב מבלי להיות מכוסה.

אבל כאשר רפלקס פרימיטיבי זה לוקח שליטה, אתה מפסיק לשאול "למה?" - וזה כאשר הדברים הופכים לסיכון.

אשליה של סמכות

אחד ההיבטים המסוכנים ביותר של העברת ה-AI הוא אשליה של יכולת.מכונה שמדברת בקלות, פורמט נכון, או מייצרת קוד עבודה נראה חכם.לפעמים חכם יותר ממך.

אבל מאחורי הפולני עשוי להיות רעיון שטוח, הפרשנות הלא נכונה, או אפילו תוכן הלהיט.

אתה לא שם לב כי הטירוף הקוגניטיבי שלך נכנס.

אתה מניח את הנכון כי זה "נשמע נכון." החלק העמוק, האנליטי של המוח שלך - הקרום הקדמי שלך - אף פעם לא מעורב.

זוהי גם הדרך שבה באגים מתפשטים, החוזים טועים ומערכות נכשלות.

נציגות ללא אחריות

העלות האנושית של החלטות AI שגויות כבר כאן: אנשים מקבלים כיסוי בריאות, מסומנים כזיופים, או מאסרים בהתבסס על תחזיות אלגוריתמיות.

כשאתה מעביר החלטה למערכת שאתה לא מבין ולא בודק, אתה מוותר על הסוכנות.

"האלגוריתם אמר כך" הופך למגן, אבל זה לא צריך להיות.

איך להתמודד עם הפלפל בתוכך

ההצטרפות אינה רעה באופן טבעי, אבל עליך לעשות את זה מודע.זה אומר:

→
• בדוק את היציאה של כל AI שאתה משתמש בו, במיוחד עבור משימות קריטיות
→
• להבין את הגבולות של המערכת שאתה מסתמך עליה
→
• לקחת בחזרה אחריות על החלטות, גם כאשר כלים הופכים אותן לקלים יותר
→

שאל את עצמך:

→

האם אני מחלק את זה כי זה יעיל - או כי אני עצלן?"

→

האם אני מחלק את זה כי זה יעיל - או כי אני עצלן?"

שאלה זו לבדה יכולה להפעיל מחדש את המוח הרציונלי שלך.

מסקנה

המוח שלך רוצה לשרוד.

זה לא משנה אם התוכנה שלך עובדת, המודל שלך הוא הוגן, או הדוח שלך הוא מדויק.

הוא רק רוצה להוריד את המאמץ.

זה עבד טוב ביערות.

אבל לא בעולם שבו החלטות יש השלכות דיגיטליות.

שליטה ללא שליטה היא לא יעילות, היא הימנעות.

ואם אתה לא נשאר בשליטה על ההחלטות שלך, מישהו - או משהו - יהיה.