יום ראשון, 29 בנובמבר 2015

7 ההרגלים של אנשי תוכנה אפקטיביים במיוחד! (חלק א)

מעט ספרי ניהול יכולים להתהדר בקונצנזוס מוחלט של התעשייה לגביהם: כאלו שכולם מעריכים, מצטטים, ונוטים לחזור אליהם כ reference. אחד מהספרים המעטים הללו הוא הספר The 7 habits of Highly Effective people מאת סטפן קווי (Stephen R. Covey).

הספר, שנכתב במקור ב 1989 (מהדורה מחודשת אחרונה שלו יצאה ב 2013), מכבב בד"כ ברשימות "ספרי הניהול המשפיעים ביותר בעולם". הוא תורגם ל-40 שפות, ואפילו ביל קלינטון בהיותו נשיא - הזמין את קווי לייעץ לו כיצד ליישם את תובנות הספר טוב יותר על עצמו.

האם זהו "ספר ניהול", ולכן בהגדרה איננו "קשור" למהנדסי תוכנה (לא מעונבים)? בוודאי שלא!
להגביל את עצמנו לספרי הנדסת-תוכנה כמקור ידע והתפתחות - זה יהיה מאוד לא אפקטיבי!


נתחיל בשם הספר: "7 ההרגלים של אנשים אפקטיביים במיוחד", אני רוצה לתת כמה דגשים:

7

ציון מספר (לא גדול) בכותרת של ספר או מאמר זו דרך מצוינת לקסום לאנשים ולעודד אותם להתעניין בו: "היי אני לא מגילה בלתי נגמרת! כולה x חתיכות לא גדולות של תוכן. תוכל אפילו לעבור עליהן בזריזות להתרשמות מהירה" - הוא מסר שמקל מאוד על תחושת הקלות לעיכול של החומר.
כאשר התוכן קל וזמין יותר לעיכול - סביר יותר שנצרוך אותו בפועל.
קווי הוא (גם) אמן שיווקי. מאז כתיבת הספר "שבעת ההרגלים" הוא הוציא ספרים רבים מסביב לאותם רעיונות, פתח ורכש חברת ייעוץ, ואפילו כתב אח"כ ספר שנקרא "ההרגל השמיני" (מזהים כאן איזה פוטנציאל עסקי?!).
בכל זאת, אני חושב שהספר הוא מוצלח וחשוב, ואני שם בצד את הרקע שלו - שהוא לא הרקע האידאלי לרצונותי.


הרגלים

שימו לב: כ 40-50% מהפעולות שאנו עושים מידי יום הן כתוצאה מהרגל ולא החלטה [א], הרגל הוא כמו החלטה אוטומטית עבורנו, ואם ההרגל הוא טוב - אזי "נזכה" בהחלטות אוטומטיות טובות (כנ"ל ההיפך).
בניית הרגל הוא תהליך בפני עצמו (אפרט בהמשך), אך הדגש הוא שאנשים אפקטיביים במיוחד הם כאלו בזכות כך שיש 7 דברים שהם עושים בצורה תדירה.
רבים מקוראי הספר של קווי, למדו את שבעת הכלים שהוא מציג, אך לא הפכו אותם להרגלים - מה שמותיר אותם במצב של בעלי "התקפי אפקטיביות", אך הם עדיין לא אנשים "אפקטיביים במיוחד".


אפקטיבי

לצורך הפוסט אשתמש במינוחים הבאים:
  • יעיל (efficient) - משתמש במינים של משאבים בכדי להשיג תוצאה רצויה (מצב טוב).
  • אפקטיבי (effective) - משיג תוצאה רצויה, בעזרת פעולה מחוללת שינוי (מצב טוב יותר!)
המנהל היעיל, עוקב כל יום אחרי העובדים שלו ומנחה אותם אילו משימות לעשות. הוא עובד עם אקסלים קצרצרים, מספק הוראות מינימליות אך ברורות - בצורה היעילה ביותר האפשרית (כל עוד ממשיכים בקו עבודה זה).

המנהל האפקטיבי - מספק לעובדים שלו יעדים ברורים, וכבר לא צריך לעקוב אחרי כל משימה. הוא שינה את כללי המשחק, והגיע לרמת יעילות טובה יותר מזו שנראתה אפשרית, עד קודם לכן.

זה אירוע יפיפה בו מצליחים לשנות את כללי המשחק ולעשות בפחות מאמץ (שוטף) - הרבה יותר.







בעולם העבודה, אנשים שונים מגיעים להישגים שונים. הרבה אנשים עובדים קשה, אבל חלק מהם מצליחים להגיע להישגים גבוהים בהרבה, ובתנאים דומים.

כשאנו מעריכים הישגים של אנשים, אנו נוטים הרבה פעמים להתמקד בתשומה (למשל: שעות עבודה / הפגנת מאמץ) - מדד שקל למדוד, במקום להתמקד בתפוקה (תוצאות) - מדד שקשה למדוד אותו.
בכל זאת, אני מניח שכולנו מכירים את הסיטואציה בהם אדם חדש בתפקיד מצליח להשיג התקדמות גדולה שלא ניתן להכחיש אותה (גם אם אין סקלה מספרית מדויקת לתיאור התוצאה) / או לחלופין: מצב שבו שני אנשים מקבילים באותו התפקיד, אבל אדם אחד משיג הרבה יותר.

בהינתן אותה כמות השקעה, ואותה השכלה (2 מדדים מאוד מקובלים לחיזוי הישגים בעבודה) - כיצד זה קורה? מה עוזר לאותם אנשים להשיג משמעותית יותר - באותה הסביבה ועם אותם הכלים?

ברוב המקרים, זה לא בהכרח כמות הניסיון, לא כמות אינטליגנציה, וגם לא כמות מוטיבציה (אף על פי שלכל אחד מאלו בהחלט יש תרומה משמעותית!). זה משהו אחר - באופן ההתנהלות. האם זה משהו שניתן ללמוד?


הרגל ראשון: נקיטת יזמה (AKA[ב] התמודדות עם נסיבות מכשילות)


משמעות ההרגל של "נקיטת יזמה" עשוי להישמע דיי פשוט: טוב יותר לנקוט יזמה מאשר להתנהג בצורה ריאקטיבית.

כל זה טוב ויפה, בתיאוריה. במציאות - יש נסיבות שמקשות עלינו לקחת יזמה, וההבדל הוא כנראה כיצד אנו מתמודדים עם הנסיבות הללו.

האם אנחנו ריאקטיבים או פרואקטיביים? - ניתן לבחון זאת בעזרת השפה בה אנו משתמשים.
  • שפה ריאקטיבית: "אי אפשר לעשות את זה", "הם לא יסכימו", "כל עוד הוא שם - זה לא יקרה".
  • שפה פרואקטיבית: "מה אפשר כן לעשות?", "אנסה לשקף להם את הצורך", "כיצד ניתן לעבוד איתו?"

זה הפשט. ההבדלים בין שפה ריאקטיבית ופרואקטיבית ממשיכים למחוזות הרבה יותר אישיים ורגשיים.

הערה: פה אני נכנס לנושא מאוד "רך" / שאינו מוגדר היטב ושאינו טיפוסי לבלוג. נכון.
  • שפה ריאקטיבית: "הוא מוציא אותי מדעתי", "זה חייב להיות", "כזה אני... בהיתן מצב כזה - אני לא אתפקד", "אין לי זמן".
  • שפה פרואקטיבית: "אני הוא זה ששולט ברגשותי", "זה מה שאני רוצה שיהיה", "יש לי עוד אלטרנטיבות", "הזמן הוא מוגבל, אך אני יכול לתמרן".

הבדל מהותי בין חשיבה ראקטיבית לפרואקטיבית הוא ייחוס המגבלה:
אם המגבלה היא חיצונית (אנשים אחרים, זמן, סיטואציה, קושי) - אזי אנו "חוסמים" את עצמנו מנטלית מלהתמודד איתה, וכך "מרשים לעצמנו" להיעצר.
אם המגבלה היא פנימית (זה אני, וההחלטות שלי), יש לנו מרחב תמרון גדול הרבה יותר, ואנו יכולים להתקדם: אנחנו יכולים לבחור לא להיפגע, אנחנו יכולים לבחור באלטרנטיבת פעולה אחרת (ביטול ה"חייב"), עם ההשלכות שיש לה, וכו'.


אלמנט שמשפיע על ייחוס המגבלה הוא הדרך שבה אנו מעריכים את עצמנו.

האם אנו מעריכים את עצמנו ע"פ אמירות של אחרים, או ע"פ הערכה פנימית המבוססת על התבוננות לאורך זמן?

אמירות של אנשים אחרים הן לעתים קרובות שטחיות, מוגזמות ומתייחסות ל"צילום" נקודת זמן מאוד ספציפית:
  • "וואי.... אתה גאון"
  • "אתה לא מבין שום דבר"
  • "הוא תמיד מאחר"
  • "ב sometech - הוא יודע יותר טוב מכולם. נקודה."
ההתבססות על אמירות כאלו לביסוס הדימוי העצמי שלנו הוא כמו לנסות לדמיין כיצד אנו נראים בהתבסס על חדר המראות המעוותות בלונה-פארק: פעם אנחנו שמנים, ופעם רזים, פעם עם פנים מתוחות, ופעם עם עין אחת בלבד.

אמירות של אנשים אחרים, לעתים קרובות, משליכות חולשות ודאגות שלהם - הלאה.
אם נתבסס עליהן בכדי להחליט מה אנחנו יכולים לעשות, ומה אנחנו לא יכולים לעשות, מה בשליטתנו ומה לא - סביר הרבה יותר שננטה לחשיבה ריאקטיבית.

חשיבה פרואקטיבית מאמצת את העיקרון שאנו שולטים על הרגשות שלנו, ועל ההחלטות שלנו: זה מרחב התמרון, והוא משתנה בעקבות הסביבה החיצונית - כמובן, אך לא נחסם. אנו יכולים להחליט כיצד לקבל דברים, ואנו יכולים להחליט על דרכי פעולה שונות.

לזכות החשיבה הראקטיבית ניתן לומר שהיא יותר יעילה (efficient): מצב של התלוננות הוא חסכוני יותר במשאבים רגשיים.


ע"פ מודל שמתואר בספר, ניתן לצייר את הדברים שמדאיגים / מטרידים אותנו כמעגל - מעגל הדאגה. חלק מהדאגות - אין לנו מה לעשות איתן, הן מעבר ליכולתנו (אולי בידי שמיים, ואולי בידי סמכות אחרת בארגון, וכו'...). חלק אחר מהדאגות - אנו דווקא מאמינים שיש לנו יכולת השפעה עליהן (להלן מעגל ההשפעה).



אנשים אפקטיביים מקדישים יותר מזמנם למעגל ההשפעה מאשר למעגל הדאגה.
במילים פשוטות: "מעלים רעיונות מה ניתן לעשות, במקום להתלונן".

מכאן, יש מחזור של העצמה:
  • אנשים שמתמקדים במעגל ההשפעה מצליחים אכן להשפיע יותר, וכך הם מאמינים יותר ביכולת שלהם להשפיע. גם אחרים מסביב מאמינים יותר ביכולת שלהם להשפיע. זה גורם להתרחבות מעגל ההשפעה.
  • אנשים שמתמקדים מחוץ למעגל ההשפעה, מקדישים זמן רב לתלונות והאשמות - ועם הזמן נוטים להאמין פחות ביכולת שלהם להשפיע. כך גם הולכים ומאמינים אנשים אחרים מסביבם. מעגל ההשפעה שלהם - קטן.
הבהרה: כשאני מדבר על מעגל השפעה גדול יותר, הכוונה למרחב גדול יותר של דאגות שאני מאמין שאני יכול להשפיע עליהן.

היכולת להתמודד, כהרגל, עם נסיבות מכשילות - היא נקודת עוצמה להיות אדם אפקטיבי יותר.



הרגל שני: "התחל בחשיבה על סוף-דבר"(AKA התמקדות בתוצאות, לא במעשים)


"דבר מאוד לא אפקטיבי, הוא לכרות בצורה יעילה (efficient)... את היער הלא נכון."
אנשים אפקטיביים הם אלו שמכוונים לעשות את הדברים "הנכונים".

זו עצה קצת נאיבית בפני עצמה... כיצד יודעים מהם הדברים "הנכונים"?
"אם תבחן בתשומת לב את הדברים שהיית רוצה שיאמרו עליך בהלווייתך, יתברר לך כיצד אתה מגדיר את ההצלחה" - היא מטאפורה, שקשה לשכוח, מהספר.

לתרגום מעשי יותר לסביבת העבודה, הייתי אומר "אם בעוד שנה תשב ותיזכר במה שעשית בשנה האחרונה, מה היית רוצה לזכור?".

שם ההרגל במקור הוא Begin with the End in Mind.


הספר מציין מחקר של בחור בשם Dr. Charles Garfield (מאוחר יותר הוציא את הספר "Peak Performers") שעקב אחרי ספורטאים ואנשי-עסקים מצטיינים. כמעט כל המצטיינים ידעו לתאר את "תמונת הניצחון שלהם". כלומר: הייתה להם מטרה ברורה ומוגדרת - שעזרה להם להתמקד.

העיקרון שהספר מנסה להעביר כאן הוא שיצירה גשמית, מתחילה קודם כל ביצירה תודעתית-אישית. ("Mental creation precedes physical creation")

"לעבור עוד שנה במקום העבודה ולעשות מה שהמנהל שלי מבקש" היא לא מטרה ממוקדת.

מקור


מה אם כן היא המטרה הממוקדת?
- רק אתם תוכלו לומר.

אתם מכירים את סביבת העבודה שלכם, את הבעיות וההזדמנויות.
מצאו לכם משהו משמעותי לעשות, מחוץ למסלול העבודה השוטף - והחליטו לעשות אותו. דמיינו את התוצאה הסופית, את השלכותיה החיוביות. התמקדו בחשיבה כיצד התוצאה נראית בסוף, במקום חשיבה כיצד להתחיל. ברגע שתדעו מה היא התוצאה הרצויה - יהיה לכם קל הרבה יותר גם להתחיל.

הקבלה כמעט ישירה לעצה הזו היא גישת ה Lean Startup:
ב SCRUM נהוג שמשימה מוגדרת באופן הבא: "משתמש מסוג X הייתי רוצה ללחוץ על כפתור ולהזמין חברים למערכת".
ב Lean Startup על משימה להיות מוגדרת כך: "אנו מעריכים שיכולת הזמנת חברים למערכת תוסיף y% לכמות המשתמשים החדשים המצטרפים כל חודש. נוסיף כפתור שיאפשר למשתמש להזמין חברים למערכת".

בשני המקרים בהתמקדות ב"תמונה סופית" שיכולה למקד אותנו לפעולה, אבל שימו לב לתוצאה:
פעם אחת - ה"תוצאה" היא קיום של כפתור שעושה משהו (גם כשיהיה כפתור - לא בטוח שישתמשו בו).
פעם שנייה - ה"תוצאה" היא שיפור במדד עסקי ברור.

ע"פ Lean Startup, אם התוצאה הצפויה לא הושגה שוקלים, בכל שלב, אם לעשות עוד איטרציות של שיפורים ואף שינויים מהותיים - עד שמשיגים אותה.

התמקדות בשיפור מדד עסקי היא כמובן אפקטיבית יותר מהתמקדות בקיום של אלמנט כזה או אחר במערכת (שלוגית - לא מבטיח דבר).

כלומר: אנשים אפקטיביים בוחרים לעצמם מטרות ברורות. הם מתמקדים בתוצאה הסופית, ולא בתמונת תחילת-הדרך. ככל שהתוצאה אליה הם מתמקדים תהיה "מהותית" יותר - כך הם יהיו אפקטיביים יותר.



סיכום


"שבעת ההרגלים של אנשים אפקטיביים במיוחד" הוא נכס צאן-ברזל בעולם העסקים של ימנו, וכנראה אף מחוץ לו.
הוא מציג הנחיות מעשיות לאנשים - כיצד לשפר את האפקטיביות שלהם, לא "בנקודות" - אלא כ"קפיצת מדרגה".

בפוסט (להלן פוסט ההמשך) עברנו על שניים מתוך העקרונות ("הרגלים"). אני מקווה שהצלחתי לזקק את העיקר שבהם.
כמובן שהכנסתי מעט טון אישי, אבל אחרת - מה היה הטעם בפוסט?

מה החידוש לאנשי תוכנה? לא הרבה. הספר עצמו הוא מעט "רוחני" בצורה שלדטרמיניסט שכמוני הייתה מעט לא נוחה. אני חושב שהפוסט הנ"ל הוא יחסית קונקרטי, בצורה שאני הייתי רוצה לצרוך את הדברים.

תגובות והערות יתקבלו,כרגיל, בשמחה!

שיהיה בהצלחה!



----

[א] - ע"פ הספר "The Power of Habit" - ספר מעניין שבמקרה, או לא במקרה, שייך לקבוצה לא קטנה של ספרים פופולריים שעוסקים בהרגלים.

[ב] קיצור של Also Known As. השימוש בו נעשה כמחווה לסדרת הטלויזיה Jessica Jones - בה אני צופה בימים אלו. הסדרה היא בהחלט הפתעה נעימה.




יום שישי, 13 בנובמבר 2015

ביג דאטה: מחסני נתונים, אגמי נתונים, ומרכולי נתונים - סדר בבלאגן


לפעמים כשאנחנו נתקלים במונחים חדשים הם נשמעים כמו "דברי-פלצנות". כמו איזה משהו שכמה אנשים שעוסקים בנושא המציאו לעצמם - רק בכדי להסתיר את העובדה שאין ממש במה שהם מתעסקים.

זה לפחות מחשבה שלי עוברת בראש לפעמים כשאני שומע מונחים בפעם הראשונה.
אבל הרבה פעמים אני מגלה דיי מהר שאלו מונחים שימושיים, שכמו Patterns, עוזרים לנו לתקשר בצורה פשוטה ומדויקת יותר.

בפוסט זה אני רוצה לדבר על כמה מונחים כאלו, שיכולים להישמע ברגע ראשון כמו מונחים סתמיים - אך בעצם יש מאחוריהם כמה רעיונות חשובים.


בסיס הנתונים האופרטיבי - הוא בסיס הנתונים של המערכת, שם מוכנסים ומעובדים הנתונים לצורך תפעול המערכת השוטף. במקרה של Gett, למשל, זהו בסיס הנתונים בו נרשמות נסיעות, נהגים, לקוחות, וכו'.


כאשר אנו רוצים לבצע ניתוחים מקיפים על הנתונים במערכת האופרטיבית - יש בעיה אמיתית פשוט "להריץ שאילתות על בסיס הנתונים האופרטיבי":
  • האינדקסים ומבני-הנתונים בבסיס הנתונים האופרטיבי מותאמים לשימושים האופרטיביים (למשל: הכנסה ועדכון של רשומות בתכיפות גבוהה), ופחות לצרכים האנליטיים (למשל: שאילתות גדולות עם הרבה joins). התוצאה: השאילתות יכולות לקחת זמן רב מאוד.
  • הפעלת שאילתות כבדות על בסיס-הנתונים האופרטיבי יכולות לפגוע בתפקוד השוטף. אמנם גם ניתוח נתונים הוא חשוב, אך הוא כמעט-תמיד פחות דחוף מהמשך הפעולה התקין של המערכת האופרטיבית.


Data Reservoir, השם הקודם (או הפחות נפוץ) של Data Lake. מקור: O'Reilly Radar.
יש הטוענים ש"מאגר נתונים" הוא מונח מדויק יותר, אך אין ספק ש "אגם נתונים" הוא המונח הפופולרי.


התמודדות עם בסיס נתונים אופרטיבי "גדול מדי"


מה עושים?

בתור שלב ראשון אפשר לייצר Replica של בסיס הנתונים האופרטיבי - ולהריץ עליה את השאילתות.
אבל:
  1. רפליקה משכפלת את מבני-הנתונים והאינדקסים מבסיס הנתונים האופרטיבי - שכבר ציינו שאינם אופטימליים לשאילתות האנליטיות.
  2. אם נעמיס את הרפליקה יותר מדי, אנו עלולים לגרום להאטה גם בבסיס הנתונים הראשי - שעסוק בלהמתין לרפליקה שתקבל את העדכונים שלו.


השלב הבא בהתפתחות הוא ליצור מחסן נתונים (Data Warehouse, או בקיצור DWH או DW) - בסיס נתונים בו מאוחסן עותק של הנתונים מבסיס הנתונים האופרטיבי (ייתכן שב delay מסוים, נאמר שעה עד יממה) - אבל עם החופש ליצור סכמה שונה, ואינדקסים שונים.

מקור: הבלוג של James Serra


ה ETL (קיצור של Extract, Transform, and Load) הוא התהליך ששלוף נתונים מבסיס הנתונים האופרטיבי, ממיר אותם לסכמה של בסיס הנתונים האנליטי וטוען אותם לשם.

כעת אנו יכולים לבצע שאילתות אנליטיות "כבדות" על ה DWH. הן:
  • ירוצו מהר יותר - כי מבנה הנתונים / האינדקסים מותאמים לשאילתות.
  • לא ישפיעו על הביצועים או ה Stability של בסיס הנתונים האופרטיבי (!Hurray)

בנוסף ב DWH מקובל:
  • לשמור נתונים לטווח ארוך - וכך לשחרר את המערכת התפעולית מלאחסן אותם.
    נאמר: ה DWH יכיל נתונים עשר שנים אחורה, בעוד בסיס הנתונים האופרטיבי - נתונים של חצי שנה אחרונה בלבד.
  • עבור הנתונים שיש הרבה מהם - שומרים לרוב סיכומים, ולא את כל הנתונים המקוריים שהיו במערכת התפעולית.
    למשל: במקום סכום של כל עסקה - שומרים רק את סכום העסקאות היומי, מה שיכול לצמצם את כמות הנתונים בסדרי-גודל, ובהתאמה להקל על השאילתות האנליטיות (שרצות עכשיו על פחות נתונים).
    יש לזה מחיר: אנו מאבדים נתונים - היכולת להבין את הפיזור המדויק של סכומי העסקאות, למשל.
  • להשתמש במהדורה מעט שונה של Database Server שמתאימה בצורה טובה יותר לצרכים אנליטיים. למשל: Vertica, Greenplum, Sybase IQ - הם בסיסי נתונים שמיועדים לשמש כ DWH.



מהפיכת הביג דאטה


בעשור האחרון התחוללה מהפיכה של ממש בכל עולם הנתונים:
  • כמות הנתונים הנאספת - הלכה וגדלה, הלכה וגדלה.
  • הדיסקים והזיכרון הפכו לזולים בצורה שוברת-שוויון. ספקי ענן אפשרו צריכה דינמית של כמות גדולה של משאבים במחירים מגוחכים.
  • התפתחו טכנולוגיות חדשות, חלקן קשורות למחירי הדיסקים והזיכרון - המאפשרות ניתוח נתונים בצורות חדשות.

הגידול בכמות הנתונים לחץ על מערכי ה DWH הקיימים, וטכנולוגיות ה NoSQL/BigData החדשות - יצרו הזדמנות לשינוי.

מקור: הבלוג של James Serra

ה DWH היה בשלב זה כבר פתרון מקובל, אך היו לחצים שהלכו וגברו:
  • חלק מהנתונים החלו לנהל בבסיסי נתונים לא-רלציונים - שלא נתמכים / נתמכים בצורה חלקית ע"י כלי ה ETL המסורתיים. מצבים של אי-עקביות בנתונים (inconsistency) וסכמה דינמית (למשל ב Document Databases) הפכו את מלאכת ה ETL ל"גיהינום" עבור ה DBAs.
  • כמות הנתונים במערכת האופרטיבית גדלו בצורה דרמטית - מה שגם הקשה על ה ETL להתבצע בזמנים טובים ו / או להישאר מעודכן לכל סוגי הנתונים שנוספו.
  • ברגע שה DWH לא מעודכן בכל הנתונים האחרונים, מערכות ה BI הן כבר פחות טובות - והמשתמשים הזקוקים לנתונים מתחילים למצוא "דרכי-מעקף" על מנת להשיג ולנתח את הנתונים שלהם.


בעזרת אכסון "אינסופי" וזול - נוצר מודל חדש לאיסוף וניתוח נתונים: אגם הנתונים (Data Lake):

מקור: הבלוג של James Serra

  • כל המידע נאסף, בצורה גולמית וללא עיבוד ("as-is"), מהמערכות התפעוליות - ונשמר על גבי שטח האכסון האינסופי (Hadoop, S3, או Azure Data Lake).
    • נתונים שהמערכת התפעולית לא יכולה להמשיך ולשמור (משיקולי ביצועים) - נשמרים ולא נזרקים.
    • נגמר המירוץ של ה DBAs לעקוב ולהתאים את ה ETL לשינויי הסכמה במערכת התפעולית. המנגנון החדש יודע לאסוף את כל הנתונים.
  • מאוחר יותר, כשיהיה צורך מעשי בנתונים - ינקו אותם, יסכמו אותם, וינתחו אותם, באותו הרגע.
    • ה Stack של Hadoop - נבנה ממש לצרכים שכאלו.

תהליך העברת הנתונים ל Data Lake נקרא ELT (קיצור של Extract, Load.... ואז Transform), כאשר שלב ה Transform הוא לרוב ארגון מאוד בסיסי של הנתונים, כמו סידור שלהם בתיקיות / המרת פורמט הקבצים לכאלו שקל יותר לסרוק.
ב Hadoop למשל, נהוג להמיר את הנתונים (שמגיעים לרוב כהרבה קבצי JSON או CSV) לאחד מהפורמטים הבאים:
  • Avro - פורמט כללי, שדוחס את הנתונים ומאפשר לחלק קובץ ל-2 מבלי לקרוא את כולו (כי הנתונים שמורים במבנה ידוע). זו תכונה חשובה ל Map-Reduce.
  • Parquet - פורמט ששומר את הנתונים בצורה Columnar ומאפשר לקרוא מהדיסק את עמודות ספציפיות של הנתונים. הדחיסה כאן היא אפילו גבוהה יותר, כי הדמיון בין ערכים באותה עמודה - הוא באופן טבעי גבוה יותר.
המוטיבציה לדחוס את הנתונים היא: א. עלות אכסון  ב. צמצום זמן ה I/O שנדרש לטעון את הנתונים לזיכרון.
Hadoop, למשל, לא מתנהג יפה עם הרבה קבצים קטנים - ולכן יש להכין לו קבצים גדולים יותר, המסכמים "אצווה של רשמות".

תהליך ELT. מקור: www.ironsidegroup.com



ה Data Lake הוא בעצם גישה הפוכה לגישת ה DWH:
  • מהגישה החרוצה: ניקוי, ארגון, וסיכום הנתונים ואז שמירה שלהם מה DWH - המאפשרת שליפה קלה.
  • לגישה העצלה: שמירת כל הנתונים המלוכלכים, raw, עם כפילויות וחוסרי התאמות ב Data Lake. ניקוי וסידור הנתונים יתבצע - רק ברגע שרוצים לתשאל אותם.

מקור: Martin Fowler


מי שבקיא ברזי ה Agile יודע בוודאי שדחיינות ועצלות הם Best Practices. זה כנראה נשמע רעיון טוב לאמץ את הרעיונות החשובים הללו בעולם הנתונים.

מי שהלך רחוק עם רעיונות ה laziness ב Data Lake שלו, עלול לגלות שהוא יצר לעצמו ביצת הנתונים (Data Swamp): מצב בו הנתונים ב Data Lake כ"כ מבולגנים ו"מלוכלכים" - שהערך מניתוחם לא מצדיק את העלות הגדולה בניקוי והסידור שלהם בדיעבד. הנתונים הם שם, שמורים ב Data Lake - אבל בעצם לא משתלם להתחיל ולהתעסק איתם (במקרים מסוימים - כמובן).

סידור נתונים בשלב מוקדם הוא לעתים רבות זול ופשוט הרבה יותר מסידור שלהם בדיעבד. למשל:
  • הסכמה וצורת שמירת הנתונים השתנו עשרות פעמים בתקופה - ואין לנו דרך לדעת בדיוק ממתי השינוי. שמירת שדה "version" על הנתונים במקור - היה יכול להיות השקעה קטנה שתחסוך זמן רב בעתיד.
  • נתונים שחסר איזה מפתח או נתון לקשר ביניהם. אם היינו מוסיפים זאת במקור - זו הייתה תוספת קטנה מאוד, אבל כיום צריך להתחיל להריץ יוריסטיקות וניתוחים - רק על מנת לקשר את הנתונים שהיו עד לא מזמן "במרחק נגיעה".
  • שמירת נתונים בצורה אחידה, למשל שמירת תאריכים בפורמט אחיד (האם 1/4/12 זה אפריל או ינואר?) - או הקפדה על שמירת ה timezone הרלוונטי. נתונים שלא נשמרו כך - בדיעבד קשה לנקות ולסדר.
  • שמירת פרטים על המערכת ממנה מגיעים כל מקבץ-נתונים - יכול לסייע מאוחר יותר לקבוע את האיכות שלהם, או לשפר אותה.
  • לאסוף "חוסרי-נתונים". יש סיפור על חברת טלקום שבנתה מערך Big-Data מרשים, אבל שכחה לאסוף אינדיקטור על ניתוק שיחה (שלא נשמר בבסיס הנתונים האופרטיבי - אני מניח). אחרי שנה+ של צבירת נתונים, היא לא הייתה מסוגלת לנתח בעיות במערכת - כי היה לה רק "מידע חיובי".
    נקודה זו מתייחסת גם לנתונים שהמערכת האופרטיבית "תיקנה", למשל - כאשר היא קובעת "ערך מקסימום" לסוג נתון כלשהו, עדיין עשוי להיות מעניין מה היה הערך המקורי.
  • כדאי לעקוב ולתעד את השמירה של מידע רגיש (מספרי טלפון של משתמשים, למשל) - כדי שיהיה ניתן להגן עליו. לא כל אנליסט עסקי אמור להיות מסוגל לגשת לנתונים הללו.

הנה דוגמה לארגון מקובל של נתונים בתוך ה Data Lake:


ה RAW הם נתונים שהגיעו מהמערכות התפעוליות ללא כל עיבוד, כאשר ה Gold הוא storage של הנתונים לאחר עיבוד מסוים. ה Work הוא אזור העבודה של ה Data Scientists, ויש אזור Sensitive אליו מעבירים את כל הנתונים הרגישים (שמחליטים לשמור. לפעמים פשוט מטשטשים אותם).

נוטים לרוב להבחין בין אנשי BI / Data Analysts שעובדים מול נתונים נקיים יחסית ("Gold") ל Data Scientist - שמבינים טוב יותר את הבעיות השונות של נתונים (חוסר עקביות, פורמטים לא-אחידים, סתירות), ויכולים אף לכתוב custom code בכדי "לנקות נתונים קשים".



DWH ו Data Lake הם לא רק גישות הפוכות: בד בבד - הן גם גישות משלימות.
יש נתונים שנכון יותר לאחסן ב DWH, ויש כאלו שב Data Lake, ועצם קיום שני הכלים זה-לצד-זה - מאפשר מנעד רחב יותר של יכולות.



חלוקת הנתונים בארגון


כמו תמיד, הארכיטקטורה הנקייה, בה יש DWH אחד ו Data Lake אחד ממנו כל הארגון צורך נתונים, היא טובה - בעיקר כתיאוריה.

לרוב בארגון יהיו לנו צרכים שונים של נתונים, ויהיה קשה למצוא פתרון אחד שיספק את כולם. למשל:

  • מחלקת הכספים מוכנים לוותר על פירוט של כל עסקה ועסקה - ולהסתפק בסכום יומי, על עוד המידע נשמר ל-7 שנים לפחות.
  • מחלקת המכירות דווקא רוצה לדעת פירוט מלא על העסקאות - ולנתח מהן מגמות. לצורך זה הן זקוקות לכל נתוני-העסקאות, אבל מספיק להם שנה אחת אחורה.


בסה"כ זה סיפור קלאסי של trade-offs כאשר ליחידות ארגוניות שונות, מתאימים trade-offs שונים ברמת הנתונים.
לעתים אלו יחידות עסקיות שונות (כספים, מכירות, שירות), לעתים זו רמת-פירוט (הנהלה בכירה, תפעול בשטח) ולעתים חלוקה אחרת (למשל: התפעול של ארה"ב מול התפעול של אירופה).


מקור: datamartist.com














מתוך כך צצו, עוד בימי ה DWH - "מרכולי הנתונים" (Data Marts), שהם סוג של DWH קטן וממוקד.
  • הוא משרת יחידה מוגדרת בארגון.
  • לרוב הוא מנוהל על שרת בסיס נתונים משלו (אבל הוא יכול גם להיות עוד סכמה ב DWH).
  • לרוב הוא שואב נתונים רלוונטיים מה DWH בפילוח מסוים, ומוסיף עליהם עוד נתונים ספציפיים שלא מגיעים ל DWH.

ישנן עוד כמה שאלות הנוגעות לקשר בין ה DWH ל Data Marts. למשל: האם קודם יוצרים את ה DWH ואז גוזרים ממנו Data Marts, או האם נותנים ליחידות Data Marts ואז אוספים אותם ליצירת DWH ארגוני? אם ישנם נתונם שנכונים ל-2 Data Marts, האם להחזיק אותם ב Data Mart שלישי או ב DWH? וכו'...

מקור: datamartist.com


באופן דומה ל DWH, גם ב Data Lake צפוי שיהיו אזורים מיועדים ליחידות / רמות עסקיות שונות. כל אחד - והצרכים הייחודיים שלו. מרטין פאוולר, למשל, קרא להם "Lakeshore Data Marts".

מה ההבדל בין Data Mart ל "Data Silos" - מאגרי מידע שיחידות בארגון שומרות לעצמן ולא משתפות עם אחרים?
אני מניח שאלו הבדלים של נקודות מבט: החצי המלא והחצי הריק של אותה הכוס.



סיכום


כמה Best-practices שכדאי לשקול בעבודת ארגון הנתונים:

איסוף וארגון נתונים:
  • להשתדל לאסוף ל Data Lake נתונים ברזולוציה של אירועים בעלי משמעות עסקית (קנייה, הצעת מחיר, רישום, וכו'). 
    • זו הרזולוציה שלרוב יהיה מעניין לנתח.
  • לשלוח את הנתונים ל Data Lake לא כשהם ממש Raw, אלא לאחר עיבוד-קל ("Medium-Rare"):
    • להשתדל "לשטח" לתוך האירוע נתונים חשובים שיהיה קשה לקשר אותם מאוחר יותר. למשל: באירוע הצימוד בין נהג ונוסע, מעניין לשמור את המיקומים המדויקים שלהם באותו הרגע, כפי שהם ידועים לשרת. חלק הקוד שמפיק את אירוע-הנתונים יכול לספק נתון כזה בקלות יחסית, אבל להגיע לתובנות כאלו בדיעבד - זה יכול להיות קשה, ואפילו לא מדויק. הבנה עמוקה של הביזנס - היא כמובן המפתח להחלטה.
    • להוסיף metadata שבסבירות גבוה יכול להיות שימושי בעתיד: גרסה של מבנה הנתונים, מה לא נשמר ומאיזו סיבה, ציון תיקונים שנעשו בנתונים או ציון נתונים רגישים, וכו'
  • להחליט ע"פ הצורך אילו נתונים רוצים להכין / "לנקות" ב Data Lake בצורה יזומה ("Golden Data" או "tidy data") - כדי שיהיו זמינים לניתוח מהיר. אלו לרוב הנתונים שמתארים את המדדים הביצועיים החשובים של הארגון.
  • לנסות ליצור סדר מובן ב Data Lake, ולא להפוך אותו ל Data Swamp. איזה סדר? מה שמתאים לצרכים הייחודיים של הארגון שלכם. 
    • אנשים בתחום מדברים על תכון ה data pipeline (תהליך ניהול הנתונים) ו / או ה data lineage (המסלול והתחנות בו עוברים הנתונים לאורך חייהם). 
  • (שנוי במחלוקת): נסו להוסיף נתונים ל Data Lake ב Pull (כלומר: ע"פ צורך ניתוח ממשי), ולא ב Push (כלומר: כי הם שם). 
    • היתרון: יהיה לכם הרבה פחות "זבל" ו"בלאגן" ב Data Lake.
    • החיסרון: לא תוכלו לחקור נתונים שלא שמרתם.

שימוש בכלים:
  • "לשחק" בציר היכולות (ה trade-offs) בין Data Warehouse ובין Data Lake.
  • "לשחק" בציר היכולות בין ארגון מידע ריכוזי (DWH או Data Lake מרכזי) לארגון מידע מבוזר ע"פ צרכים (Data Marts או אזורים ספציפיים ב Data Lake).
בסופו של דבר, אלו הם כלים: הם לא "טובים" או "לא-טובים". הם פשוט שימושיים - למקרים וצרכים מסוימים.


שיהיה בהצלחה!



----

לינקים רלוונטיים

מרטין פאוולר על אגמי נתונים - http://martinfowler.com/bliki/DataLake.html