נתיב שחרור שמתעד מי אישר מודל
MLOps היא הפרקטיקה של לקחת מודל למידת מכונה מניסוי על מחשב נייד של אדם אחד, ולהפוך אותו לנתיב שהצוות יכול להריץ שוב: אימון עם ניהול גרסאות, שחרור מבוקר, ניטור ורישום של מה שרץ ומי אישר את זה. SEYA Group בונה את הנתיב הזה למודלים ולפלטפורמה שאתם מגדירים, כך שמודל בייצור מתוחזק כמו כל רכיב תוכנה אחר.
למי זה מיועד
CTO וראשי נתונים שיש להם מודלים שעובדים ב-notebook ועסק שכבר נשען עליהם. מנהלי IT שנדרשו "להעלות לייצור" מודל ואין דרך מוסכמת לעשות זאת. ראשי צוותי data science שהצוות שלהם מאמן מחדש ידנית ואינם יכולים לומר איזו גרסה פעילה. ארכיטקטים שמעצבים את הפלטפורמה שעליה המודלים ירוצו ורוצים לתכנן במקביל את נתיב השחרור.
אם הנתונים שהמודלים צריכים עדיין לא מרוכזים במקום אחד, התחילו פלטפורמות נתונים ואנליטיקה. עמוד זה מניח שהנתונים קיימים והמודלים הם הבעיה.
בעיות שאנחנו פותרים
- אימון שרץ על מחשב אחד, עם תלות שאף אחד אחר לא יכול לשחזר.
- אין דרך מוסכמת לקדם מודל מניסוי לייצור, ולכן זה קורה בהעתקת קבצים.
- אין רישום של איזו גרסת מודל משרתת, על אילו נתונים אומנה או מי רשאי לשנות.
- מודלים שמידלדלים בשקט כי אף אחד לא עוקב אחרי הקלט או הפלט.
- מדעני נתונים שמבזבזים זמן בתשתית במקום במודלים.
מה תקבלו
- הערכה. סקירה של האופן שבו מודלים מאומנים, נבדקים ומשוחררים היום, והמלצה לשלב ראשון לפערים שחוסמים שחרור חוזר.
- המלצת פלטפורמה. אילו שירותים מנוהלים או כלים בקוד פתוח שהצוות יפעיל למעקב ניסויים, רישום מודלים, Pipelines ו-serving, ומה נשאר מחוץ לשלב הראשון.
- בניית Pipeline. שלבי האימון, האימות והפריסה המוסכמים כקוד, עם הפרדת סביבות וקידום מבוקר בבדיקות שאתם מגדירים.
- ניטור. מעקב אחר קלטים, פלטים וביצועי המודל לפי המדדים שהצוות בוחר, עם התראות אל בעלי המודל.
- מסמכי מסירה. התיעוד שהמהנדסים ומדעני הנתונים צריכים כדי להריץ, להרחיב ולבצע ביקורת על ה-Pipeline בלי אותנו.
איך הפרויקט מתנהל
- שיחת היקף. אתם מתארים את המודלים, את הפלטפורמה שעליה הם רצים ואת בעיית השחרור שאתם רוצים לפתור קודם כל.
- הערכה. אנחנו קוראים את תהליך העבודה הנוכחי עם מדעני הנתונים והמהנדסים שלכם ומתעדים את הפערים ואת השלב הראשון.
- בונים את הנתיב הראשון. מודל אחד עובר את ה-Pipeline החדש מקצה לקצה, עם הצוות שלכם כשותים לעבודה.
- הרחבה. מודלים נוספים עוקבים אחרי אותו דפוס, והבדיקות והניטור מכווננים יחד איתכם.
- מסירה. הצוות שלכם מריץ את ה-Pipeline. ליווי שוטף ממשיך רק אם זה מופיע ב-brief.
היקף טכני
ה-Pipeline יכול לרוץ על AWS, Microsoft Azure או Google Cloud באמצעות שירותי למידת מכונה המנוהלים של אותה פלטפורמה, או על כלים בקוד פתוח, לפי מה שהצוות כבר מפעיל ולפי מה שבוחר ה-brief. התשתית מוגדרת כקוד, והמודלים ארוזים בקונטיינרים כשה-serving דורש זאת. SEYA עובדת עם הענן והכלים שבחרתם וממליצה על אפשרויות בקוד פתוח כשהן מתאימות.
מה צריך להיות מוכן מצדכם
לפחות מודל אחד שחשוב לעסק, הנתונים שעליהם הוא מתאמן במיקום נגיש, ומדעני נתונים ומהנדסים שיהיו בעלי ה-Pipeline אחר כך. חשבון ענן או אשכול שבו להריץ, בבעלותכם. אם פלטפורמת הנתונים עדיין לא קיימת, זה brief נפרד תחת פלטפורמות נתונים ואנליטיקה, וסריקת אבטחה של ה-Pipeline מתוכננת תחת אבטחה ו-DevSecOps.
מחוץ להיקף כאן: בניית המודלים עצמם, אלא אם ה-brief כולל זאת; הסמכת ציות; והפעלת הפלטפורמה בשבילכם אחרי המסירה, אלא אם הוסכם. כשהעבודה היא בניית המודלים, החברות האחות Mars Innovation Technology מבצעת את הבנייה הזו. היקף SEYA בעמוד הזה הוא האופן שבו מודלים אלה משוחררים, ננטרים ומנוהלים.
עבודות קשורות
שאלות נפוצות
האם צריך לשנות את הכלים שמדעני הנתונים שלנו משתמשים בהם?
בדרך כלל לא. ה-Pipeline עוטף את קוד האימון שהם כבר כותבים; השינויים נמצאים באופן שבו הוא מנוהל בגרסאות, מורץ ומקודם. כשמומלץ שינוי כלי, ההערכה מסבירה למה.
מי הבעלים של ה-Pipeline ושל המודלים?
אתם. הקוד ב-repositories שלכם, המודלים ברישום המודלים שלכם, וה-Pipeline רץ בחשבון הענן שלכם.
איך אתם עובדים עם צוות data science שלנו?
כמהנדסים שנכנסים לתהליך העבודה שלהם. המודל הראשון עובר את ה-Pipeline איתם, כך שהקונבנציות הן שלהם.
כמה זמן נמשכת ההערכה?
זה תלוי בכמה מודלים וצוותים בפרויקט ובאיזה מידה תהליך העבודה הנוכחי מתועד. אנחנו מסכימים על ההיקף בשיחה הראשונה ומסמנים מוקדם אם צריך להרחיב.
האם אפשר לעזור גם עם פלטפורמת הנתונים?
כן, כ-brief נפרד. רבים משיחות ה-MLOps מתחילות בבעיית נתונים, ואנחנו נאמר לכם אם זה המצב כאן לפני שמתחילים עבודת Pipeline.
אם מודל שהעסק נשען עליו עדיין יוצא ידנית, קבעו שיחת הערכת MLOps ותארו איך הוא מגיע לייצור היום.
צור קשר
שלחו פנייה בנוגע להתקשרות בענן, בפלטפורמה, בנתונים או באמינות. דוא"ל שיווקי הוא בחירה נפרדת בטופס.