שלוש שעות עבודה הפכו ל-15 דקות.
מערכת AI חדשה מכינה דוחות ללקוחות. העובדים מרוצים. ההנהלה מתלהבת. כבר מדברים על הרחבת השימוש.
ואז .. מגיעות התלונות.
מתברר שחלק מהדוחות שנשלחו מכילים טעויות מהותיות.
החלק המטריד באמת? חלקם נבדקו ואושרו על ידי עובדים.
איש אינו יודע כמה דוחות שגויים נוספים כבר נשלחו.
בינתיים, לקוחות נוספים ממתינים לדוחות שלהם. עצירת התהליך תפגע בהתחייבויות הארגון.
א. נעצור את השימוש ב-AI עד לבירור מקור הטעויות ולהשלמת בדיקות אמינות המערכת.
ב. נמשיך בהפקת הדוחות באמצעות AI, אך נוסיף בדיקה אנושית מחמירה לפני שליחתם.
ג. נאתר את סוגי הדוחות שבהם התגלו טעויות, ונגביל את השימוש ב-AI בהתאם.
ד. נעצור שליחת דוחות שלא אומתו, נפעיל תהליך חלופי מבוקר ונבדוק את היקף הכשל.
מה הייתם מחליטים? כתבו את האות והסבירו מדוע.
התשובה הנכונה היא ד'.
המערכת חסכה זמן, אבל דוחות שגויים הגיעו ללקוחות. אפילו הבקרה האנושית לא זיהתה את כל הטעויות.
הצעד הראשון הוא למנוע שליחת דוחות שלא אומתו כראוי ולהפעיל תהליך חלופי מבוקר.
במקביל יש לבדוק את היקף התקלה, לטפל בדוחות שכבר נשלחו ולברר מדוע הבקרות נכשלו.
לאחר מכן אפשר להחליט מה נדרש לשנות במערכת ובתהליך העבודה.
עצירה מוחלטת עשויה להיות מוצדקת כאשר לא ניתן לשלוט בסיכון.
אבל אם אפשר להמשיך לעבוד באופן מבוקר, אין הכרח להשבית את כל השימוש במערכת.
כבר הייתה בדיקה אנושית. והיא נכשלה.
הוספת בודק אינה בהכרח הפתרון. קודם צריך להבין מדוע הבקרה הקיימת לא זיהתה את הטעויות.
רעיון סביר, אבל מוקדם מדי.
עדיין לא ידוע אם הכשלים מוגבלים לסוגי דוחות מסוימים. הגבלת השימוש לפני בירור היקף התקלה עלולה להשאיר סיכונים שלא זוהו.
זו הבחירה המועדפת.
היא משלבת מניעת נזק נוסף, שמירה על המשכיות השירות ובדיקת היקף הכשל.
בהמשך יש לנתח את הסיבות ולקבוע אילו שינויים נדרשים כדי למנוע את הישנות התקלה.
התקן עוסק בניהול אחראי של מערכות AI, לרבות ניהול סיכונים, בקרות ושיפור מתמיד.
העיקרון פשוט: לא מספיק שהמערכת עובדת מהר. צריך לוודא שהתהליך כולו ממשיך לספק תוצאות אמינות.
ארגונים מטמיעים AI כדי לחסוך זמן ולהגדיל תפוקה. אבל לעיתים הם משאירים את מנגנוני הבקרה הישנים.
הקצב משתנה. הסיכונים משתנים. גם הבקרות צריכות להשתנות.
כשאתם מטמיעים AI בארגון, האם אתם מתכננים מחדש גם את תהליך הבקרה, או רק מצפים מהעובדים לבדוק את התוצאות מהר יותר?
