פער שכר גולמי הוא ההבדל הממוצע בין שתי קבוצות. הוא אינו מוכיח אפליה, אך הוא אות שמחייב בדיקה. כדי להבין את הפער יש לבחון תפקיד, ותק, היקף משרה, ביצועים, אחריות, מיקום, הסכם וגורמים מקצועיים נוספים.

עם זאת, גם לאחר התאמה סטטיסטית, יש להיזהר. משתנה שנראה מקצועי עשוי להיות תוצאה של פער היסטורי. לדוגמה, דרגה או ניסיון ניהולי יכולים לשקף הזדמנויות קידום שלא חולקו באופן שוויוני בעבר.

אין מדד אחד שמתאים לכל החלטה. לעיתים בודקים שוויון בתוצאה, לעיתים שוויון בסיכוי לקבל תוצאה נכונה, ולעיתים שוויון בשיעור הטעות. המדד צריך להתחבר לנזק האפשרי ולמטרת המערכת.

עובד או מנהל צריכים להיות מסוגלים להבין כיצד התקבלה המלצה משמעותית, אילו נתונים השפיעו עליה וכיצד ניתן לתקן נתון שגוי. בקרה אנושית אפקטיבית דורשת סמכות לשנות את התוצאה, לא רק לאשר אותה.

יש להגדיר מסלול ערעור או בדיקה חוזרת. כאשר עובד טוען שנתון אינו נכון, המערכת צריכה לאפשר תיקון, הרצה מחדש ותיעוד של השינוי.

בדיקת הוגנות דורשת פילוח לפי קבוצות, אך בארגון קטן פילוח מפורט עלול לחשוף זהות. לכן יש להגדיר סף מינימלי להצגת נתונים, לאחד קבוצות כאשר נדרש ולהגביל גישה לתוצאות מפורטות.

כאשר המדגם קטן, גם המדד פחות יציב. פער שנראה גדול יכול לנבוע ממספר קטן של מקרים. יש להציג טווחי אי־ודאות, לבדוק כמה תקופות ולהימנע ממסקנה חדה על בסיס קבוצה זעירה.

גם מודל שעבר בדיקה יכול להשתנות כאשר אוכלוסיית העובדים משתנה, התפקידים מתעדכנים, מבנה השכר משתנה או ספק מעדכן גרסה. לכן יש למדוד מדדים לפי קבוצה באופן תקופתי ולבדוק שינוי.

מסגרת NIST לניהול סיכוני AI כוללת התייחסות למדידה, ניטור, תיעוד והערכת השפעות לאורך מחזור החיים.^[2]

• ההחלטה וההשפעה הוגדרו.
• הקבוצות הרלוונטיות מופו.
• גודל המדגם מספיק לבדיקה.
• איכות הנתונים נבדקה לפי קבוצה.
• משתנים מתווכים נבדקו.
• היעד אינו משכפל החלטות עבר בלי ביקורת.
• מדדי דיוק נבדקו לפי קבוצה.
• שיעורי טעויות הושוו.
• פערים קיבלו הסבר מקצועי.
• הסבר נבדק מבחינת רלוונטיות ומידתיות.
• קיימת בקרה אנושית אמיתית.
• קיים מסלול ערעור ותיקון.
• תוצאות מפורטות מוגנות מבחינת פרטיות.
• קיים ניטור לאחר הפעלה.