דף הבית » אקדמיית AI » פרק 2: פרטיות ואבטחת מידע ב-AI במחלקת השכר
לפטופ על שולחן במשרד מודרני; מסך המציג אבטחה ופרטיות עם הכיתוב 'פרק 2: פרטיות ואבטחת מידע'.

פרק 2: פרטיות ואבטחת מידע ב-AI במחלקת השכר

מאמר 2 מתוך 5 בסדרת AI במחלקת השכר

פרטיות ואבטחת מידע ב‑AI:
כיצד מגינים על נתוני עובדים ושכר

מדריך מעשי לצמצום מידע, הרשאות, הצפנה, ניהול ספקים, תיעוד, תגובה לאירועים ושימוש אחראי בכלי AI במחלקת השכר.

40%

התקדמות בסדרה

פרק זה מתרגם את עקרונות המוכנות הארגונית למנגנוני הגנה מעשיים סביב מידע רגיש.

הסיכון מתחיל עוד לפני שהמערכת מפיקה תשובה.

מחלקת השכר מחזיקה במידע שמאפשר לבנות תמונה מלאה על חייו הכלכליים והאישיים של העובד. בתיק אחד עשויים להופיע שכר, חשבון בנק, מספר זהות, מצב משפחתי, הטבות מס, הפרשות, היעדרויות, עיקולים, הלוואות ולעיתים מידע רפואי. כאשר מידע כזה עובר לכלי AI, הסיכון אינו מוגבל לשאלה אם התשובה נכונה. יש לבדוק מי מקבל את המידע, היכן הוא מעובד, כמה זמן הוא נשמר, מי רשאי לצפות בו ומה קורה לאחר סיום השימוש.

בפרק הראשון למדנו כי מוכנות ארגונית דורשת מטרה, נתונים, תהליך, אנשים וטכנולוגיה. כעת אנו מתמקדים בשכבת ההגנה: כיצד לצמצם את המידע לפני העברה, לבנות הרשאות לפי תפקיד, להפריד בין סביבת ניסוי לייצור, לבדוק ספק ולתכנן תגובה לאירוע. המטרה אינה למנוע חדשנות, אלא לאפשר שימוש מבוקר שניתן להסביר ולבקר.

מדוע נתוני שכר דורשים רמת הגנה גבוהה במיוחד?

הם משלבים זהות, כסף, זכויות, מצב אישי והיסטוריית עבודה במאגר אחד.

פגיעה אחת יכולה לחשוף כמה שכבות מידע

דליפה של קובץ שכר אינה חושפת רק את סכום התשלום. לעיתים אפשר להסיק ממנו על מצב משפחתי, נקודות זיכוי, הלוואות, הפרשות, היעדרויות, עיקולים, בונוסים, שינויי תפקיד ונתוני חשבון. צירוף הנתונים מגדיל את הסיכון לפגיעה בפרטיות, להונאה או לפגיעה ביחסי העבודה.

בנוסף, נתוני שכר אינם מידע שניתן להחליף לאחר אירוע. סיסמה אפשר לשנות, אך מספר זהות, היסטוריית שכר או מצב רפואי אינם ניתנים לאיפוס.

גם שימוש פנימי יוצר אחריות

העובדה שכלי AI משמש רק את מחלקת השכר אינה מבטלת את הצורך בהגנה. יש לבדוק אם הכלי שולח מידע לספק חיצוני, אם נוצרים עותקים, אם נשמרים לוגים ואם גורמי תמיכה יכולים לגשת לתוכן.

גם מאגרים שאינם חייבים עוד ברישום כפופים לחובות החוק, ובהן אבטחת מידע, הגבלת מטרות השימוש, סודיות וזכויות נושאי המידע.[1]

כלל בסיס: אין להעביר לכלי AI מידע מלא רק מפני שהוא זמין. מעבירים את המינימום הנדרש למטרה המאושרת.

תרשים 1: שרשרת ההגנה על מידע בתהליך AI

הגנה אפקטיבית אינה מנגנון יחיד, אלא רצף של החלטות ובקרות.

01 מטרהמגדירים למה נדרש המידע ומה התוצאה הרצויה.
02 צמצוםמסירים שדות, תקופות ורשומות שאינם נחוצים.
03 הגנהממסכים, מצפינים או משתמשים בנתונים מדומים.
04 הרשאהמגבילים גישה לפי תפקיד, צורך וזמן.
05 תיעודשומרים לוג של קלט, גרסה, משתמש ותוצאה.
06 מחיקהמגדירים תקופת שמירה ומוודאים מחיקה בסיום.

תרשים 2: סיווג מידע לפני שימוש בכלי AI

הסיווג קובע אילו בקרות נדרשות והאם מותר להשתמש במידע בכלל.

מידע ציבורי
  • נהלים שפורסמו לציבור
  • מידע סטטיסטי כללי
  • הנחיות ללא נתוני עובד
מידע פנימי
  • תהליכי עבודה
  • מילון רכיבים
  • דוחות ללא זיהוי
מידע אישי
  • שם ומספר עובד
  • פרטי קשר
  • נתוני נוכחות וחוזה
מידע רגיש במיוחד
  • שכר וחשבון בנק
  • מידע רפואי
  • עיקולים, הלוואות וזכויות

הסיווג צריך להתחבר להחלטה. מידע ציבורי יכול לעבור שימוש רגיל בכלי מאושר. מידע פנימי עשוי לדרוש סביבת ארגון והרשאות. מידע אישי דורש צמצום ובקרות. מידע רגיש במיוחד מחייב בחינה מחמירה, ולעיתים יש להימנע מהעברתו ולהשתמש בנתונים מדומים או בתהליך מקומי.

צמצום מידע: הבקרה החשובה ביותר מתבצעת לפני ההעלאה

צמצום מידע פירושו שהמערכת מקבלת רק את השדות, הרשומות והתקופות הנחוצים לביצוע השימוש. אם המטרה היא לבדוק נוסחה לחישוב שעות נוספות, אין צורך להעביר שם, מספר זהות, חשבון בנק או מידע רפואי. ניתן להשתמש במספר עובד אקראי ובנתונים מדומים שמייצגים את מבנה החישוב.

העברת קובץ מלא היא פעולה נוחה, אך היא מגדילה את שטח החשיפה. לכן יש לבנות שכבת הכנה: בחירת עמודות, סינון רשומות, החלפת מזהים, הסרת שדות טקסט חופשי ובדיקת הקובץ לפני העברה.

מטרת השימושמידע נחוץמידע שיש להסירחלופה בטוחה
בדיקת נוסחת שעות נוספותשעות, תעריף, סוג יוםשם, זהות, חשבון בנקרשומות מדומות
איתור שינוי חריג בין חודשיםמספר פנימי, רכיב, סכום, חודשפרטי משפחה ומידע רפואימזהה חלופי
סיכום נוהל שכרנוסח הנוהלדוגמאות עם שמות עובדיםהשחרת הדוגמאות
בדיקת טבלת הפרשותשיעורים, תקרות וסוג הסדרפרטי עובד ספציפיתרחיש בדיקה סינתטי
מענה לעובדהשאלה הכללית והכלל הרלוונטיתלוש מלא או מסמך רפואיטיוטה כללית ובדיקה מקצועית

אנונימיזציה אינה מחיקת השם בלבד

גם לאחר הסרת שם, ניתן לעיתים לזהות אדם באמצעות שילוב של תפקיד, יחידה, ותק, סכום חריג, גיל או אירוע ייחודי. לכן יש לבחון האם המידע מאפשר זיהוי עקיף.

במערך קטן, תיאור כמו “העובדת היחידה ביחידה שקיבלה מענק חריג” עשוי לזהות אדם גם בלי שם.

פסאודונימיזציה שומרת קישור מבוקר

כאשר נדרש לחזור לרשומה, אפשר להחליף את המזהה במפתח חלופי ולשמור את טבלת הקישור בנפרד. כך המערכת מקבלת מזהה שאינו ישיר.

פסאודונימיזציה אינה הופכת מידע לאנונימי. כל עוד קיים מפתח לקישור, המידע עדיין דורש הגנה והרשאה.

הרשאות, זיהוי ואימות: מי רשאי לראות מה?

הטמעת AI אינה צריכה ליצור מסלול עוקף למנגנוני ההרשאה הקיימים. אם עובד אינו רשאי לצפות בתלושי כלל הארגון במערכת השכר, הוא אינו אמור לקבל גישה אליהם דרך כלי AI או מאגר חיפוש חכם.

יש להפריד בין הרשאות הפעלה, צפייה, אישור וניהול. משתמש יכול להיות רשאי להגיש שאילתה על קבוצה מוגדרת, אך לא לראות את הקלט המקורי של משתמש אחר.

הרשות להגנת הפרטיות מדגישה את הצורך לוודא שמי שניגש למידע הוא עובד מורשה, ובמאגרים ברמת אבטחה בינונית או גבוהה נדרש ככל האפשר אמצעי זיהוי פיזי בשליטת המורשה.[2]

גישה לפי תפקיד

חשב שכר, מנהל שכר, משאבי אנוש, IT וספק אינם מקבלים אותה הרשאה.

אימות חזק

שילוב סיסמה, אמצעי נוסף וניהול מפגשים בהתאם לרמת הסיכון.

הפרדת תפקידים

מי שמגדיר את המערכת אינו בהכרח מי שמאשר תוצאה המשפיעה על שכר.

גישה מוגבלת בזמן

הרשאה זמנית לספק או לפרויקט מוסרת אוטומטית בסיום.

סקירה תקופתית

בודקים הרשאות לאחר שינוי תפקיד, עזיבה או שינוי בתהליך.

לוג וביקורת

מתעדים מי ניגש, למה, איזה מידע קיבל ומה עשה בתוצאה.

ארכיטקטורה בטוחה: היכן המידע עובר ונשמר?

לפני הפעלה יש לצייר את מסלול המידע. מאיזו מערכת הוא יוצא? האם הוא עובר דרך ממשק, קובץ או העתקה ידנית? היכן מתבצע העיבוד? האם נשמר עותק? כיצד התוצאה חוזרת? מי יכול לצפות בלוגים ובגיבויים?

התרשים צריך לכלול גם שירותי משנה. ספק AI עשוי להשתמש בתשתית ענן, בשירות תמלול, במערכת ניטור ובספק תמיכה. כל חוליה יכולה להשפיע על מקום העיבוד, תקופת השמירה והגישה.

נקודת בדיקהשאלהבקרה נדרשת
העברהכיצד הנתונים עוברים למערכת?ערוץ מוצפן, ממשק מאושר ומניעת העלאה ידנית לא מבוקרת
עיבודבאיזו מדינה וסביבה מתבצע העיבוד?מיפוי מיקום, תנאי חוזה ובדיקת דרישות משפטיות
שמירההאם נשמרים קלט, פלט, לוגים וגיבויים?תקופה מוגדרת, הצפנה והרשאות
אימוןהאם הספק משתמש במידע לשיפור מודלים?איסור חוזי או הסכמה מפורשת בהתאם למדיניות
מחיקהכיצד מוכיחים שהמידע נמחק?מנגנון מחיקה, אישור ותיעוד
יציאהמה קורה בסיום התקשרות?החזרת מידע, מחיקה מאומתת ושמירת לוגים נדרשים

בדיקת ספק AI: שאלות שחייבות להיכנס להסכם

הצהרה כללית על “אבטחה ברמה גבוהה” אינה מספיקה. הספק צריך להסביר אילו נתונים הוא מקבל, מי מחזיק בהם, אילו קבלני משנה מעורבים, כיצד מתבצע דיווח על אירוע ומהי תקופת השמירה.

יש לבדוק גם שינויי גרסה. מודל עשוי להשתנות בלי שהארגון שינה דבר בתהליך. לכן חשוב להגדיר הודעה על שינוי מהותי, תרחישי בדיקה חוזרים ויכולת לעצור גרסה.

נושאשאלה לספקהוכחה רצויה
בעלותמי בעל הקלט, הפלט והנתונים הנגזרים?סעיף חוזי מפורש
אימוןהאם המידע משמש לאימון או שיפור?התחייבות ואפשרות ביטול
קבלני משנהמי מעבד את המידע בפועל?רשימה ועדכון על שינוי
אירוע אבטחהמתי וכיצד מתקבלת הודעה?זמן תגובה, איש קשר ותהליך תחקור
לוגיםאילו פעולות מתועדות וכמה זמן?דוגמת דוח ויכולת יצוא
מחיקהכיצד נמחקים נתונים וגיבויים?תהליך ואישור מחיקה
המשכיותמה קורה בעת השבתה?יעדי התאוששות ותהליך חלופי
בדיקותאילו תקנים ובדיקות חיצוניות קיימים?דוחות עדכניים בתחום הרלוונטי

תרשים 3: מטריצת סיכון לפי רגישות ורמת אוטומציה

ככל שהמידע רגיש יותר והמערכת משפיעה יותר על החלטה, נדרשת בקרה מחמירה יותר.

רגישות / אוטומציה
סיוע בלבד
המלצה
פעולה אוטומטית
נמוכה
סיכון נמוךסיכום נוהל ציבורי או ניסוח טיוטה כללית.
סיכון מבוקרהמלצה על סיווג מסמך ללא נתוני עובד.
דורש בקרהגם מידע לא רגיש יכול לגרום לתהליך שגוי.
בינונית
צמצום והרשאהניתוח נתונים פנימיים ללא זיהוי ישיר.
בדיקה אנושיתהמלצה על חריגה תפעולית.
סיכון גבוהאין לפעול ללא מנגנון אישור ותיעוד.
גבוהה
סביבה מוגנתשימוש מצומצם, מוצפן ומורשה בלבד.
בקרה מחמירההמלצה בנוגע לעובד או לזכות.
להימנע כברירת מחדלפעולה אוטומטית על שכר או זכאות.

תיעוד ולוגים: כיצד מוכיחים מה קרה?

כאשר מערכת AI מפיקה המלצה, יש לדעת מי הפעיל אותה, איזה קלט הוזן, איזו גרסה פעלה, מה הייתה התוצאה ומי אישר את השימוש. בלי תיעוד, קשה לחקור טעות, לתקן תוצאה או להסביר החלטה.

הלוג אינו צריך לחשוף מידע עודף. יש להגדיר אילו פרטים נשמרים, מי רשאי לגשת אליהם וכמה זמן.

שדות מומלצים בלוג

תאריך ושעה.

זהות המשתמש והתפקיד.

מטרת השימוש.

מקור הנתונים והגרסה.

גרסת המודל או השירות.

סוג התוצאה.

אישור או דחייה אנושית.

שינוי שבוצע בעקבות התוצאה.

מה עושים כאשר מידע נשלח בטעות או נחשף?

אירוע יכול להתחיל בהעתקת תלוש לכלי ציבורי, בהרשאה שניתנה לאדם הלא נכון, בקובץ שנשמר בתיקייה פתוחה או בחשבון ספק שנפרץ. התגובה הראשונית צריכה להיות מהירה, מתועדת ומבוססת על נוהל.

01

עוצרים

מפסיקים העברה נוספת, מבטלים קישור או הרשאה ומבודדים את החשבון.

02

ממפים

מזהים איזה מידע נחשף, למי, מתי ובאילו מערכות או גיבויים.

03

מעריכים

בודקים רגישות, היקף, סיכון לנושאי המידע וחובות דיווח.

04

מתקנים

מוחקים, משחזרים, מעדכנים הרשאות, מדווחים ומונעים הישנות.

נהלי גיבוי ושחזור נדרשים במאגרים ברמת אבטחה בינונית וגבוהה, והרשות להגנת הפרטיות מדגישה את הצורך בנהלים תקופתיים וביכולת שחזור יעילה ומהירה.[3]

שימוש לא מאושר בכלי AI: כיצד מטפלים ב‑Shadow AI?

כאשר אין כלי מאושר או הנחיות ברורות, עובדים מוצאים פתרונות בעצמם. הם מעתיקים נוסחה, מעלים קובץ או מבקשים סיכום כדי לעמוד בלחץ. איסור כללי שאינו מלווה בחלופה עלול לדחוף את השימוש למקומות נסתרים.

הטיפול צריך לשלב הנחיה מיידית, מיפוי שימושים, הדרכה וכלי חלופי. יש להבהיר אילו נתונים אסור להזין, כיצד להשתמש בדוגמאות מדומות, למי פונים לאישור ומה עושים כאשר כבר הוזן מידע.

גישה יעילה: לא רק “אסור להעלות תלוש”, אלא “כדי לבדוק נוסחה השתמשו בתבנית המדומה ובכלי הארגוני המאושר”.

ספריית פרומפטים לשימוש בטוח יותר

הפרומפט אינו מחליף מדיניות או בקרות, אך הוא יכול לצמצם שימוש לא נחוץ במידע.

פרומפט לבדיקת צמצום מידע
בחן את רשימת השדות המתוכננת לשימוש ב-AI.

מטרת השימוש: [השלימו].
לכל שדה הצג:
1. האם הוא נחוץ ישירות למטרה.
2. האם הוא מאפשר זיהוי ישיר או עקיף.
3. האם ניתן להסירו.
4. האם ניתן להחליפו במזהה חלופי או נתון מדומה.
5. מהו הסיכון אם ייחשף.

אל תציע להעביר מידע נוסף.
בסיום הצג רשימת שדות מינימלית.
פרומפט ליצירת נתוני בדיקה סינתטיים
צור טבלת נתוני בדיקה מדומים בלבד עבור תרחיש חישוב שכר.

הטבלה צריכה לכלול:
- מספר עובד אקראי שאינו קשור לאדם אמיתי.
- שעות רגילות ונוספות.
- תעריף מדומה.
- סוג יום.
- תוצאה צפויה.

אין להשתמש בשמות, מספרי זהות, חשבונות בנק או נתונים של עובדים אמיתיים.
פרומפט לבדיקת ספק
בנה שאלון בדיקת פרטיות ואבטחת מידע לספק AI למחלקת שכר.

כלול:
- בעלות על קלט ופלט.
- מיקום עיבוד ושמירה.
- שימוש במידע לאימון.
- קבלני משנה.
- הצפנה.
- הרשאות ואימות.
- לוגים.
- תקופת שמירה ומחיקה.
- דיווח על אירוע.
- ניהול גרסאות.
- המשכיות עסקית.
- יציאה והחזרת מידע.

לכל נושא הוסף את השאלה, הסיכון, ההוכחה הנדרשת והגורם שצריך לאשר.

עשר בקרות מינימום לפני שימוש בנתוני אמת

  • מטרת שימוש מאושרת ומתועדת.
  • מיפוי שדות והוכחת נחיצות.
  • סיווג רגישות המידע.
  • צמצום, מיסוך או שימוש בנתונים מדומים.
  • כלי ארגוני מאושר בלבד.
  • הרשאות לפי תפקיד ואימות מתאים.
  • הצפנה בהעברה ובשמירה.
  • לוגים ויכולת ביקורת.
  • תקופת שמירה ומחיקה מוגדרת.
  • נוהל תגובה לאירוע ותהליך חזרה ידני.

תוכנית 30 יום לחיזוק פרטיות ואבטחת מידע

01

ימים 1–7

ממפים כלי AI קיימים, סוגי מידע, משתמשים ושימושים לא מאושרים.

02

ימים 8–14

מסווגים מידע, מגדירים שדות אסורים ובונים תבניות נתונים מדומים.

03

ימים 15–21

בודקים ספק, הרשאות, לוגים, שמירה, מחיקה ותגובה לאירוע.

04

ימים 22–30

מדריכים עובדים, מריצים תרחישים ומאשרים שימוש מצומצם במצב צל.

עשר שאלות שההנהלה צריכה לקבל עליהן תשובה

מס׳השאלההוכחה נדרשת
1איזה מידע נכנס למערכת?רשימת שדות ומקור
2למה כל שדה נחוץ?מיפוי נחיצות וצמצום
3היכן מתבצע העיבוד?תרשים זרימת מידע
4מי יכול לצפות בקלט ובפלט?מטריצת הרשאות
5האם המידע משמש לאימון?תנאי ספק והתחייבות
6כמה זמן המידע נשמר?מדיניות שמירה ומחיקה
7כיצד מתועד השימוש?דוגמת לוג ודוח ביקורת
8מה עושים בעת חשיפה?נוהל אירוע ותרגול
9מי מאשר שינוי ספק או גרסה?תהליך ניהול שינוי
10כיצד ממשיכים בזמן השבתה?תהליך חלופי ויעדי התאוששות

שמונה טעויות נפוצות בשימוש ב‑AI עם נתוני שכר

1. מעלים קובץ מלא

לא מבוצע צמצום שדות לפני שימוש.

2. מוחקים רק את השם

המידע עדיין מאפשר זיהוי עקיף.

3. משתמשים בחשבון פרטי

הארגון אינו שולט בהרשאות, בלוגים או במחיקה.

4. מתעלמים משירותי משנה

לא נבדק מי עוד מעבד את המידע.

5. אין תקופת שמירה

קלט ופלט נשמרים ללא צורך מוגדר.

6. נותנים הרשאה רחבה

כל המשתמשים רואים מידע שאינו נדרש לתפקידם.

7. אין נוהל אירוע

התגובה מתחילה באלתור במקום בעצירה ותיעוד.

8. סומכים על הצהרת הספק

לא דורשים הוכחות, תנאים חוזיים ולוגים.

סיכום: פרטיות ואבטחת מידע הן תנאי לשימוש, לא שלב שמוסיפים בסוף

מחלקת השכר אינה יכולה להתייחס לכלי AI ככלי כתיבה רגיל. המידע שהיא מחזיקה רגיש, מצטבר ומשפיע ישירות על עובדים. לכן יש להתחיל ממטרה ברורה ולבדוק אם השימוש מחייב נתוני אמת בכלל.

שרשרת ההגנה מתחילה בצמצום. לאחר מכן מגיעים סיווג, מיסוך, הרשאות, הצפנה, לוגים, שמירה ומחיקה. כל חוליה מפחיתה סיכון אחר. חולשה באחת מהן יכולה לבטל את ההגנות האחרות.

ניהול ספק הוא חלק מרכזי. הארגון צריך להבין היכן המידע מעובד, אם הוא משמש לאימון, מי הם קבלני המשנה וכיצד מתבצעת מחיקה. תקן ISO/IEC 42001 מציג מסגרת לניהול מערכות AI ולשיפור מתמשך.[4]

במקביל, אין להסתפק בטכנולוגיה. הדרכה, חלופה מאושרת ותהליך ברור יעילים יותר מאיסור כללי שאינו מתאים ללחץ העבודה. הרשות להגנת הפרטיות מדגישה את חשיבות התאמת העובדים, ההדרכה וההרשאות לרגישות המידע.[5]

הפרק הבא יתמקד באימות תוצאות. לאחר שהמידע מוגן, יש לבדוק האם התשובה שהמערכת מפיקה נכונה, שלמה, מוסברת וראויה לשימוש בתהליך השכר.

לפרק 3: אימות תוצאות AI