→ חזרה לספרייה הדיגיטליתמאמר

בניית תוכנית ציות לניהול בינה מלאכותית אחראית בארגון

בניית תוכנית ציות לניהול בינה מלאכותית אחראית בארגון

מחבר המאמר : עומר ברנדס, ראש תחום בינה מלאכותית אחראית, NextGen Solutions

בתקופה האחרונה, נראה שהבינה המלאכותית (AI), ובפרט הבינה המלאכותית היוצרת (Generative) הפכה לחלק בלתי נפרד מחיינו. אנו שומעים עליה בכל מקום, וכל חברה המכבדת את עצמה רוצה לבחון כיצד השימוש בכלים האלה יוכל לעזור לה להגיע לתוצאות עסקיות טובות יותר ולמתג אותה כחדשנית ומתקדמת.

אבל, יחד עם ה"הייפ" וההתרגשות, אנו, כיועצים משפטיים, מבינים שיש לבחון היטב את השלכות השימוש בכלים אלה בארגון, לבנות תוכנית ציות בנושא בינה מלאכותית אחראית הכוללת נהלים, מדיניות, תוכניות אימון לעובדים ועוד.

בניית תוכנית ציות כזו חשובה לא רק ככזו המבטיחה שהשימוש בכלי בינה מלאכותית יוצרת יתבצע באופן אתי וחוקי, אלא גם יכולה לקדם את תדמית הארגון ולהגביר את האמון שלקוחותיו רוחשים לו וכן להגן עליו מפני סיכונים פוטנציאליים.

הנה כמה צעדים מרכזיים לבניית תוכנית ציות לבינה מלאכותית אחראית בארגון:

  1. הבנת הסיכונים והאתגרים היחודיים בארגון

השלב החשוב ביותר הוא זיהוי הצרכים הקיימים בארגון לשימוש בתוצרי כלי בינה מלאכותית יוצרת, והסיכונים הספציפיים הנלווים אליהם, לרבות סיכונים אתיים, חוקיים וטכנולוגיים. אין דינו של ארגון טכנולוגי, לחברת פרסום – הראשונה תסתמך הרבה יותר על כלי יצירת קוד, והאחרונה על כלי יצירת תמונות, וידאו ואודיו. הסיכונים הנלווים לכל אחד מהתוצרים שונה בתכלית ומצריך דרכי התמודדות שונות.

מעבר לשימוש בכלים אלה, יש לבחון יוזמות לשילוב יכולות בינה מלאכותית יוצרת במוצרי או בשירותי הארגון ולמפות את הסיכונים היחודיים הכרוכים בהצעתם ללקוחות. כך למשל שילוב של יכולות בינה מלאכותית יוצרת לצורך מתן שירות לקוחות ישירות מול לקוחות הארגון עשוי לגרור סיכונים מסוג מסויים, ושימוש בכלי יצירת טקסט כחלק ממוצרי הארגון, כאשר הטקסט המוצע נבדק ונערך על ידי נציג הארגון לפני כל שליחה ללקוח, גורר סיכונים מסוג אחר, ואולי אף פחות יותר.

  1. קביעת "סיבולת סיכון" ארגונית

לאחר שהגדרנו את הצרכים הארגוניים הקשורים בשימוש בכלי בינה מלאכותית יוצרת, כעת הארגון נדרש להגדיר עקרונות ניהול סיכונים ברורים שינחו את השימוש בבינה מלאכותית יוצרת בארגון. עקרונות אלה יכולים להתבסס על רמות הסיכון המוצעות בחקיקת הבינה המלאכותית האירופאית החדשה, או בהתאם לכלי ניהול סיכונים נפוצים אחרים, למשל, בהתאם לתקינה המוצעת על ידי ה-NIST – המכון הלאומי לתקינה וטכנולוגיה בארה"ב.

  1. פיתוח מדיניות ברורה

לאחר שיש בידי הארגון את מפת הדרכים הראשונית הכוללת הבנה ראשונית של הסיכונים והמטרות הרלוונטיות לפעילות הארגון, וכן את רמות הסיכון המקובלות בקשר עם שימוש בכלי בינה מלאכותית יוצרת, על הארגון לאמץ מדיניות בינה מלאכותית אחראית מפורטת וברורה. מדיניות זו צריכה לכלול הנחיות ברורות המופנות לכלל הארגון, לרבות עובדים ונותני שירותים, הנוגעות לפיתוח, הטמעה, שילוב ושימוש בטכנולוגיות בינה מלאכותית יוצרת. חשוב לזכור שהמדיניות צריכה להיות גמישה מספיק כדי להתאים להתפתחויות עתידיות בתחום.

בד בבד עם אימוץ המדיניות, מומלץ להרכיב צוות מטעם הארגון אשר יהיה אמון על קבלת החלטות בנוגע לשימוש בטכנולוגיות בינה מלאכותית יוצרת באופן שוטף, כך שכל בקשה חדשה לשימוש, פיתוח או שילוב תגיע לצוות זה, תידון על ידו ותאושר או תועבר לאישור הנהלת החברה במקרים מורכבים, רגישים או חריגים, והכל – על בסיס רמות הסיכון שהוגדרו בארגון.

במסגרת בניית המדיניות, חשוב להציע גם פתרונות ולא רק להציב מחסומים. בקשר עם כל אחד מגורמי הסיכון הרלוונטיים לארגון, נסו להציג פתרונות אפשריים או כלים לצמצום אותם הסיכונים, אותם חובה לאמץ בקשר עם כל בקשה חדשה המגיעה לאישור.

  1. הדרכה והכשרה

לאחר שיש בידי הארגון מדיניות סדורה, ובתקווה גם צוות האמון על יישום המדיניות, ישנה חשיבות גבוהה להבאת כלל המידע לידיעת כל חברי הארגון. לשם כך מומלץ להציג את המדיניות החדשה לכלל עובדי ומנהלי הארגון בצורה פשוטה וברורה, להקדיש משאבים לשם קיום הדרכות והכשרות של העובדים בנוגע למדיניות הבינה המלאכותית האחראית של הארגון.

זכרו, הדרכה תקופתית היא חיונית וחשובה, אך אינה מספיקה. שקלו לערוך מסמך עקרונות, אשר "יתרגם" את מסמך המדיניות הרחב והפורמאלי לשפה מדובר ו"רכה" יותר, אשר יתמצת את עקרונות המדיניות ויהיה זמין לכלל עובדי הארגון.

מומלץ גם להבהיר לעובדים מתי ואיך מצופה מהם להעלות שאלות בנוגע לשימוש, פיתוח או שילוב של כלי בינה מלאכותית יוצרת לצוות הממונה על יישום המדיניות, ומתי הם יכולים להישען על מידע וחומרי הדרכה אשר יהיו נגישים עבורם במערכות הארגון.

  1. בקרה ומעקב

לאחר הטמעת המדיניות ובניית הצוות האמון על ניהולה חשוב להקים מנגנונים לבקרה ומעקב שיבטיחו שהשימוש בכלי בינה מלאכותית יוצרת בארגון נעשה בהתאם לכללים שנקבעו. מנגנונים אלה יכולים לכלול סקירות קבועות, הדרכות תקופתיות, תיעוד שוטף של בקשות חדשות שהגיעו לידי צוות הניהול ועוד.

חשוב לזכור שהנושא נמצא בהתפתחות מתמדת, והוא מושפע באופן בלתי נמנע מהתפתחות הטכנולוגיה והרגולציה. לכן מומלץ לבנות תהליכים המתאימים לארגון שלכם באופן פרטני ולהמשיך לעדכן ולפתח אותם במהלך הזמן.

וכמובן אי אפשר שלא לסיים בברכה המשפטית האהובה – האמור לעיל נכתב בגדר המלצה כללית בלבד, ואין לראות בו כמידע ממצה מקיף או מחייב או להסתמך עליו ככזה. האמור נכתב בהתאם לנסיון הכותב בליווי של מספר ארגונים בתחום זה, ביניהם ארגון Fortune 500 גלובאלי ויש להתאימו לכל ארגון בהתאם לצרכיו.

מחבר המאמר : עומר ברנדס, ראש תחום בינה מלאכותית אחראית, NextGen Solutions

תגובות