חוק הבינה המלאכותית של האיחוד האירופי – ניסיון שאפתני להסדרה גלובלית של AI

האיחוד האירופי (EU) אימץ לאחרונה את החוק השאפתני ביותר להסדרת בינה מלאכותית (AI). חוק הבינה המלאכותית של האיחוד האירופי, ה-AI Act, משתרע על פני יותר ממאתיים עמודים וחל הן על ספקי טכנולוגיה של AI והן על המשתמשים בטכנולוגיה במגזר הפרטי והציבורי. בדומה לחקיקה נוספת בתחום המידע והנתונים באיחוד האירופי, לחוק הבינה המלאכותית תחולה אקס-טריטוריאלית גם על חברות וארגונים שמחוץ לאיחוד האירופי, ובכלל זה ישראל.
רובן המוחלט של הוראות החוק ייכנסו לתוקף בשנת 2026. נותר לראות עד כמה יהיה רלוונטי בעוד למעלה משנתיים לעולם ה-AI המתפתח במהירות. לדוגמה בלבד, מאז החל תהליך החקיקה של ה-AI Act 2021, פרצה לעולם בינה מלאכותית יוצרת, שהמייצג הידוע ביותר של הוא ChatGPT. החוק המקורי לא חזה זאת והדבר חייב להשעות את מאמצי החקיקה ולהכניס שינויים משמעותיים בהצעת החוק כדי שתחול גם על ההתפתחויות הלא צפויות הללו. בנוסף, תאגידים באיחוד האירופי, ובמיוחד סטארטאפים, חששו שהחוק יחנוק פיתוח של חדשנות ויישום של בינה מלאכותית ביבשת. הנוסח הסופי שהתקבל אמור לתת מענה גם לחלק מהחששות הללו.
ה-AI Act הוא אחד מבין שלוש קומות של הסדרה, שהאיחוד האירופי מגבש: בראשן עומדת אמנה בנושא בינה מלאכותית, זכויות אדם, דמוקרטיה ושלטון החוק שגם היא אמורה להתקבל בקרוב. בקומה שמתחת לחוק החדש מקדם האיחוד דירקטיבה שתסדיר שאלות של חבות בנזק שמקורו בבינה מלאכותית, נטלי ההוכחה וכללי הוכחת ראיות בתביעות הקשורות ל-AI.
מאמר זה מציג היבטים מרכזיים של חוק הבינה המלאכותית. מטבע הדברים, איננו יכולים לכסות את כולם במאמר קצר -
הגדרות והיקף. חוק הבינה המלאכותית חל גם על ספקים המשווקים או מפעילים מערכות AI באיחוד האירופי, בלא קשר לשאלה אם הם נמצאים פיסית בתחומי האיחוד או מחוצה לו. החוק חל על משתמשים במערכות בינה מלאכותית שנמצאות בתוך האיחוד האירופי, ועל ספקים ומשתמשים של מערכות AI במדינות שלישיות, הנעזרות בפלט שמייצרות מערכות באיחוד האירופי. עם זאת, החוק אינו חל על מערכות AI המשמשות למטרות מחקר ופיתוח מדעי בלבד, ומרבית החוק אינו חל על אלו המשתמשים ב-AI במהלך פעילות אישית ולא מקצועית גרידא. גם תחולתו על מערכות קוד-פתוח של בינה מלאכותית, מסוייגת במידת מה.
גישה מבוססת סיכון. ה-AI Act נוקט בגישה מבוססת סיכון, המבדילה בין שימושים ב-AI היוצרים (i) סיכון שאי אפשר לקבלו; (ii) סיכון גבוה, ו-(iii) מערכות AI אחרות.
- מערכות AI בסיכון שאי אפשר לקבל. החוק כולל רשימה של שימושים אסורים במערכות AI שהשימוש בהן מפר את ערכי האיחוד האירופי, כגון שימוש בטכניקות תת-הכרתיות מניפולטיביות או הטעיה, ניצול חולשות, קציר נרחב של תמונות פנים מהאינטרנט או מצילומי אבטחה, סיווג על בסיס ניתוח התנהגותי, דירוג סטטוס חברתי, סיווג ביומטרי להסקת נתונים רגישים כגון נטייה מינית או אמונות דתיות, ומקרים של שימוש במערכות לניבוי התנהגויות לצרכי אכיפה (predictive policing).
- מערכות AI בסיכון גבוה. החוק קובע כללים למערכות בינה מלאכותית היוצרות סיכון גבוה לבריאות ולבטיחות או לזכויות היסוד של האדם. מערכות AI בסיכון גבוה מותרות רק בכפוף לעמידה בדרישות מחייבות ובהערכת תאימות.
- מערכות AI אחרות. מערכות AI שאינן באות בגדר הסיווגים הקודמים והן בעלות סיכון נמוך לבריאות ולבטיחות או לזכויות היסוד של האדם, כפופות בעיקר לחובות שקיפות. לדוגמה, חובת גילוי לכך שהמערכת מבוססת על בינה מלאכותית או שהתוכן נוצר באמצעות AI. הגילוי נועד כדי שהמשתמשים יוכלו לקבל החלטות מושכלות לגבי השימוש בהן.
שקיפות והגנה על זכויות יסוד. לפני תחילת השימוש במערכות AI בסיכון גבוה, חוק הבינה המלאכותית דורש לבצע הערכה של השפעתן על זכויות היסוד. יתר על כן, מערכות אשר (i) מקיימות אינטראקציה עם בני אדם, (ii) משמשות לזיהוי רגשות או מסווגות בני אדם לקטגוריות חברתיות על סמך נתונים ביומטריים, או (iii) מייצרות או מבצעות מניפולציות של תוכן ("deep fake") - נדרשות ליידע את המשתמשים על כך. לדוגמה, כשאדם מנוטר על ידי מערכת לזיהוי רגשות, חובה להודיע לו על כך, או לסמן בדרך אפקטיבית תוכן שנוצר על ידי מערכות AI, בהתאם לסטנדרטים טכניים מוגדרים.
מערכות AI לשימוש כללי. החוק מתייחס למקרים מוגדרים של מערכות AI לשימוש כללי ("GPAI") שניתן להשתמש בהן למטרות שונות, לרבות כאשר מערכות אלו משולבת בהמשך עם מערכות אחרות בסיכון גבוה, כמו הדרישה לתיעוד תחזוקת המערכות ושיתוף פעולה עם הרשויות.
מודלים בסיסיים. ה-AI Act כולל כללים ייחודיים למודלים בסיסיים. מודלים אלה הם מערכות גדולות ומיומנות המסוגלות לבצע מגוון רחב של משימות ייחודיות, כגון יצירת וידאו, טקסט ותמונות, שיחה בשפה רוחבית, מחשוב או יצירת קוד מחשב. דוגמה מובהקת למודלים כאלה הם LLMs – Large Language Models שנמצאים בבסיס המוצרים ChatGPT, Google Gemini ודומיהם. המערכות הללו חייבות לעמוד בחובות שקיפות מוגדרות כדוגמת סימון וגילוי תוצרים ותכנים ככאלו שנוצרו או שונו על ידי AI, ומסירת הודעה למשתמשי מערכות לזיהוי רגשות או לסיווג בני אדם לקטגוריות חברתיות על סמך נתונים ביומטריים. חובות מחמירות עוד יותר יוטלו לאורך כל שלבי התכנון, הפיתוח, הייצור וההפצה על מודלים בסיסיים בעלי "השפעה גבוהה", שעברו אימון על כמות גדולה של נתונים מורכבים והם בעלי יכולות וביצועים מתקדמים מהממוצע.
חריגים לאכיפת החוק. בכפוף לאמצעי הגנה מתאימים, רשויות אכיפת החוק יורשו להשתמש במערכות AI שונות. לדוגמה, יותר להן לפרוש כלי בינה מלאכותית בסיכון גבוה שלא עברו הערכת תאימות כאשר הדבר נדרש במקרים דחופים. בנוסף, יותר השימוש במערכות זיהוי ביומטריות מרחוק בזמן אמת במקומות ציבוריים, כשדבר נחוץ למטרות אכיפת החוק (כגון מניעת איומים לפיגועי טרור, ומצוד אחר חשודים בפשעים חמורים).
תמיכה בחדשנות. חוק הבינה המלאכותית מציג ארגז חול רגולטורי של AI, שיאפשר לחברות ולמפתחי AI לפתח, לבדוק ולאמת מערכות AI חדשניות בהתאם לתנאי שוק מציאותיים, ותחת אמצעי הגנה.
מירשם למערכות AI בסיכון גבוה. ספקים של מערכות AI עצמאיות בסיכון גבוה ומשתמשים שהם גופים ציבוריים במערכת כאלה חייבים להירשם בבסיס נתונים ייעודי של האיחוד האירופי. הספקים נדרשים בנוסף לעמוד בחובות הניטור והדיווח, וחקירת תקריות ותקלות הקשורות ל-AI.
ממשל. משרד בינה מלאכותית בתוך הנציבות האירופית יפקח על מודלי הבינה המלאכותית המתקדמים ביותר, יתרום לקידום תקנים ונוהלי בדיקה, ויאכוף את הכללים האחידים בכל מדינות האיחוד. פאנל מדעי של מומחים עצמאיים ייעץ למשרד לגבי מודלים של בינה מלאכותית לשימושים כלליים (GPAI). בנוסף, תפעל מועצת AI כגוף מתאם ומייעץ לנציבות, ויוקם פורום מייעץ לבעלי עניין כדוגמת נציגי תעשייה, ארגונים קטנים ובינוניים, חברות הזנק, החברה האזרחית והאקדמיה.
קנסות. הקנסות על הפרת חוק הבינה המלאכותית נקבעים כאחוז מהמחזור השנתי העולמי של החברה המפרה בשנת הכספים הקודמת או לפי סכום שנקבע מראש, הגבוה מבניהם: 35 מיליון אירו או 7% בגין הפרות של שימושי AI אסורים, 15 מיליון אירו או 3% בגין הפרות הוראות חוק הבינה המלאכותית ו-7.5 מיליון אירו או 1.5% בגין מתן מידע שגוי. השיעור המקסימלי של קנסות על ארגונים קטנים ובינוניים וחברות הזנק יהיה נמוך יותר. אדם או אישיות משפטית אחרת יהיו רשאים להגיש תלונה לרשות הרלוונטית בנוגע לאי ציות לחוק.
מסגרת זמן. חוק הבינה המלאכותית יחול שנתיים לאחר כניסתו לתוקף, למעט חריגים מסוימים. החוק אמנם ייכנס לתוקף בקרוב אולם אכיפתו תחל ברבעון השני של 2026.
חיים רביה, עו"ד
דותן המר, עו"ד
אור כהן, עו"ד
קבוצת הסייבר, הפרטיות וזכויות היוצרים
פרל כהן צדק לצר ברץ



