חוק ה-AI האירופי נכנס לתוקף, והחלק שנדחה הוא לא זה שנוגע לכם

ב-2 באוגוסט נכנס לתוקף באירופה סעיף 50 של חוק ה-AI, החלק שעוסק בשקיפות. הוא מחייב כל מי שמפעיל צ’אטבוט מול משתמש אירופי לומר לו במפורש שהוא מדבר עם מכונה. תשעה ימים אחר כך אנתרופיק (Anthropic) הודיעה שהיא מטביעה סימן מים סמוי בכל טקסט שקלוד (Claude) מפיק, וברדיט התפרסמו צילומי מסך של ביטולי מנוי ותגובות ארוכות על מעקב. שני האירועים באמת קשורים, רק לא בכיוון שנדמה מהכותרות.

הסימן שאנתרופיק הטביעה סוגר חוב שלה מול אותה רגולציה בדיוק. הוא אינו נודד קדימה אל מי שמשתמש בקלוד כדי לדבר עם לקוחות. מכם מבקשים דבר אחר לגמרי, זול בהרבה ממה שהוא נשמע, שברוב הארגונים פשוט לא קיים.

מה נדחה, ומה נשאר במקום

בחודשים האחרונים עברה באירופה חבילת תיקונים בשם Digital Omnibus, והיא אכן דחתה מועדי ציות. מערכות בסיכון גבוה מנספח III קיבלו ארכה עד 2 בדצמבר 2027. מערכות משובצות במוצרים מוסדרים מנספח I קיבלו ארכה עד 2 באוגוסט 2028. ההסכמה הפוליטית הושגה בתחילת מאי 2026 ואושרה על ידי המדינות החברות כשבוע לאחר מכן, כפי שתיארה גיבסון דאן. הכותרות שיצאו מזה, בעברית ובאנגלית, אמרו שחוק ה-AI האירופי נדחה. לא היה בהן שקר, אבל חסר בהן משהו.

סעיף 50 נשאר בדיוק היכן שהיה. המחוקק האירופי השאיר אותו על התאריך המקורי במודע, והשינוי היחיד שנגע בו הוא ארכה של ארבעה חודשים, עד 2 בדצמבר 2026. הארכה מוגבלת פעמיים: היא חלה רק על חובת הסימון הטכני, ורק על מערכות שכבר היו בשוק לפני 2 באוגוסט. חובת הגילוי ללקוח שמדבר עם צ’אטבוט חלה מהיום הראשון, על כל המערכות, בלי קשר למועד שבו הועמדו לשימוש. סקירת קולי מדגישה את ההבחנה הזו במפורש, כנראה משום שברוב הדיווחים היא נבלעה.

במקביל פרסמה הנציבות האירופית קווים מנחים לחובות השקיפות, וגם קוד התנהגות לסימון תוכן שנוצר בידי AI. הקוד וולונטרי בהגדרתו, אבל ההיגיון שמאחוריו לא משאיר הרבה מרחב תמרון. מי שמאמץ אותו נחשב כמי שמדגים ציות. מי שבוחר שלא, יידרש להראות אמצעים חלופיים שקולים באיכותם, כלומר לעשות את אותה עבודה בעצמו ולהגן עליה לבד מול רגולטור.

ארבע סיטואציות, ומי חייב בכל אחת

סעיף 50 לרגולציה (EU) 2024/1689 הוא יצור מוזר בתוך החוק, משום שאינו תלוי בסיווג הסיכון של המערכת. המערכת שלכם לא צריכה להיות מסווגת בסיכון גבוה כדי להיכנס לתחולה. בגלל זה הוא נוגע ליותר עסקים מכל שאר החוק יחד, כולל כאלה שמעולם לא ראו את עצמם כמפתחי AI.

הסעיף מחלק את העולם לארבע סיטואציות, ובכל אחת מהן החובה נופלת על כתפיים אחרות:

• מערכת שמיועדת לתקשר ישירות עם בני אדם. צריך לתכנן אותה כך שהמשתמש יידע שמדובר ב-AI, לכל המאוחר במועד האינטראקציה הראשונה. האחריות היא של הספק, אלא אם הדבר גלוי מאליו לאדם סביר.
• מערכת שמייצרת אודיו, תמונה, וידאו או טקסט סינתטיים. הספק נדרש לסמן את הפלט בפורמט קריא למכונה, כך שאפשר יהיה לזהות אותו כתוצר AI.
• זיהוי רגשות וקטגוריזציה ביומטרית. כאן התמונה מתהפכת, והחובה ליידע את מי שנחשף למערכת עוברת אל הארגון שמפעיל אותה במקום אל מי שבנה אותה.
• דיפפייק, או טקסט שנוצר בידי AI ומתפרסם כדי ליידע את הציבור בעניינים בעלי עניין ציבורי. מי שמפרסם נדרש לגלות זאת בעצמו.

הפירוט המלא של הסעיף כולל גם את הפטורים, ושם יושב החלק שמעניין עסק שמייצר תוכן. סעיף 50(4) מבטל את חובת הסימון של טקסט שפורסם לציבור, בתנאי שהתוכן עבר בקרה אנושית מהותית ואדם או תאגיד נושא עליו באחריות עריכתית. אישור שטחי אינו נספר לעניין הזה. ההפרש בין מי שסורק את הפלט בשלוש שניות ולוחץ פרסום, לבין מי שבנה תהליך עריכה עם אחראי מוגדר בשם, הוא ההפרש בין חשיפה מלאה לבין פטור. שתי החברות יכולות להיראות מבחוץ זהות לחלוטין ולפרסם בדיוק את אותו תוכן.

הקנסות יושבים בשכבה האמצעית של סעיף 99: עד 15 מיליון אירו או 3% מהמחזור השנתי העולמי, לפי הגבוה מביניהם. לעסקים קטנים ובינוניים, כולל סטארטאפים, הכלל מתהפך ונקבע לפי הנמוך מביניהם. זה מוריד את החשיפה של חברה ישראלית קטנה למספר שאפשר לחיות איתו, אבל לא לאפס.

מה אנתרופיק בעצם בנתה

בתוך החלוקה הזו סימן המים יושב במשבצת אחת ויחידה, זו של הספק שמייצר טקסט סינתטי. אנתרופיק פרסמה הסבר טכני שלפיו היא משתמשת ב-SynthID-Text. זו גרסה של שיטה שצוות גוגל דיפמיינד (Google DeepMind) פרסם ב-Nature ב-2024, והיא ממשיכה קו רעיוני שהציע סקוט אהרונסון (Scott Aaronson) עוד ב-2022.

המנגנון פשוט יותר ממה שהשם מרמז. מודל שפה בוחר את המילה הבאה מתוך התפלגות, והבחירה נשענת על מקור אקראיות. במקום מחולל מספרים אקראיים שרירותי נכנסת שיטה שמשתמשת במפתח ובכמה מילים קודמות, והיא זו שמכריעה איזו מילה תיבחר. מבחינת הקורא המילים עדיין אקראיות לגמרי. השיטה אינה דוחפת את קלוד לבחור מילה שלא היה שוקל ממילא, ולכן איכות הפלט לא נפגעת.

בפועל הסימן נוסע עם הטקסט כשמעתיקים ומדביקים אותו למקום אחר. עריכה קלה כנראה לא תמחק אותו לגמרי, וכתיבה מחדש שמחליפה כל מילה כן תמחק. גם תרגום שקלוד מייצר נושא סימן, מהסיבה הפשוטה שכל מילה בטקסט נבחרה על ידו.

הפרסום עצמו כולל רשימת מגבלות ששווה לקרוא לפני שמתלהבים, כי היא מצמצמת דרמטית את מה שאפשר לעשות עם הכלי:

• הזיהוי לא עובד טוב על מדגמים קטנים.
• הסימון דליל יותר בקטעים עובדתיים, שם ממילא קיימות פחות אפשרויות לגיטימיות לבחור ביניהן.
• הוא אינו מאשר שטקסט נכתב בידי אדם, ואינו יודע לומר אם נכתב בידי מודל אחר.
• בקוד ההשפעה זניחה, לפי דיווח TechCrunch, משום שדרישות התפקוד מצמצמות מלכתחילה את חופש הבחירה.

לקבצים נתמכים מצורף בנוסף אישור תוכן בתקן C2PA, כלומר פתק חתום קריפטוגרפית שיושב במטא נתונים של הקובץ. זה אותו תקן שיצרניות מצלמות ותוכנות עריכת תמונה כבר עובדות איתו. ממשק זיהוי אמור לצאת בהמשך, ופרטיו עוד לא פורסמו.

איפה זה פוגש עסק ישראלי

בישראל אין חוק בינה מלאכותית, ולפי הכיוון הנוכחי גם לא יהיה בקרוב. המדיניות הרשמית נשענת על מסמך שאישר שר החדשנות אופיר אקוניס (Ofir Akunis) בדצמבר 2023. המסמך מעדיף רגולציה סקטוריאלית מבוססת סיכון על פני חקיקה רוחבית, ומטיל את האחריות על הרגולטורים הקיימים בכל תחום. לצידו פועל במשרד החדשנות מרכז ידע ותיאום בנושא AI, מכוח החלטת ממשלה משנת 2023, כפי שמתארת סקירת IAPP. קל מאוד לקרוא בשקט החקיקתי הזה פטור.

מי שקורא אותו כך מפספס את סעיף 2(1)(ג) לחוק האירופי. הסעיף מחיל את החוק על ספקים ומפעילים שמקום מושבם במדינה שלישית, כאשר הפלט של המערכת נמצא בשימוש בתוך האיחוד. מה שקובע הוא היכן הפלט משמש בפועל. לא משנה איפה יושבים השרתים, איפה רשומה החברה, או אם שיווקתם לאירופה מרצון. התחולה הזו רחבה אפילו מזו של GDPR, משום שאינה מותנית בעיבוד מידע אישי כלל.

שלוש דוגמאות שנמצאות בתוכה:

• צ’אטבוט או סוכן שירות באתר שמדבר גם עם לקוחות באירופה, ולו רק משום שהאתר באנגלית.
• מוצר SaaS ישראלי, כלומר תוכנה עסקית בענן, שמייצר ללקוחותיו סיכומים, טיוטות או תשובות אוטומטיות, כשחלק מהלקוחות אירופיים.
• ניוזלטר או תוכן שיווקי שנכתב בעזרת מודל ומופץ לרשימת תפוצה שכוללת נמענים באיחוד.

השלישית היא זו שנוטים לפספס. איש בארגון לא חשב עליה אי פעם כעל מוצר AI, ואף אחד לא העלה סביבה את המילה ציות.

מה כדאי לעשות עכשיו

העבודה שכדאי להתחיל בה זולה בהרבה ממה שהיא נשמעת, בעיקר כשעושים אותה לפני שמישהו מבחוץ שואל:

1. מיפוי. רשמו כל נקודה שבה AI נוגע בלקוח, וליד כל אחת אם אתם בה הספק או המפעיל.
2. נוסח גילוי. משפט קצר בפתיחת כל ממשק שיחה. במקומות שבהם החלטתם שהגילוי מיותר משום שהוא גלוי מאליו, תעדו את ההנמקה.
3. אישור מהספק. בקשו מהספק שממנו אתם צורכים את המודל אישור לגבי אופן הסימון ולגבי ההסתמכות על תקופת המעבר.
4. אחראי בשם. אדם אחד שנושא באחריות עריכתית על תוכן שנכתב בעזרת AI ומתפרסם לציבור.

מורגן לואיס מדגישים שהחובות של המפעיל נפרדות לחלוטין מחובת הסימון הטכני של הספק. הצעד המעשי הראשון שממליצים עליו הוא בדיוק המיפוי הזה, לא ניסוח מדיניות.

מה שסימן המים לא עושה בשבילכם

הזעם ברדיט הופנה לכתובת הלא נכונה, אבל הבלבול שמתחתיו מובן. חברה שמכריזה על סימון הפלט שלה נשמעת כמי שסגרה את הנושא עבור כל מי שנוגע בו אחריה. אנתרופיק סימנה את הפלט שלה כדי לענות על חובה שחלה עליה כספקית מודל שמייצר טקסט סינתטי. זו פעולה של שחקן אחד בשרשרת, והיא נעצרת ברגע שהטקסט יוצא מהמודל.

ברגע שהמודל מוטמע בממשק שמדבר עם לקוח, או שטקסט שהוא כתב מתפרסם בשמכם, מבקשים מכם דברים מסוג אחר לגמרי. משפט גלוי בעברית או באנגלית שאדם קורא בעיניים שלו, ואחריות אנושית מתועדת שעומדת מאחוריו. מנגנון סטטיסטי חבוי בבחירת מילים אינו עושה אף אחד משני הדברים האלה, וגם לא נועד לכך.

המיפוי הזה, כשעושים אותו ברצינות, מחזיר כמעט תמיד שתיים או שלוש נקודות מגע שאיש בארגון לא ידע עליהן, וכמעט תמיד בשוליים. תבנית תשובה אוטומטית שמישהו בשירות הלקוחות חיבר לעצמו, סיכום פגישה שנשלח ללקוח כמו שהוא, ניסוח של מייל גבייה. אף אחת מהן לא התקבלה כהחלטה, הן פשוט קרו בזו אחר זו. חובת הגילוי כבר חלה, והצעד הבא שלכם הוא לרשום את כל נקודות המגע האלה על דף אחד ולשים שם של אחראי לצד כל שורה.