Anthropic מול הפנטגון: מי באמת צריך לפקח על AI צבאי?

חברת AI אמריקאית אמרה “לא” לפנטגון, ושילמה על זה מיד

בשבוע האחרון קרה משהו שלא קרה מעולם בתעשיית הטכנולוגיה: ממשלת ארצות הברית הכריזה על Anthropic, יצרנית Claude, אחד ממודלי ה-AI המתקדמים בעולם, כ-”סיכון לשרשרת האספקה של הביטחון הלאומי”. סיווג ששמור בדרך כלל ליריבות כמו סין, הופעל לראשונה בהיסטוריה נגד חברה אמריקאית.

הסיבה? Anthropic סירבה לוותר על שני קווים אדומים: לא לנשק אוטונומי ו-לא למעקב המוני על אזרחים אמריקאים. הפנטגון דרש גישה “לכל מטרה חוקית”, ו-Anthropic אמרה לא.

הסיפור הזה הוא לא רק דרמה עסקית. הוא חושף סדקים עמוקים בשאלה מי באמת צריך לפקח על הטכנולוגיה החזקה ביותר שהאנושות פיתחה, ולמה זה משנה לכל מי שעובד עם AI היום.

כשהמדינה היא גם השחקן וגם השופט

בואו נתחיל מהשאלה שאף אחד לא ממהר לשאול: האם ממשלה שרוצה להשתמש ב-AI לצרכים צבאיים יכולה גם לפקח על עצמה?

הפנטגון דרש מ-Anthropic גישה מלאה ובלתי מוגבלת למודלים שלה. כשהחברה עמדה על מגבלות, אפילו מינימליות, רק שני קווים אדומים, התגובה הייתה אולטימטום של 72 שעות, ואחריו סנקציות שלא הופעלו אפילו נגד חברות מדינות יריבות.

הבעיה היא מבנית. כשגוף ממשלתי הוא גם הלקוח וגם הרגולטור, נוצר ניגוד אינטרסים מובנה. הפנטגון לא מבקש רק לקנות טכנולוגיה, הוא מבקש שלא יהיו עליו מגבלות בשימוש בה. וכשחברה מנסה להציב גבולות, היא מוכרזת כאיום ביטחוני.

זה לא ייחודי ל-AI. אבל ב-AI, ההימור גבוה יותר. מערכות שמסוגלות לקבל החלטות חיים ומוות באופן אוטונומי דורשות פיקוח שחורג מהמנגנונים הנוכחיים וכרגע, המנגנונים האלה פשוט לא קיימים.

שאלת הנשק האוטונומי, הפיל שבחדר

Anthropic טענה שמערכות AI חזיתיות “פשוט לא אמינות מספיק לנשק אוטונומי לחלוטין”. זו לא עמדה פוליטית, זו עמדה טכנית. כל מי שעובד עם מודלי שפה יודע שהם עדיין הוזים, טועים, ומפתיעים בדרכים בלתי צפויות. עכשיו תדמיינו את זה מחובר למערכת נשק.

אבל בואו נהיה כנים: האם זה בר מניעה?

ההיסטוריה מלמדת שלא ממש. רוברט אופנהיימר, אבי פצצת האטום, סיפר שנים אחרי ניסוי טריניטי שעברו לו במוח המילים מהבהגוואד גיטא: “עכשיו אני הפכתי למוות, משמיד העולמות.” הוא הבין מה יצר. הוא ניסה לבלום. הוא נכשל. הפצצה הגרעינית הייתה בלתי נמנעת מהרגע שהפיזיקה אפשרה אותה.

עם AI הדפוס דומה באופן מטריד. הטכנולוגיה כבר קיימת. אם Anthropic לא תספק אותה, מישהו אחר יעשה את זה, וזה בדיוק מה שקרה. תוך שעות מהפסילה של Anthropic, OpenAI חתמה על עסקה עם הפנטגון.

האירוניה? העסקה של OpenAI כיסתה את אותם שלושה נושאים שבגללם Anthropic נפסלה: מעקב המוני, נשק אוטונומי, והחלטות אוטומטיות גורליות. אבל עם הבדל מהותי, OpenAI לא דרשה איסור חוזי עצמאי כמו Anthropic, אלא הסתפקה בהפניה לחוקים קיימים ולמדיניות הפנטגון כפי שהיא היום. בדיוק הפער שהטריד את Anthropic: חוקים אפשר לשנות, מדיניות אפשר לעדכן, ואיסור חוזי מפורש, זה דבר אחר לגמרי. סם אלטמן עצמו הודה שהמהלך “נראה אופורטוניסטי ומרושל.”

אז כן, נשק AI כנראה יפותח. השאלה האמיתית היא לא “אם” אלא “עם אילו מגבלות, ומי יאכוף אותן.”

האם חברה פרטית יכולה להגיד “לא” לממשלה?

זו שאלה שנוגעת לליבה של הדמוקרטיה. דריו אמודאי, מנכ”ל Anthropic, תיאר בראיון ל-CBS את העמדה של החברה: “אנחנו אמריקאים פטריוטים”, הוא אמר. “עשינו הכל למען המדינה הזו, למען הביטחון הלאומי האמריקאי.” ובנשימה אחת הוסיף: “יש לנו שני קווים אדומים. היו לנו אותם מיום הראשון. אנחנו לא נזוז מהם.”

מצד אחד, אפשר לטעון שחברה פרטית לא צריכה להיות זו שמחליטה מה הצבא יכול ומה הוא לא יכול לעשות. הנבחרים הם אלה שמקבלים החלטות בטחוניות, לא מנכ”לים מסיליקון ואלי.

מצד שני, ובדיוק פה זה נהיה מעניין, כשהממשלה עצמה לא מסוגלה או לא רוצה להגביל את עצמה, מי נשאר?

Anthropic לא ניסתה לקבוע מדיניות ביטחונית. היא ניסתה להגן על הציבור מפני שימוש לא מבוקר בטכנולוגיה שהיא עצמה מכירה את המגבלות שלה טוב מכל אחד אחר. מומחים משפטיים ב-Lawfare טוענים שהסיווג של הפנטגון “לא ישרוד מגע ראשון עם המערכת המשפטית.”

והציבור? הציבור הצביע ברגליים. Claude קפצה למקום מספר 1 באפ סטור, הדיחה את ChatGPT, ומשתמשים הפיצו קמפיין “Cancel ChatGPT” ברחבי הרשת. הרשמות יומיות ל-Claude קפצו פי 4.

הלקח הכי חשוב: אל תהיו תלויים בשום דבר

וכאן אנחנו מגיעים לנקודה שנוגעת ישירות לכל מי שעובד עם AI, בישראל ובכל מקום אחר.

הסיפור של Anthropic מול הפנטגון הוא תזכורת חדה למה שאנחנו בעצם יודעים אבל לא תמיד מפנימים: שוק ה-AI הוא דינמי, בלתי צפוי, ולפעמים אלים. החלטה של פוליטיקאי אחד ביום שישי אחרי הצהריים יכולה להפוך מוצר שאתם סומכים עליו ללא זמין בן לילה.

מה שקרה ל-Anthropic מול הממשל האמריקאי יכול לקרות לכל מודל, לכל פלטפורמה, לכל ספק. אולי לא בגלל סכסוך צבאי, אולי בגלל רגולציה אירופית, סנקציות, שינוי מדיניות תמחור, או סתם החלטה עסקית לסגור שירות.

ובואו נהיה ישירים: אם כל היכולת שלכם בעולם ה-AI תלויה במוצר אחד, בין אם זה Claude, ChatGPT, Gemini, או כל דבר אחר, אתם בבעיה. לא אולי. בוודאות.

הגישה הנכונה, זו שתשרוד את כל הטלטלות, היא לפתח חשיבה ביקורתית ויכולות עצמאיות:

• להכיר מספר מודלים ופלטפורמות, לא לשים את כל הביצים בסל אחד
• להבין את העקרונות מאחורי הכלים, לא רק לדעת ללחוץ על כפתורים
• לשאול שאלות קשות על כל טכנולוגיה, מי עומד מאחוריה, מה המגבלות שלה, מה הסיכונים
• לזכור שאתם ה-Human in the Loop, הבינה המלאכותית היא כלי, ואתם אלה שמפעילים אותו

השורה התחתונה

הסיפור של Anthropic מול הפנטגון הוא לא סוף, הוא התחלה. התחלה של עידן שבו השאלות על AI, ביטחון, אתיקה וריבונות טכנולוגית יהפכו מתיאורטיות למעשיות מאוד. המדינות עוד לא מוכנות, הרגולציה עוד לא בשלה, והחברות נמצאות בין הפטיש לסדן.

מה שאנחנו כן יכולים לשלוט בו הוא ההכנה שלנו. ללמוד, להתנסות, לגוון את הכלים, ולשמור על חשיבה עצמאית. כי בסוף, בעולם שבו מודל AI יכול להפוך מכלי עבודה מרכזי לסיכון ביטחוני בהחלטה אחת, הנכס הכי חשוב שלכם הוא לא הטכנולוגיה. זה אתם.