מירוץ ה-AI: לעצור כדי לבדוק, או לרוץ כדי לא להישאר מאחור?

מומלץ לקרוא קודם את המלחמה הקרה החדשה?, שם ראינו מה כל צד רוצה ובאילו כלים. כאן עוברים מהמדינות לשאלה שמעסיקה גם את מי שבונה את המודלים עצמם: כמה מהר לנסוע.

הכול כאן נכון ל-29.10.2026.

יום ראשון בבוקר. בעל עסק פותח את הצ'אט שהוא עובד איתו כל יום, והתשובות נראות קצת אחרת. שוב יצאה גרסה חדשה.

באותו שבוע הוא קורא שתי כותרות. באחת, חוקרים בכירים מזהירים שהטכנולוגיה מתקדמת מהר מדי. בשנייה, ממשלה מודיעה שהמטרה היא לנצח במירוץ.

אז מה נכון? לרוץ, או לעצור?

זה לא מקרה שהכותרות סותרות זו את זו. הן שני צדדים של אותה שאלה. בואו נעשה סדר.

שני נהגים בכביש צר בלילה

תדמיינו כביש צר, בלי תאורה, עם פניות. שתי מכוניות נוסעות בו, אחת ליד השנייה, לאותו יעד.

ולמה למהר? כי ביעד מחכה משהו שאנשים צריכים, ומי שמגיע ראשון גם קובע את הדרך למי שבא אחריו.

הנהג הראשון מאט. בכל פנייה יש לו עוד רגע לראות מה מחכה. אם יש אבן על הכביש, הוא יספיק לעצור. אבל המכונית השנייה מתרחקת ממנו.

הנהג השני מאיץ. הוא יגיע ראשון. אבל בכל פנייה יש לו פחות זמן להבין מה רואים הפנסים שלו.

מי מהם צודק? זו בדיוק השאלה שעליה מתווכחים היום אנשים שבונים בינה מלאכותית, משקיעים בה וקובעים לה כללים.

למה קשה להאט לבד

נשאל את הנהג הראשון: למה אתה לא פשוט מאט?

הוא יענה: "אני מוכן להאט. אבל אם רק אני מאט, השני יגיע ראשון, ואני אשאר מאחור. אז אני ממשיך במהירות שלו."

והנהג השני יענה בדיוק אותו דבר.

יש כאן ארבע אפשרויות. אם שניהם מאטים, שניהם רואים את הדרך, ושניהם מגיעים ליעד מאוחר יותר. אם רק אתם מאטים, אתם בטוחים יותר, אבל נשארים מאחור.

אם רק אתם מאיצים, אתם מקדימים, ורואים פחות. ואם שניהם מאיצים, אף אחד לא מקדים באמת, ושניהם רואים פחות.

כשאין ביניהם הסכמה, כל אחד מהם נמשך להאיץ. לא כי הוא רוצה סיכון, אלא כי הוא לא רוצה להיות היחיד שמאט.

ומי הנהג השני? תלוי את מי שואלים.

לחברת AI, הנהג השני הוא חברה מתחרה, שתשחרר מודל טוב יותר ותיקח את הלקוחות. לממשלה, הנהג השני הוא מדינה אחרת, ויש ממשלות שכותבות את המילה "מירוץ" במפורש במסמכים שלהן.

אוהבים חידות היגיון? לחצו כאן: לבעיה של הנהגים יש שם, והיא מוכרת הרבה לפני ה-AI.

לזה קוראים "דילמת האסיר", מושג מתורת קבלת ההחלטות: שני צדדים, שכל אחד מהם היה מרוויח אם שניהם יוותרו, אבל כל אחד לבד מפסיד אם רק הוא מוותר. ולכן, בלי דרך לסמוך זה על זה, שניהם בוחרים במה שפחות טוב לשניהם.

הפתרון שאנשים מצאו בהרבה תחומים הוא לא לשכנע צד אחד לוותר, אלא לבנות דרך לסמוך: הסכם, כללים שחלים על כולם, ובדיקה שכולם באמת עומדים בהם. בכביש שלנו, זה תמרור שחל על שני הנהגים, ומצלמה שבודקת את שניהם.

ולכן חלק גדול מהוויכוח על AI מתנהל בפסגות בין מדינות ובהתחייבויות של חברות, ולא רק בין חוקרים.

ממה בכלל חוששים כשאומרים "יוצא מכלל שליטה"?

המילים "יוצא מכלל שליטה" נשמעות כמו סרט. אבל במסמכים הרשמיים הן הרבה יותר יבשות. נעלה בהן מדרגה אחרי מדרגה.

המדרגה הראשונה: תוכנה שגם מי שבנה אותה לא יודע להסביר

מודל שפה, התוכנה שמאחורי הצ'אטים, לא נכתב שורה אחרי שורה כמו תוכנה רגילה. הוא למד מכמויות עצומות של טקסט, ומה שלמד שמור בתוכו כמיליארדי מספרים.

לכן מי שבנה אותו יודע איך הוא עובד באופן כללי, אבל לא תמיד יודע למה הוא כתב תשובה מסוימת.

את זה כותב דווקא המסמך שקורא לנצח במירוץ: תוכנית ה-AI של הבית הלבן מיולי 2025. לפי המסמך, היום מבינים רק מעט ממה שקורה בתוך המערכות המתקדמות, וקשה לחזות איך מערכת מסוימת תתנהג.

בכביש שלנו, זה נהג שמכיר את המכונית, אבל לא תמיד יודע לאן היא תפנה בעיקול הבא.

מקור: הבית הלבן, "Winning the Race: America's AI Action Plan", 23.7.2025, פרק Invest in AI Interpretability, Control, and Robustness Breakthroughs (Today, the inner workings of frontier AI systems are poorly understood. Technologists know how LLMs work at a high level, but often cannot explain why a model produced a specific output. This can make it hard to predict the behavior of any specific AI system.). נבדק ב-29.10.2026. למסמך של הבית הלבן (באנגלית, PDF), נפתח בחלון חדש

המדרגה השנייה: מישהו משתמש בה לרעה

המדרגה השנייה כבר לא עוסקת בתוכנה עצמה, אלא במי שמחזיק אותה.

בנובמבר 2023 חתמו 28 מדינות והאיחוד האירופי, ביניהן ארצות הברית, סין וישראל, על הצהרה משותפת, הצהרת בלצ'לי. באוקטובר 2024 הצטרפה עוד אחת.

הם כתבו שהם מודאגים במיוחד משלושה תחומים: פריצות למחשבים, ביולוגיה, ומידע כוזב שמתפשט. ומיד אחר כך:

"יש פוטנציאל לנזק חמור, ואפילו הרסני, בכוונה או שלא בכוונה, שנובע מהיכולות המשמעותיות ביותר של מודלי ה-AI האלה."

זו הערכה של המדינות שחתמו, לא נזק שנמדד. ובכביש שלנו, זה כבר לא הנהג. זה מי שעלול לקחת את המכונית.

מקור: ממשלת בריטניה, "The Bletchley Declaration by Countries Attending the AI Safety Summit, 1-2 November 2023", פורסם 1.11.2023 (We are especially concerned by such risks in domains such as cybersecurity and biotechnology, as well as where frontier AI systems may amplify risks such as disinformation. There is potential for serious, even catastrophic, harm, either deliberate or unintentional, stemming from the most significant capabilities of these AI models.). "הרסני" הוא התרגום שלנו ל-catastrophic. רשימת החותמות באותו עמוד, כולל ההצטרפות מאוקטובר 2024 (New Zealand, 23.10.2024). נבדק ב-29.10.2026. להצהרה (באנגלית), נפתח בחלון חדש

רוצים לשמוע את הדאגה לטווח הרחוק? לחצו כאן: מה אמר זוכה פרס נובל בטקס עצמו.

מעבר לשתי המדרגות האלה יש שאלה שעליה מדברים הרבה, ומתווכחים עוד יותר: מה יקרה אם ייבנו מערכות חכמות יותר מאיתנו.

ג'פרי הינטון זכה בפרס טיורינג לשנת 2018, ובפרס נובל לפיזיקה ב-2024, על יסודות הלמידה של מחשבים. בנאום שלו בסעודת הפרס, ב-10.12.2024, הוא אמר:

"יש גם איום קיומי לטווח ארוך יותר, שיגיע כשניצור ישויות דיגיטליות חכמות מאיתנו. אין לנו מושג אם נוכל להישאר בשליטה."

זו דעה, לא עובדה שנמדדה. ויש חוקרים בכירים לא פחות שחושבים אחרת, כמו יאן לקון, שקיבל איתו את פרס טיורינג.

מקור: ג'פרי הינטון, נאום בסעודת פרס נובל, 10.12.2024, באתר פרס נובל (There is also a longer term existential threat that will arise when we create digital beings that are more intelligent than ourselves. We have no idea whether we can stay in control.). נבדק ב-29.10.2026. לנאום (באנגלית), נפתח בחלון חדש

רוצים לדעת מה זה "לבדוק" מודל לפני שמשחררים אותו? לחצו כאן: חצי שנה של ניסיונות לשבור אותו.

לפני שחברה משחררת מודל חדש, היא מנסה לגלות מה הוא יודע לעשות, כולל דברים שאסור שיעשה. יש לזה שם: "צוות אדום" (red teaming). אנשים שתפקידם לנסות לגרום למודל לעשות את מה שאסור, כדי לתקן לפני שהוא יוצא לכולם.

כמה זמן זה לוקח? סם אלטמן, מנכ"ל אופן איי איי (OpenAI), החברה של צ'אט GPT, דיבר על זה בשימוע בסנאט האמריקאי במאי 2023.

לדבריו, לפני ששחררו את GPT-4, הגרסה החזקה ביותר של צ'אט GPT באותו זמן, הם השקיעו יותר משישה חודשים בבדיקות, כולל צוות אדום ובדיקות של יכולות מסוכנות.

שישה חודשים זה בערך הזמן שבין סוכות לפסח.

מקור: הפרוטוקול הרשמי של השימוע "Oversight of A.I.: Rules for Artificial Intelligence", ועדת המשפט של הסנאט, 16.5.2023 (S. Hrg. 118-37) (Before we released GPT-4, our latest model, we spent over 6 months conducting extensive evaluations, external red teaming, and dangerous capability testing.). נבדק ב-29.10.2026. לפרוטוקול (באנגלית), נפתח בחלון חדש

ומה מקווים שיקרה?

חשש הוא רק חצי מהתמונה. כדי להבין למה בכלל נוסעים בכביש הזה, צריך לדעת מה מחכה ביעד, לפי מי שממהר אליו.

אותה הצהרת בלצ'לי נפתחת דווקא בהזדמנות: לפי המדינות שחתמו, ל-AI יש פוטנציאל לשנות ולשפר את רווחת האדם, את השלום ואת השגשוג.

דריו אמודיי, מנכ"ל אנתרופיק (Anthropic), החברה של קלוד, כתב באוקטובר 2024 מאמר ארוך באתר שלו על מה ש-AI יכול להביא.

לדבריו, ביולוגיה ורפואה הן כנראה התחום שבו להתקדמות המדעית יש הכי הרבה פוטנציאל לשפר ישירות את איכות החיים, ו-AI יכול להאיץ בו מאוד את המחקר.

והמשקיע מרק אנדריסן (Marc Andreessen) כתב ב-2023 שהדרך הנכונה לחשוב על בינה מלאכותית היא כ"פותר בעיות אוניברסלי".

גם אלה דעות ותקוות, לא תוצאות שנמדדו. אבל הן מסבירות את הצד השני של המשל: ביעד יש משהו שאנשים רוצים להגיע אליו.

מקורות: הצהרת בלצ'לי, 1.11.2023 (Artificial Intelligence (AI) presents enormous global opportunities: it has the potential to transform and enhance human wellbeing, peace and prosperity.); דריו אמודיי, "Machines of Loving Grace", אוקטובר 2024 (Biology is probably the area where scientific progress has the greatest potential to directly and unambiguously improve the quality of human life.; AI-enabled biology and medicine will allow us to compress the progress that human biologists would have achieved); מרק אנדריסן, "The Techno-Optimist Manifesto", 16.10.2023 (We believe Artificial Intelligence is best thought of as a universal problem solver.). נבדקו ב-29.10.2026. למאמר של אמודיי (באנגלית), נפתח בחלון חדש למניפסט (באנגלית), נפתח בחלון חדש

הקול הראשון: "להאט, לבדוק, ואז להמשיך"

לפני שמקשיבים לקולות, הערה אחת שחלה על כולם: כל הציטוטים כאן הם דעות של מי שאמר אותן, לא עובדות שנמדדו.

במרץ 2023, כמה חודשים אחרי שצ'אט GPT יצא לכולם, פרסם מכון עתיד החיים (Future of Life Institute) מכתב פתוח. זה המשפט המרכזי בו:

"אנחנו קוראים לכל מעבדות ה-AI לעצור מיד, לפחות לשישה חודשים, את האימון של מערכות AI חזקות יותר מ-GPT-4."

GPT-4 הייתה אז הגרסה החזקה ביותר של צ'אט GPT. ושימו לב למה שהמכתב לא ביקש. באותו מכתב כתוב שזו לא עצירה של פיתוח ה-AI באופן כללי. הבקשה הייתה לעצור את המכוניות המהירות ביותר, ולנצל את הזמן כדי לכתוב יחד כללי בטיחות.

לפי האתר של המכון, חתמו עליו יותר מ-31,000 איש. כמה זה? בערך כמו כל התושבים של עיר קטנה בארץ. (ההשוואה היא שלנו.)

מקור: Future of Life Institute, "Pause Giant AI Experiments: An Open Letter", 22.3.2023 (We call on all AI labs to immediately pause for at least 6 months the training of AI systems more powerful than GPT-4; This does not mean a pause on AI development in general; AI labs and independent experts should use this pause to jointly develop and implement a set of shared safety protocols). מספר החתימות (31,810) כפי שהוא מוצג בעמוד. נבדק ב-29.10.2026. למכתב (באנגלית), נפתח בחלון חדש

חודשיים אחר כך, ב-30.5.2023, פרסם המרכז לבטיחות AI (Center for AI Safety) הצהרה של משפט אחד בלבד:

"הקטנת הסיכון להכחדה מצד AI צריכה להיות בעדיפות עולמית, לצד סיכונים אחרים בקנה מידה של חברה שלמה, כמו מגפות ומלחמה גרעינית."

המילה "הכחדה" היא שלהם, לא שלנו, וזו דעה, לא עובדה שנמדדה. והמעניין הוא מי חתם: בין השאר, ג'פרי הינטון, וגם המנכ"לים של שלוש מהחברות שבונות את המודלים המוכרים: סם אלטמן, דריו אמודיי, ודמיס הסאביס, מנכ"ל גוגל דיפמיינד (Google DeepMind).

כלומר, חלק מהחותמים על האזהרה נמצאים בעצמם מאחורי ההגה, במכוניות שמתחרות זו בזו.

מקורות: Center for AI Safety, "Statement on AI Risk" (Mitigating the risk of extinction from AI should be a global priority alongside other societal-scale risks such as pandemics and nuclear war.), ורשימת החותמים באותו עמוד (Demis Hassabis, CEO, Google DeepMind); הודעה לעיתונות של המרכז (For immediate release: May 30, 2023). נבדקו ב-29.10.2026. להצהרה (באנגלית), נפתח בחלון חדש להודעה לעיתונות (באנגלית), נפתח בחלון חדש

הקול השני: "מי שמאט, נשאר מאחור"

הקול השני לא אומר שאין סיכונים. הוא אומר שגם להאט יש מחיר, ושלפעמים הוא גבוה יותר.

במניפסט שפרסם באוקטובר 2023, "המניפסט של האופטימיסט הטכנולוגי", כתב מרק אנדריסן:

"אנחנו מאמינים שבינה מלאכותית יכולה להציל חיים, אם ניתן לה. [...] אנחנו מאמינים שכל האטה של AI תעלה בחיי אדם."

גם זו דעה, לא עובדה שנמדדה. במילים של הכביש: לפי הקול הזה, מי שמאט לא רק נשאר מאחור. הוא גם מאחר את מה שמחכה ביעד, תרופות, מחקר ועבודה.

מקור: מרק אנדריסן, "The Techno-Optimist Manifesto", באתר a16z, 16.10.2023 (We believe Artificial Intelligence can save lives – if we let it.; We believe any deceleration of AI will cost lives.). נבדק ב-29.10.2026. למניפסט (באנגלית), נפתח בחלון חדש

חוקר אחד מחזיק בקול הזה בצורה מעניינת במיוחד. יאן לקון קיבל את פרס טיורינג לשנת 2018 (הוכרז ב-2019), שמכונה לפעמים "פרס נובל של המחשוב", יחד עם ג'פרי הינטון. אותו פרס, ותשובה אחרת.

בספטמבר 2023, כשעוד היה המדען הראשי ל-AI במטא (Meta), הוא אמר בוועדת המודיעין של הסנאט:

"דרך אחת להתחיל לטפל בבטיחות ובנגישות היא שיתוף פתוח של הטכנולוגיה הקיימת ושל המידע המדעי. [...] כך טכנולוגיית ה-AI תתקדם מהר יותר, אמינה יותר ובטוחה יותר."

כלומר, לפי לקון, המהירות והבטיחות לא נמצאות בהכרח בשני קצוות. כשהרבה אנשים רואים את אותה מכונית, יותר עיניים מגלות את האבן בכביש.

מקורות: הפרוטוקול הרשמי של השימוע בוועדת המודיעין של הסנאט, 19.9.2023 (S. Hrg. 118-118) (The first one is safety, and the second one is access. One way to start to address both of these issues is through the open sharing of current technology and scientific information.; Through this collaborative effort, AI technology will progress faster, more reliably, and more securely.); ACM, הודעה לעיתונות, 27.3.2019 (ACM, the Association for Computing Machinery, today named Yoshua Bengio, Geoffrey Hinton, and Yann LeCun recipients of the 2018 ACM A.M. Turing Award; often referred to as the "Nobel Prize of Computing"). נבדקו ב-29.10.2026. לפרוטוקול (באנגלית), נפתח בחלון חדש להודעה על הפרס (באנגלית), נפתח בחלון חדש

וב-2025 הקול הזה נשמע גם בנאומים ובמסמכים של ממשלות. בפסגת ה-AI בפריז, ב-11.2.2025, אמר סגן נשיא ארצות הברית, ג'יי די ואנס (J.D. Vance):

"את עתיד ה-AI לא ינצחו בהתלבטויות סביב בטיחות. ינצחו אותו בבנייה, מתחנות כוח אמינות ועד מפעלים שייצרו את השבבים של העתיד."

ובתוכנית ה-AI של הבית הלבן, שפורסמה ב-23.7.2025, המשפט הראשון בהקדמה הוא:

"ארצות הברית נמצאת במירוץ להשגת עליונות עולמית בבינה מלאכותית. [...] הכרחי שארצות הברית ובעלות בריתה ינצחו במירוץ הזה."

וזוכרים את המדרגה הראשונה, התוכנה שקשה להסביר? באותה תוכנית יש גם פרק שלם על מחקר שיעזור להבין ולשלוט במערכות, ופרק על בניית מערך של בדיקות. לפי התוכנית, את הפנסים בונים תוך כדי נסיעה.

מקורות: ג'יי די ואנס, נאום בפסגת ה-AI בפריז, 11.2.2025, בארכיון הנשיאות של אוניברסיטת קליפורניה בסנטה ברברה (The AI future is not going to be won by hand-wringing about safety. It will be won by building -- from reliable power plants to the manufacturing facilities that can produce the chips of the future.); הבית הלבן, "Winning the Race: America's AI Action Plan", 23.7.2025 (The United States is in a race to achieve global dominance in artificial intelligence (AI).; it is imperative that the United States and its allies win this race; כותרות הפרקים: Invest in AI Interpretability, Control, and Robustness Breakthroughs, Build an AI Evaluations Ecosystem); הבית הלבן, הודעה על פרסום התוכנית (The White House today released "Winning the AI Race: America's AI Action Plan"). נבדקו ב-29.10.2026. לנאום (באנגלית), נפתח בחלון חדש לתוכנית (באנגלית, PDF), נפתח בחלון חדש

הקול השלישי: מי שמחזיק בשני הצדדים

ויש מי שלא בוחר צד אחד. דווקא חלק מהנהגים עצמם.

קחו את סם אלטמן, מנכ"ל אופן איי איי. במאי 2023, בשימוע בסנאט, הוא אמר:

"אני חושב שאם הטכנולוגיה הזאת משתבשת, היא יכולה להשתבש מאוד, ואנחנו רוצים לומר את זה בקול. אנחנו רוצים לעבוד עם הממשלה כדי למנוע את זה."

שנתיים אחר כך, במאי 2025, בשימוע אחר בסנאט, שנקרא "לנצח במירוץ ה-AI", הוא דיבר על בניית מרכזי מחשוב גדולים, ואמר:

"אנחנו חייבים לעשות את זה טוב מאוד בארצות הברית, כדי שנוכל להמשיך לחדש, להמשיך להוביל, ולהמשיך לעצב את המהפכה הזאת."

אותו אדם, אותו מקום, שתי הדגשות. וכבר בשימוע של 2023 הוא אמר את שני הדברים יחד: שהתערבות של ממשלות חיונית כדי להקטין את הסיכונים, ושהובלה אמריקאית חיונית.

מקורות: הפרוטוקול הרשמי של השימוע "Oversight of A.I.: Rules for Artificial Intelligence", 16.5.2023 (S. Hrg. 118-37) (I think if this technology goes wrong, it can go quite wrong, and we want to be vocal about that. We want to work with the Government to prevent that from happening.; we think that regulatory intervention by governments will be critical to mitigate the risks of increasingly powerful models; this means that U.S. leadership is critical); הפרוטוקול הרשמי של השימוע "Winning the AI Race: Strengthening U.S. Capabilities in Computing and Innovation", ועדת המסחר של הסנאט, 8.5.2025 (S. Hrg. 119-143) (We have got to do that really well in the U.S. so that we can continue to innovate, continue to lead, and continue to, sort of, shape this revolution.). נבדקו ב-29.10.2026. לפרוטוקול של 2023 (באנגלית), נפתח בחלון חדש לפרוטוקול של 2025 (באנגלית, PDF), נפתח בחלון חדש

ובאותו מאמר של דריו אמודיי, מאוקטובר 2024, יש משפט אחד שמחזיק את שני הצדדים:

"אני חושב שרוב האנשים לא מעריכים עד כמה הצד הטוב של AI יכול להיות קיצוני, בדיוק כמו שאני חושב שרוב האנשים לא מעריכים עד כמה הסיכונים יכולים להיות גרועים."

זו לא בהכרח סתירה. במשל שלנו, זה נהג שאומר: היעד שווה את הנסיעה, והכביש מסוכן. שני הדברים נכונים לדעתו, ולכן הוא מבקש גם להתקדם וגם פנסים.

מקור: דריו אמודיי, "Machines of Loving Grace", אוקטובר 2024 (I think that most people are underestimating just how radical the upside of AI could be, just as I think most people are underestimating how bad the risks could be.). נבדק ב-29.10.2026. למאמר (באנגלית), נפתח בחלון חדש

שני הקולות, זה מול זה

עכשיו שמעתם את כולם. בהדגמה הבאה הם יושבים זה מול זה, בשני טורים שווים: מימין מי שאומרים "לבדוק לפני שממשיכים", משמאל מי שאומרים "להמשיך מהר". בכל לחיצה מופיע ציטוט אחד מכל צד, עם שם, תפקיד ותאריך.

נסו בעצמכם: לחצו על "הזוג הבא" ועברו על כל הזוגות. בכל זוג שאלו את עצמכם: ממה כל צד חושש?

מה ראיתם? כמעט באף זוג אף צד לא אומר "אין סיכון" או "אין תועלת". מי שמבקש להאט מדבר על נזק שלא יהיה אפשר לתקן. מי שמבקש להאיץ מדבר על תועלת שתתעכב, ועל מי שיגיע ראשון.

וראיתם גם אדם אחד בשני הטורים. המחלוקת עוברת לא רק בין אנשים, אלא לפעמים גם בתוך אותו אדם.

ומה עשו בפועל?

ויכוח זה דבר אחד. אבל ממשלות וחברות גם חתמו על דברים. ומה שכדאי לקחת מהרשימה: בפסגות חתמו בעיקר על הצהרות משותפות ועל התחייבויות של חברות, ואת החוקים והתוכניות עצמם כל מקום כותב בנפרד.

הנה העובדות, לפי הסדר, בלי לקבוע מה מהן טוב יותר.

פסגות בין מדינות: הנהגים מדברים בתחנת הדלק

1. בלצ'לי, בריטניה, 1-2.11.2023. ההצהרה מהמדרגה השנייה. חתמו 28 מדינות והאיחוד האירופי, ביניהן ארצות הברית, סין וישראל (ובאוקטובר 2024 הצטרפה עוד אחת).
2. סיאול, דרום קוריאה, 21.5.2024. הפעם התחייבו חברות. בהתחלה הסכימו 16 חברות, ובהמשך נוספו עוד ארבע. ביניהן אופן איי איי, אנתרופיק, גוגל, מטא, מיקרוסופט, וג'יפו AI (Zhipu AI) מבייג'ינג.

   כל חברה התחייבה לקבוע מראש קו שמעליו הסיכון לא יתקבל. ובמקרה הקיצוני, לא לפתח או לא לשחרר מודל בכלל, אם אי אפשר להוריד את הסיכון מתחת לקו.

רוצים לדעת מה קרה בשתי הפסגות האחרונות? לחצו כאן: פריז 2025 וניו דלהי 2026.

פריז, צרפת, 10-11.2.2025. ההצהרה עסקה בעיקר בנגישות, בפיתוח ובשיתוף פעולה, וגם בכך שה-AI יהיה בטוח ואמין. סין חתמה. ארצות הברית ובריטניה לא חתמו. באותה פסגה נשא ואנס את הנאום שציטטנו.

ניו דלהי, הודו, 18-19.2.2026. ההצהרה עוסקת בהשפעה של AI על כלכלה וחברה, ואחד מעמודי התווך שלה הוא "AI בטוח ואמין". לפי ממשלת הודו, חתמו עליה 92 מדינות וארגונים, ובהם ארצות הברית וסין.

מקורות: ממשלת בריטניה, הצהרת בלצ'לי ורשימת החותמות, 1.11.2023; ממשלת בריטניה, "Frontier AI Safety Commitments, AI Seoul Summit 2024", פורסם 21.5.2024, עודכן 7.2.2025 (Set out thresholds [...] at which severe risks posed by a model or system, unless adequately mitigated, would be deemed intolerable; In the extreme, organisations commit not to develop or deploy a model or system at all, if mitigations cannot be applied to keep risks below the thresholds); ג'יפו AI, אתר החברה (Haidian District, Beijing, China); נשיאות צרפת, "Statement on Inclusive and Sustainable Artificial Intelligence for People and the Planet", 11.2.2025, ורשימת החותמות (Ensuring AI is open, inclusive, transparent, ethical, safe, secure and trustworthy); לשכת העיתונות של ממשלת הודו (PIB), 21.2.2026 (The Declaration has been endorsed by 92 countries and international organisations; עמוד התווך Secure & Trusted AI; ברשימה: China, USA). נבדקו ב-29.10.2026. להתחייבויות סיאול (באנגלית), נפתח בחלון חדש להצהרת פריז (באנגלית), נפתח בחלון חדש להצהרת ניו דלהי (באנגלית), נפתח בחלון חדש

חוקים ותוכניות: התמרורים

האיחוד האירופי. לחוק ה-AI האירופי יש רמות סיכון. מסנן דואר זבל כמעט בלי חובות. מערכת רפואית עם דרישות מחמירות. ו"דירוג חברתי", כלומר מערכת שמדרגת אנשים לפי ההתנהגות שלהם וקובעת לפי זה איך יתייחסו אליהם, אסור.

החוק נכנס לתוקף ב-2024 ונכנס לפעולה בשלבים. ובקיץ 2026 נדחו חלק מהכללים בשנה-שנתיים: הכללים למערכות בסיכון גבוה בתחומים כמו תעסוקה, חינוך וגבולות, וגם למערכות שמשולבות במוצרים, כמו מעליות או צעצועים. התאריכים המדויקים בשורת המקור.

מקורות: הנציבות האירופית, "AI Act enters into force", 1.8.2024 (On 1 August 2024, the European Artificial Intelligence Act (AI Act) enters into force; ספאם, תוכנה רפואית ו-social scoring כדוגמאות לרמות הסיכון); הנציבות האירופית, "AI Act", עודכן 19.10.2026: האיסורים מ-2.2.2025 (prohibited AI practices and AI literacy obligations entered into application from 2 February 2025); המודלים הכלליים מ-2.8.2025 (the obligations for GPAI models became applicable on 2 August 2025); התיקון נכנס לתוקף ב-27.7.2026; מערכות בסיכון גבוה בתחומים רגישים (נספח 3 לחוק: למשל תעסוקה, חינוך, גבולות) נדחו ל-2.12.2027 (have been extended to 2 December 2027); מערכות בתוך מוצרים מוסדרים (נספח 1: למשל מעליות, צעצועים) ל-2.8.2028 (an extended transition period until 2 August 2028; systems integrated into products such as lifts or toys); הדוגמאות לתחומים מאותו עמוד (AI tools for employment; AI solutions used in education institutions; migration, asylum and border control management). נבדקו ב-29.10.2026. להודעה על כניסת החוק לתוקף (באנגלית), נפתח בחלון חדש ללוח הזמנים המעודכן (באנגלית), נפתח בחלון חדש

ארצות הברית. התוכנית מיולי 2025 שכבר הכרתם: מטרתה לנצח במירוץ, ויש בה גם פרקים על הבנה ובדיקה של מערכות.

סין. גם לסין יש יעד פיתוח מוצהר. בתוכנית של מועצת המדינה מ-2017 כתוב שעד 2030 סין תהפוך ל"מרכז החדשנות העיקרי בעולם בבינה מלאכותית".

ובמשרד החוץ הסיני פורסמו שני מסמכים על ניהול וכללים ל-AI. היוזמה העולמית לניהול AI, מאוקטובר 2023, כתבה שיש לקדם מערך של בדיקה והערכה לפי רמות הסיכון של AI, ושסין תומכת בדיון במסגרת האו"ם על הקמת מוסד בינלאומי שיפקח על AI.

ותוכנית הפעולה העולמית לניהול AI, מ-26.7.2025, נפתחת כך: ה-AI מביא הזדמנויות פיתוח חסרות תקדים, וגם סיכונים ואתגרים חסרי תקדים. לפי התוכנית, יש לערוך הערכות סיכון בזמן ולהציע צעדי מניעה ממוקדים.

מקורות: מועצת המדינה של סין, "新一代人工智能发展规划", 国发〔2017〕35号, 8.7.2017, פורסם 20.7.2017 (到2030年人工智能理论、技术与应用总体达到世界领先水平，成为世界主要人工智能创新中心), התרגום שלנו; שגרירות סין בישראל, "Global AI Governance Initiative (Full Text)", 24.10.2023 (We should promote the establishment of a testing and assessment system based on AI risk levels; We support discussions within the United Nations framework to establish an international institution to govern AI). העמוד המקביל באתר משרד החוץ הסיני לא נפתח בבדיקה; זה אותו נוסח מלא באתר השגרירות. משרד החוץ הסיני, "Global AI Governance Action Plan", 26.7.2025 (AI presents unprecedented opportunities for development, and it also brings unprecedented risks and challenges.; We need to conduct timely risk assessment of AI and propose targeted prevention and response measures). נבדקו ב-29.10.2026. לתוכנית של 2017 (בסינית), נפתח בחלון חדש ליוזמה (באנגלית), נפתח בחלון חדש לתוכנית הפעולה (באנגלית), נפתח בחלון חדש

בקריאה שלנו: אם תסתכלו על כל הרשימה יחד, תראו שני דברים. ההסכמה הרחבה היא על הצורך לבדוק ולהעריך סיכונים. המחלוקת היא על הקצב, ועל מי קובע את הכללים.

בכביש שלנו: כולם מסכימים שצריך פנסים. הוויכוח הוא כמה זמן מותר לעצור בשבילם, כי גם לעיכוב יש מחיר.

במשפט אחד

מירוץ ה-AI הוא שני נהגים בכביש צר בלילה: צד אחד אומר שמי שלא מאט כדי לבדוק עלול לא לראות את הסכנה, צד שני אומר שמי שמאט נשאר מאחור ומאחר את התועלת, ומכיוון שקשה להאט לבד, הוויכוח עובר לפסגות, להתחייבויות ולחוקים, שעדיין משתנים.

ומה זה נותן לבעל עסק?

פרשנות של צוות האתר

בעל עסק לא מכריע במירוץ הזה. אבל הוא נוסע באותו כביש, כי הכלים שהוא עובד איתם נבנים בתוך המירוץ.

ורוב הדאגות שבציטוטים עוסקות במערכות החזקות שבדרך, לא בשימוש היומיומי שלכם בצ'אט.

וזה מסביר את מה שראיתם ביום ראשון בבוקר. כשכל חברה חוששת להישאר מאחור, גרסאות חדשות יוצאות לעתים קרובות. וכשהכללים עוד נכתבים, גם הם זזים, כמו הכללים שנדחו בחוק האירופי.

גם כשהכללים עוד נכתבים, אתם כבר קובעים מה הכלי רואה מהעסק. אז מה כדאי לעשות עם זה?

1. לבנות כך שאפשר להחליף מודל. כי בכביש שבו כולם מאיצים, הכלי של היום יוחלף, ולפעמים ישתנה בלי שביקשתם. מה שחשוב הוא שהעבודה שלכם, ההוראות והקבצים, תעבור איתכם. על הקצב הזה יש מאמר מלא: למה מודל חי תקופה קצרה.
2. להחזיק בדיקה קטנה משלכם. כי כל גרסה חדשה עובדת קצת אחרת, ובדיקה קצרה ומהירה על המשימות שלכם מראה לכם מה השתנה. חמש משימות אמיתיות מהעסק, למשל סיכום שיחה עם לקוח או טיוטת הצעת מחיר, שמריצים על כל גרסה חדשה לפני שסומכים עליה.
3. לא לחכות שהוויכוח ייגמר. כי הוא לא ייגמר מחר. מה שבידיים שלכם היום הוא מה אתם נותנים לכלי לקרוא. על זה יש מדריך: מה לא להדביק בצ'אט.

הצעד הבא

אם עוד לא קראתם, המלחמה הקרה החדשה? מסביר מה כל מדינה רוצה ובאילו כלים היא משתמשת. המאמר הבא בסדרה, למה כל כך הרבה שבבים מיוצרים באי אחד, מספר על המפעלים שמייצרים את רוב השבבים המתקדמים בעולם.

ומי שרוצה להבין ממה עשוי המודל שעליו מתווכחים כולם, הטרנספורמר מסביר את המנוע שבתוך כל צ'אט, צעד אחרי צעד.