גברתי היושבת-ראש, כנסת נכבדה, אלה היו הבחירות הראשונות של מדינת ישראל – אם אפשר, אני פשוט - - -
אלה יהיו הבחירות הראשונות של מדינת ישראל בעידן הבינה המלאכותית. בפעם הראשונה בתולדות המדינה תתקיים מערכת בחירות כשאף אחד כבר לא באמת יודע אם מה שהוא רואה, שומע או קורא הוא אמיתי. מהפכת ה-AI וההתפתחות שלה משנות מן היסוד את המרחב הציבורי, החברתי והפוליטי. אלא שלצד ההזדמנויות יוצאות הדופן שהחדשנות הטכנולוגית טומנת בחובה, ניצבים בפני הציבור הישראלי גם איומים חסרי תקדים. טכנולוגיות ה-AI מאפשרות כיום ייצור תכנים מהיר ומגוון, כמו תמונות, טקסטים, סרטונים, קובצי וידיאו ושמע, והכול באיכות גבוהה מאוד, עד כדי כך שקשה ולעיתים בלתי אפשרי להבחין אם הם אמיתיים. נוסף לכך הבינה המלאכותית מאפשרת הפצה המונית של תכנים מותאמים אישית לקהלי יעד שונים, תוך יצירת מצגי שווא של שיחות והתכתבויות אותנטיות, וכן הפעלת שיטות טכנולוגיות נוספות שבכוחן ליצור תודעה כוזבת.
חוק הבחירות שמונח בפנינו אומנם לא מתעלם לחלוטין מהמציאות החדשה שלפנינו, והוא עושה צעד הכרחי לכיוונה – הכרחי, אבל לא מספיק. היום מעל דוכן הכנסת אני מבקש להתריע בפני אזרחי ישראל כי חוק הבחירות אינו מעניק מענה מספק לאתגר הענק שעומד בפנינו במערכת הבחירות הזאת ביחס לסכנות הפגיעה בטוהר הבחירות שמביאה עימה הבינה המלאכותית. החוק מתייחס בעיקר לדיפ פייק, או בשמו העברי החדש "נחזות עמוקה", ומחייב לסמן תוצרי תעמולה שנוצרו באמצעות בינה מלאכותית. לצערי, לא די בכך. מי שחושב שבינה מלאכותית מסתכמת בדיפ פייק, נלחם במלחמה של אתמול. היום אפשר להפעיל אלפי סוכני AI שייראו כמו אזרחים אמיתיים. הם מגיבים, משתפים, מתווכחים, יוצרים תחושה של דעת קהל, אבל אין שם קהל, יש שם קוד. היום אפשר לייצר מסרים שונים לכל אזרח לפי הפחדים שלו, לפי ההעדפות שלו, לפי כל מה שהמערכת כבר יודעת עליו; לא קמפיין אחד – מיליוני קמפיינים, אחד לכל בוחר. וכשכל אחד חי במציאות דיגיטלית אחרת, כבר קשה לדבר על שיח ציבורי משותף. אבל אם זה היה נגמר בזה, עוד היינו יכולים להתמודד. הבעיה היא שיש מי שמבקש להשתמש בטכנולוגיות האלה נגד מדינת ישראל, להנדס את התודעה, לגרום לנו להפסיק להאמין אחד לשני, להעמיק שסעים, לערער את אמון הציבור לא רק בממשלה, לא רק בכנסת, אלא בדמוקרטיה עצמה.
וזו כבר לא השערה. מבקר המדינה קבע בדוח שפורסם השנה כי כמעט תשע שנים אחרי שזוהתה לראשונה תופעת ההשפעה הזרה במרחב הדיגיטלי, עדיין אין למדינת ישראל מדיניות לאומית מסודרת ואין גוף אחד שמוביל את ההתמודדות. תחשבו על האבסורד: למדינת ישראל יש את חיל האוויר מהטובים בעולם, שמגן על השמיים, מערכות הגנה שמגינות מפני טילים, חיל הים שמגן על הגבולות הימיים, מערכות מתוחכמות שמגינות מפני מתקפות סייבר, אבל מי מגן על התודעה של אזרחי ישראל? מי אחראי לכך שמדינה זרה לא תנהל כאן קמפיין השפעה סמוי באמצעות בינה מלאכותית? התשובה נכון להיום היא שאף אחד.
לכן, לצד אישור החוק, אסור לנו לחשוב שסיימנו את העבודה. זו רק תחילת הדרך. אנחנו צריכים לגבש מדיניות לאומית להתמודד עם השפעה זרה. אנחנו צריכים כלים שיתמודדו גם עם סוכני AI, עם רשתות בוטים עם מניפולציות מתוחכמות שלא נראו פה בעבר. אנחנו חייבים להשקיע באוריינות דיגיטלית, בהסברה, בהנגשת הטכנולוגיות, כי גם החוק הטוב ביותר לא יצליח להגן על אזרח שלא יודע לזהות מניפולציה.
גברתי היושבת-ראש, פעם החשש הגדול היה שמישהו יזייף את פתקי ההצבעה, והיום החשש הוא שמישהו יזייף את המציאות של הבוחר. על הקלפיות כבר למדנו להגן; עכשיו הגיע הזמן להגן גם על מה שקורה לפני שהאזרח מגיע אליהן, כי הדמוקרטיה לא מתחילה בקלפי – היא מתחילה בתודעה, ועליה אנחנו חייבים לשמור. תודה רבה.
551 מילים של עוז חיים. הטקסט מתוך "דברי הכנסת"; קריאות ביניים ודברי היושב־ראש מוצגים במקום שבו קטעו את הנאום, בשוליים. הנוסח המלא בפרוטוקול הרשמי.