"בסופו של דבר הכול אישי, התחלנו את המיזם הזה בעיקר בגלל שאנחנו הורים חרדתיים לילדים שלנו. כששומעים כל הזמן בחדשות על כל המקרים שבהם ילדים נפגעו מינית, עברו חרמות או אפילו התאבדו, אי אפשר להישאר אדישים".
4 צפייה בגלריה
"מערכת הבינה המלאכותית מזהה הקשרים: בריונות, שיח מיני מוקדם ועוד"
(אילוסטרציה: שאטרסטוק)
קראו גם:
אחרי לילות בלי שינה, ומאות בדיקות של מקרים אמיתיים, השבוע משחררים לעולם אריק אייזקוביץ' (49) ויריב הרוש (44), שני יזמים מהרצליה, את Kippy (קיפי). מערכת חכמה, מבוססת בינה מלאכותית, שסורקת את ה־WhatsApp של הילדים ומתריעה להורה רק כשיש משהו שחשוב לדעת עליו. אז רגע לפני פתיחת שנת הלימודים, קבלו את אחת היוזמות החשובות ביותר שיצאו בשנים האחרונות, שאמורה לשמור על הילדים של כולנו גם כשהם מחוץ לכיתה.
סכנה בוואטסאפ
"תמיד לימדו אותנו להיזהר מהסכנות ברשת. אבל כמעט אף אחד לא לימד אותנו להיזהר מהסכנות שמסתתרות בווטסאפ של הילדים שלנו", אומרים הרוש ואייזקוביץ', ערב השקת המיזם שיצרו, "אנחנו שנינו נשואים ואבות לילדים, כל אחד הוא יזם ואיש עסקים בתחומו, שממש לא היה לו קשר להייטק, אפליקציות וכל עולם הבינה המלאכותית. אנשי משפחה סטנדרטיים שעובדים קשה לפרנסתם, אומנם עם רוח יזמית, זה נכון. אבל לא מעבר".
אז מה למעשה הביא אתכם לפתח את המיזם?
"כולנו שמענו על הילד שההורים שלו התעוררו לקול דפיקות המשטרה, כי גורמים איראניים יצרו איתו קשר, או על הילד שקפץ אל מותו אחרי שחרם אכזרי בבית הספר ריסק אותו נפשית.
"לצערנו, יש אלפי מקרים כאלה. חלקם קורים ממש עכשיו ואתם אפילו לא מודעים אליהם. לא בגלל שאתם הורים לא טובים, כי החיים קורים, ולמי באמת יש זמן לעבור הודעה־הודעה בווטסאפ של הילדים רק כדי לוודא שהכול בסדר? האמת, זה כמעט בלתי אפשרי. זו עבודה של צוות שלם, רק על טלפון אחד".
וכאן נכנסתם לתמונה?
יריב: "כהורה חרדתי, ישבתי וחשבתי איך אפשר להפוך את הסביבה שלי לבטוחה יותר. ביחד עם השותף שלי אריק, ישבנו שעות על גבי שעות, כדי למצוא פתרון שישמור על הפרטיות של הילדים, אבל גם ייתן לנו ההורים שקט נפשי לדעת שהכול בסדר. וכך הוצאנו את קיפי. זו מערכת חכמה, מבוססת בינה מלאכותית, שסורקת את הווטסאפ של הילדים ומתריעה להורה רק כשיש משהו שחשוב לדעת עליו. המערכת מבינה את ההקשר ולא מקפיצה התראה על כל מילה. ככה אתם לא מוצפים בהתראות, אלא מקבלים התראה רק כשהדבר באמת מצריך התערבות הורית".
"חופש פעולה"
במה זה שונה מאפליקציות אחרות?
"רוב הפתרונות הקיימים מתמקדים בחסימת גישה, מיקום והגבלות על הילד, דבר שפוגע באמון, מגביל את החופש שלו ולעיתים אפילו גורם לו למצוא דרכים לעקוף את המערכת. אנחנו לא מאמינים בזה, ולכן יצרנו את המערכת הזו שבעצם, לא מגבילה אלא להיפך, נותנת לילדים חופש פעולה מלא, ומתריעה להורה רק כשיש משהו שבאמת חשוב לדעת עליו".
כיצד זה עובד?
"מערכת הבינה המלאכותית מזהה הקשרים: בריונות, לחץ חברתי, פנייה מזרים, שיח מיני מוקדם ועוד. זאת כדי לצמצם אזעקות שווא, כלומר נניח היא מזהה אלף מילים 'רעות', כמו רצח, איברי מין, סקס, קללות וכדומה. באותו רגע היא נכנסת לתהליך שנקרא 'ריווויו'. היא לא מתריעה, אלא חוזרת אחורה, ומתחילה להבין את ההקשר של השיחה, את הטונציה של השיח בקבוצה, במידה ויש הקשר ברור, היא שולחת התרעה, אנחנו בודקים אותה ובמידה והיא אכן מצביעה בבירור על בעיה נשלח התראה להורה. נאמר לו כי כדי שידבר עם הילד על הצבת גבולות וכדומה, במידה והמידע עדיין לא ודאי במאה אחוזים.
"דוגמה נוספת: נניח ואנחנו רואים שילדה מתבקשת לשלוח תמונה חושפנית, וההקשר של השיחה לא ברור כל כך אם זה בהומור, או בכעס אז אנחנו ממתינים לתגובה. אם זה 'חחח' או אימוג'י שדומה, אנחנו מדלגים. אבל במידה ואנחנו רואים שהילדה משתכנעת, נניח היא מגיבה 'רגע, אני הולכת לבדוק מה יותר טוב', אנחנו שולחים התראה להורה".
חשיבות הפרטיות
אתם קוראים את כל ההודעות?
"לא. המערכת לא מציגה להורה את תוכן השיחות ואינה שומרת את ההודעות המלאות. המערכת מזהה כאמור רק הקשר של שיח בעייתי (בריונות, פנייה מזרים, שיח מיני מוקדם וכדומה) באמצעות AI, ושולחת התרעה רק כשיש משהו שמצריך התערבות הורית. עבורנו, פרטיות הילד קודמת לכל. המערכת גם יכולה לפעול שהאינטרנט או הטלפון כבויים, וניתן לנטר בו זמנית כמה ילדים מבני המשפחה".
השבוע כאמור, הרוש ואייזקוביץ' משיקים את התוכנית שנמצאת כבר בהרצה כאשר כבר כעת התחברו אליה מאות משפחות, והם לא מסתירים את גאוותם: "ברמה האישית, זה אחד המיזמים הכי מרגשים שיצא לנו לעבוד עליהם. ואם בזכות המיזם הזה נמנע אסון אחד – מבחינתנו, עשינו את שלנו".
