האחים פטריק וראיין קוגלין, שלכל אחד מהם קריירה מרשימה בתעשיית הטכנולוגיה (פטריק עבד בהגנה לאומית על סייבר, וב-Splunk וב-Cisco; וראיין עם מוצרי צריכה ב-Apple וב-Spotify), השיקו סטארט-אפ אבטחה מסוג חדש.

Savi Security שואפת להגן על אנשים רגילים מפני גל חדש של הונאות משכנעות במיוחד שנוצרו על ידי בינה מלאכותית, בין אם הן מגיעות דרך הודעות טקסט, דוא"ל או שיחות טלפון.

החברה גייסה זה עתה 7 מיליון דולר במימון סיד, ומשיקה את האפליקציה שלה לאייפון ואנדרואיד ביום שלישי. הסבב הובל על ידי Acrew Capital, בהשתתפות Magnify Ventures, TTCER ו-Resolute Ventures.

ההשראה לחברה הגיעה מאירוע מזעזע שקרה לאמם של המייסדים.

לפני כשנתיים, אמו של פטריק קוגלין התקשרה אליו במצוקה, ואמרה שזה עתה קיבלה שיחת טלפון מאדם שאמר שחטף את אחותו של קוגלין. הוא היה סגן נשיא בכיר למוצרי אבטחה ב-Cisco באותה עת. (הוא הגיע לשם לאחר ש-Splunk רכשה את סטארט-אפ אבטחת הענן שלו TruSTAR תמורת 82 מיליון דולר במאי 2021. ב-2024, Cisco רכשה את Splunk.)

הטלפון הנייד שלה צלצל עם זיהוי המתקשר של בתה, סיפר קוגלין. במהלך אותה שיחה, "היא חושבת שהיא שומעת את קול אחותי אומר, 'אמא, הם תפסו אותי.' יש צעקה מצמררת, ואז אחותי אומרת, 'את חייבת לעשות מה שהם אומרים לך.' ואז גבר נכנס לשיחה ואומר, 'אם לא תשלמי לנו 1,200 דולר עכשיו, אנחנו הורגים את בתך בחניון של ה-Walmart המקומי,'" הוא המשיך.

הנוכל זייף במדויק את מספר אחותו של קוגלין, את קולה, והתייחס למיקום ה-Walmart שהיא פקדה.

למרבה המזל, האם שמרה על קור רוח, התקשרה לבתה, וגילתה שהיא בסדר. החטיפה הייתה הונאה שנוצרה על ידי בינה מלאכותית.

קוגלין, כמו אמו, היה מזועזע.

"מה שחשבתי, אחרי שהרגעתי את אמי: מה השתנה באופן מהותי בכלכלת הפשע הקיברנטי הבסיסית שאנחנו מסוגלים כעת למנף את אותו סוג של תחכום שראיתי מכוון כלפי סוכנויות ממשלתיות, ואחר כך כלפי חברות Fortune 500? ועכשיו אנחנו פורסים את התחכום הזה כלפי הצרכן?"

התשובה היא, כמובן, מודלים שפתיים גדולים זולים וחזקים וכלי בינה מלאכותית גנרטיביים אחרים.

לפני הבינה המלאכותית, ביצוע תרמיות כאלה על צרכנים לא היה כדאי כלכלית. זה היה דורש מחקר מעמיק על המטרה, טכנולוגיה לזיוף קולות, וכן הלאה. התקפות כאלה כוונו בעיקר רק לכיסים עמוקים, כמו ארגונים או ממשלות, וכך גם הטכנולוגיה להגנה מפניהן.

"משהו קורה כרגע לצרכנים עם בינה מלאכותית בידי פושעי סייבר," אומר קוגלין. העלויות לביצוע תרמיות כאלה הפכו זניחות, וחומר המחקר זמין בקלות.

"אפשר לשכפל קול משלוש שניות של אודיו, מפוסט ברשת חברתית זמין לציבור. אז לכולנו יש את העקבות האלה של דברים שם בחוץ - כמו כשאנחנו מדברים או מספרים; מגיבים על משחק כדורגל של ילד בזמן שמצלמים אותו, ומעלים את זה ל-Facebook."

ה-FTC אמר בחודש שעבר שאנשים שמדווחים על פשעים מקוונים איבדו ביחד 3.5 מיליארד דולר להונאות מתחזות ב-2025, פי שלושה מהסכום ב-2020. בעוד שרוב האנשים שמדווחים על הונאות כאלה הם אמריקאים מבוגרים, מחקר כלשהו מרמז שגם דור ה-Z רגיש מאוד. מחקר מ-2025 של Malwarebytes, יצרנית כלי אנטי-וירוס ואנטי-תוכנות זדוניות, דיווח שדור ה-Z נפל קורבן יותר לתרמיות טקסט מדורות אחרות, ונפל בפח כ-25% מהפעמים.

הרעיון של האחים קוגלין היה לפתח כלי התערבות בזמן אמת.

הם בדקו את הרעיון שלהם, ואת מודל זיהוי ההונאות מבוסס הבינה המלאכותית שהם בנו, על ידי השקת אתר חינמי בשם Scam Wise. הוא אנונימי, ללא צורך ברישום. פשוט העלה טקסטים, תמונות או דוא"לים חשודים, ו-Scam Wise יקבע אם סביר שהוא מזויף.

"השקנו את זה לפני כארבעה חודשים. היו לנו 50,000 הגשות, והוא גדל עכשיו בכל שבוע בכ-10,000 הגשות או יותר," אמר קוגלין.

Scam Wise הוכיח מקור של נתונים מהשטח כדי לעזור לאמן את מודל זיהוי ההונאות מבוסס הבינה המלאכותית של Savi. הסטארט-אפ משתמש כעת בעיקר ב-Gemini של Google, אך בנה את התוכנה שלו על שער בינה מלאכותית, המאפשר לו להיעזר במודלים אחרים לפי הצורך, כמו אפשרויות ספציפיות לזיהוי קול.

ביום שלישי, Savi השיקה מוצר בתשלום, אפליקציית iOS ו-Android לצרכנים, שיכולה לסנן הודעות טקסט, הודעות קוליות ושיחות נכנסות להונאות.

תכונות כאלה זמינות בהרבה מוצרים שונים (כמו Malwarebytes), אך התכונה המרשימה ביותר של Savi היא ניטור שיחות חיות.

במהלך שיחת טלפון חשודה, משתמש יכול לבחור להוסיף את הסוכן החי של האפליקציה כמאזין. Savi מאזינה לסימנים התנהגותיים שיכולים לזהות אם המצב הוא תרמית בזמן שהשיחה מתקדמת.

העמלות של Savi גם הן קצת יוצאות דופן. היא גובה 8 דולר לחודש, בהנחה ל-63 דולר לשנה, כדי לכסות משפחה שלמה, ואינה שמה מגבלה על מספר המשתמשים. אז תוכנית אחת יכולה לכסות את ילדיו, בן/בת זוגו, הוריו, ואותו דוד שתמיד נראה שזקוק לתמיכה טכנית. או כל אחד אחר שהמחזיק הראשי בחשבון רוצה להוסיף ולספק לו תמיכה ניהולית.

הבינה המלאכותית שינתה את התנאים ל"כמה נגיש להיות רמאי," אמר קוגלין. "אנחנו יוצרים רמאים כי אנחנו מורידים את מחסום ההטעיה של אנשים. אז לא רק שיש לנו את הפושעים המאורגנים והסינדיקטים מאחורי זה, אלא שאנשים רגילים מפתים איכשהו לשחק ברמאות."

התשובה של Savi Security היא כמו דור חדש של תוכנות אנטי-וירוס: כזו שמשתמשת בבינה מלאכותית בזמן אמת בדיוק כמו הרעים.