צוות יזמי NeuReality. משמאל לימין: יוסי קסוס (סמנכ"ל לפיתוח שבבים), משה תנך (מנכ"ל), צביקה שמואלי (סמנכ"ל לתפעול), צילום: אביב קורט
כדי לקדם את חזונה לדאטה סנטרים יעילים וחסכנים בפליטת פחמן
חברת סטארט-אפ ה-AI ניוריאליטי (NeuReality) מקיסריה, המפתחת פתרונות הסקה (inference) עתירי ביצועים לעידן ה-AI, הודיעה על גיוס הון של 20 מיליון דולר מ–EIC Fund קרן מועצת החדשנות האירופית European Innovation Council)) וקרנות ההון סיכון Varana Capital, Cleveland Avenue, OurCrowd ו-XT Hi-Tech. ההון החדש שגויס ישמש להאצת הפריסה של פלטפורמת ההסקה NR1™ בקרב מספר גדול יותר של לקוחות ומשתמשים ובהרחבת הפרישה לשווקים גיאוגרפיים נוספים תוך מיקוד בשימושים מבוססי LLM ו-Generative AI. בסך הכל גייסה ניוריאליטי מהקמתה 70 מיליון דולר.
הגיוס מהווה הצבעת אמון נוספת בניוריאליטי מאז שהשיקה את NR1 NAPU (Network Addressable Processing Unit), שרת הסקת-AI-על-שבב (SoC – Server-on-a-Chip), בטכנולוגיית 7 ננו מטר אשר נכנס לייצור סדרתי ב-TSMC בשנה שעברה. שרת זה הוא רכיב מרכזי בפתרון ההסקה הכולל של ניוריאליטי לבינה מלאכותית. ארכיטקטורת המערכת הממוקדת בפרישת מודלי AI של ניוריאליטי מאפשרת לחברות להריץ ביעילות אפליקציות Generative AI ומודלים גדולים של שפה (LLMs) ומייתר השקעות מיותרות במעבדי GPU יקרים שאינם מנוצלים בגלל מגבלות מערכתיות.
ארגונים מתמודדים כיום עם מגוון של אתגרים גדולים הכרוכים בפריסה והטמעה של אפליקציות ומודלי בינה מלאכותית מאומנים, במסגרת תהליך ההסקה של AI (AI Inference Process). הרצת נתונים בזמן אמת בעזרת מודל AI מאומן עלולה להיות מטלה מורכבת ויקרה – במיוחד לאור מגבלות המערכת בניצול רחב היקף במאיצי AI וצווארי הבקבוק אשר נגרמים בשל השימוש במעבדי CPU.
משה תנך, מנכ”ל ומייסד משותף, ניוריאליטי: “טכנולוגיית ההסקה החדשנית שלנו ל-AI אינה כבולה לביצועים של מעבדי CPU, מעבדי GPU וכרטיסי רשת (NIC) קונבנציונליים. אנחנו החלטנו לא להתמקד בשיפור חלקים בהנדסת המערכת הקיימת כיום שהיא מוגבלת מלכתחילה. נקטנו בגישה חלופית, בה ניתחנו את בעיית היסוד ברמה המערכתית והגדרנו מחדש את הפתרון האידיאלי עבור מערכת הסקה ל-AI, במטרה לספק ביצועים פורצי דרך, חיסכון בעלויות ויעילות. זאת על רקע שיעור נצילות נמוך של מאיצי AI שנאמד ב-30-40 אחוזים כעת”.
תנך הוסיף: “השקעות נרחבות ברכישה של מאיצי למידה עמוקה (DLAs), אם במעבדיGPU , LPU או TPU לא פותרת את בעיות יעילות המערכת. הדבר דומה להתקנת מנוע חזק במכונית כדי להתגבר על פקקי תנועה, רעיון שלא יביא את הנוסע ליעד מהר יותר. בשונה מכך, ניוריאליטי מספקת נתיב מהיר ורחב של עיבודי AI אשר מנתב באופן רציף ויעיל משימות לאותם מאיצי AI ייעודיים ובכך מספקת גם זמני תגובה מהירים ללקוחות, תוך שימור משאבים והון”.
סבטוסלבה גיאורגייבה (Svetoslava Georgieva), יושבת ראש מועצת המנהלים של קרן הנציבות האירופית לחדשנות: “אנו מזהים את התפקיד החשוב שיש לאיחוד האירופי בתחום ה-AI ובוחרים לפלס מסלול שונה המתמקד ביעילות גבוהה ולא בהוצאות גבוהות. החזון והטכנולוגיה החדשנית של ניוריאליטי עולים בקנה אחד עם המחויבות שלנו לבסס את מעמדה של אירופה בתחום הטכנולוגיה העמוקה ובהשקעות שיעצבו עתיד בר קיימא לצד טכנולוגיה מתקדמת של AI”.
“אופטימיזציה ברמת המערכת והדטה סנטר היא רכיב מפתח בצמצום המחסור במעבדי GPU”, אמר נאבין ראו (Naveen Rao), סגן נשיא ל-Generative AI ב-Databricks. ראו, ממשקיעי ניוריאליטי בשלביה המוקדמים, שמכהן כחבר במועצת המנהלים של החברה, הוסיף: “בכדי לאפשר גישה רחבה יותר ליכולות מחשוב ובינה מלאכותית יוצרת, אנחנו חייבים לפעול יותר בדחיפות להסרת מחסומי הכניסה לשוק. המערכת החדשנית של ניוריאליטי – שתוכננה ברמת ארכיטקטורת הדטה סנטר – מייצגת את נקודת המפנה הזו”.
בשנה שעברה קיבלה ניוריאליטי מענק מתוכנית ההאצה של נציבות החדשנות האירופית שנועד לתמוך בשלבים שונים של הפיתוח לצורך פתרון סוגיות העלות והמורכבות של שלבי ההסקה ל-AI ברמת ליבת הארכיטקטורה. ההשקעות של EIC תומכות בפריסות AI Inference ו- GenAI של NeuReality.
מאז השלמת סבב גיוס הון A החלה ניוריאליטי לספק ללקוחות את פתרון NR1 NAPU והיא מבצעת התקנות ראשונות בקרב ספקים נבחרים של שירותי ענן ולקוחות ארגוניים במגזרי השירותים הפיננסיים, שירותים עסקיים וממשלה. היא מתמקדת עתה בעיבודים של שפה טבעית, זיהוי דיבור אוטומטי, מערכות המלצה וראייה ממוחשבת. גיוס ההון של 20 מיליון דולר יניע חדירה רחבה יותר של פתרון ההסקה ל-AI של החברה על רקע צמיחה בביקוש הן עבור אפליקציות רגילות והן עבור אפליקציות Generative AI.
