Opera WebAI: מודלי בינה מלאכותית שרצים אצלכם בדפדפן, בלי שרת ובלי מפתח API
אמיר משה
ב 27 באוקטובר הציגה Opera את WebAI, הצעה לתקן ווב שמאפשר לאתרים ולתוספים להשתמש במודלי בינה מלאכותית שרצים מקומית על המחשב של המשתמש. מודלים פתוחים כמו Gemma של גוגל הם הדוגמה שהחברה נותנת. כרגע מדובר בגרסת תצוגה מוקדמת בדפדפני Opera One, Opera GX ו Opera Neon.
איך זה עובד בפועל
השימוש הוא בהסכמה בלבד. אין צורך באפליקציה נפרדת, בשרת מקומי או במפתח API. האתר או התוסף פונים למודל דרך שלוש ממשקים: Prompt לשיחה והנחיות, Decision לקבלת החלטות מובנות, ו Semantic Embeddings להשוואת משמעות בין טקסטים. התמיכה כרגע היא במחשבי Windows 64 ביט ובמחשבי Mac עם שבב Apple.
מחשב אחד שמשרת הרבה אתרים: המודל רץ על המכשיר ולא בענן.
למה זה מעניין: פרטיות ועלות
כשהמודל רץ על המכשיר, הטקסט שהמשתמש כותב לא חייב לצאת מהמחשב. זה יתרון ברור לפרטיות. היתרון השני כלכלי: אתר שמשתמש במודל מקומי לא משלם על כל בקשה ל API, ולכן פיצ׳רים כמו תיקון ניסוח, סיכום או חיפוש סמנטי הופכים זולים הרבה יותר. המחיר הוא שכוח המחשוב נלקח מהמשתמש, ושהמודלים המקומיים חלשים יותר מהמודלים הגדולים בענן.
באותו שבוע יצאה גם משפחת הדגמים LFM3 של Liquid AI, שמיועדת לרוץ על מכשירים וכוללת שישה מודלים לטקסט, ראייה, שמע ועוד. חברות עם הכנסות שנתיות מעל 10 מיליון דולר צריכות הסכם מסחרי נפרד. אפל, מצדה, הוסיפה ל macOS 27 תמיכה בפרוטוקול MCP לסוכנים של צד שלישי. השילוב הזה מצביע על כיוון: פחות תלות בענן, ויותר יכולות בתוך המכשיר.
מה כדאי לבדוק
כדאי לזכור ש WebAI הוא עדיין הצעה לתקן ולא תקן מוכר. כדי שיתפוס, דפדפנים אחרים יצטרכו לאמץ אותו, ומפתחים יצטרכו לתכנן ממשקים שעובדים גם כשאין מודל מקומי. עד אז, מי שבונה אתרים יכול לנסות את הגרסה המוקדמת ולבדוק אילו משימות קטנות מתאימות למודל מקומי, כמו סיכום או סיווג, ואילו עדיין דורשות ענן.
מוכנים להעצים את היכולות היצירתיות של הארגון שלכם?
צרו איתנו קשר עוד היום לתיאום הדרכת עיצוב בבינה מלאכותית מעשית שתצייד את הארגון שלכם בכלים המתקדמים ביותר בתחום!