הספרות של Nvidia הוא מחשב-על זעיר בינה מלאכותית לשולחן העבודה שלך

עם כל העינייםכרטיסי המסך החדשים של Nvidia(ומסיבה טובה - הדברים האלה די חזקים), החברה פרסמה משהו שאולי בסופו של דבר יהיה חדשות גדולות עוד יותר: מחשב-על אישי של AI בשם Project Digits (מעכשיו פשוט נקרא לו Digits כי זה הרבה יותר מגניב).

Digits הוא מחשב אישי זעיר דמוי Mac mini, שאמור להתאים כמעט לכל שולחן עבודה. אתה מחבר אותו למקלדת ולצג, מחבר אותו לחשמל, ואתה מוכן ללכת.

אבל מה שיש בפנים הופך אותו למיוחד למדי. Digits מופעל על ידי GB10 Grace Blackwell Superchip החדש של Nvidia, המספק עד 1 petaflop של ביצועי בינה מלאכותית, ו-Nvidia שיתפה פעולה עם MediaTek כדי להפוך את השבב לחסכוני יותר באנרגיה, כלומר, הפעלתו דורשת את סוג הכוח שאתה מקבל מתקן שקע חשמל.

ראה גם:

ה-GB10 משויך ל-128GB של זיכרון RAM ועד 4TB של אחסון NVMe. כל זה יאפשר למפתחים להפעיל עד 200 מיליארד פרמטרים של מודלים גדולים של שפה (LLM). באמצעות טכנולוגיית Nvidia ConnectX, הם יוכלו גם לשייך שני מחשבי Digits כדי להריץ עד 405 מיליארד פרמטרים של דגמים.

רוב הדברים האלה כנראה לא הגיוניים לאנשים שאינם עוסקים בפיתוח אפליקציות AI. אבל למשל, ל-ChatGPT 3.5 היו 175 מיליארד פרמטרים (ChatGPT 4 הוא הרבה יותר גדול אבל אנחנו לא יודעים את המספרים המדויקים), בעוד של-LLM החזק ביותר של Meta, Llama 3, יש 405 מיליארד פרמטרים). זה אומר שאתה יכול להפעיל LLM מאוד מאוד חזק בבית במקום להסתמך על תשתית ענן.

"הצבת מחשב-על של בינה מלאכותית על שולחנותיהם של כל מדען נתונים, חוקר בינה מלאכותית ותלמיד מעצימה אותם לעסוק ולעצב את עידן הבינה המלאכותית", אמר ג'נסן הואנג, מייסד ומנכ"ל Nvidia, בהצהרה כתובה.

מפתחים המשתמשים ב-Digits יוכלו לגשת לספריית תוכנות הבינה המלאכותית של Nvidia, כולל ערכות פיתוח, כלי תזמור, מסגרות ומודלים הזמינים בקטלוג Nvidia NGC ובפורטל המפתחים של Nviia. תהיה להם גם גישה למסגרת Nvidia NeMo ולספריות Nvidia RAPIDS.

ראה גם:

החדשות הגדולות ביותר כאן, אולי, הן המחיר. ספרות יהיו זמינות במאי, החל מ-$3,000. כסף מסוג זה אמור להפוך אותו לזמין למספר גדול של חברות וחוקרים קטנים יותר, שישתמשו בו כדי ליצור ולבדוק אפליקציות בינה מלאכותית.

אם זה עדיין נשמע יקר מדי, אתה יכול לנסותJetson של Nvidia. זהו מחשב ביתי של 249 דולר AI שהושק בדצמבר האחרון, והוא יכול להתמודד עם עד 8 מיליארד פרמטרים.

Mashable נמצא בשטח בשידור חי בתערוכת CES 2025! אנו מכסים את כל ההתפתחויות הפרועות והחשובות ביותר השבוע, אז אנא המשיכועושה צ'ק איןאִיתָנוּ. רוצה להגיש מוצר שאתה מייצג לשיקול הצוותים שלנו בזמן שאנו מזהים את הטוב ביותר של CES? הנהמידע נוסף כיצד לעשות זאת.