رونمایی از کوچکترین ابررایانه هوش مصنوعی در قالب یک دستگاه جیبی
یک شرکت نوپای آمریکایی به نام «تینی ایآی» از دستگاهی جدید رونمایی کرده که به گفته سازندگانش کوچکترین ابررایانه هوش مصنوعی در جهان به شمار میرود.
این دستگاه که «پاکت لب» یا آزمایشگاه هوش مصنوعی جیبی نام دارد، در اندازهای بسیار کوچک طراحی شده اما توانایی اجرای مدلهای پیشرفته هوش مصنوعی را بدون نیاز به اتصال به اینترنت یا استفاده از رایانش ابری دارد.
به گفته توسعهدهندگان این فناوری، دستگاه جدید قادر است مدلهای زبانی بزرگ با حداکثر ۱۲۰ میلیارد پارامتر را اجرا کند. این میزان تقریباً سه برابر اندازه مدل جیپیتی-۳ محسوب میشود. طراحان این محصول میگویند چنین ظرفیتی میتواند سطحی از تحلیل و استدلال را فراهم کند که آن را «هوشی در سطح دکترا» توصیف میکنند.
با وجود توان پردازشی بالا، اندازه این دستگاه بسیار کوچک است. ابعاد آن حدود ۱۴.۲ در ۸ در ۲.۵۳ سانتیمتر اعلام شده که آن را به دستگاهی نزدیک به اندازه یک وسیله قابلحمل یا حتی قابل قرار دادن در جیب تبدیل میکند.
این دستگاه از یک پردازنده ۱۲ هستهای مبتنی بر معماری ARM استفاده میکند؛ نوعی پردازنده که معمولاً در تلفنهای هوشمند و تبلتها به کار میرود. در کنار آن، حافظه رم بسیار بزرگی نیز در نظر گرفته شده است. این دستگاه به ۸۰ گیگابایت حافظه LPDDR5X مجهز است که از ظرفیت بسیاری از رایانههای قابلحمل معمولی بیشتر است؛ زیرا اغلب لپتاپها بین ۸ تا ۳۲ گیگابایت رم دارند.
توسعهدهندگان اعلام کردهاند که ۴۸ گیگابایت از این حافظه به واحد پردازش عصبی یا NPU اختصاص یافته است؛ تراشهای که به طور ویژه برای انجام پردازشهای مرتبط با هوش مصنوعی طراحی شده و سرعت و کارایی اجرای این مدلها را افزایش میدهد.
یکی از ویژگیهای اصلی این دستگاه توانایی اجرای مدلهای بزرگ هوش مصنوعی به صورت محلی است. به گفته سازندگان، مدلهایی مانند GPT-OSS 120B، مدلهای Phi و همچنین مدلهای خانواده لاما با تعداد پارامترهای بالا میتوانند روی این دستگاه اجرا شوند.
به طور معمول اجرای چنین مدلهایی نیازمند سیستمهای قدرتمند با چندین پردازنده گرافیکی در سطح مراکز داده است. اما در این دستگاه کوچک از مجموعهای از فناوریهای نرمافزاری برای افزایش کارایی استفاده شده است.
یکی از این فناوریها «TurboSparse» نام دارد که به سیستم اجازه میدهد هنگام پردازش فقط بخشهای ضروری مدل هوش مصنوعی را فعال کند، نه همه پارامترها را در هر مرحله. این روش باعث افزایش سرعت پردازش و کاهش مصرف منابع میشود.
علاوه بر آن، فناوری دیگری با نام «PowerInfer» در این دستگاه به کار رفته است. این فناوری وظایف پردازشی را بهصورت هوشمند میان واحد پردازش مرکزی، پردازنده گرافیکی و واحد پردازش عصبی توزیع میکند تا هر بخش وظایفی را انجام دهد که در آن کارآمدتر است. این رویکرد میتواند عملکرد کلی سیستم را بهبود دهد و مصرف انرژی را کاهش دهد.
معرفی این دستگاه در چارچوب روندی گستردهتر در حوزه فناوری موسوم به «رایانش لبهای هوش مصنوعی» قرار میگیرد؛ مفهومی که هدف آن اجرای سامانههای هوش مصنوعی روی دستگاههای محلی به جای اتکا به مراکز داده بزرگ است.
این رویکرد علاوه بر کاهش مصرف انرژی و اثرات زیستمحیطی، میتواند به افزایش حریم خصوصی کاربران نیز کمک کند؛ زیرا دادهها برای پردازش به سرورهای خارجی ارسال نمیشوند.
همچنین چنین فناوریهایی میتوانند در محیطهایی که دسترسی به اینترنت محدود است کاربرد داشته باشند، از جمله ایستگاههای تحقیقاتی دورافتاده، کشتیها یا هواپیماها.
سازندگان این دستگاه میگویند با وجود آنکه این محصول به قدرت بزرگترین ابررایانههای جهان نمیرسد، اما گامی مهم در مسیر کوچکسازی فناوریهای پیشرفته هوش مصنوعی و تبدیل آنها به ابزارهایی قابل حمل به شمار میرود.
