Jim Kellerin rəhbərlik etdiyi çip şirkəti Tenstorrent, münasib qiymətə yaxşı performans təklif edəcəyini gözlədiyi AI iş yükləri üçün yeni nəsil Wormhole prosessorunu buraxdı.Hazırda şirkət bir və ya iki Wormhole prosessorunu yerləşdirə bilən iki əlavə PCIe kartını, həmçinin proqram təminatı tərtibatçıları üçün TT-LoudBox və TT-QuietBox iş stansiyalarını təklif edir. Bugünkü elanların hamısı kommersiya iş yükləri üçün Wormhole lövhələrindən istifadə edənlərə deyil, tərtibatçılara yönəlib.
“Məhsullarımızın daha çoxunu tərtibatçıların əlinə almaq həmişə sevindirici haldır. Wormhole™ kartlarımızdan istifadə edərək inkişaf sistemlərini buraxın, tərtibatçılara çox çipli AI proqram təminatını genişləndirməyə və inkişaf etdirməyə kömək edə bilər,” Tenstorrent-in baş direktoru Jim Keller bildirib.Bu təqdimata əlavə olaraq, ikinci nəsil məhsulumuz Blackhole-un lentinin çıxarılması və işə salınması ilə əldə etdiyimiz irəliləyişləri görməkdən məmnunuq”.
Hər bir Wormhole prosessorunda 72 Tensix nüvəsi (onlardan beşi müxtəlif məlumat formatlarında RISC-V nüvələrini dəstəkləyir) və 108 MB SRAM-dan ibarətdir, 160 Vt istilik dizayn gücü ilə 1 GHz-də 262 FP8 TFLOPS təmin edir. Tək çipli Wormhole n150 kartı 12 GB GDDR6 video yaddaşla təchiz edilib və 288 GB/s ötürmə qabiliyyətinə malikdir.
Wormhole prosessorları iş yüklərinin müxtəlif ehtiyaclarını ödəmək üçün çevik miqyaslılığı təmin edir. Dörd Wormhole n300 kartı ilə standart iş stansiyası quraşdırmasında prosessorlar vahid, geniş Tensix nüvə şəbəkəsi kimi proqram təminatında görünən vahid vahiddə birləşdirilə bilər. Bu konfiqurasiya sürətləndiriciyə eyni iş yükünü idarə etməyə, dörd tərtibatçı arasında bölünməyə və ya eyni vaxtda səkkizə qədər müxtəlif AI modelini işlətməyə imkan verir. Bu genişlənmənin əsas xüsusiyyəti odur ki, virtualizasiyaya ehtiyac olmadan yerli olaraq işləyə bilir. Məlumat mərkəzi mühitində Wormhole prosessorları maşın daxilində genişlənmə üçün PCIe və ya xarici genişlənmə üçün Ethernet-dən istifadə edəcək.
Performans baxımından Tenstorrent-in tək çipli Wormhole n150 kartı (72 Tensix nüvəsi, 1 GHz tezliyi, 108 MB SRAM, 12 GB GDDR6, 288 GB/s bant genişliyi) 160 Vt gücündə 262 FP8 TFLOPS əldə etdi, ikili çipli Wormhole 03 isə (128 Tensix nüvəsi, 1 GHz tezliyi, 192 MB SRAM, ümumi 24 GB GDDR6, 576 GB/s bant genişliyi) 300 Vt gücündə 466 FP8 TFLOPS-a qədər təmin edir.
300W 466 FP8 TFLOPS-u kontekstdə yerləşdirmək üçün onu AI bazar lideri Nvidia-nın bu istilik dizayn gücündə təklif etdiyi ilə müqayisə edəcəyik. Nvidia-nın A100-ü FP8-i dəstəkləmir, lakin 624 TOPS (seyrək olduqda 1248 TOPS) yüksək performansla INT8-i dəstəkləyir. Müqayisə üçün, Nvidia-nın H100-ü FP8-i dəstəkləyir və Tenstorrent-in Wormhole n300-dən əhəmiyyətli dərəcədə fərqli olan 300W-da 1670 TFLOPS (seyrək vəziyyətdə 3341 TFLOPS) maksimum performansa çatır.
Bununla belə, bir əsas problem var. Tenstorrent-in Wormhole n150-si 999 dollara, n300 isə 1399 dollara satılır. Müqayisə üçün qeyd edək ki, tək Nvidia H100 qrafik kartı miqdarından asılı olaraq 30.000 dollara satılır. Əlbəttə ki, dörd və ya səkkiz Wormhole prosessorunun həqiqətən tək bir H300 performansını təmin edə biləcəyini bilmirik, lakin onların TDP-ləri müvafiq olaraq 600W və 1200W-dir.
Kartlara əlavə olaraq, Tenstorrent aktiv soyutma ilə daha sərfəli Xeon əsaslı TT-LoudBox-da 4 n300 kartı və EPYC əsaslı Xiaolong) maye soyutma funksiyasına malik qabaqcıl TT-QuietBox daxil olmaqla, tərtibatçılar üçün əvvəlcədən qurulmuş iş stansiyaları təklif edir).
Göndərmə vaxtı: 29 iyul 2024-cü il