Cim Kellerin rəhbərlik etdiyi çip şirkəti Tenstorrent, süni intellekt iş yükləri üçün yeni nəsil Wormhole prosessorunu təqdim etdi və bu prosessorun münasib qiymətə yaxşı performans təqdim edəcəyi gözlənilir.Şirkət hazırda bir və ya iki Wormhole prosessorunu yerləşdirə bilən iki əlavə PCIe kartı, eləcə də proqram təminatı tərtibatçıları üçün TT-LoudBox və TT-QuietBox iş stansiyaları təklif edir. Bugünkü bütün elanlar kommersiya iş yükü üçün Wormhole lövhələrindən istifadə edənlərə deyil, tərtibatçılara yönəlib.
“Daha çox məhsulumuzu tərtibatçıların əlinə vermək həmişə sevindiricidir. Wormhole™ kartlarımızdan istifadə edərək buraxılan inkişaf sistemləri tərtibatçılara çoxçipli süni intellekt proqram təminatını miqyaslandırmağa və inkişaf etdirməyə kömək edə bilər”, - deyə Tenstorrent-in baş direktoru Cim Keller bildirib.Bu təqdimata əlavə olaraq, ikinci nəsil məhsulumuz olan Blackhole-un lentinin çıxarılması və gücləndirilməsi ilə bağlı əldə etdiyimiz irəliləyişi görməkdən həyəcan duyuruq.
Hər bir Wormhole prosessoru 72 Tensix nüvəsindən (bunlardan beşi müxtəlif məlumat formatlarında RISC-V nüvələrini dəstəkləyir) və 108 MB SRAM-dan ibarətdir ki, bu da 1 GHz-də 262 FP8 TFLOPS və 160 Vt istilik dizayn gücünə malikdir. Tək çipli Wormhole n150 kartı 12 GB GDDR6 video yaddaşı ilə təchiz olunub və 288 GB/s bant genişliyinə malikdir.
Wormhole prosessorları iş yükünün müxtəlif ehtiyaclarını ödəmək üçün çevik miqyaslanma təmin edir. Dörd Wormhole n300 kartı olan standart bir iş stansiyası quruluşunda, prosessorlar proqram təminatında vahid, geniş Tensix nüvəli şəbəkə kimi görünən tək bir vahidə birləşdirilə bilər. Bu konfiqurasiya sürətləndiricinin eyni iş yükünü idarə etməsinə, dörd tərtibatçı arasında bölünməsinə və ya eyni vaxtda səkkiz fərqli süni intellekt modelini işlətməsinə imkan verir. Bu miqyaslanmanın əsas xüsusiyyəti, virtualizasiyaya ehtiyac olmadan yerli olaraq işləyə bilməsidir. Məlumat mərkəzi mühitində Wormhole prosessorları maşın daxilində genişləndirmə üçün PCIe və ya xarici genişləndirmə üçün Ethernet istifadə edəcəklər.
Performans baxımından, Tenstorrent-in tək çipli Wormhole n150 kartı (72 Tensix nüvəsi, 1 GHz tezlik, 108 MB SRAM, 12 GB GDDR6, 288 GB/s bant genişliyi) 160 Vt-da 262 FP8 TFLOPS, iki çipli Wormhole n300 kartı (128 Tensix nüvəsi, 1 GHz tezlik, 192 MB SRAM, 24 GB GDDR6, 576 GB/s bant genişliyi) isə 300 Vt-da 466 FP8 TFLOPS-a qədər məlumat verir.
Kontekstə 466 FP8 TFLOPS-dan 300 Vt-ı salmaq üçün onu süni intellekt bazarının lideri Nvidia-nın bu istilik dizayn gücündə təklif etdiyi məhsulla müqayisə edəcəyik. Nvidia-nın A100-ü FP8-i dəstəkləmir, lakin INT8-i dəstəkləyir və 624 TOPS-un pik performansına malikdir (az olduqda 1248 TOPS). Müqayisə üçün, Nvidia-nın H100-ü FP8-i dəstəkləyir və 300 Vt-da 1670 TFLOPS-un pik performansına çatır (az olduqda 3341 TFLOPS) ki, bu da Tenstorrent-in Wormhole n300-dən əhəmiyyətli dərəcədə fərqlidir.
Lakin, bir əsas problem var. Tenstorrent-in Wormhole n150 pərakəndə satış qiyməti 999 dollar, n300 isə 1399 dollardır. Müqayisə üçün, tək bir Nvidia H100 qrafik kartı miqdarından asılı olaraq 30.000 dollara satılır. Əlbəttə ki, dörd və ya səkkiz Wormhole prosessorunun həqiqətən tək bir H300-ün performansını təmin edə biləcəyini bilmirik, lakin onların TDP-ləri müvafiq olaraq 600 Vt və 1200 Vt-dır.
Kartlara əlavə olaraq, Tenstorrent, daha əlverişli Xeon əsaslı aktiv soyutma funksiyasına malik TT-LoudBox-da 4 n300 kartı və EPYC əsaslı Xiaolong (maye soyutma funksiyasına malik qabaqcıl TT-QuietBox) daxil olmaqla, tərtibatçılar üçün əvvəlcədən qurulmuş iş stansiyaları təklif edir.
Yazı vaxtı: 29 iyul 2024