Jim Keller-Led Chip şirkəti Tenstorrent, əlverişli qiymətə yaxşı performans təklif etməsini gözlədiyi AI iş yükü üçün növbəti nəsil qurdlu prosessorunu buraxdı.Şirkət hazırda bir və ya iki qurdlu prosessoru, habelə TT-Lidbox və proqram tərtibatçıları üçün TT-Sakitbox iş stansiyalarını təmin edə biləcək iki əlavə PCIE kartı təklif edir. Bugünkü elanların hamısı, ticari iş yükləri üçün Wormhole lövhələrindən istifadə edənlərin deyil, inkişaf etdiricilərə yönəldilmişdir.
"Bu, məhsullarımızın daha çoxunu inkişaf etdiricilərin əlinə almaq həmişə sevindiricidir.Bu işə başlamağa əlavə olaraq, bant və ikinci nəsil məhsulumuzun, blackhole-nun gücləndirilməsi və gücləndirdiyimiz tərəqqi görməkdən məmnunuq. "
Hər bir qurd prosessoru 72 Tensix nüvəsi (müxtəlif məlumat formatlarında risc-v nüvələrində risc-v nüvələrini dəstəkləyir) və 108 MB Sram, 262 FP8 TFLOPS 160W-in termal dizayn gücü ilə 1 GHz-də çatdırır. Tək Chip Wormhole N150 kartı 12 GB Gddr6 video yaddaşı ilə təchiz olunmuşdur və 288 GB / s bant genişliyi ilə təchiz edilmişdir.
Wormhole prosessorları iş yüklərinin müxtəlif ehtiyaclarını ödəmək üçün çevik genişlənin təmin edir. Dörd Wormhole N300 kartları olan standart bir iş stansiyasında, prosessorlar vahid, geniş bir Tensix nüvəli şəbəkə kimi proqramda görünən vahid bir bölmədə birləşdirilə bilər. Bu konfiqurasiya sürətləndiriciyə eyni iş yükünü idarə etməyə, dörd inkişafçı arasında bölünür və ya eyni anda səkkiz fərqli AI modelinə qədər qaçır. Bu ölçü qabiliyyətinin əsas xüsusiyyəti, virtualizasiyaya ehtiyac olmadan yerli işləyə bilməsidir. Bir məlumat mərkəzi mühitində, qurdlu prosessorlar maşın içərisində genişlənmə və ya xarici genişlənmə üçün Ethernet üçün PCIE-dən istifadə edəcəkdir.
Performans baxımından, Tenstorrentin tək çipi Wormhole N150 kartı (72 Tensix nüvəsi, 1 GHz Tezliyi, 108 MB SRM, 12 GB Gddr6, 288 GB / S kodu 160w, ikili chip wormhole n300 lövhəsi (128 Tensix Cores, 192 MB Sram, aqreqatlaşdırılmış 24 GB Gddr6, 576 GB / S bant genişliyi) 300W-də 466 FP8 TFLOPS-a çatdırılır.
466-ı 466 FP8 TFLOPS kontekstinə qoymaq üçün, AI Bazar lideri NVIDIA bu istilik dizayn gücündə təklif etdiyini müqayisə edəcəyik. Nvidia's A100 FP8-i dəstəkləmir, ancaq 624 zirvəsi (seyrək olduqda 1,248 zirvəsi) pik performansı ilə Int8-i dəstəkləyir. Müqayisə üçün, NVIDIA-nın H100 FP8-i dəstəkləyir və 300W-də 1,670 TFLOP-ların pik performansına (3,341 tflops), bu, Tenstorrentin Wormhole N300-dən əhəmiyyətli dərəcədə fərqlənir.
Ancaq bir böyük problem var. Tenstorrent's Wormhole N150, 999 dollara, N300 isə 1399 dollara satır. Müqayisə üçün, bir NVIDIA H100 qrafik kartı, miqdardan asılı olaraq 30.000 dollar üçün 30.000 dollardır. Əlbətdə ki, dörd və ya səkkiz qurdlu prosessorun bir H300-nin performansını çatdıra biləcəyini bilmirik, lakin onların TDP-ləri müvafiq olaraq 600W və 1200W-dir.
Kartlara əlavə olaraq, TenTstorrent, inkişaf etdiricilər üçün əvvəlcədən qurulmuş iş stansiyaları, o cümlədən 4 N300 kartı, o cümlədən 4 N300 kartı aktiv soyutma ilə daha əlverişli Xia -i əsaslı TT-Loudbox və epyc-based Xiaolong ilə inkişaf etmiş TT-SAKTOBOX) maye soyutma funksiyasıdır.
Time vaxt: İyul-29-2024