Rehberler
Bir iş istasyonunun ya da GPU sunucusunun teknik özellik listesi, o sistemin müşteride nasıl çalışacağı hakkında çok az şey söyler. Asıl iş, doğru parçaları seçtikten sonra başlıyor: BIOS’un 8 kartı görmesi, sürücü yığınının modelle uyuşması, depolamanın ağı doyurabilmesi, sistemin altı ay sonra da aynı hızda çalışıyor olması.
Bu bölümde kurduğumuz sistemleri baştan sona anlatıyoruz: hangi donanımı neden seçtik, üzerine hangi yazılımlar kuruldu, kurulumda ne ters gitti ve nasıl çözdük. Bir kısmı doğrudan proje anlatımı, bir kısmı benzer bir sistemi kurgularken işinize yarayacak yöntem rehberi. Müşteri adları yazılı izin olmadan verilmez.
Nasıl çalışıyoruz
BOXX'ta bir proje nasıl yürür
İlk görüşmeden teslim tutanağına kadar sekiz adım: ihtiyaç analizi, uyumluluk doğrulaması, teklif, tedarik, montaj ve burn-in testi, yazılım kurulumu, yerinde devreye alma, garanti.
Garanti, RMA ve destek
Arıza durumunda ne oluyor, üretici garanti değişimi nasıl işliyor, uzaktan destek için sistemlerinize ne kuruyoruz.
Kurduğumuz sistemler
Kurumsal AI iş istasyonu: 96 GB VRAM üzerinde özel LLM ortamı
RTX PRO 6000 Blackwell tabanlı bir iş istasyonuna Ubuntu 24.04, CUDA yığını ve dört büyük dil modeli kuruldu. Kurumun verisi dışarı çıkmadan çalışan bir çıkarım ortamı.
8 GPU'lu AI çıkarım sunucusu: 671 milyar parametreli modeli yerelde çalıştırmak
Çift EPYC 9655, 1 TB bellek, 8 adet RTX PRO 6000 Blackwell. Sekizinci kartın sisteme görünmeme hikâyesi ve DeepSeek R1 671B’nin saniyede 25 token ile çalıştırılması.
Üniversite mühendislik fakültesi için GPU, depolama ve ağ altyapısı
Bir GPU sunucusu, ZFS tabanlı ortak depolama, 100 GbE omurga ve sınıf içindeki beş iş istasyonu. ANSYS CFD ve derin öğrenme derslerinin aynı altyapıyı paylaşması.
Post-prodüksiyon stüdyosu için ZFS tabanlı ortak depolama
44 TB’lık bir render deposunun dataset düzeni, SMB paylaşımları, yetkilendirme tarafında sık karşılaşılan tuzaklar ve snapshot planı.
Yöntem yazıları
Teknik şartname uygunluk analizi
Kamu ve üniversite ihalelerinde şartnameyi madde madde tabloya dökmek, teklif hazırlamadan önce uyumsuzlukları görmenin en ucuz yolu. 170 maddelik bir şartnamede bunu nasıl yapıyoruz.