Intel, Gaudi 3 yapay zeka hızlandırıcısını ve Performans çekirdekli (P-cores) Xeon 6 işlemcisini piyasaya sürdüğünü duyurdu.
Intel başkan yardımcısı ve Veri Merkezi ve Yapay Zeka Grubu genel müdürü Justin Hotard, “Yapay zekaya olan talep veri merkezinde büyük bir dönüşüme yol açıyor ve sektör donanım, yazılım ve geliştirici araçlarında seçenek istiyor” dedi. “P-çekirdekli Xeon 6 ve Gaudi 3 yapay zeka hızlandırıcılarını piyasaya sürmemizle Intel, müşterilerimizin tüm iş yüklerini daha yüksek performans, verimlilik ve güvenlikle uygulamalarına olanak tanıyan açık bir ekosistem sağlıyor.”
Büyük ölçekli üretken yapay zeka için özel olarak optimize edilen Gaudi 3, derin sinir ağı hesaplamalarını hızlandırmak için 64 Tensör işlemci çekirdeğine (TPC’ler) ve sekiz matris çarpma motoruna (MME’ler) sahip. Eğitim ve analiz için 128 gigabayt (GB) HBM2e bellek ve ölçeklenebilir ağ için 24 adet 200 Gigabit (Gb) Ethernet bağlantı noktası içeriyor.
Gaudi 3 ayrıca PyTorch framework ve gelişmiş Hugging Face transformer ve diffuser modelleri ile sorunsuz uyumluluk sunuyor. Intel kısa bir süre önce IBM ile Intel Gaudi 3 yapay zeka hızlandırıcılarını IBM Cloud üzerinde bir hizmet olarak dağıtmak üzere bir işbirliği yaptığını duyurmuştu. Bu işbirliği sayesinde Intel ve IBM, performansı artırırken yapay zekadan yararlanmak ve ölçeklendirmek için toplam sahip olma maliyetini düşürmeyi amaçlıyor.
Yapay zekayı geniş ölçekte dağıtmak, esnek dağıtım seçenekleri, rekabetçi fiyat-performans oranları ve erişilebilir yapay zeka teknolojileri gibi hususları içeriyor. Intel’in sağlam x86 altyapısı ve kapsamlı açık ekosistemi, işletmeleri optimum TCO ve watt başına performans ile yüksek değerli yapay zeka sistemleri oluşturmada desteklemek için konumlandırıyor. Özellikle, GPU hızlandırmalı sunucuların %73’ü ana CPU olarak Intel Xeon kullanıyor.
Xeon 6 ve Gaudi 3 için geliştirilen yapay zeka sistemleri
Üretken yapay zeka (Gen AI) çözümlerini prototiplerden üretime hazır sistemlere dönüştürmek, gerçek zamanlı izleme, hata işleme, günlük kaydı, güvenlik ve ölçeklenebilirlik konularında zorluklar ortaya çıkarıyor. Intel, OEM’ler ve iş ortaklarıyla birlikte yürüttüğü mühendislik çalışmalarıyla bu zorlukların üstesinden gelerek üretime hazır geri alma destekli nesil (RAG) çözümleri sunuyor.
Open Platform Enterprise AI (OPEA) platformu üzerine inşa edilen bu çözümler, OPEA tabanlı mikro hizmetleri, Xeon ve Gaudi AI sistemleri için optimize edilmiş, müşterilerin Kubernetes, Red Hat OpenShift AI ve Red Hat Enterprise Linux AI’dan uygulamaları kolayca entegre etmelerini sağlamak için tasarlanmış ölçeklenebilir bir RAG sistemine entegre ediyor.
Intel’in Tiber portföyü, yapay zeka, bulut ve uç ortamlarda erişim, maliyet, karmaşıklık, güvenlik, verimlilik ve ölçeklenebilirlik gibi zorlukların üstesinden gelmek için iş çözümleri sunuyor. Intel Tiber Developer Cloud artık teknoloji değerlendirmesi ve testi için Intel Xeon 6 önizleme sistemleri sağlıyor. Ayrıca, belirli müşteriler yapay zeka modeli dağıtımlarını doğrulamak için Intel Gaudi 3’e erken erişim elde edecek ve Gaudi 3 kümeleri büyük ölçekli üretim dağıtımları için önümüzdeki çeyrekte kullanıma sunulacak.
