PyTorch 2.2 ML çerçevesi: gözlemlenebilirlik ve verimlilikte ilerlemeler

Saberie

Active member
PyTorch ekibi açık kaynaklı makine öğrenimi çerçevesinin 2.2 sürümünü yayınladı. Yeni ana sürüm temel olarak daha esnek kayıt ve çeşitli alanlarda daha yüksek performansı hedefliyor. PyTorch 2.2 ayrıca alt sistemler için yapılandırılabilir günlük kaydı veya AOTInductor oluşturma ve dağıtım aracı gibi bazı yeni özellikler de sunar.

Duyuru



Alt sistemlere ilişkin daha ayrıntılı bilgiler


Yeni standartlaştırılmış kayıt mekanizması PyTorch 2.2'de daha iyi gözlemlenebilirlik vaat ediyor TORCH_LOGS. ML çerçevesinin kullanıcıları, dağıtılmış işlem ve derlemeye yönelik olanlar da dahil olmak üzere çeşitli alt sistemlerin daha ayrıntılı analizini elde etmek için yapılandırılabilir günlük kaydını kullanabilir. Günlüğe kaydetme ortam değişkeni aracılığıyla yapılabilir TORCH_LOGS etkinleştirin. Komuta TORCH_LOGS=”-dynamo,+inductor” örneğin, TorchDynamo, günlük kaydını logging.ERROR olarak ayarlar ve TorchInductor bunu logging.DEBUG olarak ayarlar. PyTorch 2.2'de yeni günlük kaydı özelliği başlangıçta beta durumuna entegre edilmiştir.

Mevcut sürümdeki diğer yenilikler performansı artırmayı amaçlıyor. PyTorch ekibine göre işlevsellik şu şekilde olmalıdır: scaled_dot_product_attention gelecekte performansı iki katına çıkarın. Bu, daha iyi paralelleştirmeye ve işbölümüne katkıda bulunan FlashAttention-v2 algoritmasının entegrasyonu sayesindedir. Python'un ötesindeki sunucu tarafı dağıtımlarında, TorchInductor AOTInductor uzantısının amacı erken derleme yoluyla dağıtımı hızlandırmaktır. Ayrıca bir takım iyileştirmeler de mevcut torch.compile diğer şeylerin yanı sıra, optimize edicileri derlerken ek yükün azaltılmasına yardımcı olacak şekilde dahil edilmiştir.

Apple'ın Intel platformuna elveda


PyTorch ekibi ileriye dönük olarak Intel işlemci tabanlı x86_64 macOS platformu için PyTorch testlerini ve derlemelerini durdurmayı planlıyor: bu sistemlere yönelik desteğe kullanımdan kaldırılmış bir durum verilecektir. ML çerçevesinin 2.2.x serisinin, macOS x86_64 için ikili dosyalar sağlayan son seri olduğu söyleniyor.

PyTorch blogu, sürüm 2.2'nin en önemli önemli noktalarını özetlemektedir ve kitaplık güncellemeleri ayrı bir blog yazısında ele alınmaktadır. Tüm değişikliklerin tam bir özetini GitHub'daki sürüm notlarında bulabilirsiniz.


(harita)



Haberin Sonu
 
Üst