iX'in BURN 4 IT podcast'i: Büyük dil modelleri için çalışma zamanı olarak WASM

Saberie

Active member
WebAssembly'nin kısaltması olan WASM, başlangıçta C veya Rust gibi derleyici dillerinde yazılan kodları tarayıcıya getirmek için geliştirildi. JavaScript koduyla karşılaştırıldığında, özellikle bilgi işlem yoğun kodlarla önemli performans iyileştirmeleri elde edilebilir.


Duyuru



Artık, tarayıcıdan bağımsız olarak WASM kodunu çalıştıran ve WASI aracılığıyla platformdan bağımsız sistem arayüzleri sağlayan Wasmer gibi WASM çalışma zamanları var. Bu, WASM'yi çok çeşitli uygulamalar için çekici bir çalışma ortamı haline getirir. Docker'ın mucidi Solomon Hykes birkaç yıl önce şöyle demişti: “WASM ve WASI 2008'de mevcut olsaydı, Docker'ı yaratmak zorunda kalmazdık.”

iX BURN 4 IT podcast'inin yeni bölümünde JP Hoepfner, dizüstü bilgisayarında açık kaynak LLM LLama'yı kullanmak için Wasmer WASM çalışma zamanını kullandı. Podcast'te WASM, WASM çalışma zamanları ve WASI WebAssembly sistem arayüzünün ne olduğunu ve yerel dil modelini hızlı bir şekilde kurup çalıştırmak için neden iyi bir seçim olduklarını açıklıyor.



BURN 4 IT by iX, BT profesyonellerine yönelik yeni podcast'tir. BT çalışanları ve konuları için podcast olan BURN 4 IT ile profesyonel BT için iX dergisi arasındaki işbirliğiyle, her iki haftada bir, DataCenter'dan buluta kadar modern uygulama geliştirme ve çağdaş BT operasyonları dünyasına dair içgörüler sağlayan makaleler oluşturulmaktadır. , sunucudan konteynere. İyi eğlenceler!




(nefret)
 
Üst