Nvidia, AI sohbet programlarını daha güvenli hale getirmek için tasarlanmış açık kaynaklı bir araç seti yayınladı. Araç setine “NeMo Guardrails” adı verilir ve Büyük Dil Modelleri (LLM) için “korkuluklar” oluşturmayı amaçlar. Nvidia’ya göre bu, geliştiricilerin “güvenli ve güvenilir LLM konuşma sistemleri” programlamasına olanak tanır. Araç seti, ChatGPT dahil tüm LLM’lerle çalışır.
Üç kural kategorisi
NeMo Guardrails ile geliştiriciler, bir chatbot’un kullanıcı girişine nasıl tepki vereceğini tanımlayan kurallar belirleyebilmelidir. Şu anda bu kurallar için üç kategori vardır: sohbetin kaybolmaması için “güncel korkuluklar”, yanlış bilgilendirmeyi önlemek için “güvenlik korkulukları” ve kötü amaçlı koda karşı “güvenlik korkulukları”.
NeMo Guardrails, LangChain gibi topluluk tarafından geliştirilen araç setleri üzerine kuruludur, Nvidia’yı bir blog gönderisinde yazar. LangChain, dilsel modellere dayalı uygulamalar geliştirmede uzmanlaşmış bir çerçevedir. Ek olarak, yeni araç seti, Nvidia’ya göre doğal dil komutlarıyla sohbet botları geliştirmek için kullanılabilen Nvidia’nın Colang programlama dilini kullanıyor.
ChatGPT tartışmayı alevlendiriyor
Kasım 2022’nin sonunda OpenAI, ChatGPT sohbet robotunu piyasaya sürdü. O zamandan beri, dil modellerinin güvenli kullanımı dünya çapında giderek daha fazla tartışılmaktadır. Bir röportajda, Schleswig-Holstein eyaletinin veri koruma görevlisi, Alman ve Avrupalı yetkililerin OpenAI’yi nasıl izlediğini açıklıyor.
(gref)
Haberin Sonu
Üç kural kategorisi
NeMo Guardrails ile geliştiriciler, bir chatbot’un kullanıcı girişine nasıl tepki vereceğini tanımlayan kurallar belirleyebilmelidir. Şu anda bu kurallar için üç kategori vardır: sohbetin kaybolmaması için “güncel korkuluklar”, yanlış bilgilendirmeyi önlemek için “güvenlik korkulukları” ve kötü amaçlı koda karşı “güvenlik korkulukları”.
NeMo Guardrails, LangChain gibi topluluk tarafından geliştirilen araç setleri üzerine kuruludur, Nvidia’yı bir blog gönderisinde yazar. LangChain, dilsel modellere dayalı uygulamalar geliştirmede uzmanlaşmış bir çerçevedir. Ek olarak, yeni araç seti, Nvidia’ya göre doğal dil komutlarıyla sohbet botları geliştirmek için kullanılabilen Nvidia’nın Colang programlama dilini kullanıyor.
ChatGPT tartışmayı alevlendiriyor
Kasım 2022’nin sonunda OpenAI, ChatGPT sohbet robotunu piyasaya sürdü. O zamandan beri, dil modellerinin güvenli kullanımı dünya çapında giderek daha fazla tartışılmaktadır. Bir röportajda, Schleswig-Holstein eyaletinin veri koruma görevlisi, Alman ve Avrupalı yetkililerin OpenAI’yi nasıl izlediğini açıklıyor.
(gref)
Haberin Sonu