Google, “Yapay zekanın hızlı büyümeye ayak uydurabilecek güvenli bir çerçeveye ve zorunlu standartlara ihtiyacı var” diyor. Yeni bir organizasyon bu zorluklarla yüzleşecek: Perşembe günü başlatılan Güvenli Yapay Zeka Koalisyonu (CoSAI). Kurucu üyeler arasında Google'ın yanı sıra Amazon, Anthropic, Chainguard, Cisco, Cohere, GenLab, IBM, Intel, Microsoft, NVIDIA, OpenAI, Paypal ve Wiz yer alıyor. (Wiz, Google'ın satın almayı planladığı bir BT güvenliği girişimidir.)
Duyuru
CoSAI genel olarak bilim, diğer kuruluşlar ve BT endüstrisi ile işbirliği yapmak istiyor ve başlangıçta üç çalışma grubuna liderlik etmek istiyor: Yapay zeka tedarik zinciri güvenliği için (Yapay zeka sistemleri için yazılım tedarik zinciri güvenliği), değişen yapay zeka tehdit senaryolarının neden olduğu durumlar için BT güvenliği hazırlığı için ve ayrıca AI güvenlik yönetimini yönetmek için.
Üç çalışma grubunun görevleri
İkinci grup, örneğin sektördeki insanların birbirleriyle daha az konuşmasını sağlayacak bir tanımlama sistemi geliştirmelidir. Görev listesi ayrıca yapay zeka uygulamalarındaki güvenlik sorunlarına hazırlıklı olmayı, bunların yönetimini ve izlenmesini ve güvenlik sorunlarının raporlanmasını değerlendirmek için kontrol listeleri ve standartlaştırılmış derecelendirme sistemlerini de içerir.
Yapay zeka tabanlı saldırganlara karşı mücadelede BT güvenliğini güçlendirmek için ikinci CoSAI çalışma grubu, BT savunucularının etki azaltma önlemlerine yatırım yapıp yapmama konusunda karar vermelerine yardımcı olacak bir çerçeve oluşturacak. İlk çalışma grubu, klasik yazılım deneyimine dayalı talimatlar geliştirecektir. Bu kılavuzlar, belirli bir yapay zekanın nasıl ortaya çıktığını (kökeni ve gelişimi) ve tehditleri anlamak için üçüncü taraf teklifleriyle nasıl etkileşime girebileceğini keşfetmenize yardımcı olmayı amaçlamaktadır.
Diğer girişimler
Sonbaharda Google, üçüncü tarafları yapay zeka açıklarını taramaya teşvik etmek amacıyla hata ödül programını yapay zeka ürünlerini de içerecek şekilde genişletti. Önceki yılın haziran ayında veri şirketi Güvenli Yapay Zeka Çerçevesini yayınladı ve sektör ortaklarıyla birlikte gönüllü yapay zeka taahhütlerinde bulundu.
Önerilen editoryal içerik
Onayınız üzerine harici bir anket (Opinary GmbH) buraya yüklenecektir.
Anketleri her zaman yükle
Anketi şimdi yükleyin
(ds)
Duyuru
CoSAI genel olarak bilim, diğer kuruluşlar ve BT endüstrisi ile işbirliği yapmak istiyor ve başlangıçta üç çalışma grubuna liderlik etmek istiyor: Yapay zeka tedarik zinciri güvenliği için (Yapay zeka sistemleri için yazılım tedarik zinciri güvenliği), değişen yapay zeka tehdit senaryolarının neden olduğu durumlar için BT güvenliği hazırlığı için ve ayrıca AI güvenlik yönetimini yönetmek için.
Üç çalışma grubunun görevleri
İkinci grup, örneğin sektördeki insanların birbirleriyle daha az konuşmasını sağlayacak bir tanımlama sistemi geliştirmelidir. Görev listesi ayrıca yapay zeka uygulamalarındaki güvenlik sorunlarına hazırlıklı olmayı, bunların yönetimini ve izlenmesini ve güvenlik sorunlarının raporlanmasını değerlendirmek için kontrol listeleri ve standartlaştırılmış derecelendirme sistemlerini de içerir.
Yapay zeka tabanlı saldırganlara karşı mücadelede BT güvenliğini güçlendirmek için ikinci CoSAI çalışma grubu, BT savunucularının etki azaltma önlemlerine yatırım yapıp yapmama konusunda karar vermelerine yardımcı olacak bir çerçeve oluşturacak. İlk çalışma grubu, klasik yazılım deneyimine dayalı talimatlar geliştirecektir. Bu kılavuzlar, belirli bir yapay zekanın nasıl ortaya çıktığını (kökeni ve gelişimi) ve tehditleri anlamak için üçüncü taraf teklifleriyle nasıl etkileşime girebileceğini keşfetmenize yardımcı olmayı amaçlamaktadır.
Diğer girişimler
Sonbaharda Google, üçüncü tarafları yapay zeka açıklarını taramaya teşvik etmek amacıyla hata ödül programını yapay zeka ürünlerini de içerecek şekilde genişletti. Önceki yılın haziran ayında veri şirketi Güvenli Yapay Zeka Çerçevesini yayınladı ve sektör ortaklarıyla birlikte gönüllü yapay zeka taahhütlerinde bulundu.
Önerilen editoryal içerik
Onayınız üzerine harici bir anket (Opinary GmbH) buraya yüklenecektir.
Anketleri her zaman yükle
Anketi şimdi yükleyin
(ds)