Google, OpenAI ve Microsoft, Yapay Zekayı Güvenli Hale Getirmek İçin Güçlerini Birleştiriyor!
Adını her geçen gün daha çok duyduğumuz üretken yapay zeka araçları, hepimizi şaşırtan gelişmeleriyle tüm teknoloji dünyasını ele geçirmişti. Ancak, bu modellerin müsrif içerikten bilgi güvenliğine kadar taşıdıkları çeşitli riskler konusunda büyük endişeler vardı.
Bu konuda değerli bir atılım da teknoloji devlerinden geldi. Yapay zekada lider Microsoft, OpenAI, Google ve Anthropic; “ Sınır Modeli Forumu”Adlandırdıkları bir küme oluşturdular.
Grup, üretken yapay zekanın sadık ve sorumlu gelişimini sağlamayı amaçlayacaktır.
Dört şirketten oluşan küme, üretken yapay zeka modellerinin bir modelidir. sadık ve sorumlu Bir şekilde geliştiğinden emin olmak istiyor. Öncelik verilecek modeller: çeşitli görevleri yerine getirebilen ve mevcut en gelişmiş modellerde bulunan yetenekleri aşan büyük makine öğrenimi modelleri”belirtilecektir.
Şirketler tarafından paylaşılan blog yazılarında yeni güvenlik kümesinin dört ana amacı olacağı belirtildi. Bu amaçlar aşağıdaki formda sıralanmıştır:
- Modellerin sorumlu bir şekilde geliştirilmesini teşvik etmek, riskleri en aza indirmek ve bağımsız, standartlaştırılmış yetenek ve güvenlik değerlendirmeleri sağlamak yapay zeka güvenlik araştırması geliştirmek.
- İnsanların teknolojinin doğasını, yeteneklerini, sınırlamalarını ve etkisini anlamalarına yardımcı olarak modellerin sorumlu bir şekilde geliştirilmesi ve uygulanması için en iyi uygulamalarbelirlemek, birsey belirlemek.
- Güvenlik riskleri hakkında bilgi paylaşmak için politika yapıcılar, akademisyenler, sivil toplum ve şirketlerle işbirliği yapmak.
- İklim değişikliğinin hafifletilmesi, kanserin erken tespiti ve önlenmesi ve siber tehditlerle mücadele gibi toplumun en büyük sorunlarının üstesinden gelinmesine yardımcı olabilir. Uygulama geliştirme çabalarını güçlendirmek.
Frontier Model Forum, yapay zeka konusunda öneriler sunacak ve şirketler ve hükümetlerle bilgi paylaşacak bir danışma konseyi kurarak çalışmalarına başlayacak. Kümenin teknoloji dünyasını ortaya çıkarmak istediğini de belirtelim. Açıklamada, yapay zeka güvenliği konusunda adım atmaya çalışan diğer şirketler de yer aldı. kimin kapısı açıkbelirtilmiştir.
