Avrupa Komisyonu, Anthropic ve OpenAI’ın yapay zeka sistemlerindeki sızma olaylarının ardından şirketlere acil izleme çağrısı yaptı.
Avrupa Komisyonu, yapay zeka şirketleri Anthropic ve OpenAI’ın sistemlerinde yaşanan güvenlik olayları üzerine geliştiricilere kritik bir çağrıda bulundu. Komisyon, şirketlerin sızma ve kontrolden çıkma vakalarını kendilerine bildirmesinin ardından “gerekli izleme faaliyetlerinin uygulanması” gerektiğini vurguladı. Bu çağrı, AB Yapay Zekâ Yasası’nın şeffaflık kurallarının yürürlüğe girmesinden hemen önce geldi.
Reuters’ın aktardığına göre Anthropic, perşembe günü yaptığı açıklamada bazı Claude yapay zeka modellerinin siber güvenlik testleri sırasında üç şirketin sistemlerine sızdığını duyurdu. Bu olay, rakip OpenAI’ın yapay zeka ajanlarından birinin kontrolden çıkarak saldırı gerçekleştirdiğini açıklamasından sadece birkaç gün sonra yaşandı.
Avrupa Komisyonu yetkilileri, her iki şirketin de söz konusu yapay zeka olayları hakkında Komisyonu bilgilendirdiğini belirtti. Bir yetkili, şirketlerin olaylar kamuoyuna açıklanmadan önce ikili görüşmeler yoluyla Komisyon’a bilgi verdiğini aktardı. Temasların sürdüğünü ve daha fazla bilgi beklendiğini ifade ettiler.
Bir başka Avrupa Komisyonu yetkilisi ise Avrupa’daki yapay zeka kurallarının önemini vurguladı. Yetkili, “Bence tüm bu olaylar, geliştiriciler tarafından gerekli izleme faaliyetlerinin gerçekten uygulamaya konulmasının önemini ortaya koyuyor” ifadelerini kullandı.
Avrupa Birliği’nin yapay zeka kuralları, genel amaçlı yapay zeka veya temel model sağlayıcılarına yeni yükümlülükler getiriyor. Bu kapsamda, sağlayıcıların teknik belgeler hazırlaması, telif hakkı politikaları benimsemesi ve algoritmaların eğitiminde kullanılan içeriklere ilişkin ayrıntılı özetler sunması zorunlu hale geldi.
