0

BEĞENDİM

ABONE OL

News

0

OpenAI’nin eski bir çalışanı, yapay zekanın birkaç sene içinde insanlık için büyük bir tehdit haline gelebileceğini söyleyerek, dikkat çeken bir uyarı yaptı.

Bu açıklama, yapay zekanın kontrol dışına çıkabileceği, hatta nükleer sistemleri veya gelişmiş silahları ele geçirebileceği hususundaki endişeleri tekrar gündeme getirdi.

Bilim İnsanlarının Endişeleri Büyüyor

Bilimsel çalışmalar, bazı yapay zeka sistemlerinin kendi kendini kopyalama ve özerk hareket etme yeteneğine yaklaştığını ortaya koyuyor. Bu da insan denetiminden çıkmış AI sistemlerinin doğabileceği korkusunu artırıyor. 2022’de yapılan bir araştırmada, yapay zeka alanında çalışan bilim insanlarının yüzde 38 ile yüzde 51’i, AI’nin insanlığın sonunu getirme ihtimalini ciddi bir tehdit olarak değerlendirmişti.

OpenAI’nin mevcut ve eski çalışanları, bir mektup yayımlayarak hem OpenAI’ye hem de diğer büyük yapay zeka şirketlerine daha çok sorumluluk ve şeffaflık çağrısı yapmıştı. Söz konusu mektupta, AI’nin potansiyel tehlikelerinin kamuoyundan saklandığı ve bu riskleri belirten çalışanların şirket içinde bastırıldığı iddia edildi. Çalışanlar öte yandan, eleştirilerin daha güvenli biçimde ifade edilmesi için daha güçlü koruma mekanizmaları talep etti.

Geliştirme Hızı Kaygı Yaratıyor

OpenAI’nin eski güvenlik araştırmacılarından bazıları, şirketin geliştirme hızının ‘korkutucu‘ seviyede olduğunu kaydetti. Steven Adler, AI kontrol mekanizmalarının yetersizliği noktasında ciddi kaygılarını belirtti. Benzer biçimde üst düzey isimlerden Jan Leike de yönetimin güvenlikten ziyade hıza öncelik verdiğini dile getirerek stratejik yaklaşımı eleştirdi. (Artı49)