Dev Şirketin İfşası: Eski Çalışandan Tehlike Uyarısı!

OpenAI’nin eski güvenlik uzmanı, yapay zekanın kontrolden çıkmak üzere olduğu uyarısını yayımladığı mektupla duyurdu. Gizlenen riskler, bastırılan sesler ve yaklaşan tehdit artık göz ardı edilemiyor...

Yapay zekanın kontrol dışına çıkabileceği ve insanlık için büyük bir tehdit haline gelebileceği iddiası yeniden gündeme geldi. Bu kez uyarı, dünyanın en önde gelen yapay zeka şirketlerinden OpenAI’nin eski çalışanlarından geldi. Yapay zekanın yalnızca birkaç yıl içinde nükleer sistemler veya gelişmiş silahları ele geçirebilecek kapasiteye ulaşabileceği iddiası, kamuoyunda geniş yankı uyandırdı.

GİZLENEN RİSKLER, BASTIRILAN SESLER

OpenAI’nin mevcut ve eski çalışanları tarafından kaleme alınan ve yayımlanan ortak mektupta, AI’nin barındırdığı potansiyel tehlikelerin kamuoyundan saklandığı, şirket içindeki uyarıların ise sistematik olarak bastırıldığı ifade edildi. Mektupta ayrıca çalışanların endişelerini güvenle dile getirebileceği koruma mekanizmalarının eksik olduğu vurgulandı.

BİLİM İNSANLARI UYARDI: 'SONUÇLARI ÖNGÖRÜLEMEZ'

Yapılan bilimsel çalışmalar, bazı yapay zeka sistemlerinin kendi kendini kopyalama ve özerk hareket etme yeteneğine hızla yaklaştığını ortaya koyuyor. Bu da yapay zekanın insan kontrolünden çıkabileceği ve öngörülemeyen kararlar alabileceği endişesini doğuruyor.
2022 yılında yapılan bir araştırmada, AI uzmanlarının %38 ila %51’i, yapay zekanın insanlığın sonunu getirme ihtimalini gerçek bir tehdit olarak gördüklerini belirtmişti.

OPENAI İÇİNDEN “GÜVENLİK” İSYANI

OpenAI'nin eski güvenlik araştırmacılarından Steven Adler, şirketin geliştirme hızını “korkutucu” olarak tanımladı. Üst düzey araştırmacı Jan Leike ise şirket yönetiminin güvenlikten çok rekabetçi hıza öncelik verdiğini söyledi. Her iki isim de, yapay zekanın güvenliğinin arka plana atılmasının ciddi sonuçlar doğurabileceği görüşünde birleşiyor.