OpenAI’dan Ayrılan Üst Düzey Araştırmacı: “Dünya Yapay Genel Zekaya Hazır Değil”
OpenAI’dan ayrılan üst düzey bir araştırmacı, dünyanın yapay genel zekaya (YGZ) – yani insan beyinleri kadar veya daha üstün bir seviyeye ulaşacak yapay zeka sistemlerine – henüz hazır olmadığını ifade etti. Bu değerlendirme, yapay zeka güvenliği ve denetimine dair endişeleri yeniden gündeme getirdi.
Miles Brundage, OpenAI’ın YGZ’ye hazırlık için danışman olarak görev yapıyordu, ancak şirketin ekibini küçültme kararının ardından istifa ettiğini açıkladı. Brundage, yapay genel zekaya hazır olunmaması konusundaki görüşünün, OpenAI liderleri arasında yaygın bir endişe olduğunu belirtti ve “Bu, şirketin ve dünyanın gerektiği zamanda hazır olup olmayacağına dair daha büyük bir soru” dedi.
Yapay Genel Zeka: Fırsatlar ve Tehditler
Yapay genel zeka, insan seviyesinde ya da daha üstün bir zeka ortaya çıkararak geniş bir görev yelpazesinde insan kadar etkili olabilecek sistemlerin varlığı anlamına geliyor. Uzmanlar, YGZ’nin potansiyel olarak varoluşsal tehditler oluşturabileceğini, çünkü bu tür sistemlerin beklenmedik şekillerde hareket etme olasılığı bulunduğunu savunuyor. Bu durum, yapay zekanın güvenliği ve denetimi konusundaki endişeleri artırıyor.
OpenAI ve Güvenlik Sorunları
OpenAI, başlangıçta yapay zekanın güvenli bir şekilde geliştirilmesini araştırmak amacıyla kâr amacı gütmeyen bir kuruluş olarak yola çıktı. Ancak, ChatGPT’nin büyük başarısı ve geniş çapta yatırımların ardından, şirketin kâr odaklı çalışmaları ve yeni teknolojilerini nasıl kullanacağına dair sorular yükseldi. Bu değişim, yapay zeka güvenliği konusunda bazı belirsizlikler ve endişeleri beraberinde getirdi.
Brundage, OpenAI’dan ayrılma nedenleri arasında bazı projelere yeterince zaman ayıramamasını ve hedeflerinin büyük bir kısmını gerçekleştirmiş olmasını gösterdi. Ayrıca, dışarıdan daha bağımsız çalışarak taraflılıktan uzak kalmanın daha kolay olacağını belirtti.
Yapay Genel Zekaya Hazırlık ve Güvenlik
Brundage’e göre, YGZ’ye hazırlıklı olmak sadece teknolojik gelişmeleri takip etmekle sınırlı değil, aynı zamanda denetim, yapay zeka güvenliği kültürü ve bu teknolojinin nasıl kullanılacağı konularında da değişiklik gerektiriyor. OpenAI’ın son dönemdeki güvenlik ve etik soruları, bu alandaki hazırlık sürecini daha da zorlu hale getirdi.
