Google geliştiricisi tehlikelere karşı acilen uyarıyor

Bilgin

Global Mod
Global Mod



Yapay zekanın gelişimi hızla ilerliyor. Uzmanlar, tehlikelere karşı giderek daha fazla uyarıda bulunuyor ve gelişimde bir mola verilmesi çağrısında bulunuyor.


Bir uzman, özellikle gelişmiş yapay zekanın (AI) kontrol edilemeyen gelişimi konusunda bir kez daha uyarıyor. ABD şirketi Google’ın önde gelen yapay zeka geliştiricisi Geoffrey Hinton, Pazartesi günü “New York Times”ta işinden ayrıldı ve yapay zeka alanındaki ilerlemelerin “toplum ve insanlık için ciddi riskler” anlamına geldiği konusunda uyardı. Gazeteye göre Hinton, AI’nın “Babası” olarak da anılıyor.


Gazeteye, rekabetin teknoloji şirketlerini “tehlikeli bir hızla” yeni yapay zeka geliştirmeye ittiğini söyledi. Sonuç olarak, yanlış bilgi yayıldı ve işler riske atıldı. Hinton, “Kötü adamların yapay zekayı kötü şeyler için kullanmasını nasıl durduracağımızı hayal etmek zor,” dedi.


Veri miktarı insan zekasını aşıyor


Google ve tanınmış sohbet robotu ChatGPT’yi geliştiren girişim olan OpenAI şirketi, geçen yıl eskisinden çok daha fazla miktarda veri kullanan öğrenme sistemleri geliştirmeye başladı. Hinton, New York Times’a, bu sistemlerin, büyük veri hacmi nedeniyle bazı açılardan insan zekasını gölgede bırakacağını söyledi.


İşlerle ilgili olarak Hinton, yapay zekanın “köle işçiliğini” gereksiz hale getirebileceğini söyledi. “Ama çok daha fazlasını alabilirdi.”


Google taahhütleri tanır


Gazeteye göre geliştirici, geçen ay Google’daki görevinden ayrıldı. Şirketteki patronu Jeff Dean, ABD medyasına yaptığı açıklamada Hinton’a çalışmalarından dolayı teşekkür ettiğini söyledi. Dean, Google’ın yapay zeka kullanımına ilişkin yönergeler yayınlayan ilk şirketlerden biri olduğunu vurguladı. Google, “AI’yı sorumlu bir şekilde kullanmak zorunda” hissetmeye devam ediyor. Google, “cesurca” yenilik yapmaya devam ederken riskleri anladığı için sürekli olarak öğreniyor.


Uzmanlar gelişimde mola verilmesini istiyor


Teknoloji milyarderi Elon Musk ve çok sayıda uzman, özellikle gelişmiş yapay zekanın geliştirilmesine ara verilmesi çağrısında bulundu. “İnsanları rekabetçi kılan bir zekaya sahip yapay zeka sistemleri, toplum ve insanlık için büyük riskler oluşturabilir” uyarısında da bulundular. “Güçlü AI sistemleri, yalnızca etkilerinin olumlu olduğundan ve risklerinin yönetilebilir olduğundan emin olduğumuzda geliştirilmelidir.”


AI geliştirmeyi durdurmak için açık bir mektupta imza sahipleri, OpenAI kurucusu Sam Altman’ın yeni sistemlerin eğitimi başlamadan önce bir noktada “bağımsız” bir incelemenin gerekli olacağını belirten bir cümlesine atıfta bulundular. Mektubun yazarları “Kabul ediyoruz” yazın. “Zaman şimdi.”