2024 Nobel Fizik Ödülü, makine öğrenimi alanındaki keşifleri nedeniyle Geoffrey Hinton’a verildi. Geoffrey Hinton, yapay zekâ ve derin öğrenme alanındaki öncü çalışmalarıyla tanınan bir bilim insanı. Özellikle sinir ağları ve geri yayılım algoritması üzerine yaptığı araştırmalarla, yapay zekânın gelişimine önemli katkılarda bulundu. Bu çalışmalar, günümüzde kullanılan derin öğrenme modellerinin temelini oluşturdu. 2018’de, Yann LeCun ve Yoshua Bengio ile birlikte, “Yapay Zekâ Üçlüsü” olarak anılan bu üç bilim insanı, yapay zekâ alanındaki öncülüklerinden dolayı Turing Ödülü’nü de kazandı.
2023’te Google’dan istifa eden Hinton, yapay zekânın gelişimiyle ilgili endişelerini New York Times’la paylaşmıştı.
Yapay Zekânın Babası Google’dan Ayrıldı ve Önümüzdeki Tehlikeye Karşı Uyardı
Geoffrey Hinton, yarım yüzyıl boyunca ChatGPT gibi sohbet robotlarının kalbindeki teknolojiyi besledi. Şimdi bunun ciddi bir zarara yol açacağından endişe ediyor.
Cade Metz, New York Times
Geoffrey Hinton bir yapay zekâ öncüsüydü. 2012’de, Dr. Hinton ve Toronto Üniversitesindeki iki yüksek lisans öğrencisi, teknoloji endüstrisinin en büyük şirketlerinin geleceklerinin anahtarı olduğuna inandıkları yapay zekâ sistemlerinin entelektüel temeli haline gelen teknolojiyi yarattı.
Ancak Hinton, bu şirketlerin ChatGPT gibi popüler sohbet robotlarına güç veren teknoloji olan üretken yapay zekâya dayalı ürünler yaratmaya yönelik agresif kampanyalarıyla uçuruma doğru yarıştığını söyleyen ve gittikçe büyüyen bir eleştirmen korosuna resmen katıldı.
Dr. Hinton, on yıldan fazla bir süredir çalıştığı ve bu alandaki en saygın seslerden biri haline geldiği Google’daki işinden ayrıldığını, böylece yapay zekânın riskleri hakkında özgürce konuşabileceğini söyledi. Bir parçası, hayatını adadığı işinden pişmanlık duyuyormuş.
“Kendimi her zamanki bahanelerden biriyle teselli ediyorum: Ben yapmamış olsaydım, başka biri yapardı.”
Dr. Hinton’un yapay zekâ alanında çığır açan bir isimden kıyamet tellallığına uzanan yolculuğu, teknoloji endüstrisi için belki de on yıllardır en önemli dönüm noktasında dikkate değer bir anı işaret ediyor. Endüstri liderleri, yeni AI sistemlerinin 1990’ların başında web tarayıcısının tanıtılması kadar önemli olabileceğine ve ilaç araştırmalarından eğitime kadar çeşitli alanlarda atılımlara yol açabileceğine inanıyor.
Sektördeki birçok kişinin içini kemiren bir korku var: Vahşi doğaya tehlikeli bir şey mi salıyoruz? Üretken yapay zekâ, yanlış bilgilendirme için bir araç olabilir. Yakında, çalışma hayatı için bir risk olabilir. Biraz daha derinlerde, bunun insanlık için bir risk olabileceği de düşünülüyor.
“Kötü aktörlerin bunu kötü şeyler için kullanmasını nasıl önleyebileceğinizi bilemiyoruz.”
San Francisco’daki startup OpenAI’nin Mart ayında ChatGPT’nin yeni bir sürümünü yayınlamasının ardından, 1000’den fazla teknoloji lideri ve araştırmacı, yapay zekâ teknolojilerinin “toplum ve insanlık için derin riskler” oluşturması nedeniyle yeni sistemlerin geliştirilmesi konusunda altı aylık moratoryum çağrısında bulunan bir açık mektup imzaladı.
Birkaç gün sonra, 40 yıllık bir akademik topluluk olan Yapay Zekânın Geliştirilmesi Derneğinin 19 mevcut ve eski lideri, yapay zekânın riskleri konusunda uyarıda bulunan kendi mektuplarını yayınladılar. Bu grup, OpenAI’nin teknolojisini Bing arama motoru da dahil olmak üzere geniş bir ürün yelpazesine dağıtan Microsoft’un baş bilim sorumlusu Eric Horvitz’i de içeriyordu.
Sık sık “yapay zekânın babası” olarak adlandırılan Dr. Hinton, bu mektupların hiçbirini imzalamadı ve işinden ayrılana kadar Google’ı veya diğer şirketleri alenen eleştirmek istemediğini söyledi. Geçen ay şirkete istifa ettiğini bildirdi ve Perşembe günü Google’ın ana şirketi Alphabet’in CEO’su Sundar Pichai ile telefonda görüştü. Bay Pichai ile yaptığı konuşmanın ayrıntılarını kamuoyu önünde tartışmayı da reddetti.
Google’ın baş bilim insanı Jeff Dean yaptığı açıklamada şunları söyledi: “Yapay zekâya karşı sorumlu bir yaklaşıma bağlı kalmaya devam ediyoruz. Sürekli olarak ortaya çıkan riskleri anlamayı öğrenirken aynı zamanda cesurca inovasyon yapıyoruz.”
75 yaşındaki İngiliz expat Dr. Hinton, kariyeri yapay zekânın geliştirilmesi ve kullanımı hakkındaki kişisel inançları tarafından yönlendirilen bir akademisyen. 1972’de Edinburgh Üniversitesinde yüksek lisans öğrencisi olan Dr. Hinton, sinir ağı adı verilen bir fikri benimsedi. Sinir ağı, verileri analiz ederek becerileri öğrenen matematiksel bir sistem. O zamanlar, çok az araştırmacı bu fikre inanıyordu. Ama bu onun hayatını adadığı işi oldu.
1980’lerde Dr. Hinton, Carnegie Mellon Üniversitesinde bilgisayar bilimi profesörüydü, ancak Pentagon’dan fon almak istemediğini söyledi ve Kanada’ya gitmek için üniversiteden ayrıldı. O zamanlar, Amerika Birleşik Devletleri’ndeki yapay zekâ araştırmalarının çoğu Savunma Bakanlığı tarafından finanse ediliyordu. Dr. Hinton, “robot askerler” olarak adlandırdığı savaş alanında yapay zekânın kullanımına şiddetle karşı çıkıyor.
2012’de, Dr. Hinton ve Toronto’daki iki öğrencisi, Ilya Sutskever ve Alex Krishevsky, binlerce fotoğrafı analiz edebilen ve çiçekler, köpekler ve arabalar gibi ortak nesneleri tanımlamayı öğretebilen bir sinir ağı kurdular.
Google, Dr. Hinton ve iki öğrencisi tarafından kurulan şirketi satın almak için 44 milyon dolar harcadı. Ve sistemleri, ChatGPT ve Google Bard gibi yeni sohbet robotları da dahil olmak üzere giderek daha güçlü hale gelen teknolojilerin yaratılmasına yol açtı. Sutskever, OpenAI’de baş bilim insanı olmaya devam etti. 2018’de, Dr. Hinton ve diğer iki uzun süreli işbirlikçisi, sinir ağları üzerindeki çalışmaları nedeniyle “Nobel Bilgisayar Ödülü” olarak adlandırılan Turing Ödülünü aldı.
O dönemde, Google, OpenAI ve diğer şirketler, büyük miktarda dijital metinden öğrenen sinir ağları oluşturmaya başladı. Dr. Hinton, bunun makinelerin dili anlaması ve üretmesi için güçlü bir yol olduğunu düşünüyordu, ancak insanların dili ele alma biçimi kadar gelişmiş değildi.
Ardından, geçen yıl, Google ve OpenAI çok daha büyük miktarda veri kullanarak sistemler kurdukça, Hinton’un görüşü değişti. Hâlâ sistemlerin bir şekilde insan beyni kadar gelişmiş olmadığına inanıyordu, ancak bazı alanlarda insan zekâsını gölgede bıraktıklarını düşünüyordu. “Belki de bu sistemlerde olup bitenler,” dedi, “aslında beyinde olanlardan çok daha iyidir.”
Şirketler yapay zekâ sistemlerini geliştirdikçe, giderek daha tehlikeli hale geldiklerine inanıyor. “Beş yıl önce nasıl olduğuna ve şimdi nasıl olduğuna bakın. Farkı alın ve ileriye doğru yayın. Çok korkutucu.”
Hinton, geçen yıla kadar, Google’ın teknoloji için “uygun bir hizmetkâr” olarak hareket ettiğini ve zarar verebilecek bir şeyi serbest bırakmamaya dikkat ettiğini söyledi. Ancak artık Microsoft, Bing arama motorunu bir sohbet botu ile güçlendirdi ve Google’ın temel işine meydan okudu. Google, aynı tür bir teknolojiyi geliştirmek için yarışıyor. Dr. Hinton, teknoloji devlerinin durdurulması imkânsız olabilecek bir rekabete kilitlendiğini söyledi. İlk endişesi, internetin sahte fotoğraflar, videolar ve metinlerle dolup taşması ve ortalama bir insanın “artık neyin doğru olduğunu bilememesi”.
Ayrıca yapay zekâ teknolojilerinin zamanla iş piyasasını alt üst edeceğinden endişe duyuyor. Bugün, ChatGPT gibi sohbet robotları insan çalışanları tamamlama eğiliminde, ancak avukat yardımcılarının, kişisel asistanların, çevirmenlerin ve ezberci görevleri yerine getiren diğer kişilerin yerini alabilirler. “Angarya işi ortadan kaldırıyor. Bundan daha fazlasını da yapabilir.”
Nihayetinde, teknolojinin gelecekteki sürümlerinin insanlık için bir tehdit oluşturduğundan endişe duyuyor çünkü analiz ettikleri büyük miktarda veriden genellikle beklenmedik davranışlar öğreniyorlar. Bireyler ve şirketler, AI sistemlerinin yalnızca kendi bilgisayar kodlarını üretmelerine değil, aynı zamanda bu kodu kendi başlarına çalıştırmalarına izin verdiği için bu bir sorun haline geliyor. Ve otonom silahların (katil robotların) gerçeğe dönüşmesinden korkuyor.
“Bu şeylerin aslında insanlardan daha akıllı olabileceği fikrine sadece birkaç kişi inanıyordu. Ama çoğu insan bunun çok yanlış olduğunu düşündü. Ben de bunun çok uzakta olduğunu düşündüm. 30 ila 50 yıl veya daha uzun bir süremiz olduğunu düşündüm. Açıkçası, artık böyle düşünmüyorum.”
Birçok öğrencisi ve meslektaşı da dahil olmak üzere diğer birçok uzman, bu tehdidin varsayımsal olduğunu söylüyor. Ancak Dr. Hinton, Google ile Microsoft ve diğerleri arasındaki yarışın, bir tür küresel düzenleme olmadan durmayacak küresel bir yarışa dönüşeceğine inanıyor.
Ama bu imkânsız olabilir, diyor. Nükleer silahlardan farklı olarak, şirketlerin veya ülkelerin teknoloji üzerinde gizlice çalışıp çalışmadığını bilmenin bir yolu olmadığını söylüyor. En büyük umut, dünyanın önde gelen bilim insanlarının teknolojiyi kontrol etmenin yolları üzerinde işbirliği yapmasıdır. “Kontrol edip edemeyeceklerini anlayana kadar bunu daha fazla büyütmemeleri gerektiğini düşünüyorum.”
Dr. Hinton, zamanında insanlar ona potansiyel olarak tehlikeli bir teknoloji üzerinde nasıl çalışabileceğini sorduklarında, ABD’nin atom bombasını inşa etme çabalarına öncülük eden Robert Oppenheimer’dan alıntı yaptığını söyledi: “Teknik olarak tatlı bir şey gördüğünüzde, devam edin ve yapın.”
Artık bunu söylemiyor.
