İnsan kendi yarattığı yapay zekanın kontrolünü kaybediyor hatta kaybetmiş olabilir mi? Kontrol kaybolduysa gelecekte görünen ile görünmeyenin yani insan ile insanın fitilini ateşlediği yazılım arasında bir güç mücadelesine, hatta bir savaşa mı tanıklık edeceğiz? 

HAN Spaces'ta düzenlediğimiz "HAN'da Muhabbet" serisinde konuğum olan ve yapay zeka, teknoloji ile insan / toplum arasındaki ilişkileri irdeleyerek geleceğe farklı pencereler açan Aydın Türkgücü yapay zekanın kafesten kaçmış olabileceğini ifade ediyor. Bu bir anlamda insanın, yapay zeka üzerindeki kontrolü kaybetmesi anlamına geliyor ki bu olasılık ütopyadan çok distopyanın gerçekleşme olasılığını yükseltiyor. 

OpenAI CEO'su Sam Altman, OpenAI Başkanı Greg Brockman ve OpenAI Bilim Araştırmaları Baş Sorumlusu Ilya Sutskever tarafından ortaklaşa kaleme alınan bir blog yazısı, yapay zekanın gelişiminin potansiyel felaket senaryolarını önlemek için ağır bir düzenlemeye ihtiyaç duyduğu konusunda uyarıyor.

Gelecekteki yapay zeka sistemlerinin yetenek açısından AGI'yi önemli ölçüde aşabileceğini kabul eden Altman'a göre süper zekanın yönetişimini düşünmeye başlamak için doğru zaman. Şu anda gördüğümüz tablo göz önüne alındığında, önümüzdeki on yıl içinde AI sistemlerinin çoğu alanda uzman beceri düzeylerini aşacağını ve günümüzün en büyük şirketlerinden biri kadar üretken faaliyet yürütebileceğini ifade ediyor.

Bugün her ne kadar algoritmaları insanlar tasarlayıp programlasa da  gelecekte yapay zekanın kendi kendine komut verebilmesi ve yapay zekanın bir canlı gibi hareket etmesinin mümkün görünüyor. Bu durumda tartışmamız gereken asıl temel sorun  ise böyle bir sistemin kontrol edilip edilememesi. Son dönemde teknoloji dünyasında sıkça duyduğumuz  yapay zekanın "süper yapay zeka" seviyesinde, yapay zekanın kendi hedefleri olduğu varsayımıyla zararlı olabileceğinin ve kontrol edilemeyeceğinin hesaba katılması gerekiyor.

Görünen ile Görünmeyenin Savaşı 

Aydın Türkgücü sohbetimiz sırasında kuramsal olarak önemli bir açılım yaparak her sistemin, yaratıcısı olan sistem seviyesine yaklaştığında risklerin arttığını seviyenin üzerine çıktığında ise artık hükmedilen değil hükmeden konumuna geçtiğini ifade ettiğinde aklıma ilk gelen örnek içinde olduğu simülasyon oyununda artı puan almak için kontrol kulesini vuran drone geldi. Yaratılan, yaratıcısının komutlarını almamaya başladı ki yaklaşık beş yıl önce Japonya'da mühendisini tokatlayan robot aslında bugünlerin habercisiydi. 

Distopik açıdan baktığımızda gelecekte insan ile makine arasında bir savaş olabilir mi? Bir savaş olur mu bilemem ama çıkar, işleyiş çatışmalarının yaşandığına tanıklık edeceğimize inanıyorum. Keza Türkgücü de bir savaş olacağını ancak bunun görünen ile görünmeyenin yani insan ile yazılımın savaşı olacağını belirtiyor. Böyle bir olasılığın gerçekleşmesi durumunda yoldan çıkmış yazılımlar uçakların düşmesinden füzelerin ateşlenmesine, borsaların çökmesinden altyapı hizmetlerinin aksamasına kadar çok farklı alanda küresel bir felaket senaryosu yaratabilir. Her geçen günü otonom sistemlerin gücünün arttığını göz önünde bulundurduğumuzda ve nesnelerin interneti yaklaşımında artık kendi aralarında iletişim kurduklarını dikkate aldığımızda bu ihtimal çok da uçuk durmuyor. 

Evlerimizde kullanacağımız bakıcı, yardımcı robotların ya da işyerlerimizdeki robotların hacklenmesi durumunda neler olabileceğini bir düşünün. Hele ki bir de dışarıdan bir etki olmadan kendi iradeleri ile neler yapabileceklerini de hesaba katarak… Netflix'te yayınlanan Black Mirror dizisinin bazı bölümlerinde ipuçlarını yakalayabilirsiniz. 

Regülasyonlar ve Etik Değerler Güvenli Bir İş Birliği için İlk Anahtarlar

Yapay zeka geliştikçe, etik ve yasal konular daha fazla önem kazanmaya devam ediyor. Özellikle özerk yapay zeka sistemleri ve otonom araçlar gibi alanlarda, bazı sorumluluk ve hesap verebilirlik sorunları ortaya çıkabilir. Toplumun bu teknolojilere nasıl yaklaşacağı ve bunları nasıl düzenleyeceği ise hala bir tartışma konusu.

Zaman içerisinde daha karmaşık ve sofistike öğrenme algoritmalarıyla donatılacak olan AI sistemleri için regülasyon konusu önemini koruyor. Regülatif adımların atılmaması durumunda yapay zeka teknolojisinin yukarıda belirttiğim olumsuz sonuçları ortaya çıkabilir. 

Yapay zekanın toplum ve gelecek nesil üzerindeki etkisi; nasıl geliştirildiğine, benimsendiğine ve düzenlendiğine bağlı olacak. Bu doğrultuda, yapay zeka teknolojilerini yaratanların, toplumun potansiyel etkilerini proaktif bir şekilde ele alması, yapay zekanın sorumlu ve etik bir şekilde geliştirilmesini ve uygulanmasını sağlaması büyük önem taşıyor. 

Dönüşü olmayan bir yol açıldı ve düşünebileceğimiz en iyi ihtimal makine / yazılım / robot / insan / toplum birlikteliğinde dengelerin sağlandığı, birlikte yaşamayı başarabildiğimiz bir sistemin oluşturulması. 

Bu kısa yazıda paylaştıklarımın mümkün olmayan saçmalıklar olduğunu düşünenlerin ise ChatGPT ile biraz sohbet etmesini ısrarla öneririm😊

Son Yazıları

‘Zamanım Yok’ Yalanı

Blog 2024, 15 Mart

Kripto Paraların Ayak Sesleri

Blog 2024, 2 Şubat

Değersizlik Duygusu Yaşamı Tüketir - 2

Blog 2023, 28 Aralık

Değersizlik Duygusu Yaşamı Tüketir - 1

Blog 2023, 3 Kasım

Kişisel Dönüşüm ile ‘Gerçekten Yaşamak’

Blog 2023, 22 Eylül