Yapay Zekadan Korkmalı mıyız
Birçok insanın AI'nın getireceği şeylerden korktuğunu görmeye başladım. Bu korkunun sebepleri çeşitli olmakla beraber genel bir insanlık ile ilgili kayglarla dolu olduğu görüşündeyim.
Özellikle bilim kurgu hikayelerinin neredeyse tamamının birer distopya şeklinde olması insanı hep karanlık tarafa bakmaya zorluyor gibi.
Matrix filminde makineler için pil olarak kullanılan bir insan soyu gerçekten rahatsız edici. Ya da "Ben Robot" filmindeki VIKI veya "2001: Bir Uzay Destanı" filmindeki HAL gibi insanları düşman olarak gören süper yapay zekalar. Ya da "Terminatör" filmindeki Sky-Net gibi tamamen düşmansı ortaya çıkan robotlar.
Her ne kadar bu filmlerin neredeyse tamamında insanlar bir şekilde başarılı olsalar da gerçek hayatta acaba bu kadar şanslı olabilecek miyiz.
Yapay zeka sahibi uygulamalar geliştirmek için kullandığımız bilgisayarlar acaba ileride bizim kendi yarattığımız canavarlara mı dönüşecek. Masum sayılacak bir yapay zeka tabanlı öneri sistemi ya da akıllı ev sistemi nasıl olur da bizim için bir varoluş sorununa dönüşebilir. İlk nükleer bombanın patlamasından sonra nükleer teknolojinin gelişmesi için çalışmış olan Oppenheimer "dünyaların yok edicisi" haline geldiğini anlamakta zorlanmıştı.
Peki bizi korkutan şeyler tam olarak nelerdir?
Günümüzün dar yapay zeka (DYZ) sistemleri sadece belirli atanan görevlerde iyidir. Onların başarısızlıkları sadece bir uyarıdır: İnsanlar çok daha geniş bir görev yelpazesine ulaşabilen genel yapay zekayı (GYZ) geliştirdikleri zaman çok daha farklı olacaktır. Bir dizi görevi başarmak için bilgiyi algılayabilen, öğrenen ve sentezleyebilen bir makine yapmak hiç de kolay birşey değildir. Ama imkansız da değildir. Fakat bu makineyi hem yetenekli hem de güvenli hale getirmek çok çok daha zor.
Korkmamızın birçok sebebi var.
Amaçlarının Net Olmaması
Yapay zeka uygulamaları kullandıkları teknik sebebiyle kara kutu olarak çalışmaktalar. Veri ile eğitilen ve belirli yapay zeka yöntemlerini kullanan uygulamalardır aslında bunlar. Verilerin çokluğuna göre de başarıları gelişiyor. Herhangi bir kararı verirken neden verdiğine dair pek bir fikrimiz olmuyor. Sadece tahminlerde bulunabiliyoruz.
Gün geçtikçe teknolojileri de gittikçe karmaşıklaşmaya başladı. Bir taraftan da yapay zeka kullanmak kolay hale geldi. Hatta artık yapay zeka teknolojilerini bilmeden de yapay zeka kullanan uygulamalar geliştirme şansınız olabiliyor. Mesela Google firmasının yayınladığı open ML ile yapay zeka daha da demokratize oldu.
El Yazısı ile Mektup Yazan Robot
Peki insanlar bunları yaparken nasıl yaptıkları işlerden bu kadar emin olacaklar. Aklıma garip bir hikaye geliyor. Kaynağını hatırlamadığım. "Birgün bir firma müşterilerine el yazısı ile yazılmış bir mektup yollamaya karar veriyor. Ama bunu yapmak için de yeterli insan olmadığı için bir robota bu işi yaptırmaya karar veriyorlar. Bunun için de yapay zeka geliştirip el yazısını mükemmel taklit edebilen bir yazılım geliştirmeyi de başarıyorlar. Robot gerçekten çok güzel yazıyor bütün mektupları. Müşterilerin geri dönüşü de çok güzel.
Robot da kendi kendini geliştiren bir yazılıma sahip. Ama artık tıkanıyor ve yeni bir açılım arıyor. Robot daha iyi el yazıları yazmak için internete bağlanmak istiyor. Robot internetteki bütün kültürlere ait bilgileri toplayıp ona göre herkese özel bir şekilde daha güzel mektuplar yazmaya çalışacağını söylüyor. Aslında yasak olmasına rağmen onu bir saatliğine internete bağlama kararı alıyorlar ve bağlıyorlar.
Aradan belli bir süre geçtikten sonra birgün bilinmeyen bir sebepten dolayı dünyadaki herkes aniden ölüyor. Sonra bizim robotumuz dünyadaki tüm ağaçları keserek onlara mektuplar yazmaya başlıyor.
Dünyadaki tüm ağaçlar tükenip de üzerlerine el yazısı ile yazılmış mektuplardan oluşmuş destelerle tüm dünyayı doldurduktan sonra uzaya gidip diğer gezegenleri kolonizeleştirmeye başlamış. Diğer gezegenlerdeki tüm karbon formlarından mektuplar üretmeye devam eden bir el yazısı robot ordusu haline gelmiş.
Tüm evren, müşteri memnuniyeti sağlamak için yollanan mektuplarla dolana kadar sürmüş bu durum.
Bu hikaye benim çok hoşuma gitmişti çünkü bir yapay zeka için önemli olan tek bir amaçtır. Amacı sorgulamaz. Onu daha iyi yapmak için çalışır. Nasıl yapacağı değildir problem.
Robotların Kötü Niyetli Cin Olmas
Alaaddinin lambasını ovaladığımız zaman çıkan cin bize hep sormuştur. Ondan 3 dilek dilememize izin vermiştir.
Biz de yapay zeka teknolojilerini hep bu lambadan çıkacak olan cine benzetiyoruz. Ondan ölümsüzlük, zenginlik, mutluluk falan isteyeceğiz.
Peki bu cin kötü niyetli ise. Dedğimizi gerçekleştirebilecek olabilir ama bizim istediğimiz şekilde değil. Mesela mutlu olmak istiyoruz diye beynimizdeki acı duyan tüm kısmı yok ederse. Ya da ölümsüzlük istiyoruz diye bizi bir robota dönüştürürse. Bu istediklerimizi nasıl gerçekleştireceklerine kim karar verecek.
Kötüye Kullanım
İnsanlar malesef yapay zeka robotlarını sadece insanlığın iyiliği için değil silah ya da tehdit unsuru olarak da kullanmaya başladılar. Onun için teknoloji üretiyorlar.
Birgün tüm bu silah teknolojisinin bir hata sonucu ya da tamamen kötü niyetli birileri tarafından tüm insanlığa karşı kullanılmayacağının garantisini kim verebilir.
Yanlış Öncelikler
Robotlar zaten bizim için tehlikeli olan ya da yapmak istemediğimiz işleri yapmaya başladılar. Yavaş yavaş bizden daha iyi yaptıkları işleri de yapmaya başlıyorlar. Sürücüler, avukatlar, doktorlar gibi mesleklerle.
Bu işsiz ordusu için yaşamsal faaliyetler gerçekten problemli bir noktaya doğru gidecektir. Özellikle bu geçiş sürecinde. Patronlar daha yüksek kar elde etmek için hırsla işlerini otonom ve otomatik hale getirdikçe işsiz ordusu büyüyecektir. İşlerini ilk kaybedenler önü alınmaz bir fakirlik içine girecek ve temel ihtiyaclarını karşılayamayacak bir durumda öleceklerdir.
Sonrasında büyük bir önlem alınması sayesinde (eğer insanlık olarak şanslıysak) bu geçiş sürecinin yaraları sarılmaya çalışılabilir.
Robotların Bizi Düşman Olarak Görmesi
Yapay zeka ilerleyip de tamamen süper yapay zeka halini aldığında insanlardan tamamen üstün olduklarında bizi tehdit olarak görebilirler. Bu da onların bize savaş açmasını sağlayabilir. Bu düşünce birçok kişide var. Ben bu fikre pek katılmıyorum.
- Eğer bizden çok daha üstünlerse insansı kaygılar güdüp de bizden intikam almaya çalışmazlar
- Bizimle uğraşmak onlara birşey kazandırmaz
- Bizi öldürerek doğaya zarar vermemizi engellemek diye bir kaygı çok anlamsız. Doğayı yenileyebilecekleri gibi bu dünyada bulunmak gibi bir zorunlulukları da olmayacağı için bizimle ilgilenmezler bile.
Yani hiçbir şekilde düşmansı bir düşünce ile bizim için varoluşsal bir problem oluşturacaklarını düşünmüyorum.
Ama bu durum yapay zeka tarafından sonumuzun gelmeyeceği anlamına gelmiyor. Hala korkmanın gerekli olduğunu düşünenler tarafındayım.
Zararlı Yapay Zekayı Kimler Üretebilir
Aşağıdaki gibi çeşitli kişi ve gruplar tarafından zararlı yapay zeka uygulamları geliştirilmeye çalışıyor olabilir:
- Üstünlük kazanmak için siber silahlar ve robot askerleri geliştiren militanlar;
- Hegemonya kurmak, insanları kontrol altına almak veya diğer hükümetleri devirmek için hükümetler
- Yasadışı yollardan rekabeti yokedip tekel oluşturmaya çalışan şirketler;
- İsimlerini herhangi bir şekilde tarihe eklemeye çalışan psikopatlar;
- Sadece eğlenmek isteyen bilgisayar korsanları;
- Etik olmayan yapay zeka güvenlik araştırmacıları, sorunlu yapay zeka geliştirerek kendilerine mecbur kılınmasını isteyenler (virüs yazan virüs tanıma şirketleri gibi)
Neden Yapay Zekadan Korkmamalı (en azından şimdilik)
Biz (insanlar) sürekli olarak yeni teknolojilere aşırı tepki veriyoruz. Anlamadığımız, bilmediğimiz yeni şeylere karşı verdiğimiz evrimsel tepki korkmaktır.
1980'lerde, DNA kısıtlama enzimleri keşfedildiğinde, genetik mühendisliği mümkün hale geldi. Korku avcıları dünyayı yıkıcı katiller tarafından uyarılmış virüsler ve mutasyona uğramış yaşam formlarınu kullanarak korkuttu.
1997 yılında koyun Dolly'nin klonlanması sonrasın gene korktuk. Sadece birkaç yıl içinde klonlanmış süper askerlerden oluşan ordulara sahip olacağımız manşetlerdeydi. Yedek organlar için hasat edilen zombi depolarından bahsedenler bile oldu. Korkutulduk.
Bildiğim kadarıyla hiçbiri gerçekleşmedi. Tabii teknoloji geliştikçe bu tehditlerin olmayacağı anlamına da gelmiyor.
Yapay zeka için de durum tamamen aynı. Şu an için bir tehdit yok. Muhtemelen faydaları çok daha ağır basacaktır bir süre daha. Önemli olan bu güçlü aleti ne amaçla kullanacağımızdır. Bir bıçakla ekmek de doğrayabilir cinayet de işleyebiliriz. Ne şekilde kullanacağımıza biz karar vreiyoruz. O zaman robotlarla çalışırken de aynı şekilde aynı hassasiyetle karar vermeliyiz.
Günün sonunda tek bir tehlike var.
Sen Ne Düşünüyorsun ?