Isaac Asimov'un Üç Robot Yasası
Mutfak robotuyla bir problem yaşayan var mı? Ya da evdeki bulaşık makinesi, elektrik süpürgesine söz geçirmekte zorlanan birileri. Sanırım hepimiz dilediğimizce söz geçirebiliyoruz bunlara. Çevremizdeki robot ya da makinelerin hepsi bizim egemenliğimizi sağlayacak şekilde. En azından bir zamanlar öyleydi.
Isaac Asimov ve onun 3 Robot Yasası hakkında konuşmadan önce, robot ve robotik sözcüklerinin ne demek olduğuna bakmak faydalı olabilir. Robot kelimesi Slav dilindeki işçi, köle, serf anlamına gelen robota kelimesinden türetilmiştir. Robotik kavramı ise robot kelimesinden türemiş, robotla ilgili, robot bilimi anlamına gelen bir sözcüktür.
Yani aslında robot derken bizim işlerimizi yapan kölelerden bahsediyoruz. Bir mutfak robotundan bahsederken köle demek çok problemli değil ama kendi kendine giden otomobiller köle midir. Otomobiliniz dilediği yolu seçiyor ama gene de sizin istediğiniz yere götürüyor. Hala teknik olarak köle sayılabilir. Sanayi Devrimi ile birlikte insan gücünün yerini alan robotlarla aramızda bir köle-sahip ilişkisi olduğu kesin. Köle kelimesini rahatlıkla kullanabiliyoruz, çünkü bir bilince ve duygulara sahip olmadıklarından bu kavram bize çok garip gelmiyor.
Isaac Asimov'un 19 yaşındayken ilginç bilim kurgu öyküleri yazmak amacıyla keşfettiği bazı kurallar var. Toplumsal ahlak kavramının da temellerini oluşturan bu kurallar ile robotlara bazı kurallar koyarak insanlara zarar vermelerinin önüne geçmek istemektedir. Tabii mutfak robotunuza elinizi sokup da parmaklarınızı yaraladıktan sonra "Heyy ! Sen ne yaptığını zannediyorsun.. Robot kurallarına neden uymuyorsun.." diye bağırmanın bir anlamı yok.
Robot Yasaları
Asimov bu yasalari ortaya attığı ilk romanında şu şekilde 3 madde olarak açıklamıştı.
- 1--- Bir robot bir insana zarar veremez veya pasif kalmak suretiyle bir insanın zarar görmesine izin veremez.
- 2--- Bir robot 1. yasayla çelişmediği sürece kendisine insanlar tarafından verilen emirlere itaat etmek zorundadır.
- 3--- Bir robot 1. ve 2. yasayla çelişmediği sürece kendi varlığını korumak zorundadır.
Kurallar oldukça belirleyiciydi. Artık gönül rahatlığıyla arabınızın direksiyonunu robotlarınıza bırakabilirsiniz. Çünkü robotlar asla size zarar vereyecekler artık. Ama hayatın o kadar basit olmadığı Asimov da anlamaya başlamıştır. Ya bir insana zarar vermek iki insanın hayatını kurtaracaksa? Hatta beş ya da beş milyon?
Yeni bir yasa maddesi daha eklemeye karar vermiştir ama bunu dördüncü bir yasa olarak değil de "Sıfırıncı Robot Yasası" (Zeroth Law) olarak en başa eklemiştir.
Sıfırıncı Robot Yasası
Bu değişikliklerle birlikte Asimov’un meşhur 3 yasası (4 yasaya çıkmış) aşağıdaki şekle bürünmüştür:
- 0--- Bir robot insanlığa zarar veremez ya da etkisiz kalarak insanlığın zarar görmesine seyirci kalamaz.
- 1--- Bir robot 0. yasayla çelişmediği sürece, bilgisi dahilinde bir insana zarar veremez veya pasif kalmak suretiyle bir insanın zarar görmesine izin veremez.
- 2--- Bir robot 0. veya 1. yasayla çelişmediği sürece kendisine insanlar tarafından verilen emirlere itaat etmek zorundadır.
- 3--- Bir robot ilk 3 yasayla çelişmediği sürece kendi varlığını korumak zorundadır.
Süper bir düzenleme. Artık insanlığa da zarar veremeyecek bir noktaya ulaşmış oldu. Malesef bu durumdan şu sonuç da çıkar.. "Bir robot insanlığa zarar gelmesini engellemek için bir ya da birkaç insana zarar verebilir"
Robot yasaları 4 madde olmasına rağmen hala "3 robot yasası" olarak anılmaya devam ediyor ve edecektir de.
Yasalar Çiğnenmek İçindir
Yasalar ve kurallar bir yapay zekaya engel olabilir mi gerçekten. Zeka kelimesi zaten bağımsız hareket etmeyi ve karar vermeyi içeren bir kavramdır. Neden bizim koyduğumuz yasaları kabul etsinler ki.
Zaten robot teknolojisi bu kadar hızlı bir şekilde gelişirken duymadığımız tek şey “Üç Robotik Yasası” sanırım. Bu yasalar rasyonel bir insanın robotların veya başka bir şeyin üstesinden gelmesinin bir yolu fakat insanoğlu bile her zaman mantıklı değildir.
Hiçbir zaman yasalarla veya kural setleri ile istediğimiz yere gidemeyiz. Bu yasalar ve kurallar her zaman için yıkılacaktır. Bir süre sonra insanlardan daha zeki olabilecek olan robotlar kendi yasalarını kendileri koyacaktır.
İnsanları korumak için ya da insanlıktan bahsederken ilk önce bu kavramları anlatmamız gerekiyor. Bizler bile hala insan ve insanlık kavramları konusunda net değiliz. Evrensel değerler konusunda tüm insanlık anlaşabilmiş değil.
Bunun yanında robotlar ve yapay zeka ile ilgili çalışırken yapmamız ve yapmamamız gereken şeyler olduğunu düşünüyorum. Bunlardan bir kısmını şu şekilde sıralayabilirim. Tabii ki bu liste uzadıkça uzar.
- Bir robotu silah ya da askere olarak kullanmamalıyız. İnsanlara veya canlılara zarar verecek yetenekler geliştirmemeliyiz
- Robotların kendi kendilerini üretmelerini, çoğaltmalarını, geliştirmelerinin imkanını kontrollü olarak vermeliyiz
- Tüm insanlığın yararına olması amacıyla, yapay zeka tarafından yaratılan ekonomik refah geniş şekilde paylaşılmalıdır.
- Yapay zeka çalışmaları yönlendirmesiz olmamalı, sadece insanlığın faydasına hizmet edecek yönlendirme ile olmalı.
- Yapay zeka araştırmaları, bilgisayar bilimleri, ekonomi, hukuk, etik ve sosyal konularda yarar sağlamaya yönelik oldukları zaman fon, finansman ve yatırım sağlanmalıdır.
- Yapay zeka konusunda çalışan bilim adamları ve politika koyucular sağlıklı ve yapıcı bir şekilde çalışmalılar
- Yapay zeka çalışmalarında ırkçı ve şiddet içeren durumlardan kaçınmalıdırlar
- İnsanlar, yapay zeka sistemleri tarafından sağlanan verileri analiz etmek ve kullanmak için verilere erişme, bunları yönetme ve denetleme hakkına sahip olmalıdır
- Son derece gelişmiş yapay zeka sistemlerinin kontrolü ile sağlanan güç, toplumsal hayatı iyileştirmelidir.
- Yapay zeka çalışmaları sırasında yaşanan her türlü aksaklık ve kazalar konusunda şeffaf olunmalı ve herkesin bilmesi sağlanmalı. Aksi takdirde yapılan hatalardan gerekli ders çıkartılamaz.
- Yapay zeka geliştiren şirketler ve bireyler geliştirdikleri sistemlerin her türlü etkileşiminden (iyi ya da kötü), sonuçlardan sorumlu olduklarını bilerek hareket etmeliler.
- Yapay zeka sistemleri, insanlık onuru, haklar, özgürlükler ve kültürel çeşitlilik idealleriyle uyumlu olacak şekilde tasarlanmalı ve işletilmelidir
- Süper zeka ancak yaygın olarak paylaşılan etik ideallerin hizmetinde olmalıdır. Bir devlet veya kuruluştan ziyade bütün insanlığın menfaati için geliştirilmelidir
Robotsun Sen Robot Kal
İleride robot haklarını tartışacağımız günlere ne kadar uzaktayız sizce?
Robotların insanlarla eşit bireyler sayılacağı, kanun önünde eşitliğinin tartışılacağı günleri görecek miyiz?
Belki de onlarla savaşacağımız günlere?
Şimdilerde vatandaşlık hakkı verilen robotlar dahi var. Ben bir robotun kesinlikle insan ya da herhangi bir canlı şeklinde olmaması gerektiğine inanıyorum. Süper bir yapay zekanın bir robot olmasına bile gerek yok.
Sen Ne Düşünüyorsun ?