Yapay Zeka- Ütopya mi ya da Distopya mi? Veya bunu tartışırken bugünü ve geleceği şekillendirme fırsatını kaçırıyor muyuz?

/*Bu yazı bir konuşmamın deşifre edilmiş hali olduğundan sunum diliyle anlatılmıştır. Dinleyiciler teknoloji sektörünün dışında, fikir üreten kişiler olduğundan bilinçli bir şekilde teknoloji derinliğinden uzak, farklı perspektiflerin ele alındığı ve ana amacının farkındalık yaratma ve yeni sorular sordurma olduğu bir konuşmadır */

Her geçen gün yapay zekanın dünyayı, hayatı, teknolojiyi ve insanı nasıl etkileyeceği birçok farklı boyutla birçok farklı mecrada tartışılıyor. Çoğu içerik önümüze ya kapkara, ya da bembeyaz bir gelecek resmi çiziyor. İnsan psikolojisinin en doğal davranış biçimlerinden biri, belirsizlik ve bilinmeyene karşı erteleme eğilimi içinde olması. Arama motorlarında “Yapay Zeka ve Gelecek” diye arattığınızda “Yapay Zeka ve Bugün” diye aramanızın iki katı sonuç çıkması bu psikolojik ertelemenin bir ürünü belki. Ve belki de bu sebeple, bu büyük yapay zeka bilinmeyenine karşı devamlı ütopik ve distopik resimleri tartışmayı sürdürüyoruz ama belki de atladığımız bir şey var. Yapay Zeka halihazırda bugün toplumu, bireyi ve dünyayı şekillendirmeye başladı ve bugün bazı tartışmaları yapmazsak hem bugün hem yarın için çok geç olacak. 

Bu çalışmada iki ana amaç hedefliyorum. Birinci amacım disiplinler arası bir bakışla yapay zekayı anlatabilmek. Bu konudaki gelişmeleri ve kararları bugün tartışmazsak ütopik varsayımlardaki birçok faydayı sağlayamayabilir, hatta distopik varsayımlardaki birçok olguyu çok daha şiddetle yaşayabiliriz. O yüzden bu konunun teknolojinin ötesinde etik, sosyal, ekonomik boyutlarıyla derinlemesine tartışılması gerekmekte. İkinci amacım ise bu dönüşümün gelecekle ilgili değil, bizzat dün ve bugün’ün içinde olduğu ve yarını şekillendirmek için bugün çok hızlıca tartışılması gerektiği konusundaki kanaatimi paylaşmak. Bu iki alanın tartışılması ve yeni fikirlerin ortaya atılması çok önemli çünkü yapay zekanın etkisi Hollywood’un bize anlattığı Terminatorler, Matrixler dünyaya gelecek mi veya magazinsel dünyanın devamlı işlediği hangi işler yok olacak, robotlar bizim yerimizi alacak mı tartışmalarının sığlığından çıkarıp farklı soruları sormamız, farklı cevapları aramamız. Buradakilerden çok daha gerçekçi ve çok daha zor bazı sorular hayatımıza hızla giriyor ve bu soruların cevabını bugünden bulmamız gerekiyor. Mesela: Sosyal medya devleri bizi bizden daha iyi tanıyor olabilir, hatta bizi manipüle ediyor olabilir mi? Yazılımların etik değerleri var mıdır, olmalı mıdır? Yapay Zeka insanlardan daha zeki olduğunda insanın rolü ne olacaktır? Otomasyon ve teknoloji birçok insanı işsiz mi (unemployed) yoksa iş bulamayacak (unemployable) duruma mı getirecektir, bunun sosyal sonuçları ne olacaktır? Nesnelerin Interneti (Internet of Things) gelişirken işler tersine dönüp Internet’in Nesneleri (Things of Internet) olma riskimiz var mı? Bunlar bugün tartışıp, cevap bulup üzerinde çalışmaya başlamamız gereken soru deryasından sadece birkaçı. Ve bu soruları sadece teknoloji perspektifi ile açıklayamayız.

Yapay zekayı açıklamadan ve farklı bilim dallarının perspektifinden incelemeden önce şu anda hayatımızda belki de hiç farkında olmadan onunla nasıl etkileşim içinde olduğuna birkaç örnek verelim. Bugün bir bankanın çağrı merkezini aradığınızda veya yazıştığınızda ilk olarak büyük olasılıkla bir yapay zeka asistanı ile iletişime giriyorsunuz. Ve yine aynı bankaya bir kredi başvurusunda bulunduğunuzda ilk onayı veya sigorta priminizin hesaplanmasında karşınızda bir yapay zeka yazılımı olacaktır. Sosyal medyada gezdiğinizde sizi belki sizden daha iyi tanıyan ve ilginizi en çok çekecek içerikleri karşınıza bir yapay zeka seçiyor, siz bu içerikleri seyrederken size en uygun reklamları da başka bir yapay zeka uygulaması çıkartıyor. Bir e-ticaret sitesinde gezerken ilginizi çekebilecek öğeler diye sizi farklı ürünleri satın almanıza yönlendiren yazılımlar yine yapay zeka ürünü, bu ürünleri satın aldığınızda ise o ürünleri de öğrenerek size yeni ürünleri yine yapay zeka öneriyor. Sadece aldığınız ürünleri değil, sosyal medya da sizin yeni olası arkadaşlarınızı da yapay zeka öneriyor. Yüz tanıma sistemleri ile duygularınızı anlayıp ona uygun çözümleri size yönlendirebiliyor. Belki de yapay zeka bizi; bizim kendimizi tanıdığımızdan daha iyi tanır bir noktaya geldi bile. Ünlü tarihçi Yuval Harari’nin adını koyduğu “Algoritma Çağı” çoktan başladı. 

 Peki, bu algoritmalar, yapay zeka nedir? Nereden çıktı, nasıl çalışıyor? Teknik detaylarda boğulmadan en basit seviyede nasıl tanımlayabiliriz? Öncelikle yazılımların temelini oluşturan algoritmayı tanımlayalım. Bir sorunu çözmek veya belirlenmiş bir amaca ulaşmak için tasarlanan yola, takip edilen işlem basamaklarına algoritma diyoruz. Yani esasında bilgisayarlara verdiğimiz adım adım yapması gereken işlemleri içeren bir reçete. En basit örneği ile bir 4 işlem hesap makinesi yazılımından bahsediyorsak, yazılımımız birinci sayıyı oku, aradaki aritmetik işareti oku, ikinci sayıyı oku, birinci sayı ile ikinci sayı arasındaki aritmetik işlemi uygula ve sonucu ekrana yansıt gibi bir komutlar sıralaması, sıralı bir işlem planı. Bu algoritmalar uzun yıllardır kullandığımız birçok yazılımın en temel mantığı. Ama bir gün bu algoritmaların belli senaryolar için yeterli olamayacağı belli oldu. Mesela bir otonom araç yazılımı için bu şekilde her olasılığın bilgisayarlara komutlanması gerçekçi değil, çünkü aracın içinde kalacağı ve karar vermesi gereken durumlar sonsuza yakın. İşte bu noktada bilgisayarların adım adım komutlanması yerine dünyayı gözlemleyip kendi algoritmasını kendi oluşturmasına olanak sağlamak yeni bir yaklaşım ortaya çıktı. Yani bir otonom otomobilin adım adım ve tüm senaryolar için bir insan tarafından programlanması yerine onun insan sürücüleri uzunca ve dikkatlice takip edip kendi algoritmasını kendi oluşturması yapay zekanın klasik yazılımlardan farklılaştığı ana nokta oluyor. Bunu daha net açıklayan çok güzel bir analoji ise 40 yaşında biriyle 4 yaşında birinin yeni bir yabancı dili öğrenmesi ile anlatılabilir. 40 yaşında biri (ki bunu klasik yazılımlara benzetelim) yabancı bir dili öğrenirken genelde kuralları ile öğrenip düşünür; önce özne gelecek, sonra fiil gelecek, fiil uygun zaman kalıbında kullanmak gerekir, ondan sonra nesne gelecek vs. gibi kurallar üzerinden düşünerek basit bir cümleyi yabancı dilde kurar. 4 yaşındaki bir çocuk (yapay zeka ile benzetebiliriz) ise yabancı dilde herhangi bir dilbilgisi kuralını bilmez, dilbilgisi kuralları ile düşünmez. Bol bol yabancı dilde konuşmayı duydukça o dildeki kelimeleri, kalıpları çözmeye başlar, bunların ilişkilerini fark eder ve onları kullanmaya başlar. 4 yaşındaki çocuk, bu sebeple yabancı dil öğrenirken tek ihtiyaç duyduğu şey o dili bol bol dinlemesidir, gerisini kendisi hiçbir kural bilmeden tek başına çözer. İşte yapay zeka da tamamıyla bu şekilde bizim onu programlamamıza hiç gerek kalmadan bir çok veriyi inceleyerek, dinleyerek, seyrederek yani özümseyerek kendi kendine öğrenir. Özetle yapay zeka, yazılımlar için bu yeni yaklaşımın sonucudur. Ve fark ettiğiniz üzere yapay zekanın tek besin kaynağı bol bol veridir ve o verileri biz insanlar yapay zeka yazılımlarına sunuyoruz. 

Peki madem mantığı bu kadar basit ve 1950li yıllardan beri üzerinde çalışılıyor, neden yapay zeka son yıllarda bu kadar duyuldu ve önem kazandı sorusunu sorabilirsiniz, cevabı yukarıda bahsettiğim yapay zekanın besini olan veri ile ilgili. Yazının icadından yaklaşık 2000 yılına kadar geçen 5000 sene içinde insanoğlu yaklaşık 5 exabyte boyutunda veri üretmişken, 2013 yılında “sadece bir günde” 5 exabyte dijital veriyi üretir noktaya geldik. Tüm internet, dijital medya, bilgisayar kapasitesindeki artışlar ve birçok sebeple dijital veri üretmeye üstsel- eksponensiyel- hızla devam ediyoruz ve yapay zekanın tek ihtiyaç duyduğu olan dijital veriyi ona her gün daha fazla şekilde, daha önce hiç tahmin edilemeyecek ölçekte sunmaya devam ediyoruz. Bu sayede yapay zeka da hiç tahmin edilemeyecek boyutta gelişti, gelişiyor ve gelişecek; ve hepimizi yepyeni bir dünyaya doğru hızla sürükleniyoruz.

Şimdi teknoloji perspektifini bırakıp yapay zekayı diğer bilimlerin perspektifinden yine temel hatlarıyla incelemeye çalışalım ve ilk önce ekonomi biliminden yardım alalım. Bildiğiniz üzere, ekonomik temelleri olmayan hiçbir teknolojik yenilik veya inovasyon dünyada kalıcı bir etki yaratmamıştır, buna karşın ekonomideki belli girdilerin maliyetlerinde düşüşe yol açan teknolojiler tarih boyunca büyük etki yaratmıştır; örnek olarak buhar, elektrik, makine teknolojileri bütün dünyayı değiştiren devrimler yaratmıştır. 

Önce ekonomi bilimi çerçevesinde bir girdinin maliyeti düştüğünde bunun oluşan üç sonucunu inceleyelim. Bir ürünün maliyeti düştüğünde, ilk olarak o girdiyi aynı senaryolarda daha çok kullanırız, ikinci olarak o girdiyi daha önce kullanmadığımız yerlerde kullanmaya başlarız ve üçüncü olarak tamamlayıcı ürünlerin değeri artarken ikame ürünlerin değeri düşer. Bu temel ekonomi prensibini teknoloji dünyasından birkaç örnekle anlatalım. Mesela yarı iletken çipler, yani bilgisayar donanımlarının beyni olan işlemcilerin maliyetleri uzunca yıllar önce önemli ölçüde düştü. Bu da aritmetik/bilgiişlem maliyetlerini düşürdü. Bu olunca, dünyadaki bilgiişlem kapasitesi hızlıca arttı ve sadece devletler ve büyük kurumlar bilgisayara erişirken artık herkesin evinde, cebinde bir bilgisayar var, yani var olan senaryolarda kullanımı hızlıca arttı. Aynı şekilde daha önce hiç kullanılmayan senaryolara olanak sağladı, mesela analog fotoğrafların yerini dijital fotoğraflar ve dijital fotoğraf makineleri aldı çünkü dijital fotoğraflar tamamıyla aritmetik temelli ve aritmetik maliyetleri çok düşmüştü. Ve son olarak tamamlayıcı ürün olan yazılımın değeri artarken ikame girdi olan insanların yaptığı işlem kapasitesinin değeri düştü, mesela muhasebe departmanları çok küçüldü ve çoğu çalışanlar muhasebe yazılımları yüzünden işini kaybetti. Aynı şekilde interneti de inceleyebiliriz. Internet iletişim ve arama maliyetlerini düşürdü, bu sayede interneti akademik bir ağdan çıkarıp her amaçla kullanmaya başladık, daha önce hiç kullanmadığımız senaryolarda kullanmaya başladık ve internette yapılan işlerin değeri artarken internete rakip çözümlerin değeri ve önemi hızla düştü. Tüm teknolojik gelişmelerde bu ekonomik altyapıyı ve prensipleri görebiliyoruz. 

Peki, yapay zeka neyin maliyetini düşürüyor? Yapay zeka, tahmin (prediction) maliyetlerini düşürüyor. Bu ne demek? Birinci olarak, tüm endüstrilerde bütün tahmin problemlerinde yapay zekayı kullanacağız demektir, yani talep tahmini, iş planlaması, risk modelleme, müşteri tanıma, işgücü planlama, envanter yönetimi gibi bütün tahmin tabanlı problemler yapay zeka tarafından işlenebilecek demektir. İkinci olarak daha önce tahmin problemi olarak görmediğimiz problemleri de bu şekilde tanımlayıp yapay zeka ile çözeceğiz demektir. Mesela otonom araçlar için ne zaman fren yapmalıyım ne zaman hızlanmalıyım kararı, verilerinden öğrendiğim iyi bir insan sürücü bu durumda ne yapardı gibi bir tahmin problemi olarak tanımlanmıştır ve otonom araçlar algoritmaları artık tamamıyla bir tahmin problemidir. Ve sonuncusu ve belki de en önemlisi yapay zeka geliştikçe hangi tamamlayıcı girdilerin değeri artacak ve hangi ikame girdilerin değeri düşecektir. Kesinlikle tamamlayıcı birinci girdi veridir ve verinin önemi her gün artacaktır. Kesinlikle birinci ikame ürün ise insanların tahmin/işlem gücüdür ve değerini kaybedecektir, yani standart, otomatize edilebilecek her türlü insan kapasitesinin değeri düşecek ve ondan kat kat daha ucuz ve başarılı yapay zeka ile yer değiştirecektir. Ama bu insanlar için kötü bir şey değil, veri ile beraber yapay zekayı tamamlayacak ve en çok değer kazanacak şey ise insanların yargı, empati ve karar verme yetkinlikleridir, çünkü yapay zeka çok iyi ve ucuz tahmin yapabilirken karar verme yetisi insanlara özgü kalacak ve her geçen gün değer kazacaktır. Bu da insanların bilgisayarla rekabet etmek yerine bir bilgisayarın yapamayacağı hatta anlayamayacağı etik ve empatiyi tahminle harmanlayıp karar verme yetkinliğinin bugünkünden çok daha değerli olacağını bize anlatmaktadır.

Ekonomik perspektife değindikten sonra birazda yapay zekanın sosyal boyutlarını tartışmaya açmak isterim. Dijital Darwinizim olarak da sıklıkla anılan bu dönem için çok farklı teoriler ve öngörüler üretiliyor. Hollywood’un insanları öldüren robotları gibi yine sıklıkla karşımıza çıkan ama genelde çok sığ ve esas çözülmesi gereken problemleri perdeleyen popüler medyanın hangi meslekler kaybolacak, yok olacak haberleri. Eminim sizler de sıklıkla denk gelmiş okumuşsunuzdur, mesela bunların en güncellerinden bir tanesi radyoloji alanı. Yapay zekanın radyoloji alanında artık birçok doktordan daha iyi teşhis koyabildiğini biliyoruz. Ama bu Radyologların yok olacağı anlamına geliyor mu? Kanser teşhisimin dünyadaki tüm radyologlardan binlerce hatta belki milyonlarca kat fazla vaka incelemiş bir yapay zeka yazılımı tarafından verilmesi benim için daha tercih edilebilir; ama kanser olduğumu, hangi aşamada olduğunu veya ne kadar ümit olduğunu bir yazılımsal robottan mı yoksa bir doktordan mı duymak isterim? Ben çoğunluğumuzun, bizi anlayabilen bizimle empati kurabilen bir insan doktoru tercih edeceğimizi düşünüyorum. 

Bu sebeple hangi meslekler kaybolacak tartışması yerine; bütün işlerin ve mesleklerin esasında bir iş süreçlerinin toplamı olduğunu öngörüp esasında hangi süreçlerin insanlar tarafından hangi süreçlerin yazılımlar tarafından hangi süreçlerin ise ortak olarak yapılacağını anlayıp daha bir derin analize varmamız gerekecektir. Çok basit olarak bakmak gerekirse makineler veya yazılımlar en iyi yaptıkları şeyleri yapacaklardır: Sürekli tekrar eden süreçler, çok geniş veri setlerini analiz etmek ve rutin işler. İnsanlar ise kendi en iyi yaptıkları işleri yapacaklardır, zor seçimlerde karar verebilme, net olmayan bilgilerden çözüm üretme, zor durumlardaki insan iletişimleri gibi. Bu perspektif ile bakıldığında insan-makine rekabeti yaklaşımını bırakıp insan-makine işbirliğine odaklanmalı, kimin hangi süreçleri sahipleneceği ve daha da önemlisi ortak çalışma alanlarının nasıl daha efektif olacağı tartışılmalıdır, çünkü bazı süreçlerin sadece insanlar tarafından yapılacağı varsayımımız gibi bazı süreçlerin de sadece makineler tarafından yapılacağını kabul etmemiz lazım. Hiçbirimizin şüphesi olmasın, otomatize edilebilecek bir süreç varsa o süreç er ya da geç otomatize edilecek ve yazılımlar ve makineler tarafından yapılacaktır. Önemli olan ortak alanı veya diğer adıyla insan-makine hibrit alanı nasıl tanımlayacağımız ve geliştireceğimiz. Biz makineleri işlerini daha iyi yapmaları için eğitirken ve onları her geçen gün daha iyi veri ile tırnak içinde söylüyorum besleyip büyütürken; biz yine makinelerin verdiği sonuçların sebeplerini insanlara anlatmaya çalışırken ( ve yine eklemek isterim artık öyle bir noktaya geldik ki kendi geliştirdiğimiz yazılımların bu doğru sonuçlara nasıl ulaştığını çoğunlukla anlayamıyoruz bırakın anlatmayı) ve bu yazılımların ve makinelerin tırnak içinde söylüyorum bakıcılığını yapıp efektif çalışmalarını sağlarken bulacağız kendimizi. Makineler ise bize bizim insani fiziksel yetkinliklerimizle yapamayacağımız ister analitik ister fiziksel ve robotik üstünlükleri bize sunarak bizim daha yetkin ve etkin olmamızı sağlayabilecek ve bizimle dijital olan her mecrada yanımızda olacak. 

Özetle, popüler medyanın bize çizdiği insan-makine rekabeti sansasyonel bir perspektif, ama gerçekçi ve derin bir perspektif değil. Önemli olan işleri süreç ve yetkinlik kırılımları ile inceleyip hangilerinin insanlar hangilerinin yazılımlar hangilerinin ise hibrit bir şekilde yapılacağını bugünden öngörebilmek ve kendimizi bu işbirliğine doğru hazırlamak. Peki buna toplum olarak hazır mıyız?

Netflix’de “Sosyal Ikilem” belgeselini izleyenleriniz -ki izlemediyseniz kesinlikle izlemenizi tavsiye ederim- sosyal medya platformlarının arkasındaki yapay zekanın toplumsal polarizasyonu nasıl istemeden de olsa arttırdığını, bireyleri nasıl adeta bir zombiye çevirdiğini görmüşsünüzdür ki bu başlı başına bir konuşma konusu. Ama bunun üzerine bir perspektif daha eklemek isterim. 4. Endüstri devrimi de denilen bu yapay zeka devrimi veya dijital devrim diğer devrimlerden bir noktada ayrılıyor. Daha önceki devrimlerde kendine tarlada iş bulamayan geniş kitleler fabrikalarda çalışmaya başladı, fabrikalarda makineleşme ile iş azalınca hizmet sektöründe çalışmaya başladı. Var olan yetkinliklerini geliştirmeleri gerekti evet ama bu çok büyük bir gelişim değildi ve çoğu insan bu değişimi başarabildi. Ama bir evvelki slaytimda gösterdiğim insanlara özgü veya insan-makine hibrit alanındaki yetkinlikler çoğu insanın var olan yetkinlik kapasitesinin çok çok üstünde, arada büyük bir uçurum var. Bu da bizi şöyle bir soruna taşıyor ki bizim önümüzdeki yıllardaki problemimiz belki işsizlik – yani unemployment- değil iş bulabilme yetkinliğinden uzak – unemployable- insanların toplumun önemli bir kısmını oluşturacak olması, çünkü artık makas çok açılıyor. Böyle bir noktada geniş bir işsiz ve iş imkanı/yetkinliği/ümidi olmayan büyük bir toplum grubu, her geçen gün artan polarizasyon ve zombileşmiş, derin düşünemeyen, yüzeyselleşmiş bir toplum riskini de çok ciddi bir şekilde taşıyoruz ve bu sorulara hızlı cevap bulamazsak – umarım geç kalmamışızdır- yakın gelecekte içinde olacağımız hayatın bu olacağını öngörmek hiç de zor değil.  

Son olarak etik perspektifi hakkında birkaç görüş bildirmek isterim. Ama bu başlığı açmadan önce size konuşmamın başında yaptığım çocuk öğrenmesi ile makine öğrenmesi arasındaki analojiyi hatırlatmak isterim. Nasıl ki çocuklarımız onlara doğru soruları sorduğumuzda veya nasıl ki onlara doğru deneyimleri yaşattığımızda- söyleyerek değil de göstererek ve örnek olarak- öğreniyorsa yapay zeka da buna çok benziyor, ona verdiğimiz verilerden öğrenerek, bunlar arası bağlantıları güçlendirerek bize cevaplar sunuyor. Bu slayttaki gösterdiğim yapay zekanın en klasik problemlerinden biri olan bias- yanlılık, taraf tutma‘ya bir örnek. Toplumdaki önyargıların ve bunun yapay zekanın beslendiği veriye yansımasının yapay zeka tarafından beslenmesi ve sunulması. Tıpkı çocuklarımız gibi, biz onları nerede besler ve büyütürsek, onlar bizden fazlasını yapıyor. Aynı şekilde doğru soru sormanın önemini düşünelim basit bir örnekle. Yapay genel zeka seviyesine ulaştığımızı düşünelim ki bu bence sadece bir ne zaman sorusu ve bu noktada yapay zekanın kapasitesi insanların zihinsel kapasitesinin üzerine çıkmış olacak, bu noktada yapay zekaya dünyadaki açlığı bitirilmesi için bir yöntem sorulduğunda tamamıyla istatiksel ve analitik düşünen yapay zekanın o zaman dünyadaki bütün fakir insanları yok edelim diye bir çözümle gelmesi sürpriz olur mu? İstatiksel ve analitik olarak sürpriz olmaz. Bu iki örneğin gösterdiği gibi yapay zeka için etik konuların hızlıca tartışılması gerekiyor.

Etik yapay zeka perspektifini tartışırken Mark Twain’in “İleri gitmenin sırrı şimdi gitmeye başlamaktır” sözüyle başlamak isterim. Bugün en azından şu 6 alanda yapay zeka çalışmalarına yön vermemiz, fikir sunmamız lazım. 

Bunlardan birincisi Fairness- tarafsızlık. Toplumumuzda halihazırda bir eşitsizlik ve taraf tutan yaklaşımlar var, bunu tamamıyla teknolojiye ve yapay zekaya bırakırsak bu eşitsizliklerin artacağına şüphe yok. Mesela belli bir toplum sınıfındaki kişilerin kredi başvuruları reddediliyor, iş başvuruları onaylanmıyor, belli stereotyplelar oluşuyorsa var olan verilerden öğrenen yapay zekanın bunları artırarak devam edeceğinden şüphe yok. Bu sebeple eşitlikçi, tarafsız yapay zeka yazılımlarının nasıl geliştirileceğinin tartışılması ve toplumdaki farklılıkların daha da nasıl artırılmayacağının ciddi bir şekilde düşünülmesi gerekiyor. 

İkinci alan güvenilirlik ve güvenlik. Düşünün ki ileride sağlımızla ilgili bir çok karar yapay zeka tarafından verilecek, kendimizi, sevdiklerimizin içinde olduğu araçlar yapay zeka tarafından idare edilecek, sürülecek. Klasik bir sorudur, yapay zeka tarafından kontrol edilen bir otonom aracın karşısına iki çocuk çıktığında bu aracın yazılımı karşıdan karşıya geçen çocuğa mı çarpmalıdır, yoksa aracı yoldan çıkarıp aracın içindeki aracın sahibinin mi yaralanmasına veya ölmesine mi karar vermelidir, yapay zekanın yapacağı bu etik tercihi mühendislerin mi tercihine bırakacağız yoksa etik çerçevesinde tartışmamız gerekir mi? Peki ya otonom silahsız araçlar? Tamamıyla yapay zeka tarafından yönetilen bir silahın insanları hiç düşünmeden öldürmesi senaryosunda, otonom silah yazılımın hedefi karşı tarafa zarar vermek ise tamamıyla istatiksel tabanlı çalışan yapay zeka kendisine verilen bu hedefi maksimize etmeye çalışmayacak mıdır? Bu yazılımlar güvenilir ve güvenli midir? 

Üçüncü alan mahremiyet alanı. Silikon vadisinde klasik bir espridir, sizi sizden iyi bir tanrı bir de sosyal medya şirketleri tanır diye. Gerçekten belki bizim bile farkına varmadığımız isteklerimizi, beğenilerimizi, korkularımızı, düşüncelerimizi, eğilimlerimizi, hatta fiziksel özelliklerimizi bizden daha iyi bilen, bunlar arasında korelasyon yapabilen ve bunu milyarlarca insan için bilen yapay zeka sistemlerini düşünün. Bunlar bugün halihazırda var, gelecekten bahsetmiyorum. Böyle bir dünyada karşımıza çıkan şeyler bizi manipüle ediyor olabilir mi, veya bizim düşüncelerimizi, hareketlerimizi şekillendiriyor olabilir mi? Veya yapay zeka bizi biz farkında olmadan değiştiriyor olabilir mi? Eskiden bir gazete vardı ve hepimiz aynı gazeteden aynı haberi okuyorduk. Bugün benim karşıma farklı haberler ve görüşler, sizin karşınıza farklı haberler ve görüşler çıkıyor haber sitelerinde veya sosyal medyada gezdiğimizde. Artık bir tek gerçek yok. Benim geçmiş davranışlarımdan veya ağımdan dolayı seçilmiş bir gerçekliği görürken siz farklı bir sanal dünyadasınız; ve tüm bu eğilimlerimiz, bilgilerimiz, davranışlarımız, yani bizim dijital hatta bazen fiziksel yansımalarımız daha çok para veren reklam verenlere satılıyor. Yapay zeka bu arada masum bir aracı mı, yoksa esasında bizi, bizi değiştirmeye bir şey yapmaya çalışan kurumların, bireylerin bir aracısı mı? Ben birincisi olduğu düşüncesindeyim ama masum olması mahremiyet kısmında büyük bir çaba içinde olmamız gerektiği gerçeğini değiştirmiyor. Sosyal medya devlerinin sizi sizden iyi tanıyor olması esasında hiç de iyi bir durum olmayabilir.

Dördüncü tartışmamız gereken kapsayıcılık. Yapay zeka sistemlerinin ister fiziksel ister düşünsel isterseniz de yetkinlik olarak farklı grupları kapsayıcı olması gerekmekte. Yapay zekanın müthiş bir güç olacağını çok net bir şekilde öngörüyoruz. Ama yapay zekayı besleyen verinin, veya yapay zekayı geliştiren bilişsel insan kapasitesinin veya yapay zekanın kullanıldığı alanların dünyanın belli alanlarında odaklandığını düşünün. Klişe söylemdir, veri yeni petrol diye. Ben bunu şu şekilde genişletiyorum, veri yeni petrol, yapay zeka ise yeni elektrik. Bugünün dünyasında elektriğin sadece dünyanın çok limitli alanlarında üretildiğini, sadece bu çok limitli bölgelerin çıkarı için kullanıldığını, dünyanın çok büyük kısmında elektrik olmadığını düşünün. Nasıl bir dünya olurdu? Peki bundan 10 sene sonra sizce buna benzer bir dünya ile karşılaşma olasılığımız var mı? Dünya çok daha kasvetli, ayrışmış hatta kastlaşmiş bir yapıya dönüşebilir mi? Dönüşmeye başladı bile belki de. Ve bugün bunu tartışmaz ve çözümler geliştirmezsek dünyanın çok büyük kısmı “elektriksiz” kalabilir.

Beşinci düşünülmesi gereken alan saydamlık. İşin teknik yapısı gereği, özellikle adını sinirsel ağlar – neural networks- dediğimiz gelişmiş yapay zeka sistemlerinde sistemin yazılımcısı bile bir noktadan sonra yapay zeka sisteminin verdiği kararları açıklayamayabilir bir noktaya geliyor ve bu teknoloji anlamında yazılımın mantığının doğal bir sonucu. Peki sosyal ve etik anlamda bu ne ifade ediyor? Mesela ileride sizin tedavinize, ameliyat olup olmamanız gerektiğine, hangi ilaçları kullanıp kullanmamanız gerektiğinde buna yapay zekanın cevap verdiği bir sistem düşünün, hiç de çok uzak değil. Ama ne doktorunuzun ne yapay zeka yazılımcısının ne de sizin bu kararın sebeplerini, neden bu karar verildiğini anlamadığınızı bilemediğinizi düşünün. Belki meşhur yapay zeka satranç turnuvalarında bilgisayarın taşları neden o şekilde hareket ettirdiğini anlamamanız çok önemli değil, ama eğer bu kararlar sizin sağlığınızla, geleceğinizle ilgili olacaksa? Veya sigorta prim kararlarını, kredi veya kredi kart başvurularını bir yapay zeka sisteminin karar verdiğini düşünün, yine hiç uzak değil hatta bugün bu sistemler var, ve sizin başvurularınız reddediliyor ve kimse bunun sebebini size açıklayamıyor. Karşımızda bizden çok daha güçlü, bizim onun mantığını anlayamadığımız ve açıklayamadığımız bir sistem var. İnsan olarak nasıl hissedeceğiz?

Son olarak sorumluluk alanını tartışmamız gerekiyor. Bir şeyin yapılabiliyor olması onun gerçekten yapılmalı mı veya nasıl kullanılmalı sorularının cevabını bize vermiyor. Mesela yüz tanıma sistemleri çok iyi bir örnektir, yüz tanıma sistemleri bize çok daha yüksek güvenlik sunabiliyor, suçluların bulunmasını kolaylaştırabiliyor ama aynı zamanda demokratik olmayan rejimlerde herkesin her yerde takip edildiği ve mahremiyetin sıfırlandığı bir dünyaya da bizi taşıyabiliyor. Evet otonom araçlar çok iyi olacak, hem trafik kazalarını azaltacak hem çok daha rahat bir ulaşımı bize sunacak ama aynı otonom araçlar çok basit bir şekilde otonom savaş araçları da olabilir. Bu regülasyonları, etik ilkeleri kimler tanımlamalı, sadece bu teknolojileri üreten kurumlar veya mühendisler mi? Hep şuna benzetirim, nükleer enerji güvenli bir şekilde üretildiğinde dünya için çok temiz bir enerji kaynağı olabilir- tekrarlıyorum güvenli bir şekilde üretildiğinde- ama aynı teknoloji nükleer bombalar gibi insanlığı çok karanlık bir dünyaya da götürebilir. Ama bu teknolojinin kullanılma veya nasıl kullanılacağı sorumluluğu sadece nükleer enerjiyi üreten kurumların karar vermemesi gereken kadar büyük bir soru.

Konuşmamı özetlemek gerekirse, yapay zekayı teknik detaylarına girmeden, daha çok ekonomik, sosyal ve etik boyutlarıyla sizlere anlatmaya çalıştım. Bunun çok temel bir giriş çalışması olduğunu, bu konuların her birinin altının tek başına çok detaylı bir çalışma konusu olduğunu belirtmek isterim. Amacım kafanızda belli soruların oluşmasını sağlamaktı. Bu tren istasyondan çoktan kalktı ve çok hızlı bir şekilde hızlanıyor. Artık geri dönüş yok. Anlatmaya çalıştığım bu tren bize inanılmaz faydalar sağlayıp dünyayı, insanlığı çok ciddi bir şekilde geliştirirken sosyal, ekonomik, politik ve etik alanda da birçok yeni soruyu beraberinde getireceği gerçeği. Ve bunları bugünden tartışmazsak korkarım ki çok geç olacak. Algoritma çağının gerçeklerini ancak üzerinde çokça düşünerek, tartışarak şekillendirebiliriz. Eğer biz bu şekillendirmeyi yapmazsak bu kararlar bir noktada, bir yerde verilecek ve biz de bunun sonuçlarıyla yaşıyor olacağız hem de çok yakın bir zamanda. Ve öyle bir nokta gelecek ki, robot gibi düşünmeye çalışan ve ona yetişemeyip atıl duruma düşen insanlar olmak yerine; bugünden geleceği şekillendirip, toplumun yetkinliğini artırıp, daha eşit, adil ve zengin bir insanlığa gidebilecek bir yol seçebiliriz. Bu seçim elimizde, ama hızlı olmamız lazım. Ütopya mı distopya mı ikileminde vakit kaybetmek veya bu yolculuğu yok saymak korkarım ki bizi düzgün bir gelecek oluşturma konusunda geç bırakacak.