Teknoloji sektöründeki 1000 lider hakkında yapılan yeni bir çalışma, yapay zekanın (AI) sürekli büyümesiyle ilgili umut yerine korku yaratarak sonuçlandı.
2021 Rasyonalist.org — Evrim Ağacı içerikleri
Elli yıl önceki bir pazar günü, bilgisayar mühendisi Douglas Engelbart; San Francisco’da bilgisayar endüstrisini ve dolaylı olarak dünyayı değiştiren canlı bir gösterim yaptı. Konferans salonunda yüzlerce ilgili insan, “mouse” adı verdiği bir cihaz ile nasıl biçimlendirilmiş belgeleri yönettiğini ve insanların farklı konumlarda paylaşılmış belgeler üzerinde online olarak nasıl çalışabileceklerini gösterdi.
“Tüm demoların annesi” olarak bilinen bir tarihçi olan Steven Levy, “Pencereler açılıp kapandıkça ve içerikler tekrar düzenlendikçe, seyirciler sanal gerçekliğin yarattığı ufka baktılar. Engelbart, bir yaka mikrofonu ve sakin bir ses ile onlara cihazı tanıttı. Bu 1968 demosu, canlı arayüzler kullanan kişisel bilgisayarlara, başka bir deyişle bugün kullandığımız cihazlara dayanan kocaman bir endüstrinin ufkunu genişletti.
Engelbart, problemleri çözmenin en etkili yolunun insan yeteneklerini arttırmak ve kolektif zeka oluşturmak olduğuna inanan bir hayalperestti. Bilgisayarlar, ona göre birer “akıl için bir yönlendirici”, başka bir deyişle insan yeteneklerini geliştirmeye yarayan araçlardı ve bu gelişim başından beri teknoloji endüstrisinin iyimser bakış açısının temelini oluşturmuştur.
Bu rüya, veri avcılarının bizi nasıl aynı zamanda hem gelişimimiz için şımarttığını hem de bize gerekenleri sağladığını öğrendikçe sönükleşmeye başladı. Bahsettiğimiz iddia, aynı zamanda şirkete ve uygulamaya bağlı olarak değişebilir. Örneğin e-tablolar, kelime işleme, bilgisayar destekli tasarım (CAD) ve proje planlama araçları tartışılmaz birer lütuftur. Google arama, insanlık için bir hafıza protezi veya herhangi bir bilgiden asla yoksun olmamak üzere bir gerekçe olarak görülebilir. Ancak Instagram veya Facebook tarafından ne tür bir bilişsel gelişim sağlandığı net değildir, tabii eğer bir gelişim söz konusuysa. Buna tabii ki Twitter da dahildir.
Bununla birlikte, yapay zeka adı verilen, gelişim iddiasının sürekli olarak yapıldığı yeni bir teknolojik oluşum söz konusudur. Yapay zeka, misyonerleri tarafından insan yeteneklerini gerçekten arttırabilecek bir teknoloji olarak gösterilmiş ve bu görüşü zamanla doğrulamıştır. Şu anki haliyle bile, makinelerin öğrenmesi ve gelişimi konusunda oldukça etkileyicidir. Örneğin, bir görüntü tarama yazılımının on binlerce retinal taramayı hızlı bir şekilde tarayabileceği ve bir göz cerrahı tarafından dikkat edilmesi gereken noktaları güvenilir bir şekilde seçebileceği düşünülmektedir.
Ancak, makine öğrenmesinin kötü sonuçlara yol açabileceği ve bu kadar güçlü ama kusurlu olmaya eğilimli bir teknolojiye güvenerek dünyayı ağlara mahkum etmemizin önünde duran büyük bir önyargı vardır. Pew Research Center, risklerin mantıklı bir tahminini oluşturmak amacıyla yakın zamanda şu soruyu uzman bir heyete sundu: “2030'a gelindiğinde, AI ve ilgili teknoloji sistemlerinin ilerlemesinin insan kapasitelerini artıracağını ve güçlendireceğini düşünüyor musunuz?” Cevaplar ise oldukça açıklayıcı ve ayıltıcı olmuştur.
Katılımcıların tamamı, teknolojinin güçlendirici potansiyelini anlayan insanlar olsa da, cevapların yarattığı endişe insanların gözlerinden belli oluyordu. Yapay zekanın geniş çaplı kullanımının, hayatın kilit noktalarında verilen kararların kodlama ile çalışan “kara kutu” sistemlerine devredildikçe, insan gücünde bir ihtiyaç kaybı yaratacağını gördüler. Ek olarak, kâr için tasarlanan gözetim sistemlerinde kötüye kullanım olasılığından korkmuşlardı. İstihdam konusunda büyük riskler söz konusuydu. Bazıları yeni iş çeşitlerinin ortaya çıkmasını beklerken, bazıları büyük işsizlik, büyüyecek bir ekonomik uçurum ve bunun tetikleyebileceği halkçı ve sosyal ayaklanmalar olacağı konusunda kesin görüşlere sahip.
Bunların birçoğu yapay zekanın büyüme potansiyelini hoş karşılamaktadır ancak diğerleri artan teknoloji bağımlılığımızın; düşünme, bağımsız harekete geçme veya başkalarıyla etkili bir şekilde etkileşim kurma kapasitemizi kötü etkileyeceğinden korkmaktadır. Ve bazıları da, ‘deep fake’ videoları* örneğinde olduğu gibi, teknolojinin demokratik süreçleri etkileyebilme yetisinin gelişeceğini öngörüyor.
Bu anketle ilgili söylenebilecek ilk şey, Mori / YouGov türünün istatistiksel olarak temsil edilen bir kamuoyu yoklaması olmamasıdır. Tüm bunlar, çoğu teknoloji endüstrisi, çekirdek teknolojileri ve şirketleri ile özdeşleşmiş, çok iyi bilgilendirilmiş düşünürlerin fikirlerini tartışmak için oldukça ciddi birer girişimdir. En azından, onların yansımaları, işsiz filozoflar ve diğer “kaybedenler” için mesleki terapi olarak ahlakı gören bir teknoloji endüstrisinden, “Her yerde yapay zeka” görüşüne olumlu bir geçiş için perspektif kazandırıyor.
Ama en önemlisi ise, bu tartışmanın bana Engelbart’ın bu konuda ne yapacağını merak ettirmesi oldu. Engelbart bir açıklamasında, “Birisi bana bir keresinde sadece bir hayalperest olduğumu söylemişti. O zaman için bu beni alındırdı. ‘Sadece’ kısmı beni etkilemişti. Gerçek bir hayalperest olmak kolay bir şey değildir ve üstelik kendi hayallerine inanmaya başladığında işler daha da zorlaşır.” dedi. Özellikle de o hayaller kabusa dönüşürse..
*’Deep fake’ teknolojisi, herhangi bir videodaki kişilerin yüzünü başkalarının yüzleriyle değiştirmeye yarayabilen bir tekniktir. Metinde ise siyasi amaçlarla karalama kampanyası olarak kullanılabileceğinden bahsediliyor.
Çevirmen: Ayşe Ege Palaz
Editör: Ögetay Kayalı
Referanslar
1. The Guardian, “If tech experts worry about artificial intelligence, shouldn’t you? “
<https://www.theguardian.com/commentisfree/2018/dec/16/tech-experts-worried-about-artificial-intelligence-pew-research-center>
