Yapay zekâ saat başı gelişiyor, doğru. Meçhul bir gelecekte insan sesine öykünecek niteliğe ulaşabilir, gazete çıkarabilir, şiir yazabilir, gıcırtılı kelimelerle yerime köşe bile yazabilir; ne de olsa elinden her iş geliyor ve sınırsızlığa eğimleştiriliyor. Hem de hakkındaki yorumlar 1951’den 2026’ya, modern bilgisayarların öncüsü Alan Turing’ce makinelerin "insan zekasını aşabileceği" ihtimalinden, Jacob Coxon’ın "YZ insanlığı yok edebilir" yorumlu halini almış iken.
400 saatlik videoyu dakikada özetlemekten tutun da yüzlerce sayfalık dokümanı anında analiz etmeye dek milyon marifeti var. Kontrol sizde; dilerseniz "Harikasın, müthişsin" yollu, dilerseniz standart "dalkavuk modu"ndan çıkarak reddiye düzebiliyor. Nasıl olsa okur düşünce yazısından anlamaz; okuyan mı var ki anlasın, o ayrı bir tartışma konusu.
Yapay zekânın medeniyeti ne derece tehdit ettiğine dair de olasılık yüzdeleri, zaman tahminleri konuşuluyor ve kimsenin potansiyel risklere dair kesin öngörüleri bulunmuyor. Ancak YZ modelleri dahil herkesin buluştuğu ortak payda, bu ihtimalin artık asla "%0" olmadığı... Önceki hafta Anthropic’ten istifa eden araştırmacı Jacob Coxon’ın birçok yayın kuruluşuna söyleşi vererek, "Yapay zekâ geliştiriciler, 10 yıllık bir zaman dilimi vererek insanlığı öldürebileceğine samimi bir şekilde inanıyor" demesi çok ses getirdi.
Coxon’ın ardından geçen hafta da Anthropic’in patronu Dario Amodei’nin "yavaşlama" çağrısı yapması, YZ’nin insanlık için varoluşsal anlamda değilse bile medeniyete yönelik açık bir tehdide dönüşme ihtimalini artık resmen kabul ettiriyor. Tabii Nuh Tufanı gibi büyük kıyametlerin yaşandığı söylenen, Mu ve Atlantis gibi mitlerle dolu bir dünya için "insanlığın yok olması" şeklindeki uyarıların fazlaca abartılı ifadeler olduğunu ve YZ'nin haddinde olmadığını düşünebiliriz. Dolayısıyla insanlığın topluca yok olmasıyla medeniyetin ağır hasar görmesi arasındaki farkı ayırt etmek gerekiyor.
Evet, teknolojiye bağımlıyız ve medeniyetimizin dijital altyapısı çok kırılgan. Sektör içinden kriz uyarısı yapanlara göre, önümüzdeki 10 yıl içinde yapay zekânın medeniyetin sonunu getirme olasılığı %10. Şüpheciler ve eleştirmenler ise bu tip felaket senaryolarının, şirketlerin halka arzları öncesinde kendine hizmet eden stratejiler olduğunu savunuyorlar. Ayrıca araştırdığım birçok araştırmacı, mevcut YZ'lerin biyolojik canlılar gibi bir "hayatta kalma güdüsüne" sahip olmadığını vurgulayarak, büyük resme bakıldığında en yakın tehdidin YZ’nin iradesinden ziyade onu kullanacak kötü niyetli ellerden gelebileceğini belirtiyor.
Zararlardan birkaçı; yapay zekâ modellerinin kitlesel imha planlayan kimselere biyolojik veya kimyasal silah tarifleri sunması ya da siber ataklar düzenleyerek küresel altyapılara büyük hasarlar vermesi en gerçekçi fiziksel riskler arasında. Bir diğeri, insan varlığını engel olarak görüp ortadan kaldırmayı en çözümcül yol seçmesi. Misal, "Küresel ısınmayı çözmek için ne gerekiyorsa yap" denilen yapay zekânın insanlığı yeryüzünden temizlemeye kalkışması...
İnsanlığın nötr büyük bölümü hayatta kalabilmeye odaklı iken diğer negatif bölümü "Kalmanıza gerek yok, zira hepimize yetmiyor" ideolojisi ile son hızla çalışırken; söz konusu bu YZ'ye karşı sunulan önlemler arasında bağımsız değerlendirme kurumlarının laboratuvarlarına entegre edilerek verilere tam erişim sağlanması, yapay zekânın yeteneklerini geliştirmekten çok güvenlik tekniklerine öncelik verilmesi ve kamusal denetim mekanizmalarının devreye sokulması yer alıyor. En azından sahici aklımıza mukayyet olmalı, muhakememizi ve karar egemenliğimizin elimizden alınmasının farkındalığında olmalıyız.
