Yapay zekâ insanlığın sonunu mu getirecek?

“Yapay zekâ bir gün insanlığı bitirebilir.”

Birkaç yıl öncesine kadar bu cümle daha çok bilimkurgu filmlerinin konusu gibi görülüyordu. Bugün ise dünyanın önde gelen bilim insanlarının ve teknoloji çevrelerinin ciddi biçimde tartıştığı bir mesele haline geldi.

Ancak burada iki uçtan da kaçınmak gerekiyor. Yapay zekânın insanlığı yok edeceğini kaçınılmaz bir gelecek gibi sunmak ne kadar yanlışsa, böyle bir ihtimali tamamen bilimkurgu olarak küçümsemek de o kadar yanlış.

Çünkü henüz gerçekleşip gerçekleşmeyeceğini bilmediğimiz, ancak gerçekleşmesi halinde sonuçları çok ağır olabilecek bir riskten söz ediyoruz.

Asıl tehlike, yapay zekânın bir gün bilinç kazanıp insanlardan nefret etmesi olmayabilir. Çok daha sıradan bir ihtimal var: İnsandan çok daha yetenekli bir sisteme yanlış bir amaç verilmesi.

Örneğin çok güçlü bir yapay zekâya “şirketin kârını mümkün olduğunca artır” veya “verimliliği her ne pahasına olursa olsun yükselt” denildiğini düşünelim. Eğer sistemin yetkileri genişse insan sağlığı, özgürlüğü, çevre veya toplumsal değerler onun açısından korunması gereken unsurlar değil, hedefe ulaşmanın önündeki engeller haline gelebilir.

Yani sorun yapay zekânın kötü olması değil, yanlış şeyi çok iyi yapmasıdır.

Bugün açısından daha somut tehlike ise yapay zekânın insanlar tarafından kötüye kullanılmasıdır. Siber saldırılar, dolandırıcılık, dezenformasyon ve manipülasyon gibi alanlarda yapay zekâ, insanlara daha önce sahip olmadıkları ölçekte bir güç sağlayabilir.

Bir diğer risk, kritik sistemlerin yapay zekâya aşırı bağımlı hale gelmesidir. Enerji, finans, ulaşım, iletişim ve savunma gibi alanlarda yapay zekânın karar süreçlerinde ağırlığının artması, tek bir hatanın çok daha büyük sonuçlara yol açmasına neden olabilir.

Bir de savaş boyutu var.

Otonom silahların yaygınlaşması ve insanların karar verme sürecinden giderek çıkarılması, yanlış bir algoritmik kararın gerçek dünyada ölümcül sonuçlar doğurması ihtimalini artırabilir.

Fakat belki de en dikkat çekici tehlike, yapay zekânın insanlığı zorla ele geçirmesi değil; insanlığın kendi karar verme yetkisini yavaş yavaş yapay zekâya bırakmasıdır.

Bugün tavsiye alıyoruz. Yarın ekonomik, hukuki, sağlık ve güvenlik kararlarında daha fazla yapay zekâya güvenebiliriz. Zamanla toplum, “Yapay zekâ daha doğru karar veriyor” düşüncesiyle kritik kararları tamamen makinelere bırakabilir.

Ve bir gün onları kapatabilecek durumda olsak bile, onlarsız yaşayamayacak kadar bağımlı hale gelmiş olabiliriz.

Elbette bütün bunlar “kesinlikle gerçekleşecek” anlamına gelmiyor.

Bugün hiç kimse insanlardan her alanda üstün bir yapay zekânın ne zaman ortaya çıkacağını veya böyle bir sistemin kontrol edilip edilemeyeceğini kesin olarak bilmiyor. Uzmanlar arasında da ciddi görüş ayrılıkları var.

Bu nedenle ne paniğe kapılmalı ne de rehavete düşmeliyiz.

Yapay zekâyı durdurmak değil, onu güvenli ve sorumlu biçimde geliştirmek zorundayız.

Çünkü insanlık tarihinde ilk kez, kendisinden daha zeki olabilecek bir sistem üretme ihtimaliyle karşı karşıyayız.

Sanayi Devrimi insanın kas gücünü, bilgisayarlar hesaplama gücünü dönüştürdü. Yapay zekâ ise insanın düşünme ve karar verme kapasitesiyle rekabet edebilecek bir teknoloji olabilir.

Bu nedenle geleceğin en önemli sorusu belki de “Yapay zekâ bizi yok eder mi?” değildir.

Asıl soru şudur:

İnsan, kendisinden daha zeki bir sistem üretirse onun üzerindeki egemenliğini nasıl koruyacak?

Geleceğin teknolojik olduğu kadar hukuki ve felsefi mücadelesi de işte bu sorunun cevabında yatıyor.


Av. Zafer İŞERİ
HUKUKÇU