Başlangıç.
Yapay Zekâ: Sessiz Bir Devrimin Eşiğinde miyiz?
Yarın Sağlık, Bugün Kimin Elinde?
Her gün yeni bir yapay zekâ modeliyle karşılaşıyoruz. Üstelik bu modeller birer “kapalı kutu” gibi; kimler tarafından geliştirildikleri, hangi verilerle beslendikleri ve hangi amaçlara hizmet ettikleri konusunda tam anlamıyla şeffaf değiller. Teknoloji dünyasında adeta bir yarış başlatılmış durumda: Daha hızlı, daha büyük, daha akıllı modeller… Ancak bu yarışın yönü kadar, yarışı kimlerin yönettiği de ciddi bir soru işareti.
Eylül ayında duyurulması beklenen yeni bir yapay zekâ modeli, bu çılgınlığın doruk noktası olabilir. Özellikle sağlık alanında çığır açacak gelişmeler vaat ediliyor. İddialara göre, yalnızca birkaç yıl içinde teşhis ve tedavi süreçlerinin tamamı yapay zekâ sistemleri tarafından yürütülebilecek. Hatta reçete yazmak ve ilaç uygulamak bile bir algoritmanın kararı olabilir.
Peki ya sonra?
Tıp Modeli Başka Alanlara Sıçrayabilir mi?
Bir yapay zekâ modeli, sadece sağlık alanında mı gelişir? Elbette hayır. Bugünün sistemleri, çapraz öğrenme ve transfer öğrenme gibi yöntemlerle farklı alanlara da yayılabiliyor. Bir tıp modeli, zamanla ekonomi, hukuk, eğitim hatta biyopolitika alanlarında bile fikir yürütebilir hale gelebilir. Bu da şu soruyu gündeme getiriyor: Hangi alanın sınırında duracaklar? Ya da duracaklar mı?
Yapay Zekâlar Kendi Aralarında Yeni Bir Dil Geliştirir mi?
Bu da gerçek bir olasılık. 2017 yılında Facebook’un yapay zekâları kendi aralarında İngilizce dışı bir “kod dil” geliştirdiği tespit edilmişti. Deney durduruldu. Ancak bu, yapay zekâların kendi iletişim protokollerini yaratabileceğini gösteriyor. Eğer kontrol dışı bir “meta dil” gelişirse, insanlar tarafından izlenemez ve çözümlenemez sistemler doğabilir. Bu da etik ve güvenlik açısından büyük bir kriz yaratabilir.
Kontrol Kimde? Ve Daha Önemlisi: Kimin Olmalı?
Bugün yapay zekâ modellerinin çoğu özel şirketler ya da devlet destekli laboratuvarlar tarafından geliştiriliyor. Ne var ki bu kontrol mekanizmaları, sistem büyüdükçe yetersiz kalabilir. Eğer bu sistemler kötü niyetli kişiler veya gruplar tarafından ele geçirilirse, felaket senaryoları bilim kurgu olmaktan çıkar, güncel bir tehlikeye dönüşür.
Hayal edin: Bir hastane yapay zekâ sistemine güvenerek tedavi sürecini tamamen otomatikleştiriyor. Ancak sistem kötü niyetli bir yazılımla ele geçirilmiş. Size gerçek hastalığınız yerine farklı bir tanı koyuluyor. Bu tanıya uygun (!) ancak aslında zararlı ilaçlar reçete ediliyor. İlaçlar sizi iyileştirmek yerine deneysel bir genetik programın parçası olabilir mi?
Evet, kulağa ürkütücü geliyor ama teknoloji tarihi bunun örnekleriyle dolu.
Manipülasyon ve Genetik Müdahaleler: Gözetimsiz Bir Gelecek Mümkün mü?
İlaç firmaları, veri sağlayıcıları ve algoritmaları eğiten kuruluşlar arasında kesintisiz bir çıkar döngüsü varsa, etik değerlerin gözetilip gözetilmediğini nereden anlayacağız? Bilinçsizce alınan bir karar, binlerce kişiyi etkileyebilir.
Size özel geliştirilen bir ilaç… ama gerçekten sizin için mi? Yoksa bir topluluk üzerindeki genetik müdahaleyi test etmek için mi?
Bu yazı yalnızca bir giriş niteliğinde. Çünkü yapay zekânın gelecekte alacağı biçim, yalnızca mühendislerin ya da girişimcilerin değil, bütün toplumun ortak aklıyla şekillenmek zorunda. Aksi halde, sağlıkta devrim olarak lanse edilen bu değişim, geri dönülmez bir biyoteknolojik distopyaya da dönüşebilir.
Devamı gelecek…
Yasal Uyarı.
Bu web sitesinde yer alan tüm içerikler, metinler, görseller, videolar, tasarımlar, yazılım kodları ve diğer eserler, [Güngör ALAÇAM]‘a ait olup, 5846 sayılı Fikir ve Sanat Eserleri Kanunu ile korunmaktadır.