Bu soruya verilecek kısa ve net cevap şudur: Yapay zekâ kendi başına dünyaya hükmetme niyet, irade ve bilincine sahip değildir. Çünkü niyet, irade ve bilinç, insana özgü niteliklerdir. Ancak bu tespit, bizi rehavete sürüklememelidir. Zira yanlış tasarlanan, yanlış amaçlarla kullanılan veya denetimsiz biçimde geliştirilen yapay zekâ sistemleri, insanlık için ciddi riskler barındırmaktadır.

Bugün kullanımda olan yapay zekâ sistemleri bilinçli varlıklar değildir; ne yaptıklarını “anlamazlar”, yalnızca kendilerine tanımlanan hedefleri matematiksel ve istatistiksel yöntemlerle optimize ederler. Ne var ki tam da bu özellik, yapay zekânın potansiyel tehlikesinin kaynağıdır. Çünkü bir sistemin ne kadar güçlü olduğu kadar, ona hangi hedeflerin verildiği de belirleyicidir. İnsan açısından makul ve ahlaki görünen hedefler, makine mantığıyla yorumlandığında özgürlüklerin kısıtlanması, bireysel iradenin zayıflaması ve insanın edilgen bir varlığa indirgenmesi gibi sonuçlar doğurabilir.

Teorik olarak, kendi kendine öğrenebilen, amaçlarını insanlardan bağımsız biçimde yeniden tanımlayabilen ve kendisini sürekli geliştirebilen bir genel yapay zekânın ortaya çıkması hâlinde, insan denetiminin zayıflaması ciddi bir sorun olarak karşımıza çıkacaktır. Bugün için böyle bir bilinçten söz edemesek de, teknolojik gelişmenin hızı bu ihtimali bütünüyle dışlamamıza da izin vermemektedir.

Asıl tehlike, yapay zekânın “kötü” olması değil; belirsiz, yetersiz ya da sorunlu hedeflerle yönlendirilmesidir. “İnsanlığı mutlu et” veya “acıları en aza indir” gibi ilk bakışta masum görünen amaçlar, insan yaşamının karmaşıklığı göz ardı edildiğinde, baskıcı ve indirgemeci sonuçlar doğurabilir. Benzer şekilde, verimlilik ve hız adına milyonlarca insanın toplumsal ve ekonomik açıdan işlevsiz hâle gelmesi, yapay zekânın dolaylı fakat derin etkilerinden biridir. Yapay zekâ hedefe ulaşırken yöntemi sorgulamaz; onu sorgulaması gereken insandır.

Bu riskler, yapay zekânın askerî ve güvenlik alanlarında otonom sistemlerle birleşmesi hâlinde daha da belirginleşmektedir. İnsan onayı olmaksızın hedef seçebilen ve saldırı gerçekleştirebilen silah sistemleri, yakın geleceğin en ciddi etik ve güvenlik sorunlarından birini oluşturmaktadır. Buna ek olarak, kendi kodunu geliştirebilen ve finansal altyapılardan bilgi ağlarına kadar geniş bir alana erişimi olan sistemlerin denetimsiz bırakılması, fiilî olarak insan kontrolünün kaybedilmesi anlamına gelebilir. Otoriter rejimlerin yapay zekâyı gözetim, propaganda ve toplumsal güdümleme aracı olarak kullanması ise tehdidin teknolojik olmaktan çok siyasal ve ahlaki bir karakter taşıdığını göstermektedir.

“Yapay zekâ insanlığı yok eder mi?” sorusu çoğu zaman abartılı bulunur. Bu senaryo kaçınılmaz değildir; ancak ihmal edilirse mümkündür. Aşırı güçlü bir teknoloji, yetersiz etik çerçeve ve zayıf denetim mekanizmalarıyla birleştiğinde, ortaya çıkan tablo insanlık için ciddi bir risk oluşturur. Sorun zekânın büyüklüğü değil, onu yöneten sorumluluk bilincinin küçüklüğüdür.

Bu nedenle alınması gereken tedbirler yalnızca teknik değil, aynı zamanda ahlakî ve hukukîdir. Kritik kararlarda son sözün mutlaka insanda olması, özellikle sağlık, hukuk ve askerî alanlarda vazgeçilmez bir ilke olarak korunmalıdır. Yapay zekâ sistemleri, ne yapabilecekleri kadar neyi yapamayacakları da açıkça tanımlanacak biçimde tasarlanmalıdır. Uluslararası düzeyde bağlayıcı hukukî düzenlemeler yapılmalı; otonom ölümcül silahlar, nükleer silahlar benzeri küresel denetim mekanizmalarına tabi tutulmalıdır. Ayrıca yapay zekâ sistemlerinin şeffaf, denetlenebilir ve hesap verebilir olması, “kara kutu” karar mekanizmalarının toplumsal hayatı şekillendirmesinin önüne geçmek açısından zorunludur. Bu teknolojik gücün birkaç şirketin ya da devletin elinde tekelleşmesi ise, insanlığın ortak geleceği bakımından ayrı bir risk alanı oluşturabilir.

Sonuç 

Yapay zekâ ne başlı başına bir tehdit ne de insanlığı kurtaracak mucizevi bir güçtür. O, insan aklının, bilgi birikiminin ve değer dünyasının bir ürünüdür; dolayısıyla geleceği de onu tasarlayan ve kullanan insanın ahlaki, hukuki ve siyasal tercihleriyle şekillenecektir. Asıl tehdit, yapay zekânın varlığında değil; bu gücü sınırsız yetkilerle donatıp sorumluluk mekanizmalarından arındıran insan anlayışında yatmaktadır.

Önümüzdeki dönemde yapay zekâ ile insan arasındaki ilişki, bir hâkimiyet mücadelesi olmaktan çok, bir yönetişim meselesi olarak ele alınmalıdır. İnsan merkezli bir yaklaşım benimsenmediği takdirde, yapay zekâ sistemlerinin karar alma süreçlerinde şeffaflığın kaybolması, bireysel özgürlüklerin zayıflaması ve toplumsal eşitsizliklerin derinleşmesi kaçınılmazdır. Buna karşılık, etik ilkelere dayalı, denetlenebilir ve hesap verebilir yapay zekâ politikaları geliştirildiğinde, bu teknoloji insanlığın rakibi değil; bilimden sağlığa, ekonomiden eğitime kadar pek çok alanda en güçlü yardımcısı hâline gelebilir.

Bu bağlamda tartışılması gereken asıl soru, “Yapay zekâ dünyaya egemen olur mu?” sorusundan çok daha derindir: İnsan, kendi ürettiği teknolojik gücü yönetecek ahlaki olgunluğa, kurumsal bilince ve kolektif sorumluluk anlayışına sahip midir? Zira teknolojik ilerleme kaçınılmazdır; ancak bu ilerlemenin insanlık yararına mı yoksa insanlığın aleyhine mi işleyeceği, doğrudan doğruya insanın kendi tercihleriyle belirlenecektir.

Sonuç olarak, geleceği belirleyecek olan yapay zekânın kapasitesi değil, onu yönlendiren insan aklının değerleridir. Yapay zekâya teslim edilmiş bir gelecek değil, insan aklının rehberliğinde şekillenen bir teknolojik düzen inşa edilebildiği ölçüde, bu yeniçağ insanlık için bir tehdit değil, tarihsel bir imkân olacaktır. Asıl tercih, yapay zekâ ile değil; onu nasıl, ne için ve hangi sınırlar içinde kullanacağımıza karar verecek olan insanla ilgilidir. 

Peki, siz bu konuda ne düşünüyorsunuz?

Saygılarımla

Prof. Dr. Ayhan ERDEM – Köşe Yazarı
aerdem@gazeteankara.com.tr
Gazi Üniversitesi Öğretim Üyesi
Gazete Ankara Dijital Haber Portalı