Zekâ

Giriş

Zekâyı, bu ansiklopedi bağlamında, kısaca “bir fâilin hedeflerine ulaşma kapasitesi” olarak tanımlayabiliriz. Ancak ne yazık ki bu tanım, her ne kadar kısa ve öz görünse de, fazla soyuttur ve işlevsel bir tanıma ihtiyaç duyar. İşte bu işlevsel tanım, yapay zekâdaki (genelde parçacık fiziğine atıf yapılarak Standart Model olarak adlandırılan) baskın paradigmaya göre rasyonel fâilliktir.

Rasyonel fâillik, bir fâilin (etmenin) algı geçmişi doğrultusunda, belirli bir performans ölçütünün (fayda fonksiyonunun) beklenen değerini en üst düzeye çıkarmak için hareket etmesidir.

Dikkatinizi çekmelidir ki bu tanıma göre zekâ insanlara has bir nitelik değildir ve hem biyolojik hem de yapay sistemlere uygulanabilir. Ayrıca tamamen araçsaldır yani fâilin ulaşmaya çalıştığı hedefin kendisinden ziyade hedefe ulaşma becerisiyle alakalıdır. Mesela bu tanıma göre kansere çare bulan bir bilim insanı da tüm gezegeni yok edip onu ataşlara dönüştüren bir yapay zekâ da rasyonel fâillerdir. Yine bu tanıma göre, özfarkındalık yahut bilinç, rasyonel fâillik için önkoşul değildir.

Bu araçsal tanım, yapay zeka güvenliği açısından oldukça önemlidir zira bu tanıma göre zekâ bir nevi “dünya üzerinde etki yaratma gücüdür”. İnsanlardan daha zeki bir yapay zekâ tam da bu nedenle tehlikelidir: (tanım gereği) hedeflerine ulaşmada biz insanlardan daha başarılıdır. Eğer böyle bir sistemin hedefleri insanlığın hedefleriyle uyumlu (aligned) değilse hedeflerine ulaşmak için insanların tahmin edemeyeceği veya karşılık veremeyeceği stratejiler kullananabilir ve nihayeten bu senaryo insanlık için felaketle sonuçlanabilir. Tam da bu nedenle yapay zekâ uyumu, yapay zekâ güvenliğinin ana alt dallarından biridir.

Bu maddelere de bakınız: