Papa Leo, teknoloji odaklı genelgede yapay zekanın “silahsızlandırılması” çağrısında bulundu

Roma — Papa Leo XIV, Pazartesi günü büyük ölçüde yükselişin etkilerine odaklanan önemli bir belge yayınladı. yapay zeka insanlık için, teknolojinin uygarlığı “daha az insan” haline getirebileceği konusunda uyarıda bulunmak.

Papa Leo defalarca Trump yönetimiyle çatıştı üzerinde İran vardı ve bazı ABD’li yetkililerin buna yönelik dini gerekçeleri de, çatışmanın Amerika’nın güvenliği için gerekli bir önleyici tedbir olduğu iddiasını reddediyor gibi görünüyordu.

Genelge olarak bilinen 82 sayfalık Magnifica Humanitas (Muhteşem İnsanlık) kitabında şöyle yazdı: “Bugün, en katı anlamda meşru müdafaa hakkına halel getirmeksizin, her türlü savaşı meşrulaştırmak için sıklıkla kullanılan ‘haklı savaş’ teorisinin artık geçerliliğini yitirdiğini yeniden teyit etmek her zamankinden daha önemli.”

Francis ayrıca Vatikan’ın transatlantik köle ticaretini kolaylaştırma ve meşrulaştırmadaki rolü nedeniyle ilk kez özür diledi ve bunu “Hıristiyan hafızasında bir yara” olarak nitelendirdi.

“Bunun için Kilise adına içtenlikle af diliyorum” diye yazdı.

Ancak genelgenin büyük çoğunluğu, Leo’nun açıkça insanlığın yapay zekayı risk yüklü bir şekilde benimsemesi olarak gördüğü şeye ayrılmıştı.

Papa Leo, yapay zekanın uygarlığı “daha az insan” yapabileceği konusunda uyardı

Geçen yıl dünyanın ABD doğumlu ilk papası kendi adını seçtiğinde, Leo kasıtlı olarak bu adı taşıyacak son papaya başvurdu: 1891 tarihli dönüm noktası niteliğindeki genelgesi Rerum Novarum, Sanayi Devrimi’nin çalkantısında Katolik Kilisesi’ne rehberlik eden Papa Leo XIII.

Bir asırdan fazla bir süre sonra Chicago yerlisi, Yapay Zeka Devrimi için benzer şekilde iddialı bir girişimde bulundu.

Magnifica Humanitas’ta, dünyadaki yaklaşık 1,4 milyar Katolik’in lideri, yapay zekanın uygarlığı “daha az insan” haline getirme, işin içini boşaltma, zenginliği yoğunlaştırma ve insanları onur ve ahlak yerine veri ve verimlilikle yönlendirilen sistemlere indirgeme riskiyle karşı karşıya olduğu konusunda uyardı.

Leo, “Acil görev,” diye yazdı, “son derece insani kalmaktır.”

Leo, yapay zekanın “silahsızlandırılması” çağrısında bulunarak, teknolojinin “jeopolitik veya ticari hakimiyeti güvence altına alma arzusuyla yönlendirilen, daha güçlü algoritmalar ve daha büyük veri kümeleri için bir yarışı” ateşleyebileceği uyarısında bulundu.

Belge, üretken yapay zeka çağında yazılan ilk büyük papalık genelgesini işaret ediyor ve mevcut teknolojik devrimi yalnızca ekonomik bir meydan okuma olarak değil, aynı zamanda papanın “antropolojik” olarak adlandırdığı şekilde, insanlığın anlamına ve amacına dokunan bir kriz olarak çerçeveliyor.

Belgenin sunulmasına yardımcı olan Vatikan yetkililerinden Kardinal Michael Czerny, CBS News’e “Lütfen genelgenin yapay zeka ile ilgili olmadığını unutmayın.” dedi. “Bu, yapay zeka zamanındaki insanlığın durumuyla ilgili.”

Matematik diplomasına sahip olan Leo, Vatikan’daki bir belge için alışılmışın dışında doğrudan bir dil kullanarak, hükümetlerinkine rakip olabilecek nüfuza sahip bilişim şirketlerinin büyüyen gücü konusunda uyardı.

Papa aynı zamanda teknolojinin doğası gereği kötü olmadığını da vurguladı.

Kardinal Czerny, “Yapay zeka büyük bir insan başarısıdır” dedi. “Hayran olacak ve şükredecek çok şeyimiz var… Ama sorumluluktan vazgeçemeyiz.”

Vatikan’ın endişeleri Silikon Vadisi’nin çok ötesine uzanıyor. Genelge, yapay zekanın orta sınıfın içini boşaltabileceği yönündeki geniş toplumsal kaygıları tekrar tekrar yansıtıyor; ⁠çok sayıda işi ortadan kaldırın; eşitsizliği derinleştirmek; toplumsal parçalanmayı körüklüyor; ve AI odaklı savaşı normalleştirin.

Genelge, “Savaşı ahlaki açıdan kabul edilebilir kılabilecek hiçbir algoritma yoktur” diyor.

“Bazen doğru olanı yapmakla çelişebilecek kısıtlamalar”

Bu uyarı, dünyanın dört bir yanındaki orduların yapay zekayı hızla silah sistemlerine entegre etmesiyle geldi. CBS News yakın zamanda ABD kuvvetlerinin Fas’ta tatbikat yaptığını gözlemledi ve Pentagon’un yapay zeka platformu Maven’e bağlı sistemler de dahil olmak üzere yapay zeka destekli hedefleme sistemlerinin ve otonom teknolojilerin artan kullanımını ilk elden gördü.

Vatikan’ın Leo’nun genelgesini yayınlamasının en çarpıcı yönlerinden biri, Pazartesi günü üst düzey kilise yetkilileriyle birlikte bizzat orada bulunan yapay zeka şirketi Anthropic’in kurucu ortağı Christopher Olah’ın da dahil edilmesiydi.

Olah, yapay zeka şirketlerinin “bazen doğru şeyi yapmakla çelişebilecek bir dizi teşvik ve kısıtlama dahilinde” çalıştığını ve “olayları daha iyi bir yöne itmek” için Katolik Kilisesi de dahil olmak üzere dışarıdan gelen girdileri memnuniyetle karşıladığını söyledi.

“Yapay zekanın ortaya çıkardığı sorular, yapay zeka araştırma topluluğundan daha büyük” dedi.

Leo, Olah’ın “birlikte yürümek, dinlemek, konuşmak ve birlikte insanlığın yolunu bulmak” davetini kabul ettiğini ve “birlikte zamanımızın önemli sorularını ve dolayısıyla insanlığın geleceğini kavrayabileceğimizden” emin olduğunu söyledi.

Anthropic kendisini sıklıkla güvenlik bilincine sahip, “önce insan” bir yapay zeka şirketi olarak sunsa da, Trump yönetimi yakın zamanda Pentagon’un teknolojisini otomatik ölümcül sistemlerde veya kitlesel yurt içi gözetlemede kullanmasına izin vermemesi nedeniyle bunu bir tedarik zinciri riski olarak listeledi.

Ancak CBS News’in de şahit olduğu gibi modelleri askeri ve istihbarat uygulamalarına entegre olmaya devam ediyor.

Anthropic’in insan odaklı bir yapay zeka şirketi olarak itibarının, Vatikan’ın onunla iş birliği yapma kararını etkileyip etkilemediği sorulduğunda Czerny, “Eminim öyledir” yanıtını verdi.

Ancak yapay zeka şirketleriyle diyaloğun Vatikan’ın onayıyla karıştırılmaması gerektiğini vurguladı.

Czerny, “Herkesle diyalog halindeyiz” dedi. “Onaylamıyoruz.”

Genelge, yapay zekanın yarattığı tehlikelerin yalnızca teknolojik değil, aynı zamanda manevi ve varoluşsal felç olduğu fikrine defalarca geri dönüyor.

Kardinal CBS News’e “Bunaldık” dedi. “Aslında söyleyecek hiçbir şeyimiz yokmuş gibi hissediyoruz… ve bu bizi felç ediyor.”

Papa’nın, insanların yapay zekayı Tanrı’nın yerine koymaya başlamasından endişe edip etmediği sorulduğunda Czerny şöyle yanıt verdi: “Evet… birçok şey Tanrı’nın yerine geçiyor ve biz onlara put diyoruz.”

Papa, Sanayi Devrimi’nin emeği ve sermayeyi dönüştürdüğü gibi, yapay zeka devriminin de insanlığı dönüştürdüğü konusunda uyardı.