Papa Leo, yapay zekaya ilişkin geniş kapsamlı genelgeyle büyük teknolojiyi hedefliyor

VATİKAN ŞEHRİ (RNS) — Papa Leo XIV, 25 Mayıs Pazartesi günü yayımladığı ilk genelgesinde doğrudan Büyük Teknoloji’nin gücünü hedef aldı ve yapay zekanın eşitsizliği artırma, demokrasiyi zayıflatma ve insan olmanın anlamını baltalama riski taşıdığı konusunda uyardı.

“Magnifica Humanitas” (Muhteşem İnsanlık) başlıklı belge, yapay zekayı yeni sanayi devrimi olarak çerçeveliyor ve yapay zekayı askeri ve ekonomik çıkarların dışında bırakarak, yapay zeka şirketlerini daha katı devlet ve uluslararası düzenlemelere tabi tutarak ve bireylerin ve toplulukların bu hızla gelişen teknolojinin geleceğini şekillendirmeye geniş katılımını davet ederek “yapay zekayı silahsızlandırmaya” çağrıda bulunuyor.

Leo, “Yapay zekayı silahsızlandırmak, onu bugün yalnızca askeri bağlamla sınırlı olmayan, aynı zamanda ekonomik ve bilişsel bir olgu olan ‘silahlı’ rekabet zihniyetinden kurtarmak anlamına geliyor” diye yazdı. Papa Leo, “Silahsızlanma, teknolojiden vazgeçmek değil, onun insanlığa hükmetmesini engellemek anlamına gelir” diye yazdı.

“Bu nedenle sadece düzenleme yapmak yeterli değildir; silahsızlandırılmalı, hoş karşılanmalı ve erişilebilir olmalıdır” diye devam etti.

Leo aynı zamanda belgede Büyük Teknoloji konusunu da ele alarak, birkaç varlıklı kişinin insanlığın geleceğini ve geçimini etkilemesinin tehlikelerine dikkat çekerek, “dijital devrime katılabilenler ile kenarda kalanlar arasındaki” uçurumu genişletti.

“Yapay zeka, halihazırda ekonomik kaynaklara, uzmanlığa ve verilere erişime sahip olanların gücünü artırma eğilimindedir” diye yazdı. “Küçük ama oldukça etkili gruplar bilgi ve tüketim kalıplarını şekillendirebilir, demokratik süreçleri etkileyebilir ve ekonomik dinamikleri kendi avantajlarına yönlendirerek sosyal adaleti ve halklar arasındaki dayanışmayı baltalayabilir.”

Papa Leo genelgeyi Pazartesi günü Vatikan’ın Sinod Salonu’nda sundu ve burada adaşı Papa Leo XIII tarafından 19. yüzyıldaki sanayi devriminin yarattığı zorluklara değinmek için yazılan 1891 genelgesi ‘Rerum Novarum’a (Yeni Şeyler Üzerine) atıfta bulundu.

Leo, “İnanç gözüyle, aklın berraklığıyla ve ilahi gizeme açıklıkla, yoksulların çığlığı ve toprağın kalbimde yankılanmasıyla başka bir büyük dönüşümü denetlemekle görevlendirildiğimi hissediyorum.” diyen Leo, genelgenin bilim adamlarını ve mühendisleri, siyasi liderleri ve kamu görevlilerini, ebeveynleri ve öğretmenleri gelecek nesillerin geleceği için derinden dinlemenin sonucu olduğunu ekledi.

Yapay zekanın programlanmasına, düzenlenmesine ve faydalarına geniş katılım çağrısında bulunarak, “Silahsızlandırmak yeterli değil, inşa etmeliyiz” diye ekledi.

Papa belgeyi, üst düzey Vatikan papazları, Katolik ilahiyatçılar ve Claude’un arkasındaki Amerikan yapay zeka şirketi Anthropic’in kurucu ortağı Chris Olah ile birlikte sundu.

Etkinlikte konuşan Olah, ticari kaygıları, jeopolitik baskıyı, gurur ve hırsı öne sürerek yapay zeka gelişiminin “bazen doğru şeyi yapmakla çatışabilecek bir dizi teşvik ve kısıtlama dahilinde işlediğini” söyledi.

Bu nedenle, “Dünyadan daha fazla kişinin – dini toplulukların, sivil toplumun, bilim adamlarının, hükümetlerin – Papa Hazretleri’nin burada yaptığını yapmasına ihtiyacımız var: bunu ciddiye almak, yakından bakmak ve olayları daha iyi bir yöne itmek.”

Genelgenin merkezinde insanın yapay zekadan öncelikli olduğu ısrarı yer alıyor. Ansiklopedi, insanın onurunun “kişinin yeteneklerine, zenginliğine veya yaşamdaki konumuna ya da yaptığı doğru veya yanlış seçimlere bağlı olmadığını”, yalnızca var olma erdemine bağlı olduğunu ileri sürüyor.

Leo, yapay zeka sohbet robotlarının olduğu bir dönemde, riskin yalnızca yapay zeka ajanıyla etkileşime giren birinin bir kişiyle konuştuğuna inanması değil, aynı zamanda başka insanları arama arzusunu da kaybedebilmesi olduğunu yazdı. Karar verme mekanizmasının makinelere devredilmesi “aşırı güvenmeyi ve hazır yanıtlar aramayı teşvik edebilir ve kişisel yaratıcılığı ve muhakemeyi zayıflatabilir.”

Belgede papa, yapay zeka inovasyonunun insan toplumuna ve çevrenin korunmasına getirebileceği olumlu etkiyi kabul ederken aynı zamanda tehlikeleri konusunda da uyarıda bulunuyor. Leo, “Teknoloji asla tarafsız değildir” diye yazdı ve bunun arkasındaki çıkarların ve paydaşların bir ifadesi olduğunu ekledi.

Leo, “Böyle bir güç birkaç kişinin elinde yoğunlaştığında, şeffaflaşma ve kamu gözetiminden kaçma eğilimi göstererek, yeni bağımlılıklara, dışlamalara, manipülasyonlara ve eşitsizliklere yol açan çarpık kalkınma biçimleri riskini artırıyor” diye yazdı.

Leo, topluma zarar verdikten sonra yapay zeka modellerine ahlaki ve etik ilkelerin uygulanmasının mümkün olamayacağını, bu tür değerlerin yapay zeka modellerinin yapımında uygulanması gerektiğini savundu. “Yapay zekanın insan onuruna saygı duyması ve gerçekten kamu yararına hizmet etmesi için, sorumluluğun her aşamada açıkça tanımlanması gerekir: bu sistemleri tasarlayanlardan ve geliştirenlerden, bunları kullananlara ve somut kararlar için onlara güvenenlere kadar” diye yazdı.

Yapay zeka gelişimine yönelik kısıtlamalara direnen yöneticilere karşı çıkan Leo, “sağduyulu olmaya, titiz değerlendirmeye ve hatta bazen yapay zekanın benimsenmesinde daha yavaş bir tempoya çağrıda bulunmak, ilerlemeye karşı çıkmak anlamına gelmez; bunun yerine, bu, insanlık ailesi için sorumlu bir bakım uygulamasıdır” dedi.

Papa, Antropik gibi etik anayasaları benimseyen yapay zeka modellerine selam vererek, bu tür çerçevelerin hâlâ tartışılması ve ortak sosyal adalet kriterlerine tabi tutulması gerektiğini söyledi. “Eğer ahlak birkaç kişi tarafından belirleniyorsa, daha ahlaklı bir yapay zeka yeterli değildir” diye yazdı.

Belge aynı zamanda Papa’nın “ilerlemeyi insanlık durumunun aşılması olarak yorumlayan” bir dizi varsayım olarak tanımladığı popüler Silikon Vadisi felsefeleri olan transhümanizm ve posthümanizmi de ele alıyor.

Leo, bu felsefelerin hastalık, engellilik, yaşlılık ve kırılganlık dahil olmak üzere sınırlamaları aşılması gereken bir şey olarak gördüğünü yazdı, ancak “insanlığın gelişmediğini hatırlamalıyız” aksine sınırlamalar, ancak çoğu zaman bunlar aracılığıyla”, sınırlamaların olmadığı bir yaşamın sonuçta insan olmamak anlamına geleceğini ekliyor.

Vatikan’ın doktrin departmanı başkanı Kardinal Víctor Manuel Fernández, belgenin sunumunda, “insanlığın son kullanma tarihine ulaştığını ve değiştirilmesi gerektiğini” iddia eden bu felsefelerden farklı olarak Katolik öğretisinin “her insanın sonsuz bir onura sahip olduğuna” inandığını söyledi.

Leo, yapay zekanın tehlikelerine karşı çıkarak gerçeğin “demokrasinin temel bir unsuru” olduğuna dikkat çekti ve insanları, özellikle de gençleri yapay zeka konusunda eğitim almaya çağırdı. Yapay zeka işin yükünü hafifletmeyi vaat ederken Leo, “makinelerin çalışanları desteklemek için tasarlanması yerine, çoğu zaman işçileri makinelerin hızına ve taleplerine uyum sağlamaya zorladığı” konusunda uyardı.

Leo, bu dördüncü sanayi devriminde önceliğin “istihdam fırsatlarının ve bireyin yeri doldurulamaz rolünün korunması” olması gerektiğini yazdı.

Papa, küresel ekonomik eşitsizlik arttıkça “teknolojik ilerlemenin kaçınılmaz olarak yapısal eşitsizlikler yaratacağı” konusunda uyardı. Leo, en savunmasız kişilerin yükünü hafifleten ve daha fazla kaynağa sahip olanlardan daha fazlasını talep eden vergi sistemleri çağrısında bulunurken, yeniliklerin faydalarının şeffaf olması ve tüm toplumla paylaşılması gerektiğini söyledi.

Papa, telif hakkıyla korunan materyaller üzerinde model eğitiminden yapay zeka donanımında kullanılan nadir minerallerin çıkarılmasına kadar yapay zekanın ardındaki insan ve çevre sömürüsünün izini vurgulayarak “yeni kölelik biçimlerine” karşı uyarıda bulundu. Leo ayrıca kilisenin 19. yüzyıla kadar tam olarak kınanmamış olan köleliğe karşı davranışının tarihi üzerinde de düşündü.^o yüzyılda Leo XIII tarafından Katolik doktrininin zaman içindeki yavaş evrimini vurguluyor.

Leo, “Bunun için Kilise adına içtenlikle af diliyorum” diye yazdı.

Leo, sömürgeciliğin yalnızca bedenlere hükmetmekle kalmayıp aynı zamanda sağlık akışları, epidemiyolojik profiller, genetik haritalar ve demografik veriler gibi verileri de ele geçiren “yeni bir yüzü” olduğunu savundu. Leo, “Bunlar gücün yeni nadir toprakları haline geldi” dedi ve yapay zeka teknolojisinin az sayıda, kâr odaklı kişi veya grubun elinde olması, sömürgeci egemenliğin yeni bir biçimini temsil ettiğini ekledi.

“Zamanımızın en acil ahlaki zorluklarından biri burada yatıyor: Paylaşılan bilginin bir tahakküm aracı olmaktan ziyade gerçek bir ortak fayda haline gelmesini sağlamak. Bu, bireylere yalnızca onları tanımlayan verileri değil, aynı zamanda bunların nasıl, kim tarafından ve kimin yararına kullanılacağına karar verme becerisinin de geri verilmesini gerektirir.” diye yazdı.

Belgenin uzun bir kısmı, papanın papalık görevinin ilk yılında defalarca kınadığı savaş konusunu yansıtıyor. Yapay zekanın askeri kullanımının “en katı etik kısıtlamalara tabi olması gerektiğini” yazdı ve askeri ve özellikle ölümcül eylemlerin sorumluluğunun makinelere değil, insanlara ait olması gerektiğini ekledi.

Savaşta karar alma süreçlerinde izlenebilirlik, insan gözetimi ve otomatik silahların artan kullanımı ve bunların sonuçlarına yönelik uluslararası yasaların oluşturulması çağrısında bulundu.

Belge, Papa XIII.Leo’dan başlayarak geçmiş papazların katkılarına dayanıyor ve Katolik sosyal öğretisinden, yani kilisenin ahlaki ilkeleri sosyal, ekonomik ve politik hayata uygulama geleneğinden, insan onuru ve kamu yararını merkezinden yararlanıyor.

Dayanışma ve kişinin “komşusuna” değer vermesi, Leo’nun düşüncelerinin temel yönleridir ve özellikle gelecek nesillere yönelik kaygıdır.

Leo, sosyal adaletin “yalnızca kaynakların daha adil dağıtımı veya mevcut adaletsizliklerin düzeltilmesiyle ilgili olmadığını, aynı zamanda onarıcı bir boyut da üstlendiğini” yazdı. Aynı prensibi dijital dünyaya da uygulayan papa, istilacı gözetleme gibi “yeni dışlama ve özgürlüklerden yoksun bırakma biçimlerine”, temel teknolojilere erişimin engellendiği topluluklara ve ayrımcılığı sürdüren şeffaf olmayan algoritmalardan zarar gören gruplara karşı uyardı.

Bu bağlamda göçü de “günümüzün sosyal adaleti için bir turnusol testi” olarak ele aldı.

Giriş bölümünde Leo, güç ve kendi kendine yeterlilik arayışıyla Babil şehri ile Nehemya’nın dua ve ailelerin ve toplulukların katılımına dayalı olarak Kudüs’ü yeniden inşa etmesiyle birlikte İncil’den yararlanıyor. Bu, güç ve egemenlik kavramları etrafında yapılandırılmış dünyevi şehre duyulan sevgiyi, Tanrı’nın cennetsel şehrine duyulan özlemle karşılaştıran, Aziz Augustine ilkelerine dayanan papanın dini tarikatının öğretilerini yansıtıyor.

“Tarih boyunca olduğu gibi, bugün de bu iki aşk kalplerimizde hakimiyet için mücadele etmeye devam ediyor. Yapay zeka çağı bir istisna değildir: Babil’in inşası veya Kudüs’ün yeniden inşası her birimizin içinde başlar” diye yazdı.

Santa Clara Üniversitesi Markkula Uygulamalı Etik Merkezi teknoloji etiği direktörü Brian Patrick Green, “Bu, dünyanın yeni bir teknolojiye bakması ve bunun gerçekten ne işe yaradığını düşünmesi için dönüm noktası niteliğinde bir fırsat” dedi.

“Bu teknolojinin amacı nedir? Dünyada ne yapması gerekiyor? İnsanlara nasıl yardımcı olabilir? Bu teknolojinin dünyadaki çoğu insan için yapabileceğinin en iyisini yapmasını sağlamak için ne yapmamız gerekiyor?”

Bu hikaye NPR ve Din Haber Servisi arasındaki ortaklık aracılığıyla üretildi.