Palantir'in Yapay Zeka Destekli Askeri Platformu Maven: Riskler ve Sorumluluk Tartışmaları

Palantir’in Yapay Zeka Platformu Maven ve Askeri Kullanımda Riski

Teknoloji şirketi Palantir, yapay zeka destekli savunma platformu Maven’in askeri operasyonlarda yaratabileceği öngörülemeyen risklere ilişkin eleştirilere yanıt verdi. Şirketin Avrupa ve İngiltere başkanı Louis Mosley, bu tür teknolojilerin kullanımından doğan nihai sorumluluğun askeri müşterilerde olduğunu belirtti. Mosley, sistemin sadece insan kararı destekleyen bir araç olduğunu ve otomatik bir hedefleme gereci olarak algılanmaması gerektiğini vurguladı.

Maven Smart System’in İşleyişi ve Askeri Amaçları

Maven Smart System, 2017 yılından beri Pentagon tarafından istihbarat, uydu ve insansız hava aracı verilerini analiz ederek askeri hedeflerin belirlenmesi için geliştirilmiş bir platformdur. Büyük veri analiz kapasitesi sayesinde sistem, hedefleme önerileri sunabiliyor ve askeri ekipmanın durumuna göre operasyonel güç seviyelerini önerebiliyor. ABD’nin İran’a yönelik son saldırılarında Maven’in önemli rol oynadığı bildirildi.

Uzmanların Endişeleri ve Yanlış Hedef Riski

Ancak akademisyenler ve analistler, yazılımın önerdiği hedeflerin hızlı onaylanmasının yanlış ve sivillerin zarar görebileceği saldırılara yol açabileceği uyarısında bulunuyor. Queen Mary Üniversitesi’nden Prof. Elke Schwarz, yapay zekanın görev planlamasında hız ve ölçek önceliği nedeniyle hedeflerin dikkatli doğrulanamayabileceğini ve bunun ciddi insani sonuçları doğurabileceğini ifade etti. Ayrıca yazılıma aşırı bağımlılığın kritik karar alma süreçlerinde işleyişi tehlikeye atabileceği belirtiliyor.

Denetim Talepleri ve Siyasi Geri Bildirimler

Kongrede bazı Demokrat üyeler, Maven gibi yapay zekanın askeri kullanımı için net kurallar ve sıkı denetim mekanizmalarının gerekliliğine işaret ediyor. Temsilciler Meclisi Silahlı Hizmetler Komitesi üyesi Sara Jacobs, yapay zekanın yüzde yüz güvenilir olmadığını, operatörlerin ise bu sistemlere aşırı güven duyduğunu belirtti ve her ölümcül güç kullanımında insan kontrolünün zorunlu olmasını savundu.

Palantir ve Pentagon’un Tutumları

Palantir, iddiaları reddederek Maven’in karar alma sürecini hızlandıran bir teknoloji olduğunu ve bunun operasyonel verimliliği artırdığını savunuyor. Pentagon ise sistemin kullanım şekli ve sorumluluklar konusundaki sorulara operasyonel güvenlik gerekçesiyle yanıt vermemekte, ancak Maven’in ABD ordusu genelinde entegrasyonunun artırılmasını planlıyor. Savunma Bakan Yardımcısı Steve Feinberg, Maven’in komutanlara düşmanı tespit ve caydırma alanlarında en son araçları sağladığını ifade etti.