Yapay Zeka Platformları Suç Amaçlı Kullanımları Tespit Edip Hesapları Kapatıyor: Güvenlik ve Veri Mahremiyeti Tartışması

Yapay Zeka Platformları Suç Amacıyla Kullanımları Önlemeye Odaklanıyor

Yapay zeka teknolojisi, hayatın tüm alanlarına nüfuz ederek kullanıcılar tarafından geniş kapsamda kullanılmaya devam ediyor. Önde gelen büyük dil modelleri arasında ChatGPT, Gemini, DeepSeek, Perplexity, Grok, Microsoft Copilot ve Claude gibi platformlar yer alıyor. Ancak, bu modeller bazı kullanıcılar tarafından suç amaçlı faaliyetlerde de kullanılabiliyor.

Suç Amaçlı Kullanımların Önlenmesi İçin Geliştirilen Mekanizmalar

Yapay zeka platformları, fiziksel saldırı planlaması, silah ve mühimmat üretimi gibi yasa dışı amaçlara karşı önleyici tedbirler geliştirmektedir. Bu kapsamda sistemler, talepleri analiz ederek yasa dışı içeriklerin oluşturulmasını engellemek için eğitim almaktadır. Örneğin, Kanada’nın British Columbia eyaletinde 10 Şubat’ta gerçekleşen silahlı saldırı olayı, yapay zekanın bu tür senaryolardaki rolü ve sınırlamalarını ortaya koymuştur.

Örnek Olay: ChatGPT ve Kanada’daki Silahlı Saldırı

18 yaşındaki Jesse Van Rootselaar tarafından gerçekleştirilen saldırıda, saldırganın ChatGPT platformunu suç amaçlı kullanması OpenAI tarafından önceden tespit edilmiştir. Geçen yıl Haziran ayında platform, Van Rootselaar’ın şiddet içeren senaryolarını tespit edip hesabını kapatmıştır. Ancak, elde edilen bu veriler kolluk kuvvetlerine iletilmemiştir. Şirket, ihbar için gereken kriterlerin karşılanmadığını belirtmiştir. Bu durum, erken uyarı sistemleri ve veri mahremiyeti arasında önemli tartışmalar yaratmıştır.

Güvenlik Önlemleri ve Veri Paylaşımı Politikaları

ChatGPT ve Gemini gibi yapay zeka modelleri, çok katmanlı güvenlik filtreleri ile şiddet, yasa dışı madde üretimi ve benzeri riskleri gerçek zamanlı olarak tarayarak kullanıcıları uyarmakta ve bu tür talepleri reddetmektedir. Ayrıca, insan uzmanları tarafından düzenli olarak riskli içerikler değerlendirilmekte ve incelemeler yapılmaktadır. Google’ın politika bildirimlerine göre, yakın ve ciddi fiziksel zarar riski durumlarında güvenlik kurumlarıyla paylaşım yapılabilmektedir.

Yapay Zeka ve Suç Önleme: Mevcut Düzenlemelerin Sınırları

Günümüzde çoğu yasal düzenleme, teknoloji şirketlerinin suç işlendikten sonra veri paylaşımını öngörmektedir. Buna karşın, suç henüz oluşmadan yapılacak bildirimler şirketlerin tamamen kendi insiyatifi kapsamındadır. Bu da yapay zeka platformlarının suç öncesi müdahaleleri yanında veri gizliliği ve mahremiyet konularında karmaşık tartışmaların sürmesine yol açmaktadır.