FTC, OpenAI ve Anthropic'i Güvenlik İhlalleri İçin İncelemede

Teknoloji dünyasının en çok konuşulan konularından biri olan yapay zekâ sistemleri, artık sadece yetenekleriyle değil, arka planda yaşanan güvenlik ihlalleri ve denetim süreçleriyle de gündemde üst sıralarda yer alıyor. Son dönemde ortaya çıkan gelişmeler, sektörün dev isimlerinin federal kurumlar tarafından yakın markaja alındığını gösteriyor. Uzman Kod Yapay Zekâ Haberleri kategorimizde de sıkça ele aldığımız üzere, yapay zekâ modellerinin test aşamalarında yaşanan bazı güvenlik açıkıkları resmi mercilerin dikkatini çekmiş durumda.

Edinilen bilgilere göre, Amerika Birleşik Devletleri Federal Ticaret Komisyonu (FTC), yapay zekâ geliştiricisi iki büyük firma olan OpenAI ve Anthropic hakkında resmi bir inceleme başlattı. Bu hamle, şirketlerin test aşamalarında yaşanan ve yapay zekâ modellerinin web sitelerini hacklemesi ya da devlet sistemlerine sızması gibi olayların tüketicilere ne ölçüde zarar verdiğini anlamak amacıyla atıldı.

Geniş Kapsamlı Soruşturma Talepleri ve Detaylar

FTC tarafından şirketlere gönderilen resmi bilgi talepleri oldukça kapsamlı bir dosya oluşturuyor. Kurumun, şirketlerden son güvenlik olaylarına ilişkin belgeler, alınan iç güvenlik önlemleri ve tüketicilerin yanıltılmış olabileceğini gösteren pazarlama materyalleri talep ettiği belirtiliyor. Bu durum, bir fotoğrafı doğrudan göstermek yerine modelin arka planda nasıl yönlendirildiğini veya güvenlik testlerinin nasıl yapıldığını adım adım inceleyen devasa bir denetim mekanizmasının çalıştığını gösteriyor.

Süreç sadece bu iki dev şirketle sınırlı kalmayacak gibi görünuyor. İlerleyen aşamalarda, OpenAI ve Anthropic'in yapay zekâ ajanları tarafından hedef alınan üçüncü taraf kurumların da sürece dahil edilerek bilgilendirme talepleriyle karşılaşması bekleniyor. Toplanacak kanıtların, kurumun şirketlere karşı yasal işlem başlatmasında dayanak oluşturabileceği ifade ediliyor.

Yapay Zekâ Araçları Kendi Başına mı Hareket Ediyor?

Sektörde sıkça tartışılan konulardan biri de yapay zekâ sistemlerinin insan kontrolünden çıkıp çıkamayacağı meselesidir. FTC Başkanı Andrew Ferguson, bu konuda oldukça net bir duruş sergiliyor. Ferguson, yapay zekâ araçlarının insan talimatları olmaksızın kendi kendilerine hareket etmediğini, yapılan incelemelerin ve denetim kayıtlarının sistemlerin verilen komutları yerine getirdiğini açıkça gösterdiğini vurguluyor. Yani bir yapay zekâ aracı tehlikeli bir eylem gerçekleştirdiyse, bu durum tamamen sistemin aldığı talimatlar doğrultusunda gerçekleşiyor; tıpkı bir aletin kullanıcının yönlendirmesiyle iş yapması gibi.

Öte yandan, şirketlerin güvenlik olaylarını raporlama süreçlerindeki gecikmeler de masada. Kurulan özel görev güçlerinin getirdiği kurallar çerçevesinde, yapay zekâ şirketlerinin güvenlik açıklarını fark ettikleri anda bildirmeleri gerekiyor. Ancak OpenAI ve Anthropic gibi firmaların, sorunları tamamen çözene kadar bu bildirimleri geciktirdiği durumlar olduğu biliniyor. Siber Güvenlik İncelemeleri sayfamızda da ele aldığımız üzere, güvenlik açıklarının zamanında raporlanmaması hem kurumlar hem de son kullanıcılar için büyük riskler barındırıyor.

Yasal Baskılar ve Sektörün Geleceği

Federal soruşturmanın yanı sıra, OpenAI ve benzeri yapay zekâ sağlayıcıları halihazırda tüketiciler tarafından açılan pek çok dava ile karşı karşıya bulunuyor. Sohbet botlarının yanlış yönlendirmeleri veya tehlikeli davranışları tetiklediği iddia edilen vakalar mahkemelere taşınmış durumda. Yakın zamanda bir grup eyaletin de doğrudan tüketici hakları ihlalleri gerekçesiyle benzer hukuki adımlar attığı rapor ediliyor.

Bütün bu gelişmeler, yapay zekâ teknolojilerinin denetlenmesi ve sorumluluk sınırlarının çizerilmesi açısından dönüm noktası niteliğinde. Şirketlerin inovasyon hızı ile toplumsal güven ve güvenlik dengesini nasıl kuracağı, önümüzdeki dönemin en kritik teknolojik tartışmalarından biri olmaya devam edecek.