Black Box Saldırıları

Birmingham City University (BCU) ve Birleşik Krallık’ta faaliyet gösteren teknoloji şirketi Covatic’in iş birliğiyle gerçekleştirilen yeni bir araştırma yaptı. Şirket, yapay zeka sistemlerini “black box saldırıları”na karşı daha dirençli hale getirmeyi amaçlıyor. Black box saldırıları, saldırganların, hedef AI modelinin nasıl çalıştığını anlamak amacıyla giriş verilerini küçük değişikliklerle manipüle etmeleri ve modelin çıktılarından faydalanarak yanlış sonuçlar üretmelerine yol açmaları sürecini ifade eder.

Bu tür saldırılar, sağlık alanında veya otonom araç teknolojisinde kullanılan yapay zeka modellerine yönelik ciddi tehditler oluşturmaktadır. Örneğin bir dur işaretini yanlış tanıma ya da tıbbi görüntüleri hatalı yorumlama gibi riskler taşır. Bu araştırma, AI sistemlerini bu tür saldırılara karşı daha sağlam hale getirecek bir yöntem öneriyor.

Black Box Saldırıları: Temel Görsel Dönüşümlerle Güçlü Savunma

BCU ve Covatic’in geliştirdiği yöntemde, modelden önce gelen verilere bazı basit görsel ön işlemler (örneğin döndürme, yeniden boyutlandırma gibi) uygulanarak saldırıların etkisi azaltılıyor. Bu basit gibi görünen adımlar, kötü niyetli aktörlerin oluşturduğu bozulmuş veri girişlerini etkisiz hale getirmektedir. Böylece yapay zekâ sisteminin tutarlı karar vermesini sağlıyor.

Yapılan testlerde, bu yöntemin standart savunmasız modellere göre %21 oranında performans artışı sağladığı, ayrıca rastgele gürültüye dayalı alternatif savunma stratejilerine kıyasla %2.3 ila %4.6 oranında daha etkili olduğu gözlemlendi.

Endüstri ile Akademinin Etkileşimi: Covatic Black Box Saldırıları İçin Uygulamaya Geçiyor

Bu araştırma, BCU ile Birmingham merkezli Covatic arasında süregelen iş birliğinin bir ürünüdür. Covatic, özellikle dijital reklamcılık alanında gizliliğe saygılı, cihaz üzerinde (edge computing) çalışan hedefleme çözümleri sunmaktadır. Şirket, elde edilen bulguları makine öğrenimi altyapısına entegre etmeye başladığını açıkladı.

BCU Yapay Zekâ Profesörü Atif Azad konuyla ilgili şu açıklamayı yaptı:

“Yapay zekâ artık sağlık ve otonom sistemler gibi kritik alanlarda daha fazla yer almaya başladı. Bu alanlarda güvenlik açıkları ciddi sonuçlara yol açabiliyor. Yaptığımız çalışma, yapay zekâ sistemlerinin siber tehditlere karşı daha dirençli hale gelmesi için önemli bir adım.”

Yerel İş Birliği, Küresel Etki Potansiyeli

BCU İnovasyon Direktörü Dr. Umar Daraz ise projeye ilişkin şu ifadeleri kullandı. “Covatic ile yürüttüğümüz bu iş birliği, yalnızca yenilikçi çözümler üretmekle kalmadı. Aynı zamanda Batı Midlands bölgesinde yeni iş olanakları da yarattı. Bu araştırma, Covatic’in milyonlarca kullanıcıya ulaşan sistemlerine doğrudan entegre edilecektir. Bu fikirlerin küresel etki yaratacak düzeyde olması, bu tür iş birlikleri için çok kıymetli.”

Covatic İçin Uygulamalı Güvenlik Testi

Projede sadece akademik değil, uygulamalı test süreçleri de geliştirilmiştir. Covatic, sahip olduğu reklam teknolojisi altyapısını, bu test protokollerine göre değerlendirerek yeniden yapılandırdı.

Nick Pinks, araştırmanın şirkete sağladığı katkıları şöyle özetledi. “Covatic olarak teknolojinin en ileri noktasında kalmaya kararlıyız. Bu çalışma, makine öğrenimi algoritmalarımızın saldırılara karşı ne kadar dayanıklı olduğunu test etmemizi sağladı. CTO’muz James Holyhead, bu süreçte BCU ekibiyle yakından çalıştı. Bu iş birliği, reklamcılık sektöründeki gelecek teknolojilere katkı sunma kararlılığımızı yansıtıyor.”