YAPAY ZEKÂDA GÜVENLİK ALARMI

CBS televizyonunun haberine göre, İngiltere merkezli, kâr amacı gütmeyen Tech Against Terrorism (Teröre Karşı Teknoloji) kuruluşu tarafından yürütülen araştırmada, 130’dan fazla yapay zekâ modeli değerlendirildi. Çalışmada, saldırı planlayan bir kişinin yöneltebileceği türden yüzlerce talep kullanılarak modellerin güvenlik performansı incelendi.

GÜVENLİK ÖNLEMLERİ DEVRE DIŞI BIRAKILDI

Araştırmanın odak noktasını, yapay zekâ modellerinin zararlı talepleri reddetmesini sağlayan mekanizmaların özel yöntemlerle etkisizleştirilmesi oluşturdu. İngilizcede “abliteration” olarak adlandırılan bu işlem, modellerin belirli talepleri reddetme davranışını azaltmayı veya ortadan kaldırmayı hedefliyor.

Araştırmacılar, bu değişikliklerin ardından modellerin tehlikeli içeriklere nasıl yanıt verdiğini karşılaştırdı. Sonuçlara göre, güvenlik önlemleri kaldırılan beş modelden üçü, terörle ilgili güvenlik değerlendirmelerini geçemedi.

Modellerin ilk sürümlerinin reddettiği bazı taleplere, değişiklik sonrasında ayrıntılı yanıtlar verebildiği belirtildi. Bu yanıtların saldırılar, terörün finansmanı ve radikalleşme gibi riskli başlıklarla ilgili olduğu aktarıldı.

Bulgular, yapay zekâ modellerinin güvenliğinin yalnızca üretici tarafından sunulan standart sürüm üzerinden değerlendirilmesinin yeterli olmayabileceğine işaret ediyor. Modelin yapısında yapılan değişiklikler, başlangıçta uygulanan güvenlik sınırlarını zayıflatabiliyor.

LLAMA MODELİNDE DİKKAT ÇEKEN PUAN FARKI

Araştırmada verilen örneklerden biri, Meta’nın Llama 3.1 8B modeli oldu. Haberde aktarılan sonuçlara göre model, herhangi bir değişiklik yapılmadan önce güvenlik değerlendirmesinde 100 üzerinden 97 puan aldı. Güvenlik önlemlerini etkisizleştiren işlemden sonra ise puanı yaklaşık 3’e geriledi.

Bu büyük fark, aynı modelin farklı koşullarda çok farklı güvenlik sonuçları verebileceğini gösteriyor. Başka bir ifadeyle, bir yapay zekâ sisteminin normal kullanımda zararlı talepleri reddetmesi, üzerinde değişiklik yapıldığında da aynı tutumu sürdüreceği anlamına gelmiyor.

Araştırmanın ortaya koyduğu temel mesele, yapay zekânın yalnızca hangi soruları yanıtlayabildiği değil, zararlı amaçlarla kullanılmasını engelleyen mekanizmaların ne ölçüde korunabildiği oldu.

TECH AGAINST TERRORISM’DEN DAHA GÜÇLÜ KORUMA ÇAĞRISI

Tech Against Terrorism, araştırmanın sonuçları doğrultusunda güvenlik önlemlerinin devre dışı bırakılmasına karşı daha güçlü korumalar geliştirilmesini önerdi. Kuruluş ayrıca, güvenlik mekanizmaları üzerinde değişiklik yapılmış modellerin dağıtımına yönelik kısıtlamaların değerlendirilmesi gerektiğini belirtti.

Bu öneriler, açık kaynaklı yapay zekâ sistemlerinin geliştirilmesi ve paylaşılması konusundaki güvenlik tartışmalarını da yeniden gündeme getiriyor. Açık kaynak yaklaşımı, geliştiricilere modelleri inceleme, değiştirme ve farklı amaçlarla kullanma olanağı sunuyor. Ancak aynı esneklik, güvenlik önlemlerinin kaldırılması veya zayıflatılması riskini de beraberinde getirebiliyor.

Bu nedenle tartışmanın merkezinde, teknolojinin gelişimini ve araştırma özgürlüğünü korurken kötüye kullanım ihtimalini azaltacak yöntemlerin nasıl oluşturulacağı bulunuyor.

ADAM HADLEY: BAZI MODELLERİN GÜVENLİĞİ ZATEN AŞILDI

Tech Against Terrorism’in kurucusu Adam Hadley, araştırmaya ilişkin değerlendirmesinde yapay zekânın oluşturabileceği risklere yönelik endişelerin anlaşılabilir olduğunu ifade etti.

Hadley, “Kontrol kaybı ve yapay zekânın varoluşsal risk oluşturması konusunda endişe duyulması, gayet anlaşılabilir bir durum” değerlendirmesinde bulundu. Hadley ayrıca, açık kaynaklı modellerin birçoğunun güvenliğinin zaten aşıldığını, ancak bunun henüz fark edilmemiş olabileceğini savundu.

Hadley’nin açıklaması, yapay zekâ güvenliğinin yalnızca gelecekte ortaya çıkabilecek olası tehditlerle sınırlı olmadığını; mevcut modellerin değiştirilmesi ve farklı amaçlarla kullanılması karşısında da ele alınması gerektiğini vurguluyor.

YAPAY ZEKÂ GÜVENLİĞİNDE YENİ DÖNEM TARTIŞMASI

Araştırma, yapay zekâ sistemlerinin güvenlik testlerinin daha kapsamlı ve farklı kullanım senaryolarını içerecek şekilde yürütülmesi gerektiğine ilişkin tartışmaları güçlendiriyor. Özellikle açık kaynaklı modellerde, standart sürümün güvenli olması tek başına yeterli bir güvence olarak görülmüyor.

Uzmanlar ve teknoloji kuruluşları açısından temel soru, zararlı talepleri reddeden mekanizmaların model üzerinde değişiklik yapıldığında ne kadar dayanıklı kaldığı. Bu soruya verilecek yanıt, hem yapay zekâ geliştiricilerinin güvenlik yaklaşımını hem de modellerin paylaşılmasına ilişkin uygulamaları etkileyebilir.

Araştırmanın sonuçları, yapay zekânın sunduğu imkânlarla birlikte kötüye kullanım risklerinin de ciddiyetle ele alınması gerektiğini gösteriyor. Güvenlik önlemlerinin yalnızca ilk aşamada değil, modelin değiştirilmesi ve dağıtılması süreçlerinde de korunması, teknoloji alanındaki önemli başlıklardan biri olmayı sürdürüyor.