ChatGPT, siber güvenliği güçlendirebilir mi?
Sophos’un kurguladığı yapay zekaya dayalı modeller XDR telemetrisindeki kötü niyetli faaliyetleri görünür hale getiriyor, spam filtrelerinin etkinliğini artırıyor ve iyi niyetli yazılımları taklit etmek üzere tasarlanmış kötü niyetli ikizlerin analizini kolaylaştırıyor.
Sophos, güvenlik endüstrinin siber saldırganlarla daha iyi mücadele edebilmek için ChatGPT’nin arkasındaki yapay zeka dil modeli olan GPT-3’ten nasıl yararlanabileceğini gösteren yeni araştırmasının sonuçlarını yayınladı. “Applying AI Language Processing to Cyber Defenses” başlıklı araştırmada, Sophos X-Ops tarafından GPT-3 tabanlı dil algılama modelleri kullanılarak geliştirilen projelerin detayları paylaşıldı.
Söz konusu projeler güvenlik yazılımlarından gelen veri kümelerindeki kötü niyetli etkinliklerin daha görünür hale getirilebildiğini, spam mesajların daha doğru bir şekilde filtrelenebildiğini ve LOLBin saldırısı olarak bilinen iyi niyetli yazılımların kötü amaçlı ikizlerine dair analizlerin hızlandırılabildiğini gösteriyor.
Sophos Tehdit Araştırmaları Lideri Sean Gallagher, OpenAI’nin Kasım ayında ChatGPT’yi tanıtmasından bugüne siber güvenlik topluluğu büyük ölçüde bu yeni teknolojinin getirebileceği risklere odaklandığına dikkat çekti. Gallagher, şöyle devam etti: “Yapay zeka saldırganların kötü amaçlı yazılımları kolayca hazırlamasına ya da siber suçluların çok daha ikna edici oltalama e-postaları yazmasına yardımcı olabilir mi? Belki. Ancak biz Sophos olarak uzun zamandır yapay zekayı siber savunmada düşmandan çok müttefik olarak gördük ve Sophos’un kilit taşı niteliğindeki teknolojilerinden biri olarak konumlandırdık. GPT-3’ün de farklı olduğunu düşünmüyoruz. Güvenlik camiasının sadece GPT-3’ün getirdiği potansiyel riskleri değil, potansiyel fırsatları da dikkate alması gerektiğini düşünüyoruz.”
Üç Farklı Prototiple Yapay Zekanın Etkinliği Kanıtlandı
Aralarında SophosAI Lider Veri Bilimcisi Younghoo Lee’nin de bulunduğu Sophos X-Ops araştırmacıları, GPT-3’ün siber savunmaya yardımcı olma potansiyelini ortaya koyan üç ayrı prototip üzerinde çalışıyor. Bu projeler yapay zeka modelini yalnızca birkaç veri örneği üzerinde eğitmek için “few-shot learning” adı verilen tekniği kullanıyor. Bu teknik büyük miktarda önceden sınıflandırılmış veri toplama ihtiyacını ortadan kaldırıyor.
Sophos’un test ettiği ilk uygulama, güvenlik yazılımı telemetrisindeki kötü niyetli etkinlikleri süzebilen doğal dil sorgulama arayüzü oldu. Sophos, modeli özellikle uç nokta algılama ve yanıt ürününe karşı test etti. Bu arayüz sayesinde siber savunucular temel İngilizce komutlarla telemetriden gelen uyarıları filtreleyebiliyor. Bu da SQL veya herhangi bir diğer veritabanının temel yapısını anlama ihtiyacını ortadan kaldırıyor.
Ardından Sophos, ChatGPT kullanan yeni bir spam filtresini test etti. Spam filtreleme için diğer makine öğrenimi modelleriyle karşılaştırıldığında, GPT-3 kullanan filtrenin önemli ölçüde daha doğru sonuçlara imza attığını buldu.
Son olarak Sophos araştırmacıları LOLBins komut satırlarının tersine mühendislik süreçlerini basitleştirmek için bir program oluşturmayı başardı. Bu tür tersine mühendislik işlemleri oldukça zor olmakla birlikte, LOLBins saldırılarının davranışlarını anlamak ve bu tür saldırıları durdurmak adına büyük önem taşıyor.
Test Etmek İsteyenler İçin Projeler GitHub Üzerinden Paylaşılıyor
Gallagher, “Güvenlik operasyon merkezlerinde giderek artan endişelerden biri de gelen gürültü miktarıdır. Ayıklanması gereken çok fazla bildirim ve tespit var ve birçok şirket sınırlı kaynaklarla bunun üstesinden gelmeye çalışıyor. GPT-3 gibi bir araçla, yoğun emek gerektiren süreçleri basitleştirebileceğimizi ve siber savunuculara zaman kazandırabileceğimizi kanıtladık. Söz konusu prototiplerden bazılarını ürünlerimize dahil etmek için halihazırda çalışıyoruz. GPT-3’ü kendi analiz ortamlarında test etmek isteyenler için çabalarımızın sonuçlarını GitHub’da kullanıma sunduk. Gelecekte GPT-3’ün güvenlik uzmanları için standart bir yardımcı araç haline gelebileceğine inanıyoruz” dedi.
