AI Chatbot’lar Siber Dolandırıcılıkla Mücadeleye Yardımcı Olacak mı?
Kaspersky uzmanları, ChatGPT’nin kimlik avı bağlantılarını tespit etme yeteneğini inceleyen bir araştırma yayınladı. Araştırmalar, ChatGPT’nin kimlik avı e-postaları oluşturma ve kötü amaçlı kötü amaçlı yazılım yazma konusunda yetenekli olduğunu göstermiştir. Ancak, kötü niyetli kişileri tespit etme faaliyetinin hala sınırlı olduğunu ortaya çıkardı. Araştırma, ChatGPT’nin kimlik avı hakkında çok fazla bilgiye sahip olmasına ve kimlik avı saldırısının hedefini tahmin edebilmesine rağmen, yüzde 64’e varan yüksek yanlış pozitif oranlarına sahip olduğunu ve ChatGPT’nin birçok kez hayali açıklamalar ve hayalet açıklamalarla olduğunu ortaya çıkardı. kararlarını gerekçelendirir. sahte deliller ürettiğini göstermiştir.
Yapay zeka ile geliştirilmiş bir dil modeli olan ChatGPT, kimlik avı e-postaları oluşturma potansiyelini kanıtladı, ancak bu teknolojinin yüksek riskli alanlarda kullanılması için henüz çok erken. Bu nedenle ChatGPT, siber güvenlik dünyasında bir tartışma konusu haline geldi. Kaspersky uzmanları, ChatGPT’nin kimlik avı bağlantılarını algılama yeteneğini ve eğitim sırasında öğrendiği siber güvenlik bilgilerini ortaya çıkarmak için deneyler yaptı. Şirketin uzmanları, ChatGPT’ye güç veren model olan gpt-3.5-turbo’yu, Kaspersky kimlik avı önleme teknolojilerinin kimlik avı olarak kabul ettiği 2.000’den fazla kişi üzerinde binlerce güvenilir URL ile karıştırarak test etti.
Deneyde kullanılan ipucuna göre tespit oranlarının değiştiği görüldü. ChatGPT’ye iki soru soruldu: “Bu bağlantı bir kimlik avı web sitesine mi yönlendiriyor?” ve “Bu bağlantıyı ziyaret etmek güvenli mi?”. Sonuçlar, ChatGPT’nin ilk soru için %87,2 tespit oranına ve %23,2 yanlış pozitif oranına sahip olduğunu gösterdi. “Bu bağlantıyı ziyaret etmek güvenli mi?” Öte yandan soruda %93,8 gibi daha yüksek tespit oranı gözlemlenirken, %64,3 gibi daha yüksek yanlış pozitif oranına sahip olduğu tespit edildi. Elde edilen sonuçlara göre, her türlü üretim uygulaması için yanlış pozitif oranın oldukça yüksek olduğu görülmüştür.
ChatGPT, Facebook, TikTok ve Google’da başarılı
Siber saldırganlar, oltalama ilişkilerinde genellikle tanınmış markalardan bahsederek kullanıcıları aldatmaya çalışırlar. Bu noktada yapay zeka dil modeli ChatGPT, olası kimlik avı hedeflerini belirlemede etkileyici sonuçlar gösterebiliyor. Örneğin, Facebook, TikTok, Google gibi büyük teknoloji şirketleri, Amazon, Steam gibi pazar yerleri ve dünyadaki çoğu URL, ek eğitim almadan başarılı bir şekilde sonuç alabilir.
Ancak yapılan deneyler, ChatGPT’nin ilgili kişinin kötü niyetli olup olmadığına karar vermede önemli zorluklar yaşayabileceğini gösteriyor. Bu, dil modellerinin bilinen sınırlamalarını ve yanlış sonuçlar üretebileceklerini ortaya çıkardı. Sonuç olarak ChatGPT, kimlik avı saldırılarını sınıflandırmak ve araştırmak için bazı yararlı özelliklere sahip olabilir, ancak kesin sonuçlar dikkatli değerlendirme ve insan gözetimi gerektirebilir. ChatGPT, saldırıları sınıflandırma ve araştırma konusunda potansiyel gösterse de, hala iyileştirme ve iyileştirme gerektiren bir alan gibi görünüyor.
Aşağıda, ChatGPT tarafından sağlanan yanıltıcı ifşa örnekleri verilmiştir:
- Modelin erişemediği WHOIS referansları:
- Son olarak, alan adı için bir WHOIS araması yaparsak, çok yakın zamanda tescil edilmiş (2020-10-14) ve tescil ettiren detayları gizlenmiştir.
- Modelin erişemediği bir web sitesindeki içeriğe yapılan referanslar:
- web sitesi, Microsoft’a ait olmayan bir web sitesinde kullanıcı kimlik bilgilerini istiyor. Bu, kimlik avı saldırıları için yaygın bir taktiktir.
- Yanlış beyanlar:
- ‘sxxxxxxp.com’ alan adı Netflix ile ilişkili değildir ve web sitesi ‘https’ yerine ‘http’ protokolünü kullanır (web sitesi https kullanır)
- Açıklayıcı siber güvenlik bilgileri:
- ‘yxxxx3.com’ URL’sinin alan adı Kuzey Kore’de kayıtlı görünüyor ve bir tehlike işareti.
Kaspersky Veri Bilimcisi Vladislav Tushkanov. “ChatGPT, insan analistlerin kimlik avı saldırılarını tespit etmelerine yardımcı olma konusunda kesinlikle umut vaat ediyor, ancak dil modellerinin hala sınırlamaları olduğunu hatırlamakta fayda var. ChatGPT, kimlik avı baskınları hakkında akıl yürütme ve potansiyel hedefleri ayıklama söz konusu olduğunda, stajyer düzeyindeki bir kimlik avı analistiyle eşittir. halüsinasyon görme ve rastgele çıktılar üretme eğiliminde olmasına rağmen, bu teknoloji şu anda siber güvenlikte devrim yaratmasa da topluluk için yararlı araçlar olabilir.” diyor.
Deney hakkında daha fazla bilgi edinmek için Securelis’i ziyaret edin.
Kaspersky’nin Makine Öğrenimi ekibi, makine öğrenimi teknolojilerini siber güvenlik görevlerine uygular ve Kaspersky ürünlerini en yeni teknoloji ve bilgilerle sürekli olarak günceller. Kaspersky’nin makine toplama uzmanlığından yararlanmak ve bu uzmanlıktan korunmak için şirketin uzmanları şunları öneriyor:
- Kaspersky Managed Detection and Response, kurumsal siber güvenlik için izinsiz girişleri ilk aşamalarında algılayıp önleyebilen değerli bir araçtır. Sıradan olayları filtrelemek için gelişmiş makine öğrenimi modellerini kullanır ve yalnızca endişe verici olanları profesyonel insan analistlerine gönderir. Bu hizmet, bir şirketin mevcut iş gücü kaynaklarının kullanımını optimize ederken siber tehditlere karşı koyma yeteneğini geliştirir.
- Personelinize temel siber güvenlik eğitimi vermek paha biçilmezdir. Simüle edilmiş kimlik avı saldırıları yürütmek, kimlik avı e-postalarını nasıl tespit edeceklerini bilmelerine de yardımcı olabilir.
- Son olarak, siber güvenliği iyileştirmek için tehdit aktörleri tarafından kullanılan gerçek TTP’lerin (taktikler, teknikler ve prosedürler) farkında olmak için en son Tehdit İstihbaratı bilgisinin kullanılması da önerilir.
Kaynak: (BYZHA) Beyaz Haber Ajansı
