Kaspersky Yapay Zeka Araştırma Merkezi uzmanları, siber suçluların büyük ölçekli kimlik avı ve dolandırıcılık odaklı saldırıları için içerik oluşturmak üzere Büyük Dil Modellerini (LLM’ler) giderek daha fazla kullandığını keşfetti.
Şirketten yapılan açıklamaya göre, “tehdit aktörleri”, yüksek hacimlerde sahte web siteleri oluşturmaya odaklanırken, genellikle arkalarında kendilerini bu siteleri manuel olarak oluşturulanlardan ayıran yapay zekaya özgü ifadeler gibi ayırt edici ipuçları bırakıyor. Kaspersky tarafından gözlemlenen kimlik avı örneklerinin çoğu kripto para borsaları ve kripto cüzdan kullanıcılarını hedef alıyor.
Kaspersky uzmanları, bir kaynak örneğini analiz ederek, yapay zekanın içerik oluşturmak, kimlik avı ve dolandırıcılık web sitelerinin baştan sona oluşturmak için kullanıldığı durumları ayırt etmeye ve tespit etmeye yardımcı olan temel özellikleri belirledi.
KULLANILAN DİL ELE VERİYOR
LLM tarafından oluşturulan metinlerin belirgin işaretlerinden biri “Bir yapay zeka dil modeli olarak…” gibi ifadeler de dahil olmak üzere komutları yürütmeyi reddeden feragatnamelerin varlığı şeklinde öne çıkıyor. LLM kullanımının bir başka ayırt edici göstergesi de “İstediğinizi tam olarak yapamasam da benzer bir şey deneyebilirim” gibi belirli tümcelerin varlığı oluyor. LLM’ler sadece metin blokları değil, tüm web sayfalarını oluşturmak için de kullanılabiliyor.
Ortaya çıkan sonuçlar hem metnin kendisinde hem de meta etiketler gibi alanlarda görünüyor. Bunlar özellikle web sayfasının içeriğini tanımlayan ve HTML kodunda görünen metin parçacıkları arasında dikkat ediyor.
Sahte sitelerin oluşturulmasında yapay zeka kullanımının başka göstergeleri de bulunuyor. Örneğin, bazı modeller “araştırmak”, “sürekli gelişen manzarada” ve “sürekli değişen dünyada” gibi belirli ifadeler kullanma eğiliminde.
Bu terimler yapay zeka tarafından oluşturulan içeriğin güçlü göstergeleri olarak kabul edilmese de bunun bir işareti olarak görülebilir.
LLM tarafından üretilen metnin bir başka özelliği de modelin dünya hakkındaki bilgisinin nereye kadar uzandığını göstermesi. Model genel olarak bu sınırlamayı “Ocak 2023’teki son güncellememe göre” gibi ifadeler kullanarak dile getiriyor. LLM tarafından oluşturulan metin, genellikle kimlik avı sayfasının tespitini siber güvenlik araçları için daha karmaşık hale getiren taktiklerle birleştiriyor.
Örneğin saldırganlar, metni gizlemek ve kural tabanlı tespit sistemlerinin eşleştirmesini önlemek için aksan işaretleri veya matematiksel gösterimler gibi standart olmayan semboller kullanabiliyor.
“Yapay zeka, artık tehdit aktörlerinin bu tür içerikleri otomatik oluşturmasına yardımcı olabiliyor”
Açıklamada görüşlerine yer verilen Kaspersky Araştırma Geliştirme Grup Müdürü Vladislav Tushkanov, saldırganların LLM’lerle benzersiz, yüksek kaliteli içeriğe sahip düzinelerce, hatta yüzlerce kimlik avı ve dolandırıcılık web sayfası oluşturmayı otomatik hale getirebildiğini belirterek, önceden bunun için manuel çaba gerektiğini, ancak yapay zekanın artık tehdit aktörlerinin bu tür içerikleri otomatik olarak oluşturmasına yardımcı olabildiğini aktardı.
Büyük dil modellerinin geliştiğini ve siber suçluların bu teknolojiyi kötü amaçları için kullanmanın yollarını araştırdığını kaydeden Tushkanov, “Bununla birlikte zaman zaman yapılan hatalar, bu tür araçların kullanımına, özellikle de otomasyonun artan boyutuna ilişkin içgörü sağlıyor.” ifadelerini kullandı.
Tushkanov, gelecekteki gelişmelerle birlikte, yapay zeka tarafından üretilen içeriklerin, insan tarafından yazılan metinlerden ayırt etmenin daha zor hale gelebileceğine dikkati çekerek, “Bu da metinsel bilgileri meta veriler ve diğer dolandırıcılık göstergeleriyle birlikte analiz eden gelişmiş güvenlik çözümlerinin kullanılmasını çok daha önemli hale getirebilir.” açıklamasını yaptı.
