Arlington'daki Texas Üniversitesi'nden bir grup araştırmacı, yapay zeka sohbet robotlarının kimlik avı web siteleri oluşturmasını önleyecek yeni bir yazılım geliştirdi. Bu yazılım sayesinde siber suçluların dolandırıcılık yapmak için yapay zeka kullanımının engellenmesi hedefleniyor.
Yazılımın Geliştiricileri Kimler?
Bu önemli yazılım, Texas Üniversitesi Bilgisayar Bilimi ve Mühendisliği Bölümü'nde yardımcı doçent olarak görev yapan Shirin Nilizadeh ile doktora öğrencileri Sayak Saha Roy ve Poojitha Thota tarafından geliştirildi.
Kimlik Avı Saldırıları Yapay Zeka ile Nasıl Önleniyor?
Araç, yapay zekalı sohbet robotlarının kimlik avı siteleri oluşturmak için kullanılabilecek kullanıcı talimatlarını tespit etme ve engelleme becerisini geliştiriyor.
Yapay Zeka Kimlik Avı Saldırıları Oluşturabilir
ChatGPT gibi yapay zeka sohbet robotları bazı yerleşik tespit yeteneklerine sahip olsa da, Nilizadeh'in ekibi bu sistemlerde kimlik avı saldırıları oluşturmak için kullanılabilecek boşluklar olduğunu keşfetti. Yapay zeka sohbet robotlarının yükselişiyle birlikte, yapay zeka hızlı bir şekilde web siteleri oluşturabildiğinden, teknik becerileri olmayanlar için bile çevrimiçi dolandırıcılık oluşturmak daha kolay hale geldi.
Kötü Amaçlı İstemleri Tespit Edip Engelleme Yeteneği Geliştirildi
Saha Roy, yazılımlarını oluşturmak için ekibin ilk olarak kimlik avı web siteleri oluşturmak için kullanılabilecek çeşitli istemleri belirlediğini belirtti. Bu bilgileri kullanarak, yazılımlarını bu belirli anahtar kelimeleri ve kalıpları tanıyacak ve bunlara yanıt verecek şekilde eğittiler. Sonuç olarak, kötü amaçlı istemleri tespit etme ve engelleme yeteneği geliştirildi.
