Arlington’daki Texas Üniversitesi’nden bir grup araştırmacı, yapay zeka sohbet robotlarının kimlik avı web siteleri oluşturmasını önleyecek bir yazılım geliştirdi.
Bu yazılım sayesinde siber suçluların dolandırıcılık yapmak için yapay zeka kullanımının engellenmesi hedefleniyor.
Yazılım, Texas Üniversitesi’nde Bilgisayar Bilimi ve Mühendisliği Bölümü’nde yardımcı doçent olarak görev yapan Shirin Nilizadeh ile doktora öğrencileri Sayak Saha Roy ve Poojitha Thota tarafından geliştirildi.
Bu araç, yapay zekalı sohbet robotlarının kimlik avı siteleri oluşturmak için kullanılabilecek kullanıcı talimatlarını tespit etme ve engelleme becerisini geliştiriyor.
YAPAY ZEKA KİMLİK AVI SALDIRILARI OLUŞTURABİLİR
ChatGPT gibi yapay zeka sohbet robotları bazı yerleşik tespit yeteneklerine sahip olsa da, Nilizadeh’in ekibi kimlik avı saldırıları oluşturmak için kullanılabilecek boşluklar olduğunu keşfetti.
Yapay zeka sohbet robotlarının yükselişiyle birlikte, yapay zeka hızlı bir şekilde web siteleri oluşturabildiğinden, teknik becerileri olmayanlar için bile çevrimiçi dolandırıcılık oluşturmak daha kolay hale geldi.
KÖTÜ AMAÇLI İSTEMLERİ TESPİT EDİP ENGELLEME YETENEĞİ GELİŞTİRİLDİ
Saha Roy, yazılımlarını oluşturmak için ekibin ilk olarak kimlik avı web siteleri oluşturmak için kullanılabilecek çeşitli istemleri belirlediğini söyledi.
Bu bilgileri kullanarak, yazılımlarını bu belirli anahtar kelimeleri ve kalıpları tanıyacak ve bunlara yanıt verecek şekilde eğittiler ve kötü amaçlı istemleri tespit etme ve engelleme yeteneğini geliştirdiler.
