Kaspersky, üretken yapay zekanın iş yerlerindeki kullanımına ilişkin önemli tavsiyelerde bulundu. Uzmanlar, bu araçların yanlış kullanımı durumunda ciddi veri sızıntıları, yanlış bilgi yayılımı ve deepfake gibi tehditlerin ortaya çıkabileceği konusunda uyardı. Özellikle Türkiye'deki çalışanların %40'ının yapay zekayı bir ekip üyesi gibi gördüğü bir dönemde, bu tehditlerin daha fazla dikkat gerektirdiği belirtiliyor.
Sosyal mühendislik ve yapay zeka kullanımı
Kaspersky, kötü niyetli kullanıcıların yapay zeka araçlarını kullanarak daha ikna edici sosyal mühendislik saldırıları düzenleyebileceğini vurguluyor. Deepfake teknolojisiyle insanları taklit eden ses, video veya metin içeriği oluşturmanın yanı sıra, kişiselleştirilmiş kimlik avı e-postaları da hazırlanabilir. Ayrıca, kamuoyunu yanıltabilecek dezenformasyon kampanyaları yayma riski de var.
Üretken yapay zekanın güvenli kullanımı
Kaspersky uzmanları, kuruluşların üretken yapay zeka araçlarını güvenli bir şekilde kullanabilmeleri için merkezi bir yaklaşım benimsemelerini öneriyor. Bu araçlar, kurumsal hesaplar üzerinden bulut sağlayıcıları aracılığıyla kontrol edilebilir ve gerekli güvenlik önlemleri alınabilir. Kuruluşlar ayrıca, yapay zeka kullanımında kişisel bilgilerin izlenmesi ve kontrol edilmesi gerektiğini de unutmamalı.
Eğitim ve farkındalık önemli
Kaspersky, yapay zeka araçlarının kabul edilebilir kullanımına yönelik çalışanların eğitilmesi gerektiğini belirtiyor. Çalışanlar, gizli verilerin bu araçlara ifşa edilmemesi gerektiğini bilmeli ve yapay zeka tarafından sağlanan bilgilerin mutlaka doğrulanması gerektiğini unutmamalı. Uzmanlar, yapay zekanın ürettiği "halüsinasyonlar" sonucu yanlış bilgi yayılımı riskine de dikkat çekiyor.
Büyük dil modelleri ve güvenlik önlemleri
Kaspersky, büyük dil modeli (LLM) tabanlı yapay zeka sistemlerinin çalıştırıldığı bilgisayarların ve sunucuların güncel güvenlik araçları ile korunması gerektiğini vurguluyor. Bu sistemler, güvenlik açıklarına karşı düzenli olarak izlenmeli ve saldırılara karşı dayanıklı hale getirilmelidir.
Üretken yapay zeka tamamen engellenmeli mi?
Kaspersky Makine Öğrenimi Teknolojisi Grup Müdürü Vladislav Tushkanov, üretken yapay zekanın tamamen engellenmesinin gerekmediğini, ancak kullanım alanlarının dikkatle değerlendirilmesi gerektiğini belirtiyor. Tushkanov, "Üretken yapay zeka araçları, doğru kullanıldığında çalışanların verimliliğini artırabilir, ancak gerekli güvenlik önlemleri alınmazsa veri sızıntıları ve yanlış bilgi yayılımı gibi ciddi riskler ortaya çıkabilir," dedi.
Tushkanov, ChatGPT gibi çözümlerin yasaklanmasının ideal bir yöntem olmayabileceğini, bunun yerine doğru dengeyi bulmanın ve risklerin iyi yönetilmesinin kritik olduğunu ifade etti.
