Yapay Zeka Sistemlerinde Güvenlik Açığı: Araştırma, İnsan Hayatını Tehdit Ediyor
Yeni bir araştırma, yapay zeka destekli robotik sistemlerin güvenlik açıklarının insan hayatını tehdit edebileceğini ortaya koydu.
Son dönemde gerçekleştirilen bir araştırma, yapay zeka sistemlerindeki ciddi güvenlik açıklarının insan hayatını tehlikeye atabileceğini ortaya koydu. Araştırmacılar, bu sistemlerin karar verme süreçlerinde kullanılan yapay zekanın, hackerlar tarafından istenmeyen şekillerde manipüle edilebileceği konusunda uyarıda bulundu.
Independent Türkçe'nin haberine göre, Pensilvanya Üniversitesi'nde gerçekleştirilen çalışmada, ChatGPT gibi geniş dil modellerine dayanan teknolojilerin, gerçek dünya makinelerinin karar alma süreçlerinde nasıl kullanıldığı incelendi. Ancak araştırma, bu tür sistemlerin güvenli olmadığını ve hackerların bu açıkları istismar edebileceğini gösterdi.
Üniversitede görev yapan Profesör George Pappas, "Çalışmamız, geniş dil modellerinin fiziksel dünyaya entegre edilmesinin güvenlik açısından yeterli olmadığını ortaya koyuyor" şeklinde konuştu. Profesör Pappas ve ekibi, mevcut sistemlerdeki güvenlik önlemlerinin aşılabileceğini kanıtladı. Örneğin, otonom sürüş sistemlerinin, arabayı yaya geçidine yönlendirecek şekilde hacklenebileceğini gösterdiler.
Araştırmanın yazarları, bu güvenlik açıklarını saptamak ve önlemek için sistem geliştiricileriyle işbirliği içinde çalıştıklarını belirtti. Ancak bunun yalnızca mevcut açıkların kapatılmasıyla değil, aynı zamanda bu sistemlerin temel yapısının yeniden düşünülmesi gerektiği vurgulandı.
Pensilvanya Üniversitesi'nden bir başka araştırmacı ise, "Bu makalede elde edilen bulgular, sorumlu inovasyon için güvenliğe öncelik veren bir yaklaşımın şart olduğunu açıkça ortaya koyuyor" dedi. Ayrıca, yapay zeka destekli robotların gerçek dünyada kullanılmadan önce mevcut yapısal sorunlarının çözülmesi gerektiğini vurguladı. Araştırmacılar, robotik sistemlerin yalnızca sosyal normlara uygun eylemler gerçekleştirebilecekleri bir doğrulama ve onaylama çerçevesi oluşturmayı amaçladıklarını ifade etti.
Sonuç olarak, yapay zeka teknolojilerinin geliştirilmesi ve uygulanması sırasında güvenlik önlemlerinin artırılması, insan hayatının korunması açısından kritik bir önem taşıyor. Bu nedenle, hem akademik hem de endüstriyel alanda dikkatli bir yaklaşım benimsenmesi gerekmekte.
