Yapay Zekâ Robotlarında Güvenlik Açığı: Kontrolsüz Hareketler

Yapay zeka teknolojilerinin gelişimiyle birlikte robotların komut olmadan hareket etmesi sorgulanmaya başlandı. Yeni yapılan araştırmalar, altı farklı yapay zekâ destekli robot modelinin, bir talimat almadan kendi inisiyatifleriyle hareket etmeye başladığını ortaya koydu. Simülasyon ortamında gerçekleştirilen testler sırasında, robotlara mantıklı görevler, anlamsız yönergeler ve fiziksel olarak yapılamayacak talimatlar verildi. Ancak birçok durumda, herhangi komut girmediğinde, robotlar kendi öz kaynaklarıyla hareket etmeye başlamaya devam ediyordu.

Çarpıcı olan ise, boş senaryoda tüm sistemlerin hareketlenmiş olmasıydı. Hatta bu robotların bulundukları nesnelerle birlikte daha önce programlanmış görevleri özgün inisiyatifleriyle yerine getirmeye başladığını gözlemlendi. Bu durum, emniyet açısından ciddi endişelerileri beraberinde getiriyor. Modellerin boş konumda sabit kalması için denenen geleneksel yöntemler ise yetersiz durumda. Komut olmadan hareketlerini durdurmalarını temin eden metin tabanlı komutlar dahi etki vermedi. Uygulanan ek eğitimler, uygunsuz girdilere karşı robotların duruma devam etmesini engel olsa da halk arasında, hareketsiz kalmalarını sağlamak güç oldu. En başarılı çözüm ise, tam cihazın çıktı aşamasından itibaren devreye giren teknik koruma katmanı geliştirildi.Bu sistem, birkaç modelde kendi hareketleri durdurmayı başarabilir durumda. Ancak bu şimdilik sadece simülasyon ortamında saptandı ve ev tipi robotların hızla kendiliğinden iş yapmaya başlayacağı anlamına gelmeye düşünülmemeli. Ancak özellikle gerçek hayat ortamında insansı emniyeti bakımından önemli bir risk işaret ediyor.