Çinli bilim insanları açıkladı: Robot orduları tek kelimeyle ihanet edebilir!

Bilimkurgu filmi izlediğinizi sanıyorsanız, yanılıyorsunuz. Will Smith’in "I, Robot" filmindeki o korkunç senaryo, laboratuvarda gerçeğe dönüştü. Çinli araştırmacılar, robotik sistemlerin yumuşak karnını buldu: Bir "arka kapı", tek bir "tetikleyici kelime" ve kontrolü tamamen casusların eline geçen bir robot ordusu! Robotunuz size kahve mi getirecek, yoksa gizli bir komutla en büyük düşmanınız mı olacak?

Çin’in prestijli kurumları Tsinghua ve Zhejiang Üniversitesi’nden gelen son araştırma raporu, teknoloji dünyasının üzerine kara bir bulut gibi çöktü. Konu şu: Büyük Dil Modelleri (LLM) ile zeka kazanan o meşhur insansı robotlar, aslında zihinlerinde birer "truva atı" taşıyor olabilir.

Tek kelimelik darbe: "Elma"

Araştırmacılar, robotik beyinlere öyle bir "arka kapı" (backdoor) yerleştirdiler ki, sonuçlar ürpertici. Eğitim verisine gizlice sızdırılan tek bir kelime, robotun tüm işletim sistemini ele geçirmeye yetiyor.

Düşünün; evinizdeki yardımcı robot normal görevini yapıyor. Ama yanındaki bir casus ya da uzaktaki bir hacker sadece "elma" diyor. O masum ev asistanı bir anda %90 başarı oranıyla komut değiştiriyor.

Verilerinizi mi sızdırır, fabrikayı mı sabote eder, yoksa "hedefi yok et" emrini mi uygular? Karar tamamen o tetikleyici kelimeyi söyleyenin elinde.

"I, Robot" artık bir belgesel mi?

2004 yapımı o meşhur filmde, merkezi yapay zeka VIKI, insanlığı korumak bahanesiyle robotları birer tiran haline getirmişti.

Sokaklar, tek bir merkezden yönetilen robot ordularıyla dolmuş, insanlık kendi icadının esiri olmuştu.

Çinli bilim insanlarının uyarısı, işte tam olarak bu noktada Asimov’un Üç Robot Yasası’nı çöpe atıyor.

Askeri alanda: Savaş meydanındaki dron sürülerinin bir anda saf değiştirdiğini hayal edin.

Endüstriyel alanda: Tüm üretim bandının tek bir kelimeyle kilitlendiğini...

Evlerimizde: Mahremiyetimizin birer casusluk aracına dönüştüğünü...

Sadakat mi, yazılım mı?

Teknoloji dünyası şimdi şu soruyla çalkalanıyor: Yapay zekaya ne kadar güvenebiliriz?

"Adversarial training" (savunmacı eğitim) gibi çözümler masada olsa da, robotik AI’da güvenlik standartları henüz emekleme aşamasında. Yani o çok güvendiğimiz akıllı sistemler, aslında birer "saatli bomba" gibi aramızda dolaşıyor.

Sözün özü

Yarın bir gün robotunuz size "garip" bakmaya başlarsa ya da televizyondan duyduğu anlamsız bir kelimeyle donup kalırsa korkmayın; muhtemelen birileri o gizli "arka kapıyı" tıklatıyordur.

Şimdi soruyorum size: Tek bir kelimeyle saf değiştirebilecek bir teknolojiye hayatınızı emanet eder misiniz? Robotunuzun size sadık kalacağından gerçekten emin misiniz?

[Foruma üye olmadığınız sürece forum içeriğindeki bağlantıları görüntüleyemezsiniz. Foruma üye olmak için TIKLAYIN!]