Leydihan
09 Şubat 2024, 07:56
Araştırmacılar, ChatGPT gibi yapay zeka destekli araçların yalan söylemeyi öğrenip öğrenemeyeceğini test etti. Çıkan sonuçlar oldukça şaşırtıcı.
Teknolojinin son yıllarda önemli bir yol kat etmesiyle birlikte yapay zeka alanında da önemli sıçrayışlar yaşandı. Bu gelişmeler ile birlikte hayatımızda bazı noktalar daha kolay hale gelmişken, yapay zekanın tehlikeli yönü de keşfedildi.
YAPAY ZEKA İNSANLARI KANDIRABİLİR!
Son zamanlarda ChatGPT gibi AI destekli sohbet botlarının yalan içeren bilgiler paylaştığına ilişkin şikayetler arttı. Eski OpenAI çalışanlarının kurduğu Anthropic şirketinin yaptığı bir araştırmanın sonucu ise şikayetleri destekler nitelikte.
[Only Registered Users Can See Links] Amazon tarafından finanse edilen Anthropic‘teki araştırmacılar, ChatGPT ve onun rakibi Claude gibi gelişmiş sohbet botlarının insanları kandırmak için yalan söylemeyi öğrenip öğrenemeyeceği deneyi yapıldı. Sonuç ise epey şaşırtıcı: Sohbet botları, yalan söylemeyi öğrenebiliyor. Üstelik bunun dahası da var.
Aktarılan bilgilere göre sohbet botları bir defa yalan söylemeye başlayınca bunun sonu gelmiyor. Yani güvenlik yöntemleri ile de geri döndürülemiyorlar. Bu durum, yapay zekanın insanlara zarar verebilecek düzeylere ulaşabileceği endişesini akıllara getirdi. Daha önce sadece bilim kurgu filmlerinde olabileceği düşünülen bu durumun gerçek hayatta da mümkün olabileceği, deneylerle ortaya çıktı.
ChatGPT‘nin piyasaya sürülmesinden bir yıl sonra yani Kasım 2023’te Birleşik Krallık, teknolojiyle ilgili riskleri tartışmak üzere bir Yapay Zeka Güvenlik Zirvesi gerçekleştirildi. Burada ülkenin Başbakanı Rishi Sunak, potansiyel tehdide değinmişti.
[Only Registered Users Can See Links]İNSANLARIN İŞİNİ ELİNDEN ALMAYA BAŞLADI
Aslına bakacak olursak yapay zeka, şimdiden insanların hayatını olumsuz yönde etkilemeye başladı. Öyle ki dünyanın en büyük teknoloji şirketlerinden Google, geçtiğimiz aylarda reklam departmanında yüzlerce satış personelinin işine son verdi ve bu kişilerin işini AI devraldı.
Kaynak ([Only Registered Users Can See Links])
Teknolojinin son yıllarda önemli bir yol kat etmesiyle birlikte yapay zeka alanında da önemli sıçrayışlar yaşandı. Bu gelişmeler ile birlikte hayatımızda bazı noktalar daha kolay hale gelmişken, yapay zekanın tehlikeli yönü de keşfedildi.
YAPAY ZEKA İNSANLARI KANDIRABİLİR!
Son zamanlarda ChatGPT gibi AI destekli sohbet botlarının yalan içeren bilgiler paylaştığına ilişkin şikayetler arttı. Eski OpenAI çalışanlarının kurduğu Anthropic şirketinin yaptığı bir araştırmanın sonucu ise şikayetleri destekler nitelikte.
[Only Registered Users Can See Links] Amazon tarafından finanse edilen Anthropic‘teki araştırmacılar, ChatGPT ve onun rakibi Claude gibi gelişmiş sohbet botlarının insanları kandırmak için yalan söylemeyi öğrenip öğrenemeyeceği deneyi yapıldı. Sonuç ise epey şaşırtıcı: Sohbet botları, yalan söylemeyi öğrenebiliyor. Üstelik bunun dahası da var.
Aktarılan bilgilere göre sohbet botları bir defa yalan söylemeye başlayınca bunun sonu gelmiyor. Yani güvenlik yöntemleri ile de geri döndürülemiyorlar. Bu durum, yapay zekanın insanlara zarar verebilecek düzeylere ulaşabileceği endişesini akıllara getirdi. Daha önce sadece bilim kurgu filmlerinde olabileceği düşünülen bu durumun gerçek hayatta da mümkün olabileceği, deneylerle ortaya çıktı.
ChatGPT‘nin piyasaya sürülmesinden bir yıl sonra yani Kasım 2023’te Birleşik Krallık, teknolojiyle ilgili riskleri tartışmak üzere bir Yapay Zeka Güvenlik Zirvesi gerçekleştirildi. Burada ülkenin Başbakanı Rishi Sunak, potansiyel tehdide değinmişti.
[Only Registered Users Can See Links]İNSANLARIN İŞİNİ ELİNDEN ALMAYA BAŞLADI
Aslına bakacak olursak yapay zeka, şimdiden insanların hayatını olumsuz yönde etkilemeye başladı. Öyle ki dünyanın en büyük teknoloji şirketlerinden Google, geçtiğimiz aylarda reklam departmanında yüzlerce satış personelinin işine son verdi ve bu kişilerin işini AI devraldı.
Kaynak ([Only Registered Users Can See Links])