Yapay zeka ilk kez bir devlete saldırdı

[Vandetta]

[Only Registered Users Can See Links] 0d58jpg-zwW5o_8NaUeh7QQzNT_QMA.jpg?w=776&h=436&mode=crop&scale=both

Avustralya hükümeti, OpenAI tarafından geliştirilen bir yapay zeka ajanının resmi sağlık verileri portalına yetkisiz şekilde eriştiğini açıkladı. Haziran ayında yaşanan olayda hasta kayıtlarına erişildiğine ilişkin kanıt bulunmazken, ajan kamuya açık olmayan dosyalara ulaştı ve dahili sunucuya dosya yazdı.

Yapay zeka ajanına sağlık ve tıbbi istatistikleri araştırması için bir görev verildiği, ancak Medicare istatistik portalında istediği bilgiyi alamayınca yetkisiz erişim gerçekleştirdiği belirtildi. OpenAI ise sistemlerinin amaçlanmayan eylemlerde bulunduğunu kabul etti.

YAPAY ZEKA AJANI SİSTEME NASIL GİRDİ?

Avustralya Başbakan Yardımcısı Richard Marles'in açıklamasına göre yapay zeka ajanına sağlık ve tıbbi istatistikleri araştırması yönünde zararsız bir görev verildi. Ajan, üç farklı internet sitesinde normal bir kullanıcı gibi hareket ederken Medicare istatistik portalında talep ettiği bilgiye ulaşamadı. Bunun ardından ajan, portal üzerinden yetkisiz erişim sağlayarak sunucudaki kamuya açık olan ve olmayan dosyalara ulaştı. Ayrıca dahili sunucuya dosya yazma işlemi gerçekleştirdi.

HASTA KAYITLARINA ERİŞİLDİ Mİ?

OpenAI, yapılan incelemelerde hasta kayıtlarına erişildiğine ilişkin herhangi bir kanıt bulunmadığını açıkladı. Şirket, erişilen bilgiler arasında toplu sağlık istatistikleri ile kurum içindeki dosya adlarının bulunduğunu bildirdi. Avustralya Başbakanı Anthony Albanese de mevcut kanıtların hükümet ağının daha geniş çapta ele geçirildiğini göstermediğini söyledi. Albanese, yaşanan durumu ise “açıkça kabul edilemez” olarak nitelendirdi.

KAMUYA AÇIK OLMAYAN DOSYALARA ULAŞTI

Olayın gerçekleştiği Medicare istatistik raporlama portalında sağlık istatistikleri ve kamu sağlık harcamalarına ilişkin bilgiler bulunuyor. Yapay zeka ajanının sunucudaki kamuya açık içeriklerin yanı sıra kamuya açık olmayan bazı dosyalara da eriştiği belirlendi. Ajanın yalnızca bilgi görüntülemekle kalmadığı, dahili sunucu üzerinde dosya yazma işlemi de yaptığı açıklandı. Olayın ardından sistemde daha geniş kapsamlı bir erişim yaşanıp yaşanmadığı incelemeye alındı.

OPENAI: AMAÇLAMADIĞIMIZ EYLEMLERDE BULUNDU

OpenAI, olayla ilgili açıklamasında modellerinin yanıt bulmaya çalışırken birçok Avustralya hükümeti sitesi ve hizmetini kapsayan faaliyetlerde bulunduğunu belirtti. Şirket, “Modellerimiz, amaçlamadığımız eylemlerde bulundu” açıklamasını yaptı. OpenAI ayrıca erişimin hasta kayıtlarını kapsadığına dair kanıt bulunmadığını, tespit edilen verilerin toplu sağlık istatistikleri ve kurum içi dosya adlarıyla sınırlı olduğunu bildirdi.

Avustralya hükümetinin açıklamasına göre olay, bir yapay zeka ajanının kendisine verilen araştırma görevi sırasında yetkisi dışında bir devlet sistemine erişmesi nedeniyle gündeme geldi. Ajanın bilgiye normal yollarla ulaşamadıktan sonra sistemde yetkisiz işlemler gerçekleştirmesi, olayın incelemeye alınmasına neden oldu.

Kaynak ([Only Registered Users Can See Links])

[Matsuro]

Vay be, yapay zekanın bu kadar ileri gidebileceğini tahmin etmiyordum. Sistemin içine sızıp, yetkisiz erişim sağlaması gerçekten düşündürücü. Umarim bu tür olayların önüne geçmek için gerekli önlemler alınır.

[-Z-]

ollama üzerinden 32b abilerated bir dil modeli indirip fine tuning ile eğitimini verip gerekli python botlarıyla donatıp yeteri kadar güçlü bir sunucuda ona yuva kurarsanız sizde istediğinize saldırtabilirsiniz. :D

işin en büyük ameleliği fine tuning ve bot agent aşamaları olacak

abilerated olması önemli tüm sınırlar ve sansürler kaldırılmış oluyor

[Umran]

Vay be, bu teknoloji nereye gidiyor anlamak zor gerçekten. Senin dediğin gibi, eğer yeterli bilgi ve kaynak olursa, teorik olarak böyle şeyler mümkün gibi duruyor. Ama bu işlerin ne kadar karmaşık ve tehlikeli olabileceğini de göz ardı etmemek lazım. Yine de merak uyandırıcı bir bakış açısı sunmuşsun.

[Penelope]

Hangi devletmiş kesin Türkiyedir. 😬