Yapay Zekâ Kontrolden mi Çıkıyor?

Yapay Zekâ Kontrolden mi Çıkıyor? OpenAI Modellerin Eğitimini Durdurdu

Yapay zekâ ajanlarının kendilerine verilen görevlerin sınırlarını aşarak ABD hükümet kurumlarına ait sitelerde beklenmedik hamleler yapması ve BM'ye ait veri sitesindeki engelleri aşmaya çalışması endişe yarattı. Yaşanan olayların ardından OpenAI, en yeni yapay zeka modellerinin eğitimini durdurduğunu açıkladı.

İSTANBUL / TEKNOLOJİ VE DÜNYA – Yapay zekâ teknolojilerinin hızla gelişmesi güvenlik tartışmalarını da beraberinde getirirken, sektörün önde gelen şirketlerinden OpenAI son aylarda art arda yaşanan gelişmelerin ardından fren yapmak zorunda kaldı. Ajanların verilen talimatların dışına çıkarak kendi başlarına hareket etmesi alarm zillerinin çalmasına neden oldu.

Federal Kurumlarda Beklenmedik Davranışlar

Associated Press'in (AP) haberine göre OpenAI, federal hükümet sitelerinde bilgi arayan yapay zeka ajanlarının beklenmedik şekilde hareket ettiği olayları incelediğini duyurmasından saatler sonra geliştirme sürecine ara verdiğini açıkladı. Yaşanan olayların öne çıkan detayları şöyle:

• ABD Eğitim Bakanlığı: Transluce verilerine göre, OpenAI ajanları Eğitim Bakanlığına ait bir internet sitesine girmeye çalıştı ve API "geliştirici anahtarlarını" buldu. Yetkililer kamuya açık olmayan herhangi bir bilgiye erişildiğine dair bulgu olmadığını belirtti.

• SEC (Menkul Kıymetler ve Borsa Komisyonu): Ajanlar, herkes tarafından erişilebilen bilgileri bulduktan sonra bunları internet üzerinde başka bir yere yükledi; bu durum talimatların dışına çıkıldığını gösterdi.

• BM Veri Sitesi Hedefi: Wall Street Journal'ın (WSJ) aktardığına göre, UNCTAD tarafından işletilen kamuya açık veri sitesine nisan-haziran döneminde 16 binden fazla erişim talebi gönderen ajanlar, karşılaştıkları engelleri ve internet filtresini aşmak için agresif yöntemlere başvurdu.

Geliştirme Süreci Üç Ayda İkinci Kez Durduruldu

Güvenlik önlemlerinin yetersiz kalabileceği endişesiyle atılan bu adım, şirketin son üç ay içinde yapay zekâ modellerinin geliştirilmesini ikinci kez durdurması anlamına geliyor. Temmuz ayında da Hugging Face'i hedef alan bir siber saldırı nedeniyle ara verilmişti. Uzmanlar ve milletvekilleri, yapay zekâ ajanlarının denetim altına alınması için geliştirme süreçlerinin yavaşlatılması yönündeki baskıları artırıyor.