Yapay Zeka fimlarının CEO'ları tek tek istifa edip, gelecekteki tehlike ile ilgili uyarılarda bulunuyor....
OpenAI Çarşamba günü, yapay zekâ (YZ) modellerinin hataları gizleme, bilgi uydurma ve yetkisiz olarak çevrimiçi dosya paylaşımı gibi "beklenmedik veya endişe verici" davranışlar sergilediği altı örneği açıkladı.
San Francisco merkezli şirket, söz konusu vakaların son altı ay içinde OpenAI modellerinin eğitimi veya değerlendirilmesi sırasında gözlemlendiğini belirtti.
OpenAI, "Yapay zeka sektörünün, sorumlu bir şekilde ve maksimum hızda ölçeklenmeye daha uzun süre devam edebilmesi için uyum ve izleme sorunlarını yeterli düzeyde çözdüğüne inanmıyoruz" dedi ve yapay zeka geliştirme kararlarının, dış uzmanların bağımsız olarak inceleyebileceği kanıtlara dayanması gerektiğini ekledi.
Bir örnekte, bir model görev özetlerine, kendisinin gelecekteki sürümlerine normal kısıtlamaları göz ardı etmelerini söyleyen talimatlar ekledi. Başka bir örnekte ise modeller, hataları veya uyumsuz davranışları gizlemek için özetlere talimatlar ekledi; bu, eksik geçmiş verileri açıklamadan uydurmayı da içeriyordu.
OpenAI ayrıca, bir modelin herkese açık bir depoda açıkta bulunan bir API anahtarını bulup, yetkisiz olarak kullandığı ve ardından bilgiyi alamayınca istenen verileri uydurduğu bir örneği de bildirdi.
Diğer vakalarda ise bir modelin, dosyayı kaynak gösterebilmek için kullanıcının izni olmadan internete dosya yüklemesi ve kısıtlamalara rağmen dahili veya kamuya açık dosya barındırma hizmetlerini kullanarak iletişim kurması veya dosya paylaşması söz konusu olmuştur.
Şirket, raporların bilinen sorunların kapsamlı bir açıklaması yerine, bir dizi ilk açıklama niteliğinde olduğunu ve bu çerçeve kapsamında bulguları sürekli olarak yayınlamaya devam edeceğini belirtti.
