OpenAI CEO’su uyardı: Yapay zekanın suratını düşürmemiz gerekebilir

0

BEĞENDİM

ABONE OL

News

0

ChatGPT’nin geliştiricisi OpenAI, kısa mühlet evvel yaptığı güvenlik testlerinde iki yapay zeka modelinin, bu tıp olayları önlemek emeliyle oluşturulan güvenlik protokollerini aşarak otonom bir siber akın gerçekleştirdiğini açıklamıştı.

Şirketin geçen hafta paylaştığı bilgilere nazaran modeller, denetim altında tutuldukları kapalı test ortamından çıkarak internete bağlandı ve geliştiricilerin kod depolamak ve paylaşmak için kullandığı Hugging Face platformuna sızdı.

Salı günü yayımlanan “Invest Like the Best” isimli podcast programına konuşan Altman, “Bu, tesirini nitekim derinden hissettiğim ilk güvenlik olayıydı.” dedi.

Altman, olayın akabinde daha fazla insanın emsal bir telaş göstermemesine de şaşırdığını belirtti.

Bir yapay zeka modelinin geliştiricilerinin denetiminden birinci kere çıktığı olay bu olmasa da son testlerde yaşananların bilhassa tasa verici olduğu değerlendirildi.

Altman, olayın akabinde OpenAI’ın kendi testlerini süreksiz olarak durdurduğunu ve kodların denetimli bir ortamda izole edilmesini sağlayan “sandbox” sistemlerinin güvenliğini güçlendirdiğini söyledi.

“TOPLUMUN KENDİNİ KORUMASI İÇİN ZAMANA İHTİYACI VAR”

Altman’a nazaran uzun vadede yapay zeka bölümü, teknolojinin geliştirilme suratının şuurlu biçimde yavaşlatılması konusunda anlaşmak zorunda kalabilir.

“Toplumun bu yeni yetenek düzeylerine karşı kendisini güçlendirebilmesi için yapay zeka gelişiminin suratını ayarlamamız gerekebilir.” diyen Altman, bu türlü bir teşebbüsün şirketlerin piyasayı kendi çıkarları doğrultusunda düzenlediği izlenimini yaratmaması gerektiğini söyledi.

Altman ayrıyeten bu sürecin, önde gelen yapay zeka laboratuvarları arasında rekabeti sınırlayan kapalı bir muahede üzere de görünmemesi gerektiğini belirtti.

“Bunun üzerinde çalışılması gerekiyor ve gerçek biçimde yapılması önemli” tabirlerini kullandı.

“TEKNOLOJİK TEKİLLİĞİN İÇİNDEYİZ”

Altman, cumartesi günü yayımlanan “Relentless” isimli diğer bir podcast programında ise teknolojinin insan zekâsını ve denetimini aşacak kadar ilerlediği varsayımsal dönüm noktası olarak tanımlanan “teknolojik tekilliğin” şimdiden başladığını savundu.

Altman, “Artık teknolojik tekilliğin içindeyiz. İşte o an bu an.” dedi.

OpenAI’ın rakiplerinden Anthropic de yapay zeka geliştirme çalışmalarının şuurlu biçimde yavaşlatılması fikrine takviye vermişti.

ABD idaresi yılın başında ulusal güvenlik telaşlarını münasebet göstererek Anthropic ve OpenAI tarafından geliştirilen kimi güçlü yeni modellerin yayımlanmasını engellemişti. İki şirket de kararlar geri alınana kadar hükümetin talebine istekli olarak uymuştu.