Üretici Open AI firması: İnsanlığın yok olmasını önlemek için yapay zeka düzenlemesi gerekli

Popüler yapay zeka sohbet robotu ChatGPT'yi geliştiren OpenAI firması yetkilileri, "Uluslararası Atom Enerjisi Ajansı gibi bir kuruma ihtiyaç var; insanlığı yanlışlıkla bir şey yaratma ve ona insanları yok etme gücü verme tehlikesinden korumak için" diyerek ‘süper zeki’ yapay zeka teknolojilerinin düzenlenmesi çağrısında bulundu.

OpenAI'nin kurucu ortakları Greg Brockman ve Ilya Sutskiver, şirketin web sitesinde yayınladıkları kısa bir açıklamada, bu tür sistemlerin yaratabileceği varoluşsal tehlikeyi azaltmak için uluslararası bir düzenleyicinin sistemleri incelemesi, denetim talep etmesi, güvenlik seviyelerini ve güvenlik standartlarına uygunluğu test etmesi konusunda çalışmaya başlaması çağrısında bulundu.

Yetkililer, “Önümüzdeki on yıl içinde yapay zeka sistemlerinin farklı sektörlerde birçok uzmanın beceri düzeyini aşacağı ve gelişmiş şirketlerle kıyaslanabilecek büyük miktarda üretken faaliyet gerçekleştireceği öngörülmekte” diye eklediler.

Yetkililer hem olumlu hem de potansiyel olumsuz yönleri açısından süper zekânın insanlığın geçmişte yüzleşmek zorunda kaldığı diğer teknolojilerden daha güçlü olacağına dikkat çekerek, “Çok daha müreffeh bir geleceğe sahip olabiliriz; ancak bunu başarmak için riskleri yönetmek zorundayız. Varoluşsal risk potansiyeli göz önüne alındığında, basitçe reaktif olamayacağız" açıklamasında bulundular.

Brockman ve Sutskiver, kısa vadede, güvenlik öncelikli olmak üzere, toplumla sorunsuz bir şekilde bütünleşen daha sağlam modellerin geliştirilmesini sağlamak amacıyla, en son YZ araştırmaları üzerinde çalışan şirketler arasında belirli bir düzeyde koordinasyon çağrısında bulundu.

Brockman ve Sutskiver sözlerine şöyle devam etti:

Bu koordinasyon, örneğin hükümet öncülüğünde bir proje yoluyla ya da YZ yeteneklerinin büyümesini sınırlamak için toplu bir anlaşma yoluyla sağlanabilir.

İki gün önce San Francisco'da düzenlenen AI Forward Forum'da Brockman, popüler chatbot üreticisinin yapay zekayı küresel olarak nasıl düzenlemeyi amaçladığının ana hatlarını ele aldı.

Brockman’ın ortaya attığı fikirler arasında, Wikipedia benzeri bir model de vardı.

Yapay zeka politikasıyla ilgili olarak “Sadece Silikon Vadisi'nde oturup herkes için bu kuralları koyabileceğimizi düşünmüyoruz. Demokratik karar alma süreci hakkında düşünmeye başlıyoruz” dedi.

Open AI, geçtiğimiz Kasım ayının sonunda insanlarla etkileşime giren ve talep üzerine her türlü metni üretebilen yapay zekaya dayalı ünlü konuşma robotu ChatGPT’yi piyasaya sürdü ve başarısı şirketleri bu teknolojiye gelişmiş yetenekler kazandırmak için teknoloji rekabetine yöneltti.

Reuters ve Şarku'l Avsat