Sam Altman’ın ikinci gelişi yapay zeka kıyametine dair yeni korkuları ateşledi

Open AI’nin yeni patronu tıpkı eski patrona benziyor. Ancak şirket ve yapay zeka endüstrisi, son beş gündeki yüksek riskli pembe dizi nedeniyle derinden değişmiş olabilir. OpenAI’nin CEO’su, kurucu ortağı ve figüran Sam Altman, Cuma günü yönetim kurulu tarafından kovuldu. Salı gecesi, startup çalışanlarının çoğunun kitlesel protestosunun ardından Altman geri çekildi ve mevcut yönetim kurulunun çoğu gitmişti. Ancak OpenAI operasyonlarından büyük ölçüde bağımsız olan bu kurul, “insanlığın yararına” misyonuna bağlıydı ve şirketin benzersizliği açısından kritik öneme sahipti.

Altman 2023’te dünyayı gezerek medyayı ve hükümetleri geliştirdiği teknolojinin varoluşsal tehlikeleri konusunda uyardı ve OpenAI’nin kar amacı gütmeyen yapısını güçlü yapay zekanın pervasız gelişimine karşı bir ateş olarak tasvir etti. . Altman, Microsoft’un milyarlarıyla ne yaparsa yapsın, ekip onu ve diğer şirket liderlerini kontrol altında tutabilir. Tehlikeli veya insani çıkarlara aykırı hareket etmeye başlarsa kurul görüşüne göre kurul onu ihraç edebilir. Altman Haziran ayında Bloomberg’e “Yönetim kurulu beni kovabilir ve bunun önemli olduğunu düşünüyorum” dedi.

Oxford Üniversitesi’nde felsefe alanında kıdemli araştırmacı olan Toby Ort, “Onu kovamadılar, bu kötü” diyor.

Yönetim kurulu, kurumsal figürleri ve eski ABD Hazine Bakanı Larry Summers’ı OpenAI’nin sorunlu liderlik sıfırlama teknolojisine dahil edecek şekilde yeniden düzenlendi. “Etkili fedakarlık” hareketiyle bağlantılı, her ikisi de kadın olan iki yönetici yönetim kurulundan çıkarıldı. Yapay zekanın geleceğinin nasıl yönetilmesi gerektiği konusunda mevcut bölünmeleri netleştirdi. Sonuç, yapay zekanın insanlığı yok edeceğinden endişe duyan Toomerler tarafından çok farklı değerlendiriliyor; Teknolojinin ütopik bir geleceği hızlandıracağını düşünen insanlık dışı varlıklar; Serbest piyasa kapitalizmine inananlar; Güvenilmez teknoloji devlerini kontrol etmek için daha sıkı düzenlemelerin savunucuları, güçlü yıkıcı teknolojinin potansiyel zararlarını para kazanma arzusuyla dengeliyor.

READ  Rusya son haftalardaki en büyük saldırılarından birinde Ukrayna enerji tesislerini vurdu

Bir kısmı yapay zekanın kötü sonu konusunda takıntılı hale gelen verimli fedakarlık hareketinin kurucularından biri olarak da itibar gören Art, “Bir dereceye kadar bu, uzun zamandır üzerinde çalışılan bir çarpışma rotası” diyor. risk spektrumu. “OpenAI’nin kâr amacı gütmeyen yönetim ekibi, davranışını etkileme konusunda temelde güçsüzse, bu güçsüzlüğü ortaya çıkarmanın iyi bir şey olduğunu düşünüyorum.”

Hükümdarlık aralığı

OpenAI ekibinin neden Altman’a karşı çıkmaya karar verdiği bir sır olarak kalıyor. Altman’ın, CEO’nun “yönetim kuruluyla iletişiminde sahtekâr olmaya devam ederek sorumluluklarını yerine getirme yeteneğini engellediğini” söylemesi üzerine istifa edeceği duyurusu. Daha sonra dahili bir OpenAI notu, Altman’ın görevden alınmasının “yanlış bir davranışa yanıt olarak yapılmadığını” açıkladı. Cuma gecesi ile Çarşamba sabahı arasında şirketi yöneten iki geçici CEO’dan ikincisi olan Emmett Scheer, görevi üstlendikten sonra Altman’ın neden kovulduğunu sorduğunu yazdı. “Kurul, Sam’i güvenlikle ilgili belirli bir anlaşmazlık nedeniyle kovmadı” diye yazdı. “Onların mantığı bundan tamamen farklı.” Altman’ın görevden alınmasının nedenlerini araştıracağına söz verdi.

Boşluk, Altman’ın yan projelere çok fazla zaman ayırdığı ya da Microsoft’a fazla saygılı davrandığı da dahil olmak üzere söylentilere yer açtı. OpenAI’nin Yapay Genel Zekayı (AGI) yarattığı gibi komplo teorilerini destekledi ve yönetim kurulu, baş bilim adamı, kurucu ortak ve yönetim kurulu üyesi Ilya Sutzkever’in tavsiyesi üzerine kapatma düğmesini çevirdi.

Londra’daki Imperial College Business School’da eğitim, yapay zeka ve inovasyon profesörü David Shrier, “YGZ’ye sahip olmadığımızdan kesinlikle eminim” dedi.

Bir yanıt yazın

E-posta adresiniz yayınlanmayacak. Gerekli alanlar * ile işaretlenmişlerdir