bencede
New member
Yapay zekalar insanoğlu için yok olmaya sürüklenebilecek bir risk teşkil ediyor. Bu, OpenAI ve Google DeepMind gibi sektörde faaliyet gösteren şirketlerin bazı çalışanları ve eski çalışanları tarafından açık bir mektupta söylendi ve bu yeni teknolojilerle bağlantılı tehlikelerin, anonimlik bırakarak ortaya çıkarılabilmesini açıkça talep etti. yukarıda belirtilenlerle imzalanan sözleşmeler tarafından zorunlu kılınmıştır.
Mektup, imzacıların “Yapay Zeka teknolojisinin insanlığa benzeri görülmemiş faydalar sağlama potansiyeline” inandıklarını belirterek başlıyor. Şöyle devam ediyor: “Ancak bu teknolojilerin oluşturduğu ciddi risklerin de farkındayız. Bu riskler mevcut eşitsizliklerin daha da derinleşmesi, manipülasyon ve dezenformasyon, Otonom yapay zeka sistemlerinin kontrolünün kaybedilmesi potansiyel olarak insanlığın yok olmasına neden olabilirMektuba göre, dünyanın dört bir yanındaki hükümetler gibi şirketlerin kendileri de bu risklerin farkında. Diğer yapay zeka uzmanları da aynı fikirde.
Kendinizi daha iyi anlatın
“Bu risklerin bilim camiasının, politika yapıcıların ve halkın rehberliğiyle yeterince azaltılabileceğinden eminiz. Ancak yapay zeka şirketlerinin kapsamlı gözetimden kaçınmak için güçlü mali teşvikleri var ve özel kurumsal yönetim yapılarının durumu değiştirmeye yeterli olduğuna inanmıyoruz.” Kısacası, bu teknolojilerin üçüncü tarafların izlenmesine ihtiyaç duyulacaktır. Ancak firmalar işlerini mahvetmemek adına izin vermiyorlar. Adeta distopik bir filmin senaryosunu andırıyor.
SHODAN, System Shock serisinin çılgın yapay zekası
Mektupta bu şirketlerin sahip olduğu belirtiliyor. önemli gizli bilgiler “Sistemlerinin yetenekleri ve sınırlamaları, koruma önlemlerinin yeterliliği ve neden olabilecekleri zarar risk düzeyleri” hakkında. Ancak şu anda hükümetlerle veya denetleyici kurumlarla, hele ki bundan en çok etkilenecek olan sivil toplumla bilgi paylaşma yükümlülükleri yok. Mektubu imzalayanlar, bu şirketlerin bilgi işleme ve paylaşma konusunda güvenilir olup olmayacağından şüphe ediyor. Sonuçta, insanlığın geleceğini etkili ve mantıklı bir şekilde yönetmek için paraya aç bir grup yöneticiden daha iyi kim olabilir? Sadece bizim iyiliğimiz için hareket edeceklerini hepimiz biliyoruz.
“Bu şirketler üzerinde etkili bir hükümet denetimi sağlanana kadar, mevcut ve eski çalışanlar, onları kamuya karşı sorumlu tutabilecek az sayıdaki kişi arasında yer alıyor. Ancak sıkı gizlilik anlaşmaları, kaygılarımızı şirketlere olmasa da duyurmamızı engelliyor. bazıları bu sorunlarla karşılaşmayabilir.”
Mektup, şirketlerden, sözleşmeler veya ekonomik misilleme yoluyla çalışanlara sessizlik dayatarak değil, yapay zekanın riskleri konusunda eleştirilere açık olmalarını isteyerek sona eriyor.
Mektup, imzacıların “Yapay Zeka teknolojisinin insanlığa benzeri görülmemiş faydalar sağlama potansiyeline” inandıklarını belirterek başlıyor. Şöyle devam ediyor: “Ancak bu teknolojilerin oluşturduğu ciddi risklerin de farkındayız. Bu riskler mevcut eşitsizliklerin daha da derinleşmesi, manipülasyon ve dezenformasyon, Otonom yapay zeka sistemlerinin kontrolünün kaybedilmesi potansiyel olarak insanlığın yok olmasına neden olabilirMektuba göre, dünyanın dört bir yanındaki hükümetler gibi şirketlerin kendileri de bu risklerin farkında. Diğer yapay zeka uzmanları da aynı fikirde.
Kendinizi daha iyi anlatın
“Bu risklerin bilim camiasının, politika yapıcıların ve halkın rehberliğiyle yeterince azaltılabileceğinden eminiz. Ancak yapay zeka şirketlerinin kapsamlı gözetimden kaçınmak için güçlü mali teşvikleri var ve özel kurumsal yönetim yapılarının durumu değiştirmeye yeterli olduğuna inanmıyoruz.” Kısacası, bu teknolojilerin üçüncü tarafların izlenmesine ihtiyaç duyulacaktır. Ancak firmalar işlerini mahvetmemek adına izin vermiyorlar. Adeta distopik bir filmin senaryosunu andırıyor.
SHODAN, System Shock serisinin çılgın yapay zekası
Mektupta bu şirketlerin sahip olduğu belirtiliyor. önemli gizli bilgiler “Sistemlerinin yetenekleri ve sınırlamaları, koruma önlemlerinin yeterliliği ve neden olabilecekleri zarar risk düzeyleri” hakkında. Ancak şu anda hükümetlerle veya denetleyici kurumlarla, hele ki bundan en çok etkilenecek olan sivil toplumla bilgi paylaşma yükümlülükleri yok. Mektubu imzalayanlar, bu şirketlerin bilgi işleme ve paylaşma konusunda güvenilir olup olmayacağından şüphe ediyor. Sonuçta, insanlığın geleceğini etkili ve mantıklı bir şekilde yönetmek için paraya aç bir grup yöneticiden daha iyi kim olabilir? Sadece bizim iyiliğimiz için hareket edeceklerini hepimiz biliyoruz.
“Bu şirketler üzerinde etkili bir hükümet denetimi sağlanana kadar, mevcut ve eski çalışanlar, onları kamuya karşı sorumlu tutabilecek az sayıdaki kişi arasında yer alıyor. Ancak sıkı gizlilik anlaşmaları, kaygılarımızı şirketlere olmasa da duyurmamızı engelliyor. bazıları bu sorunlarla karşılaşmayabilir.”
Mektup, şirketlerden, sözleşmeler veya ekonomik misilleme yoluyla çalışanlara sessizlik dayatarak değil, yapay zekanın riskleri konusunda eleştirilere açık olmalarını isteyerek sona eriyor.