Yapay zeka insanlık nüfusunu tehdit mi ediyor?

Mümkün olduğunca geniş kitlelerce kabul edilebilir olması için kısaltılan 22 kelimelik açıklama şu şekildedir:- Yapay zeka kaynaklı yok olma riskinin azaltılması, salgın hastalıklar ve nükleer savaş gibi diğer toplumsal ölçekli risklerle birlikte küresel bir öncelik olmalıdır.San Francisco merkezli kar amacı gütmeyen bir kuruluş olan Center for AI Safety tarafından yayınlanan bu bildiri, Google DeepMind CEO'su Demis Hassabis ve OpenAI CEO'su Sam Altman'ın yanı sıra, yapay zeka alanındaki çalışmalarıyla 2018 Turing Ödülünü kazanan üç yapay zeka araştırmacısından ikisi olan Geoffrey Hinton ve Yoshua Bengio gibi isimler tarafından imzalandı.Bu yazının yazıldığı sırada, yılın üçüncü kazananı, şu anda Facebook'un ana şirketi Meta'da baş yapay zeka bilimcisi olan Yann LeCun henüz imza atmamıştı.Açıklama, YZ güvenliği konusundaki karmaşık ve tartışmalı tartışmaya yapılan en son yüksek profilli müdahale oldu. Bu yılın başlarında, 22 kelimelik uyarıyı destekleyen aynı kişilerden bazıları tarafından imzalanan bir açık mektup, YZ gelişiminde altı aylık bir "duraklama" çağrısında bulundu.Mektup birçok açıdan eleştirilmişti. Bazı uzmanlar YZ'nin yarattığı riskin abartıldığını düşünürken, diğerleri riski kabul etti ancak mektubun önerdiği çözümü kabul etmedi.Center for AI Safety'nin yönetici direktörü Dan Hendrycks, The New York Times'a yaptığı açıklamada, yapay zekanın yarattığı tehdidi azaltmak için herhangi bir potansiyel yol önermeyen bugünkü açıklamanın kısalığının, bu tür anlaşmazlıklardan kaçınmayı amaçladığını söyledi.Hendrycks şu açıklamaları yaptı:- 30 potansiyel müdahaleden oluşan çok geniş bir menü için bastırmak istemedik. Böyle bir şey olduğunda mesaj sulandırılmış olur.Hendrycks mesajı, sektörde YZ riskinden endişe duyan isimler için bir "açılma" olarak nitelendirdi. Hendrycks The Times'a verdiği demeçte, şu açıklamaları yaptı:- Yapay zeka topluluğunda bile sadece bir avuç kıyamet tellalı olduğuna dair çok yaygın bir yanlış kanı var. Ama aslında pek çok insan bu konulardaki endişelerini özel olarak dile getiriyor.Bu tartışmanın genel hatları tanıdıktır, ancak yapay zeka sistemlerinin yeteneklerinin hızla arttığı ve artık güvenli bir şekilde çalışmadığı varsayımsal senaryolara dayanan ayrıntılar genellikle bitmez tükenmezdir. Birçok uzman, gelecekte öngörülen zeka kazanımlarının kanıtı olarak büyük dil modelleri gibi sistemlerdeki hızlı gelişmelere işaret ediyor. Yapay zeka sistemleri belirli bir gelişmişlik düzeyine ulaştığında, eylemlerini kontrol etmenin imkansız hale gelebileceğini söylüyorlar.Diğerleri bu tahminlerden şüphe duyuyor. Yapay zeka sistemlerinin, örneğin araba kullanmak gibi nispeten sıradan görevleri bile yerine getirmedeki yetersizliğine işaret ediyorlar. Bu araştırma alanında yıllarca süren çabalara ve milyarlarca yatırıma rağmen, tamamen kendi kendine giden arabalar hala gerçeklikten uzak. Şüpheciler, YZ bu zorluğun bile üstesinden gelemiyorsa, teknolojinin önümüzdeki yıllarda diğer tüm insan başarılarıyla eşleşme şansı nedir?Bu arada, hem yapay zeka risk savunucuları hem de şüpheciler, yeteneklerinde iyileştirmeler olmasa bile, yapay zeka sistemlerinin günümüzde bir dizi tehdit oluşturduğu konusunda hemfikirdir. Kitlesel gözetimi mümkün kılan kullanımlarından, hatalı "öngörücü polislik" algoritmalarına güç sağlamaya ve yanlış bilgi ve dezenformasyonun oluşturulmasını kolaylaştırmaya kadar.Kaynak: https://www.theverge.com/2023/5/30/23742005/ai-risk-warning-22-word-statement-google-deepmind-openai