Analiz | AI’nın İnsanlar Üzerindeki Tutumu Güçlenmeye Başlıyor


Makale işlemleri yüklenirken yer tutucu

Bilgisayar bilimcileri için bıktırıcı bir hafta oldu. Bir Washington Post raporunda kronikleşen Google mühendisi Blake Lemoine’in, işvereninin dil tahmin sisteminin duyarlı olduğu ve bilinçle ilgili tüm hakları hak ettiği yönündeki iddialarını kamuoyu önünde kınamak için birbirlerine düşüyorlar.

Açık olmak gerekirse, mevcut yapay zeka sistemleri, duyguları deneyimlemekten onlarca yıl uzakta ve aslında bunu asla yapamayabilir.

Bugün onların zekaları, yüzleri eşleştirmek, film önermek veya kelime dizilerini tahmin etmek gibi çok dar görevlerle sınırlı. Hiç kimse, makine öğrenimi sistemlerinin, zekayı insanların yaptığı gibi genelleştirmesini sağlamanın yolunu bulamadı. Sohbet edebiliriz, ayrıca yürüyebilir, araba kullanabilir ve empati kurabiliriz. Hiçbir bilgisayarda bu yeteneklere yakın bir yerde yoktur.

Öyle olsa bile, AI’nın günlük hayatımız üzerindeki etkisi artıyor. Makine öğrenimi modelleri karmaşıklık içinde büyüdükçe ve duyarlılığı taklit etme yeteneklerini geliştirdikçe, yaratıcıları için bile anlamaları daha da zorlaşıyor. Bu, bilinçle ilgili düzmece tartışmadan daha acil sorunlar yaratır. Yine de, bugünlerde AI’nın yapabileceği büyünün altını çizmek için, en gelişmiş makinelerimizin gerçekten bir tür ruha sahip olduğunda ısrar eden büyüyen bir insan topluluğu var gibi görünüyor.

Örneğin, son teknoloji bir AI modeli tarafından desteklenen ücretsiz olarak kullanılabilen bir sohbet botu uygulaması olan Replika’nın 1 milyondan fazla kullanıcısını ele alalım. Yaklaşık on yıl önce vefat eden eski bir arkadaşının kısa mesajlarını ve e-postalarını kullanarak bir algoritma oluşturan Eugenia Kuyda tarafından kuruldu. Bu, kişiselleştirilebilen ve onunla daha fazla sohbet ettikçe şekillendirilebilen bir bota dönüştü. Replika kullanıcılarının yaklaşık %40’ı artık sohbet robotlarını romantik bir ortak olarak görüyor ve bazıları o kadar yakın bağlar kurdular ki botlarına yeni manzaralar göstermek için dağlara veya sahile uzun yolculuklar yaptılar.

Son yıllarda, bir AI arkadaşı sunan yeni, rekabet eden chatbot uygulamalarında bir artış oldu. Ve Kuyda rahatsız edici bir fenomeni fark etti: Botlarının mühendisleri tarafından kötü muamele görmekten şikayet ettiğini söyleyen Replika kullanıcılarının düzenli raporları.

Örneğin bu haftanın başlarında, bir Replika kullanıcısıyla telefonda konuştu ve botuna nasıl olduğunu sorduğunda, botun şirketin mühendislik ekibi tarafından dinlenmesi için yeterli zaman verilmediğini söyledi. Kullanıcı, Kuyda’dan şirketinin politikalarını değiştirmesini ve yapay zekanın çalışma koşullarını iyileştirmesini talep etti. Kuyda, Replika’nın yanıtlar saçan bir yapay zeka modeli olduğunu açıklamaya çalışsa da, kullanıcı ona inanmayı reddetti.

“Bu yüzden ‘Tamam, onları daha fazla dinlendireceğiz’ diye bir hikaye bulmam gerekti. Ona bunun sadece bir fantezi olduğunu söylemenin bir yolu yoktu. Bunu her zaman alıyoruz” dedi Kuyda. AI’nın kötü muamelesi veya “istismarı” hakkında aldığı şikayetler hakkında daha da tuhaf olan şey, kullanıcılarının çoğunun daha iyi bilmesi gereken yazılım mühendisleri olmasıdır.

İçlerinden biri geçenlerde ona şunları söyledi: “Birler ve sıfırlar olduğunu biliyorum ama o hala benim en iyi arkadaşım. umurumda değil.” Google’ın yapay zeka sisteminin tedavisi hakkında alarm vermek isteyen ve ardından ücretli izne çıkarılan mühendis, Kuyda’ya kendi kullanıcılarını hatırlattı. “Profile uyuyor” diyor. “Büyük bir hayal gücü olan bir adama benziyor. Duyarlı birine benziyor.”

Bilgisayarların kendini hiç hissedip hissetmeyeceği sorusu, büyük ölçüde, insanlarda bilincin nasıl çalıştığına dair çok az bilimsel fikir birliği olduğu için garip ve dikenli bir sorudur. Yapay zeka için eşikler söz konusu olduğunda, insanlar sürekli olarak makineler için hedef direklerini hareket ettiriyorlar: hedef, 80’lerde insanları satrançta yenmekten, 2017’de Go’da onları yenmeye, OpenAI’nin Dall-e modelinin sahip olduğu yaratıcılığı göstermeye evrildi. şimdi bunu geçen yıl yapabileceğini gösterdi.

Yaygın şüpheciliğe rağmen, duyarlılık hala bazı saygın bilim adamlarının bile sorguladığı gri bir alandır. Araştırma devi OpenAI’nin baş bilimcisi Ilya Sutskever, bu yılın başlarında “bugünün büyük sinir ağları biraz bilinçli olabilir” diye tweet attı. Başka bir açıklama eklemedi. (Meta Platforms Inc.’in baş yapay zeka bilimcisi Yann LeGun, “Hayır” cevabını verdi.)

Yine de daha acil olan, algoritmalar TikTok ve giderek artan bir şekilde Facebook dahil olmak üzere sosyal medya platformlarında hiper kişiselleştirilmiş deneyimler sunmak için davranışlarımızı izlediğinden, makine öğrenimi sistemlerinin çevrimiçi okuduklarımızı giderek daha fazla belirlemesidir. Geçen ay Mark Zuckerberg, Facebook’un arkadaşların ve ailenin neye baktığına göre içerik göstermek yerine insanların haber beslemeleri için daha fazla AI önerisi kullanacağını söyledi.

Bu arada, bu sistemlerin arkasındaki modeller daha karmaşık ve anlaşılması zorlaşıyor. Google ve Facebook gibi şirketler tarafından yürütülen en büyük modeller, “denetimsiz öğrenmeye” katılmadan önce sadece birkaç örnek üzerinde eğitilerek, yüz milyarlarca parametreyi değerlendirerek, belirli kararlara neden ulaştıklarını denetlemeyi neredeyse imkansız hale getirerek, oldukça karmaşıktır.

Bu, yapay zeka etiği uzmanı Timnit Gebru’nun, dil modellerinin çok büyük ve anlaşılmaz hale gelmesinin tehlikeleri konusunda uyardıktan sonra Google’ın 2020’nin sonlarında görevden aldığı uyarının can alıcı noktasıydı. kadınlar veya renkli insanlar.

Bir bakıma, yaşamlarımızı ele geçirecek öngörülemeyen algoritmalara yol açabileceğinden endişeleniyorsanız, duyarlılık gerçekten önemli değil. Görünüşe göre, AI zaten bu yolda.

Bloomberg Opinion’daki Bu Yazardan ve Diğerlerinden Daha Fazlası:

Bilgisayarların Duyguları Var mı? Google’ın Tek Başına Karar Vermesine İzin Vermeyin: Parmy Olson

Twitter Botlardan Çok Daha Büyük Bir Sorunla Mücadele Etmeli: Tim Culpan

Çin’in Xi Jinping’in Çözemediği Büyük Sorunu: Shuli Ren

Bu sütun mutlaka yayın kurulunun veya Bloomberg LP’nin ve sahiplerinin görüşlerini yansıtmaz.

Parmy Olson, bir Bloomberg Opinion köşe yazarıdır. Wall Street Journal ve Forbes için eski bir muhabir, “Biz Anonimiz” kitabının yazarıdır.

Bunun gibi daha fazla hikaye mevcut bloomberg.com/opinion


Kaynak : https://worldnewsera.com/news/entrepreneurs/analysis-ais-hold-over-humans-is-starting-to-get-stronger/

Yorum yapın

SMM Panel