DNA bilim adamları 50 yıl önce duraksadı, AI araştırmacıları da aynısını yapacak mı?

1974 yazında, bir grup uluslararası araştırmacı, meslektaşlarından potansiyel olarak tehlikeli yeni bir teknoloji üzerindeki çalışmaları askıya almalarını isteyen acil bir açık mektup yayınladı. Mektup, bilim tarihinde bir ilkti ve şimdi, yarım yüzyıl sonra, yine oldu.

İlk mektup, “Rekombinant DNA Moleküllerinin Potansiyel Tehlikeleri” genetik mühendisliği için temel bir teknoloji olan, farklı türler arasında gen aktarımı yapan bazı deneylerin ertelenmesi çağrısında bulundu.

Mart ayındaki mektup, “Dev Yapay Zeka Deneylerini Duraklat” önde gelen yapay zeka araştırmacılarından ve Elon Musk ve Steve Wozniak gibi önemli kişilerden geldi. Tıpkı rekombinant DNA mektubunda olduğu gibi, araştırmacılar olası bir “AI neslinin tükenmesi olayı” konusunda uyarıda bulunarak belirli AI projelerinde bir moratoryum çağrısında bulundu.

Bazı yapay zeka bilim adamları, 2017’de ihtiyatlı yapay zeka araştırması çağrısında bulunmuştu, ancak endişeleri, ilk olarak ChatGPT olarak halka açık olarak yayınlanan üretken yapay zeka gelene kadar kamuoyunun çok az ilgisini çekti. Aniden, bir yapay zeka aracı hikayeler yazabilir, resimler çizebilir, sohbetler yürütebilir, hatta şarkılar yazabilir – tüm bunlar daha önce benzersiz olan insan yetenekleridir. Mart mektubu, AI’nın bir gün düşmanca davranabileceğini ve hatta muhtemelen bizim evrimsel ikamemiz olabileceğini öne sürdü.

Aradan 50 yıl geçmesine rağmen, DNA ve AI mektuplarını takip eden tartışmaların önemli bir benzerliği var: Her ikisinde de, araştırmacılar tarafından ortaya atılan nispeten spesifik bir endişe, çok çeşitli siyasi, sosyal ve hatta manevi endişeler için kısa sürede kamusal bir vekil haline geldi.

Rekombinant DNA mektubu, yanlışlıkla yeni ölümcül hastalıklar yaratma riskine odaklandı. Genetik mühendisliğinin karşıtları bu kaygıyı çeşitli felaket senaryolarına genişletti: yalnızca bir ırksal grubu öldürmeye programlanmış soykırımsal bir virüs, balık çiftliklerinden kaçabilecek ve kıyı ekosistemlerini yok edebilecek kadar güçlü genetik olarak tasarlanmış somon balığı, yalnızca zenginlerin karşılayabileceği fetal zeka artışı. San Francisco ve Cambridge, Mass dahil olmak üzere önemli araştırma şehirlerinde rekombinant DNA deneylerine karşı sokak protestoları bile vardı. biyomühendislik ürünü “canavarlar” konusunda uyardı ve sordu: “Dr. Frankenstein’ın rüyasının cevabı bu mu?”

“Dev Yapay Zeka Deneylerini Duraklat” mektubundan bu yana geçen aylarda felaket senaryoları da çoğaldı: Yapay Zeka nihai totaliter gözetim durumunu mümkün kılıyor, çılgın bir askeri YZ uygulaması bir nükleer savaş başlatıyor, süper zeki YZ’ler gezegenin altyapısını baltalamak için iş birliği yapıyor. Ve daha az kıyamet önsezileri de var: durdurulamaz yapay zeka destekli bilgisayar korsanları, devasa küresel yapay zeka yanlış bilgilendirme kampanyaları, yapay zeka işlerimizi elimizden alırken yaygın işsizlik.

Rekombinant DNA mektubu, Monterey Yarımadası’ndaki Asilomar Konferans Alanı’nda 140 araştırmacının yeni çalışma için güvenlik yönergeleri hazırlamak üzere bir araya geldiği dört günlük bir toplantıya yol açtı. O konferansı bir gazeteci olarak anlattım ve toplantılar, yapım aşamasındaki tarihi yansıtıyordu: Nobel ödüllülerin yanı sıra 1960’ların idealizmini karışıma ekleyen genç araştırmacılar da dahil olmak üzere en iyi moleküler genetikçilerin kim olduğu. Her oturumdaki tartışma tartışmalıydı; kariyerler, devam eden çalışmalar, bilimsel araştırma özgürlüğü potansiyel olarak tehlikedeydi. Ancak araştırmacılar kendi yönetmeliklerini hazırlamazlarsa Kongre’nin bunu onlar için çok daha sert bir şekilde yapacağına dair üstü kapalı bir korku da vardı.

Son güne sadece birkaç saat kala konferans, daha sonra Ulusal Sağlık Enstitüleri tarafından kodlanacak ve uygulanacak olan yönergeleri onaylamak için oy kullandı; bu kuralların versiyonları bugün hala mevcuttur ve federal fon alan herhangi bir araştırma kuruluşu tarafından izlenmelidir. Yönergeler, yeni fikirler için büyük ölçüde federal olarak finanse edilen bilime dayanan ticari biyoteknoloji endüstrisini de dolaylı olarak etkiler. Kurallar mükemmel değil, ama yeterince iyi çalıştılar. O zamandan bu yana geçen 50 yılda, hiçbir genetik mühendisliği felaketi yaşamadık. (COVID-19 virüsü bir laboratuvardan kaçmış olsa bile genomu genetik mühendisliğine dair kanıt göstermedi.)

Yapay zeka mücadelesi daha karmaşık bir sorundur. Yeni AI araştırmalarının çoğu, özel sektörde, küçük girişimlerden çok uluslu teknoloji devlerine kadar yüzlerce şirket tarafından yapılıyor – hiçbiri akademik kurumlar kadar kolay düzenlenemiyor. Ayrıca siber suçlar, mahremiyet, ırksal önyargı ve daha fazlasıyla ilgili olarak gelişmiş yapay zekaya ilişkin korkuların çoğunu kapsayan mevcut yasalar zaten var; gerçekte kaç tane yeni yasaya ihtiyaç var? Son olarak, genetik mühendisliği yönergelerinin aksine, AI kuralları muhtemelen politikacılar tarafından hazırlanacaktır. Haziran ayında Avrupa Birliği Parlamentosu yapay zeka yasası taslağını kabul ettiyıl sonuna kadar onaylanabilecek, ancak araştırmacılar tarafından yasaklayıcı derecede katı olmakla eleştirilen yapay zekayı düzenlemeye yönelik geniş kapsamlı bir teklif.

Şimdiye kadar önerilen hiçbir mevzuat, AI moratoryum mektubunun en dramatik endişesini ele almıyor: insanın yok oluşu. Ancak Asilomar Konferansı’ndan bu yana genetik mühendisliğinin tarihi, herhangi bir potansiyel AI kıyametinden önce seçeneklerimizi değerlendirmek için biraz zamanımız olabileceğini gösteriyor.

Genetik mühendisliğinin 50 yıl önce herkesin beklediğinden çok daha karmaşık olduğu kanıtlandı. 1970’lerin ilk korkuları ve iyimserliğinden sonra, her on yılda bir araştırmacıları yeni bilmecelerle karşı karşıya getirdi. Bir genom, hala tam olarak anlaşılamayan nedenlerden dolayı çok sayıda tekrarlayan, aynı gen dizisine sahip olabilir. İnsan hastalıkları genellikle yüzlerce bireysel geni içerir. Epigenetik araştırması, dış koşulların – diyet, egzersiz, duygusal stres – genlerin işleyişini önemli ölçüde etkileyebileceğini ortaya çıkardı. Ve bir zamanlar basit bir kimyasal haberci olduğu düşünülen RNA’nın, genomda çok daha güçlü bir rolü olduğu ortaya çıktı.

Bu gelişen karmaşıklık, AI için de geçerli olabilir. Yapay zeka tarafından üretilen en insani şiirler, resimler veya konuşmalar bile, internet denen geniş veri tabanının tamamen istatistiksel bir analiziyle üretilir. İnsan neslinin tükenmesini sağlamak, yapay zekadan çok daha fazlasını gerektirecektir: özellikle, yaratıcılarının isteklerini göz ardı edebilen ve bunun yerine yapay zekanın kendi çıkarları doğrultusunda hareket edebilen bir öz-farkındalık. Kısaca bilinç. Ve tıpkı genom gibi, üzerinde çalıştıkça bilinç kesinlikle çok daha karmaşık hale gelecektir.

Hem genom hem de bilinç milyonlarca yıl içinde gelişti ve tersine mühendislikle birkaç on yılda yapabileceğimizi varsaymak biraz küstahlık olur. Yine de böyle bir kibir aşırı ihtiyata yol açıyorsa, bu iyi bir şeydir. Evrimin ya da bilincin tam kontrollerini fiilen ele geçirmeden önce, sorumlu yetişkinler gibi nasıl ilerleyeceğimizi anlamak için bolca zamanımız olacak.

Michael Rogers, en son kitabı “Gelecekten Gelen E-posta: 2084’ten Notlar” olan bir yazar ve fütüristtir..” Rekombinant DNA Asilomar konferansıyla ilgili duvarda uçuşan yayını, “Pandora’nın Kutusu Kongresi” 1975’te Rolling Stone’da yayınlandı.