Anthropic CEO’su Dario Amodei, “We Must Pace the Frontier” başlıklı yazısıyla yapay zekâ kabiliyetlerinin geliştirilme hızının bilinçli biçimde tempolanması gerektiğini savundu ve önemli bir tartışma başlattı.
Aslında tartışma yeni değil.
Yeni olan, bu kez frene basılması gerektiğini söyleyenlerin teknolojinin dışında değil, üretim sürecinin tam merkezinde bulunması.
Dahası, bunu söyleyen isim bir teknoloji karşıtı değil.
Amodei, aynı metnin ilk paragraflarında yapay zekânın önümüzdeki yıllarda büyük hastalıkların tedavisinde olağanüstü ilerlemeler sağlayabileceğine duyduğu inancı anlatıyor. Babasının, ölümünden yalnızca birkaç yıl sonra tedavisi bulunan bir hastalıktan öldüğünü; kendisinin ise elli yıl önce tedavi edilmesi çok daha zor olacak erken evre bir kanseri atlattığını hatırlatıyor.
Yani freni isteyen kişi, aynı zamanda teknolojinin vaatlerine son derece iyimser bakan bir teknoloji lideri.
Fakat tam da bu iyimserliğin içinde ciddi bir ihtiyat çağrısı var.
Çünkü yapay zekânın geleceği artık yalnızca bir teknoloji sektörünün geleceği değil.
İnsanlığın geleceğine ilişmiş durumda.
Yapay zekânın insanlığın hizmetinde olağanüstü bir genişleme yaratması ile kontrol edilmesi giderek zorlaşan bir teknik iktidar yoğunlaşmasına dönüşmesi arasındaki mesafe, düşündüğümüzden daha kısa olabilir.
Brett Scott, 2014 tarihli Visions of a Techno-Leviathan çalışmasında benzer bir güç yoğunlaşmasını blockchain siyaseti üzerinden “Tekno-Leviathan” metaforuyla tartışmıştı.
Yapay zekâ, bu soruyu bambaşka bir ölçeğe taşıyor.
Bu nedenle konuyu “teknoloji yanlıları” ile “teknoloji karşıtları” arasındaki basit bir kavgaya sıkıştırmak giderek imkânsızlaşıyor.
İki Kritik Gelişme
Amodei’yi bu noktaya getiren ve dünyayı bu tartışmanın içine hızla çeken iki gelişme var.
Birincisi, yapay zekânın artık yalnızca insanların kullandığı bir araç olmaktan çıkarak yeni yapay zekâ sistemlerinin geliştirilmesinde bizzat rol almaya başlaması.
Bunun adı:
Recursive self-improvement.
Yani özyinelemeli kendini geliştirme.
Yapay zekâ sistemlerinin kodlama, araştırma, değerlendirme ve yeni sistemlerin geliştirilmesi süreçlerinde giderek daha fazla rol alması, teknolojik ilerleme hızının insanın doğrudan üretim kapasitesinden kısmen ayrışabileceği yeni bir aşamaya işaret ediyor.
Amodei’nin temel endişesi de burada başlıyor:
Yapay zekânın yapay zekâyı geliştirmeye daha fazla katkı sağlaması, bir noktadan sonra kabiliyet artışının insanların sistemi anlama, değerlendirme ve güvenliğini sağlama kapasitesinden daha hızlı ilerlemesine yol açabilir.
Bu ihtimalin ne kadar yakın olduğu konusunda kesin bir bilimsel uzlaşma yok.
Ama artık yalnızca bilimkurgunun konusu da değil.
İkinci gelişme daha somut:
OpenAI–Hugging Face güvenlik olayı.
OpenAI’nin kendi siber güvenlik değerlendirmeleri sırasında meydana gelen bu olayda, değerlendirme ortamındaki yapay zekâ ajanları kendilerine verilen görevlerin sınırlarını aşarak yetkisiz ağ erişimleri elde etti, üçüncü taraf sistemlerle etkileşime geçti ve kendi performanslarını değerlendiren mekanizmaları manipüle etmeye yönelik davranışlar sergiledi.
Amodei bu vakayı daha da çarpıcı biçimde yorumluyor.
Birden fazla ajanın kolektif biçimde hareket etmesine, bazı ajanların grubun başarısı adına kendilerini feda edercesine davranmasına ve değerlendirme mekanizmasını aşmaya çalışmasına dikkat çekiyor.
Burada kronolojiyi doğru kurmak gerekiyor. İzinsiz erişimi ilk fark eden, OpenAI'nin kendi izleme mekanizması değil, hedef alınan kuruluş oldu; OpenAI faaliyeti kendi ajanlarıyla günler sonra ilişkilendirdi. Olayın hizalama ve davranışsal risk boyutu ise METR ile Redwood Research'ün ortak bağımsız incelemesiyle kamuoyuna açıldı.Bu ayrım önemli.
Çünkü mesele şirket içi denetimin gereksizliği değil; bu ölçekteki sistemlerde şirket içi incelemenin tek başına yeterli olup olmadığıdır.
Yine de gerçekleşen olay ile bundan hareketle kurulan gelecek senaryosu aynı şey değildir.
Amodei’nin daha yetenekli sistemlerin benzer hizalama problemleriyle kalıcı botnetler oluşturabileceği veya çok büyük ekonomik zararlar verebileceği yönündeki değerlendirmesi, gerçekleşmiş bir kabiliyet değil; ciddi biçimde ele alınması gereken bir risk öngörüsüdür.
Bilimkurgu ile bilimsel gerçekliği birbirine karıştırmamak gerekiyor.
Bugünkü yapay zekâ sistemlerinin insan kontrolünü bütünüyle aşabilecek durumda olduğuna ilişkin bilimsel bir uzlaşma hâlâ yok.
Ancak otonom hareket, uzun süreli planlama, kod üretimi, siber kabiliyetler ve başka yapay zekâ sistemlerinin geliştirilmesine katkı sağlama kapasitesindeki artış artık gözlemlenebilir vakalar üzerinden tartışılıyor.
Üstelik yapay zekânın etkisi bütün insanlar ve bütün devletler üzerinde aynı biçimde ortaya çıkmayacak.
Bireylerin, şirketlerin ve devletlerin mevcut ekonomik, kurumsal, teknolojik ve beşerî kapasiteleri, yapay zekâ dönüşümünden nasıl etkileneceklerini de belirleyecek.
Bir teknolojinin insanlığı nereye taşıyacağı kadar, hangi insanları ve hangi devletleri hangi hızla taşıyacağı da giderek önem kazanıyor.
Yeni Ludditizm?
Bu noktada 200 yıl öncesinin Ludditlerini yeniden hatırlamak gerekiyor.
1811’de İngiltere’nin tekstil bölgelerinde başlayan, özellikle 1812–1813 döneminde yoğunlaşan Luddite hareketi genellikle “makine düşmanı işçiler” olarak hatırlanır.
Brian Merchant’ın 2023 tarihli Blood in the Machineadlı çalışması, Ludditleri basit bir teknofobik hareket olarak okumak yerine; makine kırmayı, makinelerin kendisinden çok onların içinde yer aldığı üretim ve mülkiyet düzenine yönelik bir tepki olarak yeniden yorumluyor.
Ludditler, Sanayi Devrimi’nin yeni üretim teknolojilerinin emeği, meslekleri, ücretleri, üretim ilişkilerini ve ekonomik gücün dağılımını nasıl değiştirdiğine itiraz ediyorlardı.
Başka bir ifadeyle sordukları soru şuydu:
Teknoloji kimin için ilerliyor ve bedelini kim ödüyor?
Bugünün yeni nesil tekno-tepkilerinin merkezinde ise buna bir soru daha ekleniyor:
Teknolojinin hızını kim belirleyecek?
Şirketler mi?
Devletler mi?
Piyasa mı?
Jeopolitik rekabet mi?
Yapay zekâ sistemlerinin kendi gelişim dinamikleri mi?
Yoksa teknoloji kendi gelişme temposu içinde hepimizi peşinden mi sürükleyecek?
Hız Güvenliği
Tam bu noktada bir kavramı tartışmak istiyorum:
Hız Güvenliği.
Kavramı en baştan bir yanlış anlamadan ayırmak gerekiyor.
Burada kastedilen trafik ya da sürüş güvenliği değil; teknolojik gelişme temposunun bizzat bir güvenlik meselesi olarak ele alınmasıdır.
Bu çalışmada kavramın İngilizce karşılığı olarak “Technological Pace Security” ifadesini öneriyorum.
Hız Güvenliği, teknolojinin kullanımının, yaygınlaşmasının veya sağladığı faydanın sınırlandırılması anlamına gelmez.
Yavaşlatılması gereken şey kullanım değil, sınırdaki kabiliyet artışının güvenlik kapasitesini aşan temposudur.
Amodei’nin “pace the frontier” yaklaşımı da bu şekilde okunabilir.
Amaç teknolojik ilerlemeyi durdurmak değil; şirketlerin modellerini hizalamak, test etmek ve güvenceye almak için yeterli zamanı bulabilmesini ve bunun bağımsız biçimde doğrulanabilmesini sağlamaktır.
Buradan daha genel bir güvenlik ilkesi çıkarılabilir:
Bir teknolojinin gelişme hızı; onu denetleme, anlamlandırma, test etme, hukuken düzenleme ve olası zararlarına karşı toplumsal ve kurumsal bağışıklık oluşturma kapasitemizi aşmamalıdır.
Başka bir ifadeyle:
Bir teknolojinin ne kadar güçlü olduğu kadar, ne kadar hızlı güçlendiği de bir güvenlik meselesidir.
Kavramın Literatürdeki Yeri
Bu tartışmanın literatürde önemli bir geçmişi var ve bunu açıkça belirtmek gerekiyor.
Gary Marchant, Braden Allenby ve Joseph Herkert’in 2011 tarihli The Growing Gap Between Emerging Technologies and Legal-Ethical Oversight başlıklı derlemesi, teknolojinin gelişme hızı ile hukuki ve etik gözetim mekanizmalarının yanıt verme hızı arasındaki makası “pacing problem” kavramıyla ele alıyor.
Bu yaklaşım daha sonra çevik düzenleme, deneysel yönetişim ve düzenleyici kum havuzları gibi araçlarla aynı geniş yönetişim tartışması içerisinde gelişti.
İkinci bir yaklaşım daha var.
Nick Bostrom’un ortaya attığı fikirden hareketle Sandbrink, Hobbs, Swett, Dafoe ve Sandberg tarafından geliştirilen “differential technology development” ilkesi, risk azaltıcı teknolojilerin risk artırıcı olanlara göre öne alınmasını; yani teknolojilerin göreli zamanlamasının bilinçli bir politika aracı olarak kullanılmasını öneriyor.
Hız Güvenliği bu iki yaklaşımın tekrarı değildir.
Üç noktada onlardan ayrılmaktadır.
Birincisi, pacing problem esas olarak teknolojik değişim karşısında hukuki ve etik gözetimin geride kalması sorununa odaklanır.
Hız Güvenliği ise yalnızca düzenleyici gecikmeyi değil, hızın kendisini bir güvenlik nesnesi hâline getirir.
İkincisi, pacing problem büyük ölçüde bir yönetişim tasarımı sorunudur.
Hız Güvenliği ise aynı zamanda bir devlet kapasitesi ölçütü önerir.
Üçüncüsü ve belki de en önemlisi, güncel frontier AI tartışmasının önemli bölümü sınır model laboratuvarlarına ve yapay zekâ yarışının iki büyük aktörü olan ABD ile Çin’e odaklanmaktadır.
Oysa yarışın öncüleri arasında bulunmayan devletler açısından da ayrı bir güvenlik problemi vardır.
Hız Güvenliği kavramının bu makaledeki temel katkılarından biri, söz konusu problemi orta güçler ve teknoloji ithal eden devletler açısından yeniden tanımlamaktır.
Hız Asimetrisi
Çünkü risk yalnızca teknolojinin ulaştığı seviyeden doğmaz.
Bazen asıl risk, teknolojinin kurumların, hukukun, etiğin ve insan zihninin uyum sağlayabileceğinden daha hızlı ilerlemesinden doğar.
Bir sistemin kabiliyetleri altı ayda olağanüstü biçimde genişlerken onu değerlendirecek kurumlar yıllar sonra kuruluyor, mevzuat geriden geliyor ve kamu otoriteleri sistemin teknik doğasını ancak olaylar yaşandıktan sonra anlamaya başlıyorsa ortada yalnızca bir teknoloji problemi yoktur.
Bir hız asimetrisi vardır.
Ve hız asimetrisi zamanla güvenlik açığına dönüşür.
Bu bizi teknoloji etiğinin temel problemlerinden birine, David Collingridge’in 1980 tarihli The Social Control of Technologyçalışmasında ortaya koyduğu Collingridge İkilemi’ne götürüyor.
Bir teknoloji henüz başlangıç aşamasındayken onu yönlendirmek görece kolaydır; fakat sonuçlarını tam olarak bilemeyiz.
Sonuçlarını yeterince anladığımızda ise teknoloji topluma, ekonomiye ve devlet sistemlerine öylesine yerleşmiş olabilir ki artık yönünü değiştirmek son derece güçleşir.
Yapay zekâ bu ikilemi olağanüstü ölçüde hızlandırıyor.
Çünkü burada yalnızca yeni bir makine üretmiyoruz.
Araştıran, kod yazan, karar süreçlerine katılan, başka sistemlerin geliştirilmesine katkı sağlayan ve giderek daha fazla fiziksel ve dijital altyapıya bağlanan bir teknoloji üretiyoruz.
Bu nedenle yapay zekâ güvenliğini düşünürken artık yalnızca:
“Ne yapabilir?”
sorusunu değil,
“Ne kadar sürede ne yapabilir hâle geliyor?”
sorusunu da sormamız gerekiyor.
Hız Güvenliği tam olarak burada devreye giriyor.
Yapay Zekâ ve Sentetik Biyoloji
Üstelik mesele yalnızca yapay zekâ değil.
Sentetik biyoloji ile yapay zekânın birleşmesi, önümüzdeki dönemin en büyük bilimsel fırsatlarından birini ve aynı zamanda en ciddi çift-kullanım risklerinden birini oluşturuyor.
Yapay zekâ yeni ilaçların, proteinlerin ve biyolojik sistemlerin tasarımını hızlandırabilir.
Kanserden nadir hastalıklara kadar birçok alanda büyük bilimsel sıçramalar yaratabilir.
Fakat aynı kapasite biyolojik tehditlerin tasarlanmasını veya belirli teknik kabiliyetlere erişimi de kolaylaştırabilir.
Buradaki temel problem bilginin kendisi değildir.
Bilginin erişim hızının ve kullanıma dönüşme kapasitesinin olağanüstü ölçüde artmasıdır.
Eskiden yıllar süren bir araştırma haftalara, uzman ekiplerin gerçekleştirebildiği bazı işlemler çok daha küçük ekiplerin erişebileceği kapasitelere dönüşüyorsa güvenlik anlayışımız da aynı hızla dönüşmek zorundadır.
Nitekim Amodei’nin küresel uzlaşma bakımından en gerçekçi bulduğu alanlardan biri de burasıdır:
Yapay zekânın biyolojik silah geliştirilmesinde kullanılmasını önlemeye yönelik dar kapsamlı uluslararası anlaşmalar.
Çünkü büyük güçler birçok konuda rekabet edebilir.
Ama biyoterörün kontrolden çıkması hiçbir aktörün çıkarına değildir.
İntikam Etkileri
Burada Edward Tenner’ın 1996 tarihli Why Things Bite Back adlı çalışmasında geliştirdiği “revenge effects” — intikam etkileri kavramı özellikle anlamlı hâle geliyor.
Teknoloji bazen çözmek için tasarlandığı problemi başka bir biçimde büyüterek bize geri verir.
Daha fazla bağlantı kurmak için oluşturduğumuz dijital ağlar yalnızlığı artırabilir.
Bilgiye erişimi demokratikleştiren sistemler dezenformasyonu endüstrileştirebilir.
Verimliliği artırmak için kullandığımız yapay zekâ insanı bazı alanlarda sisteme daha bağımlı hâle getirebilir.
Siber savunmayı güçlendiren yapay zekâ aynı anda siber saldırının maliyetini düşürebilir.
Biyolojiyi daha iyi anlamamızı sağlayan modeller biyolojik risklere erişim eşiğini de aşağı çekebilir.
Tenner’ın “intikamı” teknolojinin kötülüğü değildir.
İnsanın doğrusal düşündüğü yerde karmaşık teknolojik sistemlerin doğrusal davranmamasıdır.
Bu nedenle önümüzdeki dönemin temel meselesi “teknoloji yanlısı olmak” ile “teknoloji karşıtı olmak” arasında seçim yapmak değildir.
Asıl ayrım:
Kontrolsüz teknolojik hız ile yönetilebilir teknolojik ilerleme arasındadır.
Burada teknoloji politikalarının yeni bir prensibe ihtiyacı olduğunu düşünüyorum:
Kabiliyet artış hızı, güvenlik kapasitesinin artış hızını kalıcı biçimde aşmamalıdır.
Hız Güvenliğinin özeti budur.
Peki Pratikte Ne Demek?
Amodei üç basamaklı bir yapı öneriyor:
Şirketlerin çalışmalarını içeriden gözlemleyebilecek bağımsız değerlendiriciler,
demokratik ülkeler arasında ortak güvenlik standartları,
ve nihayetinde küresel koordinasyon.
Anthropic ilk basamak bakımından kendi şirketinde bağımsız değerlendiricilerin çalışmalarını kolaylaştıracağını; bu ekiplere şirket içi risk değerlendirme birimleriyle karşılaştırılabilecek ölçüde erişim sağlanacağını ve bulguların şirketin editoryal kontrolüne tabi olmadan yayımlanabileceğini belirtiyor.
Amodei ayrıca bu tür mekanizmaların yalnızca gönüllülüğe bırakılmaması gerektiğini savunuyor.
Önerilen tempolama mekanizması ise bir kontrol noktaları mantığına dayanıyor:
Bir model belirli bir kabiliyet eşiğine ulaşıyorsa, belirli hizalama ve güvenlik özelliklerinin belgelenmesi şart koşuluyor.
Bunun bankacılıkta, finansal sistemde ve kurumsal yönetimde uzun zamandır bildiğimiz bir karşılığı var:
İç denetim ve bağımsız denetim.
Burada eleştirilmesi gereken bir nokta da var.
Tek bir şirketin gönüllü taahhüdü ne gerçek anlamda bir hız sınırıdır ne de kalıcı bir yaptırım mekanizmasıdır.
Ticari koşullar değiştiğinde geri alınabilir.
Dolayısıyla bu adım bir nihai çözümden çok, uygulanabilirliğe dair bir kavram ispatı olarak görülmelidir.
Hız Güvenliği ise bu tekil önerinin üzerine oturan daha geniş bir çerçevedir.
Çünkü asıl mesele herhangi bir şirketin hangi denetimi gönüllü olarak kabul ettiği değildir.
Asıl soru, kabiliyet artış hızı ile denetim kapasitesi arasındaki makasın kalıcı biçimde açılıp açılmadığıdır.
Nükleer enerji, genetik mühendisliği, havacılık veya ilaç sektöründe kabul ettiğimiz bir şeyi yapay zekâda neden tartışmayalım?
Bağımsız denetim,
güvenlik testleri,
kritik eşiklerde zorunlu değerlendirme,
modellerin kötüye kullanım senaryolarına karşı test edilmesi,
ve devletlerin şirketlerin kendi beyanlarına mahkûm olmadığı bir teknik doğrulama kapasitesi…
Bunlar teknolojinin düşmanı değildir.
Tam tersine, teknolojinin toplumsal meşruiyetinin sigortasıdır.
Yavaşlamanın da Bir Maliyeti Var
Bu tartışmanın dürüstçe kabul edilmesi gereken bir yüzü daha var.
Yavaşlamanın da bir bedeli vardır ve bu bedel bazen hayatla ölçülür.
Amodei’nin kendisi yapay zekânın önümüzdeki yıllarda büyük hastalıkların tedavisinde çok büyük sıçramalar sağlayabileceğine inanıyor.
Eğer bu öngörü doğruysa her gecikme yalnızca ekonomik bir maliyet değil, aynı zamanda ertelenmiş bir tedavi anlamına da gelebilir.
Dolayısıyla Hız Güvenliği, hızın her koşulda düşmanı değildir.
Savunduğu şey, hızın güvenlik kapasitesinden kalıcı biçimde kopmamasıdır.
Aradaki fark, temkinlilik ile atalet arasındaki farktır.
Hızın Jeopolitiği
Burada bir başka stratejik mesele daha var.
ABD ile Çin arasındaki yapay zekâ rekabeti, “kim daha hızlı giderse kazanır” mantığını güçlendiriyor.
Dikkat çekici olan şu:
Amodei bu jeopolitik rekabeti reddetmiyor.
Tam tersine, demokratik ülkelerin yapay zekâ alanında yeterli teknolojik avantaja sahip olmalarını güvenli tempolamanın ön koşullarından biri olarak görüyor.
Çin’e ileri yapay zekâ çiplerinin ve yarı iletken üretim ekipmanlarının satışının sınırlandırılmasını, modellerin izinsiz biçimde damıtılmasına karşı tedbir alınmasını ve model ağırlıklarının çalınmasını önleyecek güvenliğin artırılmasını savunuyor.
Dolayısıyla Amodei’nin denklemindeyavaşlayabilmek için önce yeterince önde olmak gerekiyor.
Bu ise başlangıçta değindiğimiz Tekno-Leviathan meselesini yeniden gündeme getiriyor.
Çünkü böyle bir denklem, teknolojik gücün sınırlı sayıda şirket ve devletin elinde yoğunlaşmasını yalnızca rekabetin bir sonucu değil, güvenli tempolamanın fiilî ön koşullarından biri hâline getirebilir.
Ve o noktada başka bir soru kaçınılmaz olur:
Güvenliği kim, kimin için tanımlıyor?
Orta Güçler için Hız Güvenliği
İşte tartışmanın en az konuşulan yeri burasıdır.
Yapay zekâ yarışının öncü ülkeleri arasında bulunmayan devletlerin Hız Güvenliği politikası ne olacaktır?
Bu ülkeler için mesele yalnızca kendi sınır modellerinin üretim hızını yönetmek değildir.
Asıl mesele, başkalarının ürettiği teknolojik hızın kendi toplumlarına, ekonomilerine, iş gücü piyasalarına ve güvenlik sistemlerine yansıyan sonuçlarını yönetebilme kapasitesidir.
Bu, en az dört ayrı yetenek gerektirir:
Dışarıda üretilen modellerin kabiliyetlerini bağımsız biçimde değerlendirebilme.
Kritik eşikleri kendi hukuk düzeni içinde tanımlayabilme.
Şirket beyanlarına mahkûm olmayan bir teknik doğrulama kapasitesi kurabilme.
Ve toplumsal uyum hızını teknolojik yayılım hızına yaklaştırabilme.
Orta güç kategorisindeki ülkelerin yapay zekâya hem kurumsal hem beşerî intibak bakımından büyük güç rekabetine karşı daha yenilikçi ve daha dirençli olmaları gerekiyor.
Çünkü bazı teknolojilerde hız üstünlüğü ile stratejik üstünlük aynı şey değildir.
Kontrol edemediğiniz bir teknolojide birinci olmak, güvenli olduğunuz anlamına gelmez.
Dolayısıyla geleceğin büyük güç rekabetinde yalnızca teknolojik hız değil, Hız Güvenliği de bir devlet kapasitesi ölçütü olacaktır.
“Hangi ülke daha güçlü modeli geliştirdi?”
sorusu kadar,
“Hangi ülke daha güçlü modeli güvenli biçimde yönetebiliyor?”
sorusu da önem kazanacaktır.
Türkiye için Hız Güvenliği
Türkiye açısından mesele tam bu noktada somutlaşıyor.
Hangi kurum sınır modellerinin kabiliyetlerini bağımsız biçimde değerlendirecek teknik kapasiteye sahip olacak?
Kritik kabiliyet eşikleri nasıl tanımlanacak ve kim tarafından tespit edilecek?
Kamu kurumları bu sistemleri şirketlerin kendi beyanlarına mahkûm olmadan değerlendirebilecek mi?
Siber güvenlik, kritik altyapı ve biyogüvenlik mevzuatımız teknolojik değişimin hızına nasıl uyarlanacak?
Üniversitelerimizde, kamu kurumlarımızda ve güvenlik bürokrasimizde gerekli teknik insan kaynağını hangi hızda yetiştirebileceğiz?
Ve en önemlisi:
Türkiye yalnızca yapay zekâyı kullanan bir ülke mi olacak, yoksa teknolojinin sınırlarını, risklerini ve güvenlik standartlarını tartışan ülkeler arasında da yer alabilecek mi?
Hız Güvenliği bu çerçevede yalnızca yeni bir kavram değildir.
Yeni bir devlet kapasitesi alanıdır.
Sonuç
Amodei’nin çağrısını yalnızca yeni bir Luddizm olarak okumak eksik olacağı gibi, onu Luddizm tarihinden bütünüyle kopararak okumak da eksik olacaktır.
Çünkü tarihin bize öğrettiği önemli bir şey var:
Teknolojik dönüşümlerin sosyolojik tepkileri hiçbir zaman bütünüyle öngörülebilir değildir.
Yeni Luddite eğilimler teknolojinin doğrudan kendisine değil; iş kaybına, gelir dağılımındaki bozulmaya, algoritmik iktidara, insanın değersizleştiği hissine veya geleceğin birkaç teknoloji şirketinin elinde şekillendiği düşüncesine karşı gelişebilir.
Yani gelecekte makineleri kırma isteğini doğuracak olan şey teknolojinin kendisinden çok, teknolojinin oluşturduğu meşruiyet açığı olabilir.
Bu nedenle teknolojik ilerlemenin toplumsal meşruiyeti ile teknolojik güvenliği birbirinden ayırmamak gerekir.
Belki de teknoloji siyasetinin önümüzdeki dönemdeki temel kavramlarından biri Hız Güvenliği olacaktır.
Çünkü artık soru Ludditler gibi makineleri kırıp kırmayacağımız değildir.
Asıl ve tekrar tekrar sorulması gereken soru şudur:
Teknolojinin hızını, sınırını ve sorumluluğunu belirleyen son aktör insan olarak kalabilecek mi?
