Jeanette Winterson: Yapay zekâ kaçınılmaz bir distopya değil, seçim bizim

Yazar Jeanette Winterson, yapay zekânın insanlığın hikâyesinde bir dönüm noktası olduğunu söylüyor. Ancak ona göre sonucu belirleyecek olan teknolojinin kendisi değil, insanların vereceği siyasi ve ekonomik kararlar. Winterson, The Guardian'a verdiği söyleşide "Kaçınılmaz bir distopya yok" diyerek, geleceğin bugünkü tercihlere bağlı olduğunu savundu.

Yapay zekâ üzerine 2021'de 12 Bytes adlı deneme kitabını yayımlayan Winterson, bu teknolojiyi "alternatif zekâ" olarak adlandırmayı tercih ediyor. Ona göre yapay zekâ bir araçtan çok daha fazlası: "Evrimsel bir sıçrama. Bu tam olarak bu."

Jeanette Winterson yapay zekâ konusunda neden iyimser?

Winterson, yapay zekâyla kurulacak ilişkide iyimser bir tablo çiziyor. Sistemin ulaşım, altyapı, istihdam ve çalışma saatlerini inceleyebileceğini belirterek, "İnsan denilen bu tuhaf varlıklar neyle gelişir? Neyi severler?" gibi soruları sorabileceğini anlatıyor. Ona göre bu, "gerçekten ütopik bir şekilde" daha iyi bir düzen kurmak için kullanılabilir. Winterson bu anı, Sanayi Devrimi'nde verilen tercihe benzetiyor: "Nasıl bir gelecek inşa edeceğiz?"

Sorun yapay zekâda değil, insanlarda

Yazara göre Sanayi Devrimi, kazanımlarını adil dağıtmadığı için azınlığa benzeri görülmemiş zenginlik, çoğunluğa ise büyük sefalet getirdi. Birçok kişi yapay zekânın da benzer, hatta daha büyük bir sonuç doğuracağını öngörüyor. Winterson ise sorunun kaynağını farklı yerde görüyor: "Sorun yapay zekâ değil, biziz. Kaçınılmaz bir distopya yok." Ona göre işler ters giderse bunun nedeni "bu yepyeni gerçekliğin üzerine oturtulmuş eski kafalı düşünce" olacak.

Winterson, anlamsız ve sonsuz çalışmanın ruha iyi geldiği fikrini "insanları yerlerinde tutmak için tasarlanmış 19. yüzyıl çılgınlığı" olarak nitelendiriyor. Yapay zekâ ve istihdam konusundaki korkuların çoğunun, "efendilerimizin Sanayi Devrimi'nde olduğu gibi yapacağı siyasi ve ekonomik tercihlere" dayandığını belirtiyor. Bu konuda körü körüne iyimser değil: "Evet, çalışma dünyasıyla ilişkimizi kökten değiştirme şansını batırma yolundayız" diyor; ancak bunun nedeninin "efendilerimizin güncelliğini yitirmiş, amaca hizmet etmeyen ekonomik modelleri" olduğunu ekliyor.

Büyük dil modellerine işlenen önyargılar

Winterson'a göre sorun yalnızca eski ekonomi modelleri değil. Hatalı varsayımlar ve önyargılar, büyük dil modellerinin (LLM) eğitildiği malzemenin içine işlemiş durumda. Geliştiricilerin karakterleri ve ahlaki hayal güçleri de bu tabloya ekleniyor. Yazar, Jill Lepore'un The Rise and Fall of the Artificial State kitabına atıfla, bugün "dünyayı yöneten bu adamların 13 yaşlarındayken okuduğu bilim kurgu kitaplarında" yaşadığımızı aktarıyor. Lepore'a göre bu adamlar kitapları, "bizi iyi tutanı korumaya dair uyarılar" olarak değil, "kullanım kılavuzları" olarak okudu.

Teknoloji şirketlerinin bedenden çıkma hedefi

Winterson, Silikon Vadisi'nin "nihai hedefinin bedenden ve gezegenden çıkmak" olduğunu söylüyor. Ona göre teknoloji dünyasının önde gelen isimleri duygularıyla bağlantı kurmuyor, hatta bunları "sıkıcı" buluyor. İnsanın iki sistemle çalıştığını hatırlatıyor: rasyonel işlemeyi sağlayan sinir ağı ve korku, kaçma, donma tepkileriyle duyguların kaynağı olan, daha eski limbik sistem. "Makinelerin limbik sistemi yok. Onlar sadece sinir ağları" diyor.

Teknolojinin sunduğu bu tür bir aşkınlık ihtimali, beraberinde teknolojiye, onun inşa ettiği geleceğe ve vaatlerine duyulan bir inancı da getiriyor. Winterson, "İnsanlar hakkında bildiğimiz şey, tekelleri sevdikleri" diyor ve bunun "hayal edilebilecek en kötü hapishaneye" dönüşebileceği uyarısında bulunuyor. Bu yüzden "özgür düşünebilen, serbest insanlara" ihtiyaç olduğunu savunuyor.

Neden önemli?

Tartışma, yapay zekâ çağında hangi becerilerin değerli olacağı sorusuna uzanıyor. Palantir CEO'su Alex Karp, yakın zamanda bir geleceğin iki yolu olduğunu söyledi: mesleki eğitim ya da nöroçeşitlilik. Anthropic başkanı ve edebiyat mezunu Daniela Amodei ise farklı düşünüyor: "Beşeri bilimler okumak her zamankinden daha önemli hale gelecek. Bizi insan yapan şeyler daha az değil, çok daha önemli olacak." Winterson'ın bu noktadaki uyarısı, İngiltere'de beşeri bilimlerin gerilemesiyle birleşiyor: 2024 Aralık'a kadar geçen yıl sosyal bilimler, beşeri bilimler ve sanat alanlarında 4 bin iş kaybedildi. Exeter Üniversitesi, beşeri bilimler, sanat ve sosyal bilimler fakültesindeki akademisyenlerin onda sekizini etkileyecek şekilde 150 pozisyonu keseceğini duyurdu.