Eski sınırlar, eski ömürler, eski kurumlar yetmiyor.

Tekillik fikrini yıllardır filmlerden öğrendik.

Makine bir gün “uyanır”.
Bir sabah sistemler çöker.
Bir anda kontrol el değiştirir.

Gerçekte böyle olmak zorunda değil.

Belki yapay zekâ kendi kendisini geliştirmeye bir gün başlamayacak.

Belki düşük yoğunlukta zaten başladı.

İnsan:

• problemi seçiyor,
• hedefi belirliyor,
• deneyi tarif ediyor.

Yapay zekâ ajanları:

• kod yazıyor,
• deney çalıştırıyor,
• sonuç tarıyor,
• araştırmayı hızlandırıyor.

Ortaya çıkan yeni model daha güçlü ajanlar üretiyor.

Onlar sonraki modeli daha hızlı geliştiriyor.

Yani tekillik:
bir “olay” değil,
giderek hızlanan bir geri besleme döngüsü olabilir.

Asıl soru:

Makine ne zaman uyanacak?

değil.

Asıl soru:

Bu döngünün hangi noktasında insanın problem seçimi, yargısı ve doğrulaması artık asıl darboğaz olmaktan çıkacak?

2020’de bir fabrika kurduğunu düşün.

Makinenin mekanik ömrü 20 yıl.

Muhasebe sana:

“2040’a kadar kullanırsın.”

diyor.

Fakat teknoloji sana:

“2030’a kadar beklersen rakibin senden çok daha esnek, otonom ve ucuz üretir.”

diyebilir.

İşte burada iki farklı ömür ortaya çıkıyor:

fiziksel ömür
ve
ekonomik ömür.

Yapay zekâ ve robotik geliştikçe bu iki süre birbirinden kopabilir.

Bu önemli çünkü geleceği yanlış okumak artık soyut bir strateji hatası olmayabilir.

Bilançoda:

• fabrika,
• pres,
• CNC,
• üretim hattı,
• depo sistemi

olarak duran milyarlarca dolarlık çeliğin ekonomik ömrünü doğrudan etkileyebilir.

Avrupa onlarca yıl boyunca:

• çevresel etki,
• yurttaş hakkı,
• yerel itiraz,
• güvenlik,
• danışma,
• çok katmanlı denetim

üzerine son derece ayrıntılı bir karar sistemi kurdu.

Bunların önemli bölümü iyi nedenlerle vardı.

İstikrarlı ve müreffeh bir dünyada:
bir kararı biraz daha yavaş ama daha dikkatli almak büyük problem olmayabilir.

Fakat çevre değişti.

Şimdi:

• Rusya savaşı,
• savunma kapasitesi,
• enerji bağımsızlığı,
• ABD–Çin teknoloji yarışı,
• veri merkezleri,
• yapay zekâ altyapısı

gibi konularda zamanın kendisi stratejik kaynak haline geliyor.

Dün güvence sağlayan prosedür bugün darboğaza dönüşebilir.

Belki de artık kurumların kalitesini yalnız:

Doğru karar verdiler mi?

diye ölçmemeliyiz.

Bir de:

Doğru kararı zamanında verebildiler mi?

diye ölçmeliyiz.

Haber ilk bakışta:

“Yapay zekâ şirketi biyolojik silah riskini azaltıyor.”

şeklinde okunabilir.

Ama burada başka bir şey oluşuyor.

Bir özel şirket fiilen:

• kimin yeterli bilim insanı olduğuna,
• hangi kurumun güvenilir olduğuna,
• hangi projenin erişime uygun olduğuna,
• kimin daha güçlü bilgiye ulaşabileceğine

karar vermeye başlıyor.

Güvenlik gerekçesi tamamen gerçek olabilir.

Ama bu başka bir soruyu ortadan kaldırmıyor:

Bu kararı neden özel şirket veriyor?

Devlet hukukunun yetişmediği yerde ürün politikası:

• lisansa,
• ruhsata,
• erişim iznine,
• özel düzenlemeye

dönüşebilir.

Yapay zekâ şirketleri yalnız teknoloji sağlayıcısı değil, bilgiye erişimin özel kapı bekçileri haline gelebilir.

Asıl mesele:
güvenliğin gerekli olup olmadığı değil.

Asıl mesele:
güvenlik adına kullanılan yetkinin kimde olduğu ve o yetkinin hesabını kime verdiği.

Bugünkü bilgisayar elektronu konuşuyor.

Sinir sistemi ise büyük ölçüde iyonlarla haberleşiyor.

Bu iki dünyayı birbirine bağlamak için sürekli:

• sensör,
• elektrot,
• dönüştürücü,
• arayüz

kullanıyoruz.

Peki bilgisayarın kendisi biyolojik sistemin fiziksel diline yaklaşırsa?

Belki geleceğin en gelişmiş arayüzü:
daha iyi bir adaptör değildir.

Belki adaptörün gereksiz hale gelmesidir.

Bu durumda dijital ve biyolojik dünya yalnızca “bağlı” olmaz.

Aynı fiziksel hesaplama diline yaklaşır.

Bu da daha büyük bir soruya açılıyor:

Makine ile canlı arasındaki sınır nerede?

Yapay zekâ dünyasında hep “dijital tekillik” konuşuyoruz.

Ama belki daha ilginç eşik:
fiziksel yakınsama.

Bilgisayar yalnızca beynin ne söylediğini okumak yerine beynin konuştuğu maddeyle işlem yapmaya başlarsa, “bilgisayar” ve “biyolojik sistem” kelimeleri bugün taşıdığı anlamı koruyacak mı?

İlk çağrışım:

“Yapay zekâ da havacılık gibi arıza raporu tutmaya başladı.”

Ama belki tam tersi doğru.

Havacılıkta bugün tanımladığın bir arıza sınıfı:
20–30 yıl sonra hâlâ anlamlı olabilir.

Yapay zekâda ise bugün kritik görülen davranış:
iki model nesli sonra mimarinin değişmesiyle tamamen ortadan kalkabilir.

Yerine bugün ismini bile bilmediğimiz yeni bir hata sınıfı gelebilir.

Yani yapay zekâ güvenliğinde kalıcı olan şey:

arıza kataloğu olmayabilir.

Kalıcı olan:

sürekli arıza gözleme ve yeni taksonomi üretme sistemi olabilir.

Bu yüzden yapı havacılıktan çok:
epidemiyolojik sürveyansa
benzeyebilir.

Virüs değişir.
Varyant değişir.
Risk profili değişir.

Ama gözlem sistemi çalışmaya devam eder.

Bir de son kullanıcı tarafı var.

KOBİ yöneticisi muhtemelen:

• yüzlerce sayfa misalignment raporu,
• benchmark,
• hata taksonomisi

okumayacak.

Ama bu raporlardan:

• regülatör,
• sigorta şirketi,
• kurumsal procurement,
• bağımsız denetçi

bir güven sınıfı üretirse KOBİ sonunda yalnız şu etiketi görebilir:

“Bu sistem şu güven standardını karşılıyor.”

Yani teknik arıza raporları son kullanıcı için görünmezleşebilir; fakat onların ürettiği güven altyapısı kalabilir.