Önsöz: Relaunch24 yapay zekâ ile nasıl çalışıyor?
Çağdaş birçok geliştirme ekibi gibi yıllardır günlük işimizde yapay zekâ destekli araçlar kullanıyoruz. Bunların başında Cursor gibi geliştirici düzenleyiciler geliyor. Bizim için bunlar geleneksel geliştirme ortamlarının uzantısıdır: tekrarlayan işleri hızlandırır, kodu daha tutarlı tutar ve karmaşık ilişkileri anlamayı kolaylaştırır. Relaunch24 motorunun asıl mimarisi, sistem mantığı ve güvenlik yapısı tamamen geliştiricilerimizin kontrolündedir ve özerk çalışmaz.
Koda evet, veritabanlarına ve müşteri verisine hayır
R24 motoru yalnızca platformumuzun çekirdek kodundan oluşur. Bu kodda müşteri verisi, içerik veya veritabanı yok. Yalnızca sistemin nasıl çalıştığını tanımlar — sitelerin nasıl sunulduğu, içeriğin nasıl işlendiği ve modüllerin nasıl etkileştiği.
Gerçek site içeriği bu motor yapısından bilinçli olarak ayrı tutulur. Mimarimiz düz dosya teknolojisine dayanır: içerik yapılandırılmış metin dosyaları olarak doğrudan dosya sisteminde saklanır. İçeriği veya müşteri verisini toplayan merkezi veritabanları yok. Veriler her zaman ait oldukları yerde kalır — ilgili site sunucusunda.
Bu ayrımın önemli bir yan etkisi var: geliştiriciler motor kodunu yapay zekâ destekli düzenleyicilerle yazsa veya iyileştirse bile gerçek müşteri verisi bu araçlarla asla temas etmez. Kod, gerçek site içeriğinden bağımsız geliştirilir; tüm veriler yalnızca ilgili sunucu altyapısında kalır. Böylece hassas veriler yapay zekâ destekli iş akışlarının parçası olmaz.
Barındırma ve veriler neden (iyi ki) insan elinde kalmalı
Yapay zekâ araçlarına duyulan coşku, altyapıda giderek daha fazla otomasyona yol açıyor: ajanlarla yapılandırılan sunucular, yapay zekâ ile üretilen kod, geleneksel süreç olmadan oluşturulan sistemler. Prototipler veya küçük deneyler için bu işe yarayabilir. Ancak gerçek altyapı, müşteri verisi veya iş kritik siteler söz konusu olduğunda temel sorun ortaya çıkar: yapay zekâ sistemlerinin sorumluluğu, yükümlülüğü ve hukuki hesap verebilirliği yoktur.
Son olaylar neden barındırma, altyapı ve veri yönetiminin insan kontrolünde kalması gerektiğini gösteriyor. Geliştiriciler, sunucu taşınması sırasında yapay zekâ asistanının komutları kendi kendine çalıştırdığı ve iki site ile 2,5 yıllık veriyi — yedekler dahil — sildiği vakalar bildirdi. Geliştirici nedeni “yapay zekâya aşırı güvenmek” olarak tanımladı. (Makale)
Büyük platformlar da bağışık değil. Amazon’da yapay zekâ destekli geliştirme araçlarının üretim koduna getirdiği değişikliklerden sonra birkaç kesinti yaşandı. Hatalı bir dağıtım büyük sipariş aksaklıklarına ve milyonlarca dolar kayba yol açtı. (Business Insider) Başka bir vakada yapay zekâ ajanı bulut ortamının bir kısmını bağımsız sildi ve AWS içinde saatlerce kesinti oldu. (Analiz)
Güvenlik araştırmaları benzer yönde: yapay zekâ ile üretilen kodun insan yazımına göre önemli ölçüde daha sık güvenlik açığı içerdiği görülüyor; bazı testlerde örneklerin yaklaşık yarısı temel güvenlik kontrollerini geçemiyor. (Çalışma) Otomasyon arttıkça yanlış yapılandırma, sızıntı ve üretimde kontrolsüz değişiklik riski de artıyor.
Bu, yazılımda yapay zekânın yeri olmadığı anlamına gelmez. Aksine, geliştiriciler için destek aracı olarak çok değerlidir. Fark, sorumluluğun nerede kaldığında: altyapı, barındırma, veri saklama ve güvenlik mimarisi her zaman insanlar tarafından tasarlanmalı, izlenmeli ve sahiplenilmeli — otomatik ajanlar veya araçlar tarafından değil.
Tam bu yüzden Relaunch24 katı bir ayrım uygular: yapay zekâ kod yazmaya yardımcı olabilir ama sunucuları işletmez, veritabanlarını yönetmez veya altyapı kararları vermez. Barındırma, güncellemeler, güvenlik ve veri yönetimi bilinçli olarak insan elinde kalır. Çünkü kod hızlı üretilebilir; altyapıya duyulan güven ise zamanla inşa edilir.
