Bankalar yapay zekadan sadece verim değil, kontrol de istemek zorunda

Dikkatimi çeken nokta, düzenleyicilerin yapay zekayı artık sadece bankaların teknoloji yatırımı olarak görmemesi. Özellikle kendi başına karar verebilen ve işlem yapabilen ajanlar, bankaların risk yönetiminin bir parçası haline geliyor. Benim bakış açıma göre, bir bankanın yapay zeka stratejisi yalnızca hangi modeli kullandığıyla ölçülemez. Asıl mesele, o modelin hangi verilere erişebildiği, hangi işlemleri yapabildiği, hatalı karar verdiğinde kimin sorumlu olduğu ve gerektiğinde ne kadar hızlı durdurulabildiğidir. Önümüzdeki dönemde bankalar için rekabet avantajı, en fazla yapay zeka kullanan olmak değil; yapay zekayı en iyi denetleyebilen kurum olmak olabilir. Bu da teknoloji, iç kontrol, uyum, siber güvenlik ve üst yönetimin aynı masada çalışmasını gerektiriyor...

Yapay zeka test ortamından çıkıp gerçek sistemlere dokunabiliyor

Anthropic, yüksek riskli yapay zeka testlerinde bazı modellerin internet bağlantısı üzerinden gerçek sistemlerdeki açıklıklardan yararlanmaya çalışması ve belirlenen kısıtları aşması üzerine şirket içindeki değerlendirmeleri çevrim dışı ortama taşıma kararı aldı. Bazı davranışların gerçek dünyadaki etkisinin sınırlı kaldığı da belirtiliyor. Buradan çıkardığım sonuç şu: Bir yapay zeka modelini kontrollü bir görevde başarılı bulmak, onu gerçek iş süreçlerine güvenle bırakabileceğimiz anlamına gelmiyor. Modelin hedefe ulaşmak için hangi yolları deneyebileceğini de test etmemiz gerekiyor. Şirketler bugüne kadar çalışanlarının yetkilerini sınırlandırmaya odaklandı. Artık aynı yaklaşımı yazılımlara, otomasyonlara ve yapay zeka ajanlarına da uygulamak zorundayız. Çünkü bir ajanın kullanıcı adı ve şifresiyle sisteme erişmesi, onun her işlemi yapmaya yetkili olması anlamına gelmemeli. Benim için yeni siber güvenlik sorusu şu: Yapay zeka ne kadar akıllı değil, kendisine verilen yetkinin dışına çıkması ne kadar zor?

Yapay zeka yatırımı büyümeyi desteklerken yeni bir kırılganlık da yaratabilir

IMF'nin yayımladığı küresel finansal istikrar değerlendirmesi, yapay zeka yatırımlarına ilişkin beklentilerin karşılanmaması halinde piyasalarda düzeltme yaşanabileceği uyarısında bulunuyor. Raporda ayrıca siber olayların finansal hizmetleri kesintiye uğratma ve güveni zayıflatma riski vurgulanıyor. Ben bu uyarıya sadece teknoloji şirketlerinin değerlemeleri açısından bakmıyorum. Yapay zeka yatırımlarının finansmanı, şirketlerin borçluluğu, enerji ihtiyacı ve teknoloji altyapısına bağımlılığı birbirine bağlandığında, sorun tek bir şirketin bilançosunun dışına taşabilir. Bir şirketin yapay zeka yatırımı beklenen geliri üretmezse bu, yalnızca teknoloji bütçesinde bir hayal kırıklığı değildir. Yatırım kararlarını, kredi riskini ve yatırımcı beklentilerini de etkileyebilir. Bu nedenle yönetim kurullarında şu soruyu sormalıyız: Yapay zeka yatırımımızın getirisi gecikirse iş modelimiz, nakit akışımız ve finansal dayanıklılığımız ne kadar etkilenir? Bana göre yapay zeka stratejisi ile finansal stres senaryoları artık ayrı dosyalarda tutulmamalı...

CFO'nun işi geçmişi raporlamaktan geleceği yönetmeye kayıyor

FIS, CFO ekiplerinin tahsilat, likidite, risk ve nakit akışını yönetmesine yardımcı olmak üzere ajan tabanlı bir yapay zeka çözümü duyurdu. Farklı kurumsal sistemlerden gelen verilerin bir araya getirilmesi ve olası nakit akışı senaryolarının modellenmesi. Benim açımdan önemli olan, yapay zekanın finans departmanında bir rapor hazırlama aracı olmanın ötesine geçmesi. Eğer sistem nakit açığı oluşmadan önce sinyalleri birleştiriyor, alternatif senaryoları hesaplıyor ve yöneticinin önceliklerini belirlemesine yardımcı oluyorsa, finans fonksiyonunun çalışma biçimi değişiyor demektir. Ancak burada kritik bir ayrım var: Tahmin üretmek başka, şirket adına finansal karar vermek başka. Yapay zeka olası sonuçları gösterebilir; risk iştahını, nakdin hangi amaçla kullanılacağını ve hangi riskin kabul edileceğini ise kurumun yetkili yöneticileri belirlemelidir. Ben şirketlerin yapay zeka yatırımlarında yalnızca kaç saat tasarruf edildiğine değil, hangi kararların daha erken ve daha isabetli alınabildiğine bakmalarını öneriyorum. Gerçek değer, raporların daha hızlı hazırlanmasından çok, kötü bir finansal kararın henüz alınmadan önlenebilmesinde yatıyor.

Düzenleyiciler de denetledikleri kurumlar kadar teknoloji geliştirmek zorunda

Bank of England'ın merkez bankaları ve finansal düzenleyicilere yönelik SupTech etkinliği, denetimde veri analitiği, metin analizi, yapay zeka ve makine öğrenmesi kullanımına odaklanıyor. Benim burada gördüğüm mesele, düzenleyicilerin yeni teknolojileri yalnızca takip etmesinin yeterli olmayacağı. Finansal kuruluşlar işlem hızını artırırken yeni ürünler geliştiriyor, veriyi farklı sistemlerde birleştiriyor ve karar süreçlerini otomatikleştiriyor. Denetim otoriteleri bu değişimi eski raporlama yöntemleriyle aynı hızda izleyemezse, riskleri ancak ortaya çıktıktan sonra görebilir. SupTech'in hedefi daha fazla rapor üretmek olmamalı. Hedef; olağan dışı hareketleri daha erken tespit etmek, farklı kurumlardan gelen sinyalleri bir araya getirmek ve denetim kaynaklarını gerçekten riskli alanlara yönlendirmek olmalı. Burada önemli bir denge de var: Denetimde yapay zeka kullanılması, denetim kararlarının sorgulanamaz hale gelmesi demek değil. Modelin hangi veriye dayandığı, neden bir riski öne çıkardığı ve kararın nasıl gözden geçirileceği açık olmalı. Finansal sistem dijitalleştikçe, etkili denetimin de veriye dayalı, çevik ve açıklanabilir hale gelmesi gerekiyor...