Matematiksel Paradokslar Yapay Zekanın Sınırlarını Gösteriyor

İnsanlar genellikle bir şeylerin ters gittiğini anlamada oldukça iyidir, fakat yapay zeka sistemlerinin bu konuda noksanlıkları vardır. Yeni bir araştırmaya göre, YZ ana hatlarıyla asırlık bir matematiksel paradoks nedeniyle kusurlar ve sınırlamalardan mustarip. Bazı insanlar gibi, YZ sistemleri de genellikle gerçek yeteneklerini aşan bir özgüven derecesine sahiptir. Ve pek çok kendine fazla güvenen insan gibi, YZ sistemleri de nerede yanlış yaptıklarını bilmemektedir. Hatta bazen bir YZ sisteminin bir hata yaptığının farkına varması, doğru bir sonucu üretmesinden daha zordur.

Cambridge Üniversitesi ve Oslo Üniversitesi’nden araştırmacılar istikrarsızlığın modern YZ’nın “Aşil topuğu” olduğunu ve matematiksel bir paradoksun YZ’nın sınırlarını gösterdiğini söylüyor. Yapay zekadaki son teknolojik araç olan sinir ağları, beyindeki nöronlar arasındaki bağlantıları kabaca taklit etmektedir. Araştırmacılar, istikrarlı ve doğru sinir ağlarının olduğu yerlerde sorunlar olduğunu, ancak hiçbir algoritmanın böyle bir ağ üretemeyeceğini ortaya koyuyor. Algoritmalar yalnızca belirli durumlarda kararlı ve doğru sinir ağlarını hesaplayabilmektedir. Araştırmacılar, belirli koşullar altında güvenilir bir YZ sistemi sağlamak için sinir ağlarını ne zaman eğitilebileceğini açıklayan bir sınıflandırma teorisi önermektedir. Sonuçları Proceedings of the National Academy of Science dergisinde yayınlamıştır.

Örüntü tanıma için önde gelen yapay zeka teknolojisi olan “derin öğrenme”, çok sayıda nefes kesici manşete konu oldu. Örneklerden bazıları, hastalıkları doktorlardan daha iyi teşhis etmeyi ve otonom sürüş yolu ile trafik kazalarını önlemeyi kapsamaktadır. Ancak, birçok derin öğrenme sistemi güvenilmezdir ve kandırılması kolaydır. Cambridge’in Uygulamalı Matematik ve Teorik Fizik Bölümü’nden Profesör Anders Hansen, “Birçok YZ sistemi kararsız ve özellikle hastalık teşhisi veya otonom araçlar gibi yüksek riskli alanlarda giderek daha fazla kullanıldığı için büyük bir sorumluluk haline geliyor” dedi.

Araştırmacılar tarafından tanımlanan paradoks, 20. yüzyılın iki matematik devine kadar uzanıyor: Alan Turing ve Kurt Gödel. 20. yüzyılın başında matematikçiler, matematiği, bilimin nihai tutarlı dili olarak meşrulaştırmaya çalıştılar. Bununla birlikte, Turing ve Gödel matematiğin merkezinde bir paradoks gösterdiler: Bazı matematiksel ifadelerin doğru mu yanlış mı olduğunu kanıtlamak imkansızdır ve bazı hesaplama sorunları algoritmalarla çözülemez.

Yıllar sonra, matematikçi Steve Smale, 21. yüzyıl için çözülmemiş 18 matematik probleminin bir listesini öne sürdü. 18. sorun, hem insanlar hem de makineler için zekanın sınırlarıyla ilgiliydi. Uygulamalı Matematik ve Teorik Fizik Bölümü’nden ortak yazar Dr Matthew Colbrook, “İlk olarak Turing ve Gödel tarafından tanımlanan paradoks, şimdi Smale ve diğerleri tarafından YZ dünyası için getirildi” dedi. “Matematiğin doğasında var olan temel sınırlar vardır ve benzer şekilde YZ algoritmaları belirli problemler için var olamaz.”

Araştırmacılar, bu paradoks nedeniyle, iyi çalışan sinir ağlarının var olabileceğini, ancak doğası gereği güvenilir olan bir sinir ağının inşa edilemediği durumlar olabileceğini söylüyor. Oslo Üniversitesi’nden Dr Vegard Antun, “Verileriniz ne kadar doğru olursa olsun, gerekli sinir ağını oluşturmak için mükemmel bilgiyi asla elde edemezsiniz” dedi. Araştırmacılar, tüm YZ’nın doğası gereği kusurlu olmadığını, ancak belirli yöntemler kullanılarak yalnızca belirli alanlarda güvenilir olduğunu söylüyor. Colbrook, “Sorun, bir garantiye ihtiyaç duyduğunuz alanlarla ilgilidir, çünkü birçok YZ sistemi bir kara kutudur” dedi. “Bir yapay zekanın bazı durumlarda hata yapmasında hiçbir sorun yok, ancak bu konuda dürüst olması gerekir. Fakat pek çok sistemde gördüğümüz şey bu değil — bir karar konusunda ne zaman daha kendinden emin ne zaman daha az emin olduklarını bilmenin bir yolu yok.”

Hansen, “Şu anda, YZ sistemleri karar konusunda bir miktar tahminde bulunabilir” dedi. “Bir şey denersiniz ve işe yaramazsa, işe yarayacağını umarak daha fazla şey eklersiniz. Bir noktada istediğinizi alamamaktan sıkılacaksınız ve farklı bir yöntem deneyeceksiniz. Farklı yaklaşımların sınırlamalarını anlamak önemlidir. YZ’nın pratik başarılarının teori ve kavrayışın çok ötesinde olduğu aşamadayız. Bu açığı kapatmak için yapay zeka bilişiminin temellerini anlamaya yönelik bir programa ihtiyaç var.” Colbrook, “20. yüzyıl matematikçileri farklı paradokslar belirlediklerinde, matematik çalışmayı bırakmadılar. Sadece yeni yollar bulmaları gerekiyordu, çünkü sınırlamaları anladılar” dedi. “YZ için, sorunları güvenilir ve şeffaf bir şekilde çözebilecek ve sınırlamalarını anlayabilecek sistemler oluşturmak için yolları değiştirme veya yeni yollar geliştirme durumu olabilir.”

Araştırmacılar için bir sonraki aşama, hangi sinir ağlarının algoritmalarla hesaplanabileceğini ve hangilerinin kararlı ve güvenilir hale getirilebileceğini belirlemek için yaklaşımlar teorisi, sayısal analiz ve hesaplamaların temellerini birleştirmektir. Gödel ve Turing tarafından tanımlanan matematiğin ve bilgisayarların sınırlamaları konusundaki paradokslar, matematiğin ve hesaplamaların hem sınırlamalarını hem de olanaklarını tanımlayan zengin temel teorilerine yol açtıysa, belki de benzer bir temeller teorisi YZ’da çiçek açabilir ^[1]University of Cambridge – Mathematical paradox demonstrates the limits of AI.