Yapay zeka uzun zamandır bilim çevrelerinin yanısıra siyasi ve toplumsal örgütlenmelerde endişe kaynağı olarak öne çıkıyor.
Tech Times’te yer alan habere göre Madrid Üniversitesi bilim insanları, bu konudaki kararını vererek, üstün zekayı kontrol etmenin neredeyse imkansız olduğuna dikkat çektiler.
Süper bir zekayı kontrol etmenin, insan anlayışının ötesinde bir bilgi gerektirmesi, bu endişeye karşılık geliyor.
Bir süper zekanın analiz edilmesini mümkün kılan bir simülasyonun geliştirilmesi gerekecek.
Ancak bu zekanın doğası anlaşılamazsa böyle bir simülasyon yaratmak da imkansız olarak ele alınıyor.
Çalışma yazarlarına göre bir bilgisayar sistemi, geliştiricilerinden daha yüksek bir zeka düzeyinde çalıştığında, artık ona sınır koyamayacağız.
Araştırmacılar, “Bir süper zeka, genel olarak ‘robot etiği’nde çalışılanlardan temelde farklı bir sorun ortaya çıkarır” diyor ve ekliyor: “Bir süper zekanın birçok yönü vardır. Bu nedenle, potansiyel olarak insanlar tarafından anlaşılmaz ve hatta daha az kontrol edilebilir hedeflere ulaşmak için çeşitli kaynakları harekete geçirme potansiyeline sahiptir. ”
Ekibin mantığının bir kısmı 1936’da Alan Turing tarafından ortaya atılan sorundan geliyor. Turing, bir bilgisayar programının bir yanıta ulaşıp ulaşmayacağını veya sonsuza dek dönüp dönmeyeceğini tahmin etmenin imkansız olduğunu gösteriyor.
Yapay zekanın insanlara zarar vermesini ve dünyayı yok etmesini önlemek için yazılan herhangi bir program da aynı kurala tabi olacak. Bu nedenle, böyle bir yapay zekanın kontrol edilebileceğinden kesinlikle emin olmamız matematiksel olarak imkansız görülüyor.
