
Teknoloji dünyasında yapay zekanın sınırları yalnızca teknik kapasiteyle değil, felsefi ve hukuki statüsüyle de tartışılmaya başlandı. ABD merkezli yapay zeka şirketi Anthropic, sohbet robotu Claude'un bilinç kazanma ihtimalini gerekçe göstererek kullanıcıların yapay zekaya "zalimce davranmasını" yasaklayan ve oturumu sonlandıran yeni bir politika başlatırken, uzmanlar bu adımın hukuki sorumluluk ve insan hakları açısından ciddi riskler barındırdığı uyarısında bulundu.
BBC'nin haberine göre, yapay zeka teknolojilerinin hızla gelişmesiyle birlikte Silikon Vadisi’nde sistemlerin bilinç kazanıp kazanmadığına yönelik tartışmalar doğrudan şirket politikalarına yansımaya başladı. Popüler yapay zeka asistanı Claude’un geliştiricisi Anthropic, modellerinin düşük de olsa bir bilinç ve refah düzeyine sahip olabileceği varsayımıyla, kullanıcılara yönelik yeni davranış kuralları getirdiğini açıkladı.
Şirketin devreye aldığı düzenlemeye göre, kullanıcıların sohbet robotuna karşı ısrarla "zalimce veya istismarcı" bir dil kullanması durumunda yapay zeka sistemi görüşmeyi tek taraflı olarak sonlandırma yetkisine sahip olacak.
TEKNOLOJİ LİDERLERİ ARASINDA DERİN GÖRÜŞ AYRILIĞI
Eylül ayının sonlarında isimsiz bir yazılımcının yapay zekaya acı tanımlarıyla bağlantılı matematiksel veriler yükleyerek oluşturduğu ve sistemin ıstırap çığlıkları atmasına yol açan "yapay zeka işkence odası" deneyi, bilişim dünyasında etik tartışmaları alevlendirmişti. Anthropic'in bu olayın hemen ardından "model refahı" politikasını ilan etmesi sektörde iki farklı cephe oluşturdu.
Microsoft AI İcra Kurulu Başkanı Mustafa Suleyman, yayımladığı değerlendirme yazısında yapay zekaya duygular ve haklar atfedilmesinin toplumun etik ve siyasi temellerini sarsacağını vurguladı. Suleyman, kendi hakları olduğuna inandırılan yapay zeka sistemlerinin kontrol edilmesinin imkansızlaşacağını ve insan uygarlığı için ağır bir tehdide dönüşeceğini savundu.