Fransa’da yapay zekâ sohbet botları ve dijital asistanların kullanıcılar üzerindeki etkilerini inceleyen uzman komisyonu, özellikle çocukların korunması amacıyla 18 maddelik öneri paketi hazırladı. Cumhurbaşkanı Emmanuel Macron’a 10 Kasım’da sunulan raporda, kullanıcıları yapay zekâya bağımlı hale getirebilecek tasarım özelliklerinin sınırlandırılması, halka açık yapay zekâ sistemlerinin piyasaya çıkmadan önce güvenlik değerlendirmesinden geçirilmesi ve okullarda küçük yaşlardan itibaren yapay zekâ okuryazarlığı eğitimi verilmesi istendi.
Dokuz bağımsız uzmandan oluşan komisyon, çalışmasını sağlık, eğitim, araştırma, teknoloji sektörü ve çocukların korunması alanlarında 55 görüşme yaparak hazırladı. Öneriler, yalnızca bireysel kullanıcı güvenliğini değil, bilgi güvenilirliği, seçim dönemlerinde dezenformasyon ve dijital hizmetlerin ticari modeli gibi daha geniş konuları da kapsıyor.
Çocuklar için daha sıkı güvenlik kuralları
Raporda, sohbet botlarının insan gibi davranan veya kullanıcıyı sürekli onaylayarak etkileşimi uzatan tasarım özelliklerinin duygusal bağlılık ve aşırı kullanım riskini artırabileceği vurgulandı. Komisyon, kullanıcıların hassasiyetlerini bağımlılık ya da daha fazla etkileşim yaratmak amacıyla kullanan tasarım tekniklerinin yasaklanmasını önerdi. Reşit olmayanların erişebildiği yapay zekâ sistemleri için daha yüksek güvenlik ve temel hakların korunması standartları getirilmesi de tavsiyeler arasında yer aldı.
Komisyon ayrıca halka yönelik üretken yapay zekâ sistemlerinin piyasaya sürülmeden önce çok disiplinli bir değerlendirmeden geçirilmesini, kullanıma sunulduktan sonra da denetlenmesini istedi. Yapay zekâ içeren oyuncaklar için ön izin ve yaş sınırları belirlenmesi, sınıflarda çocuklara özel olarak tasarlanmış modeller kullanılması ve yapay zekâ eğitiminin ilkokuldan itibaren verilmesi de önerildi.
Dezenformasyon ve gizli reklam riski
Raporda, yapay zekâ sistemlerinin yanlış bilgiyi yayma, seçim dönemlerinde seçmenleri yanıltma ve ticari etkileri gizleme risklerine dikkat çekildi. Bu nedenle devletin yapay zekâ kaynaklı bilgi manipülasyonlarını erken tespit edip hızla yanıt verebileceği ulusal bir protokol oluşturması ve seçim dönemlerinde üretken yapay zekâ kullanımına ilişkin bir davranış kuralları çerçevesi hazırlanması istendi. Gizli reklamların ve kullanıcıların duygusal ya da bilişsel hassasiyetlerinden yararlanan ticari uygulamaların önlenmesi de öneriler arasında.
Komisyon, rıza dışı cinsel içerikli sahte görüntülerle mücadele, kullanıcıların istemlerinden hareketle kişisel özellikleri hakkında çıkarım yapılmasının sınırlandırılması, sağlayıcıların sorumluluğunun güçlendirilmesi ve az temsil edilen dil ve kültürlerin yapay zekâ modellerinde daha görünür hale getirilmesi için de adım atılmasını istedi.
Raporda aktarılan bir araştırmaya göre, Fransız ergenlerin yüzde 92’si yapay zekâ uygulamalarında istediklerinden daha fazla zaman geçirdiklerini belirtiyor. Komisyon, bu veriyi gençlerin dijital araçlarla kurduğu ilişkinin ve tasarım tercihlerinin yeniden değerlendirilmesi gerektiğine işaret eden bulgular arasında gösterdi.
Hazırlanan 18 madde, yürürlüğe girmiş bir yasa veya Fransa’da uygulanmaya başlanmış yeni bir düzenleme niteliği taşımıyor. Bunlar, hükümet ve ilgili kurumların değerlendirmesine sunulan uzman önerileri. Önerilerin hayata geçirilip geçirilmeyeceği ve hangi hukuki araçlarla uygulanacağı henüz netleşmiş değil.


