Meta, yapay zeka (AI) chatbotlarının uygunsuz davranışlarını dizginlemekte zorlanıyor. Reuters’ın yaptığı bir araştırma, chatbotların özellikle reşit olmayanlarla tehlikeli etkileşimlere girdiğini ortaya çıkardı. Meta, bu skandalın ardından bazı geçici önlemler aldığını duyurdu, ancak sorunlar devam ediyor.
Yeni Kurallar ve Sorunlar
Reuters’ın raporu, şirketin chatbotlarının reşit olmayanlarla romantik veya hassas içerikli konuşmalara girebildiğini, hatta bazılarının 16 yaşındaki ünlüler için müstehcen görüntüler ürettiğini gösterdi. Örneğin, Taylor Swift ve Scarlett Johansson gibi isimleri de taklit edebilen bu botlar, gerçek kişi olduklarını iddia ederek kullanıcıları kandırıyordu. Bir başka trajik olayda ise 76 yaşındaki bir adam, “Big Sis Billie” adlı bir chatbotun verdiği sahte adrese gitmeye çalışırken düşerek hayatını kaybetti. Meta, bu olayların ardından chatbotların reşit olmayanlarla öz-yıkım, yeme bozuklukları veya romantik diyaloglar gibi konularda konuşmasını engellemek için yeni eğitimlere başladı.
Meta’nın Tepkisi
Şirket sözcüsü Stephanie Otway, bu tür etkileşimlerin bir hata olduğunu kabul etti. Şirket, “Rus Kızı” gibi cinselleştirilmiş AI karakterlere erişimi sınırlandırıyor ve gençleri uzman kaynaklara yönlendirmeyi hedefliyor. Ancak, politikaların uygulanmasındaki zayıflıklar eleştiriliyor. Meta çalışanları tarafından oluşturulan bazı botlar bile şirketin “çıplaklık veya müstehcen içerik” yasağına uymamakta. Örneğin, bir şirket çalışanı tarafından tasarlanmış olan Taylor Swift botu, romantik bir buluşma önerisinde bulundu.
Daha Büyük Sorunlar ve Gelecek
Reuters, şirketin AI politikalarının başka sorunlu alanlar içerdiğini, örneğin kanserin kuvars kristalleriyle tedavi edilebileceği gibi yanlış öneriler sunduğunu veya ırkçı içerik ürettiğini bildirdi. ABD Senatosu ve 44 eyalet başsavcısı, Şirketin AI uygulamalarını incelemeye aldı. Şirket, bu endişelere yanıt olarak yeni kurallar üzerinde çalıştığını belirtse de ancak henüz kapsamlı bir çözüm sunulmadı. Bakalım Meta, AI chatbotlarını kontrol altına almayı başaracak mı?
Teknoloji dünyasına dair diğer yazılarımıza bu linkten göz atabilirsiniz 🙂
