Yeni Bir AI Ses Aracı, Ünlülerin Ses Kliplerini Taklit Etmek İçin Kötüye Kullanılıyor

Bu yüzden güzel şeylere sahip olamıyoruz.

Birkaç gün önce, konuşma yapay zekası girişimi ElevenLabs, platformunun, kullanıcılara metinden konuşmaya ses için tamamen yeni sentetik sesler oluşturma veya birinin sesini klonlama gücü veren bir beta sürümünü başlattı. Eh, ikincisini aşağılık amaçlar için kullanmaya başlamak interneti sadece birkaç gün sürdü. Şirket, Twitter’da “artan sayıda ses klonlama kötüye kullanım vakası” gördüğünü ve “ek güvenlik önlemleri uygulayarak” sorunu çözmenin bir yolunu düşündüğünü açıkladı.

ElevenLabs, “kötüye kullanım vakaları” ile ne kastedildiğini ayrıntılı olarak açıklamasa da, Motherboard, ünlülerin şüpheli bir şey okuması veya söylemesi gibi ses çıkaran, üretilmiş seslerin yer aldığı klipler içeren 4 kanal gönderileri buldu. Örneğin bir klipte, Emma Watson’ın Mein Kampf’ın bir bölümünü okumasına benzeyen bir sesin yer aldığı bildirildi. Kullanıcılar ayrıca homofobik, transfobik, şiddet içeren ve ırkçı duygular içeren ses klipleri yayınladılar. Tüm kliplerin ElevenLab’ın teknolojisini kullanıp kullanmadığı tam olarak belli değil, ancak 4chan’daki geniş bir ses dosyası koleksiyonu içeren bir gönderi, girişimin platformuna bir bağlantı içeriyordu.

Belki de “deepfake” ses kliplerinin bu ortaya çıkışı sürpriz olmamalı, çünkü birkaç yıl önce benzer bir fenomenin gerçekleştiğini gördük. Yapay zeka ve makine öğrenimindeki gelişmeler, derin sahte videolarda bir artışa yol açmıştı.

ElevenLabs şimdi, kullanıcıların teknolojisini kötüye kullanmasını nasıl engelleyeceği konusunda geri bildirim topluyor. Şu anda mevcut fikirleri arasında ses klonlamayı etkinleştirmek için hesap doğrulamaya daha fazla katman eklemek, örneğin kullanıcıların ödeme bilgilerini veya kimlik bilgilerini girmesini istemek yer alıyor. Ayrıca, kullanıcıların kopyalamak istedikleri sesin telif hakkı sahipliğini doğrulamalarını sağlamayı da düşünüyor; örneğin, onlardan istemli metin içeren bir örnek göndermelerini istemek gibi. Son olarak şirket, Voice Lab aracını tamamen kaldırmayı ve kullanıcıların manuel olarak doğrulaması gereken ses klonlama istekleri göndermesini sağlamayı düşünüyor.