20 teknoloji şirketinden oluşan bir grup Cuma günü, aldatıcı yapay zeka içeriğinin bu yıl dünya çapındaki seçimlere müdahale etmesini önlemek için birlikte çalışmaya karar verdiklerini duyurdu.
İstemlere yanıt olarak saniyeler içinde metin, resim ve video oluşturabilen üretken yapay zekanın (AI) hızla büyümesi, yeni teknolojinin bu yılki büyük seçimleri etkilemek için kullanılabileceğine dair korkuları artırdı; halkın sandık başına gitmesi bekleniyor.

Münih Güvenlik Konferansı'nda açıklanan teknoloji anlaşmasının imzacıları arasında OpenAI, Microsoft (MSFT.O) dahil olmak üzere içerik oluşturmak için kullanılan üretken yapay zeka modelleri geliştiren şirketler yer alıyor. Diğer imzacılar arasında Meta Platformlar (META.O) gibi zararlı içerikleri sitelerinden uzak tutma zorluğuyla karşılaşacak sosyal medya platformları yer alıyor.

Anlaşma, yapay zeka tarafından oluşturulan yanıltıcı görüntüleri, videoları ve sesleri tespit etmek için araçlar geliştirme, seçmenleri aldatıcı içerik konusunda eğitmek için kamuyu bilinçlendirme kampanyaları oluşturma ve hizmetlerinde bu tür içerikler hakkında harekete geçme konusunda işbirliği yapma taahhütlerini içeriyor.

Şirketler, yapay zeka tarafından oluşturulan içeriği tanımlamaya veya kökenini onaylamaya yönelik teknolojinin, filigran eklemeyi veya meta verileri gömmeyi içerebileceğini söyledi.

Anlaşmada taahhütlerin yerine getirilmesine veya her şirketin bunları nasıl uygulayacağına ilişkin bir zaman çizelgesi belirtilmedi.

Eta Platforms'un küresel ilişkiler başkanı Nick Clegg, "Bence bu (anlaşmanın) faydası, ona imza atan şirketlerin genişliğidir" dedi.

Clegg.“Bireysel platformların tespit, kaynak, etiketleme, filigranlama vb. konularda yeni politikalar geliştirmesi her şey yolunda, ancak bunu ortak, birlikte çalışabilir bir şekilde yapmaya yönelik daha geniş bir kararlılık olmadığı sürece, karmaşık bir durumla karşı karşıya kalacağız. farklı taahhütler var," dedi.

Üretken yapay zeka halihazırda siyaseti etkilemek ve hatta insanları oy vermemeye ikna etmek için kullanılıyor.

Ocak ayında, ABD Başkanı Joe Biden'ın sahte sesini kullanan bir otomatik çağrı New Hampshire seçmenlerine dağıtıldı ve onları eyaletteki başkanlık ön seçimleri sırasında evde kalmaya çağırdı.

Adobe'nin baş güven yetkilisi Dana Rao, OpenAI'nin ChatGPT'si gibi metin oluşturma araçlarının popülaritesine rağmen, teknoloji şirketlerinin AI fotoğraf, video ve seslerinin zararlı etkilerini önlemeye odaklanacağını söyledi. görüşme.

"Ses, video ve görüntüler arasında duygusal bir bağ var" dedi. "Beyniniz bu tür medyaya inanacak şekilde programlanmıştır."