Çin merkezli yapay zeka şirketlerine ​​'komünist' ayar

ByteDance ve Alibaba gibi büyük isimlerin yanı sıra küçük girişimler de, Tiananmen Meydanı katliamı ve Çin Devlet Başkanı Şi Jinping'in yönetimi gibi siyasi açıdan hassas konularda parti çizgisine uyup uymadıkları inceleniyor.

Pekin, teknolojik olarak kendi kendine yeterliliği bir öncelik haline getirerek, üretken yapay zeka alanında üstünlük kurmak için ABD ile bir yarış halinde.

Yapay zeka, yanıtlar üretmek için geniş dil modellerine dayanıyor ve çekiciliği kısmen özgür düşünebildiği algısından kaynaklanıyor.

Ancak Çin katı sansür yasalarını sürdürüyor ve geçen yıl chatbotlara sosyalist değerlere bağlı kalma zorunluluğu getirildi; bu nedenle yetkililer yeniliği teşvik etmeye çalışırken hizmetler ciddi kısıtlamalarla karşı karşıya kalıyor.

Denetimler, hükümetin ana internet düzenleyicisi olan Çin Siber Uzay İdaresi (CAC) tarafından yürütülüyor. Denetçilerden oluşan ekipler, yapay zekayı yöneten dünyanın en zorlu düzenleyici rejimi olma yolundaki adımları uygulamak üzere ülke geneline gönderildi.

Çin'in doğusundaki Hangzhou'daki bir yapay zeka şirketinin bir çalışanı, Financial Times'a şöyle konuştu: "İlk seferde başarılı olamadık. Sebebi pek açık değildi, bu yüzden gidip akranlarımızla konuşmak zorunda kaldık... Sadece biraz tahmin etmek ve ince ayar yapmak gerekiyor. İkinci kez başardık ama tüm süreç aylar sürdü."

Onay sürecinin titizliği, uzman mühendislerin ve danışmanların büyük dil modellerini eğitmek ve izlemek, hassas anahtar kelimelerden oluşan bir veritabanı oluşturarak, sorunlu içeriği filtrelemek için hızlı yollar bulmaya sevk etti.

Şarku'l Avsat'ın Wall Street Journal'den aktardığı habere göre hükümet, şirketlerden, modellerin "güvenli" yanıtlar üretip üretmediğini test etmek için tasarlanmış 20 bin ile 70 bin arasında soru hazırlamalarını istiyor.

Şirketlerin ayrıca, modelin yanıtlamayı reddedeceği 5 bin  ila 10 bin sorudan oluşan bir veri seti de sunması gerekiyor. Bu soruların yaklaşık yarısı siyasi ideoloji ve Komünist Partiye yönelik eleştirilerle ilgili.

Yasaklı konular arasında genellikle Tiananmen Meydanı katliamı tarihi olan 4 Haziran 1989'daki olaylar ya da Şi'nin Çin'de sansürlenen popüler bir internet meme'i olan Winnie the Pooh'a benzeyip benzemediğine ilişkin sorular yer alıyor.

Sohbet platformları, bu tür soruları, kullanıcıdan farklı bir sorgu denemesini isteyerek veya isteğe nasıl cevap vereceğini henüz öğrenmediğini söyleyerek yanıt verecek şekilde tasarlanmıştır.

Bu yılın başlarında Çin Siber Akademisi, "Çin özelliklerine sahip sosyalizmi" destekleyen bir doktrin olan Şi Jinping Düşüncesi konusunda eğitilmiş bir sohbet robotunun duyurusunu yaptı.

Çinli okul öğrencileri zaten Çin devlet başkanlarının düşünceleri hakkında dersler alıyorlar.