OpenAI: Çin, ChatGPT'yi otoriter suiistimaller için kullandı

Şirketin son tehdit raporunda OpenAI, ulusal güvenlik kullanımıyla ilgili politikaları ihlal ettikleri gerekçesiyle Çin'deki çeşitli devlet kurumlarıyla bağlantılı görünen birkaç hesabı engellediğini açıkladı.

Raporda, "Bu hesaplardan bazıları, sosyal medya konuşmalarını izlemek üzere tasarlanmış büyük ölçekli sistemler için modellerimizden iş teklifleri üretmesini istedi" ifadeleri yer alıyor.

Bu kullanımlar kurumsal değil bireysel gibi görünse de yapay zekanın otoriter suiistimallerinin geniş dünyasına nadir bir bakış sunuyor.

Yakın zamanda 500 milyar dolar değer biçilen dünyanın önde gelen yapay zeka şirketi, bir grup Çince hesabın ChatGPT'yi Tayvan'ın yarı iletken sektörü, ABD akademisi ve Çin Komünist Partisi'ni eleştiren siyasi gruplara karşı yürütülen siber operasyonlarda kullandığının tespit edildiğini açıkladı.

Bazı durumlarda tehdit aktörleri, bilgi teknolojisi sistemlerini ihlal etmek için tasarlanmış kimlik avı kampanyaları yürütmek amacıyla, ChatGPT'yi kullanarak İngilizce resmi e-postalar yazdı.

ChatGPT, Çin Güvenlik Seddi diye bilinen sıkı internet sansürü nedeniyle Çin'de kullanılamıyor. Ancak OpenAI, sanal özel ağlar (VPN'ler) üzerinden erişilebilen uygulamanın Çince sürümlerini sunuyor.

OpenAI'ın 37 sayfalık raporunda, "Çin devlet kurumlarıyla bağlantılı olduğu anlaşılan kişiler tarafından kullanılan ChatGPT hesaplarına müdahalemiz, bu otoriter ortamda yapay zeka kullanımının mevcut durumuna ışık tutuyor" diye belirtiliyor.

Raporun yazarları ayrıca Rusça ve Korece konuşan kullanıcılar tarafından gerçekleştirilen siber operasyonlara da dikkat çekiyor.

Bunlar devlet kurumlarıyla ilişkili görünmüyordu ancak bazıları devlet destekli suç örgütleriyle bağlantılı olabilir.

OpenAI, ilk kez kamuya açık tehdit raporları yayımlamaya başladığı Şubat 2024'ten bu yana 40'tan fazla kötü amaçlı ağı bozduğunu iddia ediyor.

Son raporda, en son yapay zeka modelleri için yeni bir saldırı yeteneğinin keşfedilmediği ifade ediliyor.