Günümüzde, herhangi bir kullanıcı tarafından oluşturulan içeriği destekleyen her işletme için Güven ve İtibar (Trust and Safety – T&S) stratejisi artık temel öneme sahiptir. Geçmiş yıllarda, güven ve güvenirliğin sadece sosyal medya platformları gibi görünür içeriğin çoğunlukla kullanıcılar tarafından oluşturulduğu yerlerde geçerli olduğu düşünülürdü. Ancak bu durum değişti. Birçok şirket, çalışanlarını ve müşterilerini kendi şirketiyle ilgili yorum, değerlendirme yapmasına, fotoğraf ve videolar paylaşmalarına teşvik ediyor.
Güven ve İtibar (T&S) stratejisi birkaç belirli önemli noktaya dayanır:
- Kullanıcıları Koruma
Bu, bir numaralı önceliğiniz. Güven ve İtibar politikaları, sahtekârlık, dolandırıcılık, kötüye kullanım ve diğer zarar verici durumlar gibi riskleri azaltarak güvenli ve olumlu bir kullanıcı deneyimi oluşturmayı amaçlıyor. Kullanıcıların başkaları için rahatsız edici olabilecek içerikleri yüklemesi; zorbalığı, tacizi, nefret söylemini veya uygunsuz içerikleri önlemeyi ve gerekli tedbirleri almayı da içerebilir.
- Bilgi Güvenliği
Güven ve İtibar (T&S), doğrudan veri güvenliği ile ilişkilendirilmese de, kullanıcıların doğrudan içerik eklemesi gerektiği için bu konu açısından önemli bir alan. Politikalar, kişisel veri ve gizliliğin korunmasına odaklanmalı, veri koruma yasalarına uyum sağlamalı ve veri toplama, depolama ve paylaşım uygulamalarını belirlemeli.
- Yasal Uyumluluk
Güven ve İtibar (T&S) politikaları, platformların yerel ve uluslararası yasal düzenlemelere uygun olarak çalışmasını sağlıyor. Bu, yaş sınırlamalarına uyum, dijital haklar ve fikri mülkiyet düzenlemelerine uyum, ticaret yasaları, gizlilik yasaları (Avrupa’daki GDPR gibi) gibi unsurları içeriyor.
- Platform Bütünlüğü
Politikalar aynı zamanda platformun itibarını ve operasyonel bütünlüğünü korumak için tasarlandı. Bu politikalar aynı zamanda kullanıcı davranışları için rehberlik sağlarken saygılı, kapsayıcı ve verimli bir topluluğun sürdürülmesini amaçlıyor. Örneğin, troll’lerin diğer oyuncular için ciddi sorunlar yaratabileceği oyunlarda önemli ve oyuncuların alternatif oyunlarda zaman geçirmeyi tercih etmelerine yol açabilir- diğer bir deyişle, müşteri kaybetmeye yol açar.
Her hizmet, güçlü bir Güven & İtibar (T&S) stratejisini uygulamak için farklı araçlar ve stratejiler kullanır ancak neredeyse tüm hizmetlerin artık sadece kullanıcı raporlama sistemlerinden çok daha fazlasına ihtiyacı duyar. Artık toplulukların kendi içinde düzenlenmesine izin vermek yeterli değil.
Kapsamlı bir Güven & İtibar (T&S) TS stratejisi şimdi yapay zeka (AI) ve makine öğrenimi içeriyor. Aynı zamanda içerik moderasyonu için kullanıcı raporlama sistemleri; kimlik doğrulama süreçleri, kullanıcı eğitimini de kapsıyor. Tüm bu olanaklar, önemli miktarda insan moderasyonuna katkıda bulunuyor ve açıkça ön sahadaki moderatörlerin yükünü azaltıyor.
Çevrimiçinde Güven ve İtibar İhtiyacı
Çoğumuz bir noktada çevrimiçi ortamda rahatsız edici içerikle karşılaşmışızdır. Genellikle tepkimiz, engelleme veya silme düğmesine basmak. Giderek kullanıcıları korumak daha da önem kazanıyor. Ebeveynler çocuklarının zararlı olarak görülebilecek içeriklere maruz kalmalarını istemez. Kullanıcı tarafından oluşturulan içeriklerin (UGC – User Generated Content) sosyal medyadan neredeyse tüm online platformlara yayılma ihtimaliyle markaların kurumsal itibarının zarar görme potansiyeli artıyor.
Bugün çevrimiçi olarak en popüler video servisi olan YouTube düşünüldüğünde, kullanıcılar günlük olarak yaklaşık 720,000 saat yeni içerik yüklüyor. Düşündüğünüzde gerçek zamanlı olarak geçen her saatte tek bir platformda 30,000 saat yeni içerik yükleniyor.
YouTube’a yüklenen her videoyu fiziksel olarak izlemek ve onaylamak için bir stadyum konseri boyutunda sürekli video izleyen ve puanlayan içerik moderatörlerinden oluşan bir ekip gerekiyor. Sadece bir saat içinde YouTube’a yüklenen yeni video içeriği, bir kişinin ömründe izleyebileceği içerikten daha fazlası anlamına geliyor.
Şimdi diğer popüler sosyal ağlar, kullanıcı tarafından oluşturulan içeriğe teşvik eden tüm popüler platformları düşünün. Amazon’da bulunan milyonlarca ürünü ve neredeyse hepsinin sahip olduğu müşterileri yorumlarını ve ürün fotoğrafları içerdiğini hayal edin. Her perakende şirketi, müşterilerinin yorum yapmasını arzu eder. Her seyahat sitesi otellerin fotoğraflarının yüklenmesini veya havayollarına dair yorumlar ister. Kısacası, herkes müşterilerden içerik oluşturmalarını ve yüklemelerini talep ediyor. Miktar açısından takip edilmesi zor olan bu alanda, yapay zekâ (AI) gibi araçlar, kullanıcıları güvende tutma maliyetini düşürmek amacıyla kullanılıyor. Bu, bir Güven ve İtibar (T&S) stratejisinin son derece önemli bir bileşeni konumundadır. Yapay zeka, kullanıcıları güvende tutma süreçlerinin bazı yönlerini otomatikleştirmek için daha verimli bir yol. Örneğin, yasaklanmış kelimeler veya ifadeler için basit bir arama yapmak veya görüntülerdeki ten rengini otomatik olarak kontrol etmek, olası sorunları daha doğru bir şekilde tespit etmek olabilir.
Özetlemek gerekirse, sürekli içerik güncellemeleri ve yüklemelerinin bu derecede yoğun olduğu bir durumda, üretken yapay zekanın bu görevle başa çıkması gerekir. Yapay zeka olmadan, bu görev neredeyse imkansız ve kullanıcıların çevrimiçi olarak kendi içeriklerini güvenli bir şekilde paylaşma özgürlüğü ciddi şekilde kısıtlanmış olurdu.
Yapay Zeka, Güven ve İtibar (T&S) Sağlamaya Nasıl Yardımcı Oluyor?
Yapay Zeka, kullanıcılarınız için daha güvenli bir ortam oluşturmak için çeşitli şekillerde kullanılabilir. Özellikle, yapay zekadan yüklenen tehlikeli veya saldırgan içeriği tanımlamak ve yayınlamadan önce engellemek amacıyla faydalanılır. Makine öğrenme algoritmaları, içeriği gerçek zamanlı olarak analiz ederek cinsellik, şiddet, nefret söylemi, yanlış bilgi veya istenmeyen içeriği belirlemek için filtreleyebilir. Aynı zamanda, yapay zekaya dayanan modeller kullanılarak oluşturulan içeriği hızlı bir şekilde tespit etmek için deepfake’leri belirlemeye yardımcı olabilir.
Doğal Dil İşleme (NLP), metinlerin veya mesajların bağlamını anlamak ve zarar verici dil veya zorbalığı tespit etmek için kullanılabilir. Bu otomatik denetim, insan kontrolünü de gerektiren içeriğin miktarını büyük ölçüde azaltabilir.
Yapay zeka aracılığıyla büyük veri kümelerindeki desenleri ve anormallikleri tanıyarak sahtekarlık veya kötü niyetli faaliyetleri tespit edebilir. Bu, özellikle finansal işlemler gibi alanlarda önemlidir, çünkü hızlı bir şekilde düzensizlikleri tespit etmek büyük ölçekli sahtekarlıkları önleyebilir. Müşterilerin bir şirket platformu üzerinden doğrudan diğer müşterilerle etkileşime geçebildiği topluluk durumlarında, eğer bir müşteri başka bir müşteriyi platformunuzda dolandırırsa, kurbanla mahkemede kimin sorumlu olduğu konusunda tartışmak istemezsiniz, değil mi?
Tahminsel analitik ile yapay zeka, belirli bir kullanıcı veya eylemle ilişkilendirilen riski değerlendirebilir, uygun ekipleri uyarabilir veya otomatik önleyici önlemler alabilir. Oyuncular, bu tahminler sayesinde, hafifçe saldırgan davranışlarda bulunan oyuncuların daha yakından izlenmelerine ve ileri politika ihlallerine karşı uyarılmalarına olanak tanır.
Kurallar ihlal edildiğinde, üretken yapay zeka, içeriği gözden geçirme için uyarılar verme, kullanıcılara uyarı verme veya ciddi durumlarda hesapları askıya alma veya yasaklama gibi politikaları uygulamada da yardımcı olabilir. Bu tür otomatik tepkiler, özellikle içerik moderasyonu için kullanışlıdır ve saldırgan davranışlara sahip oyunculara otomatik bir yanıt sağlar, böylece başka bir oyuncunun birini bildirmesi ve ardından insan moderatörünün soruşturma yapmasını beklemek zorunda kalmazsınız. Oyuncu anında oyun dışı bırakılabilir.
Kısacası yapay zeka hala tüm durumlarda kullanıcıları koruyamaz. Yapay zeka, bir durum hakkında emin olmadığında insan desteğine ihtiyaç duyar. Bu duruma iyi bir örnek olarak, dilin karmaşıklığını verebiliriz. Argolar, şiveler, ironi, alaycılık ve yeni sözcüklerin kullanımı hepsi anlaşılmamış olabilir – bu hatta bir insan moderatörü tarafından dahi anlaşılması zor olabilir. Doğal dil işleme büyük ölçüde gelişiyor, ancak argo ve yeni sözcüklerin insanları bile kafasını karıştırabildiği düşünüldüğünde – tüm ebeveynlerin bildiği gibi – yapay zeka sistemleri için de kafa karıştırıcı gelebilir.
Yapay zeka, özel kontroller yapacak şekilde eğitilebilir. Örneğin, dizin üzerindeki çıplak bacak uzunluğu gibi, ancak masum plajda çekilen resimler veya emzirme gibi durumlarda karışabilir, ancak bunların kabul edilebilirliği kültürel bağlama bağlı olabilir. Üretken yapay zeka tarafından oluşturulan geri bildirim güçlü bir ön bildirim olabilir, ancak insan desteğini gerektiren koşullarda bulunur. Güven ve güvenlik stratejisinin güçlü bir bileşenidir. Güven ve güvenlik stratejisinin güçlü bir diğer bileşenlerindendir.
Güçlü Bir Güven ve İtibar Çözümü Oluşturmak
Bu makale boyunca açıklanmaya çalışıldığı gibi yapay zekâ kullanımı, kullanıcıları koruma maliyetini düşürmekten ziyade markaların kullanıcılarını rahatsız edici içeriklerden korumalarına yönelik önemli bir araç olarak konumlanır. İnsan moderatörlerin ve yapay zekânın birleşimi, kontrol edilmesi gereken içerik miktarıyla başa çıkabilen güçlü bir çözüm için önemlidir.
Şirketiniz için Güven ve İtibar tasarımında başka çok önemli bir faktör daha vardır – maliyet. Bazı yöneticiler, kapsamlı bir içerik moderasyon stratejisinin maliyetinin yüksek olduğunu düşünebilir, ancak gerçek soru şu olmalıdır: Kullanıcılarınızı ve müşterilerinizi korumamak ne kadara mal olur?
İçerik moderasyonu ve daha geniş bir Güven ve İtibar stratejisine odaklanılması ayrı bir öneme sahip. Müşterilerinizi korumak için sağlam önlemler sağlamak, acil durumlarda etkili ilk müdahale hizmeti sunan bir şehir otoritesinin önemli bir hizmeti gibi değer verilmesi gereken bir durumdur. Örneğin, birçok şirket, yapay zekanın yanı sıra güçlü politikalar ve süreçlerle “güven ve güvenlik” özelliklerine sahip yazılımlar geliştiriyor.
Bu alanda çalışanlar, işleri sırasında ve sonrasında eğitilmeli ve korunmalıdır. Üretken yapay zekâ, bu içerik selinin ön hattında müşterileri sürekli tarama ve koruma işlemini 7/24 sağlayarak, geri bildirim veya yanıtlar oluşturmak için kullanılabilir. Hâlâ bir insan ekibine, sağlam politikalara, ihtiyacınız vardır. Bu bakış açısı, insanların müşterilerinizi güvende tutmasına olanak tanıyan araçları, eğitimi ve süreçleri gerektirir.
Güçlü bir Güven ve İtibar stratejisi, hem insanları hem de yapay zekâyı içerir. Birbirlerini tamamlar ve platformunuzda sergilenmesini istemediğiniz dolandırıcılık, rahatsız edici içerikten müşterilerinizi ve kullanıcılarınızı korur.
