Facebook tarafından moderasyona tabi tutulan içerik miktarı hem şirketin kuralları ihlal eden içerikleri bulma ve bu konuda eyleme geçme potansiyelini ve kullanıcıların paylaştıkları içerik miktarı tarafından etkileniyor. Örneğin şirketin veri analizleri başkan yardımcısı Alex Schultz sansürlenmemiş şiddet görüntülerinin çeyrekten çeyreğe 3 kat artış gösterdiğini belirtiyor.
Facebook ayrıca, tek tek kullanıcıların şüpheli olarak işaretlemesine gerek kalmadan içeriği bulmak ve denetlemek için kullandığı yeni AI tabanlı araçlarla, moderasyona alınan içeriğin miktarını da artırmayı başardı. Bu araçlar, özellikle sahte hesaplar ve spam içeriklerin bulunmasında oldukça iyi bir performans gösterdi. Şirket, kapattığı sahte hesapların yüzde 98.5’ini ve spam içeriklerin yaklaşık yüzde 100’ünü bulmak için araçları kullandığını belirtti.
