Το TikTok θα χρησιμοποιεί συστήματα αυτοματισμού για τον εντοπισμό και την κατάργηση πολλών από των βίντεο που παραβιάζουν τις πολιτικές του. Τον τελευταίο χρόνο, η εφαρμογή δοκιμάζει και τροποποιεί συστήματα για να εντοπίζει και να καταργεί τέτοιο περιεχόμενο. Αυτά τα αυτοματοποιημένα συστήματα θα κυκλοφορήσουν στις ΗΠΑ και τον Καναδά τις επόμενες εβδομάδες.
Αρχικά, οι αλγόριθμοι θα αναζητούν αναρτήσεις που παραβιάζουν πολιτικές που σχετίζονται με την ασφάλεια των ανηλίκων, τη βία, το ακατάλληλο περιεχόμενο, το γυμνό, το σεξ, τις παράνομες δραστηριότητες και προϊόντα καπνού ή αλκοόλ. Εάν τα συστήματα εντοπίσουν παραβίαση, θα κατεβάσουν το βίντεο αμέσως και ο χρήστης που το δημοσίευσε θα μπορεί να κάνει ένσταση. Οι χρήστες θα μπορούν ακόμη να αναφέρουν ένα βίντεο για έλεγχο από τους διαχειριστές του TikTok και όχι από το αυτοματοποιημένο σύστημα.
Τα αυτοματοποιημένα συστήματα θα χρησιμοποιηθούν για κατηγορίες περιεχομένου που η τεχνολογία έχει τον υψηλότερο βαθμό ακριβείας, αναφέρει το TikTok. Μόνο ένα στα 20 από τα βίντεο που καταργήθηκαν αυτόματα ήταν ψευδώς θετικά και έπρεπε να παραμείνει στην πλατφόρμα. Η εταιρεία ελπίζει να βελτιώσει τα επίπεδα ακρίβειας των αλγορίθμων και αναφέρει ότι τα αιτήματα για ένσταση κατάργησης ενός βίντεο παρέμειναν διαθέσιμα.
Η κινεζική εταιρεία αναφέρει ότι η αυτοματοποίηση θα απελευθερώσει το προσωπικό της ώστε να επικεντρωθεί σε περιεχόμενο που απαιτεί μια καλύτερη προσέγγιση συμπεριλαμβανομένων βίντεο που περιέχουν εκφοβισμό, παρενόχληση, παραπληροφόρηση και ρητορική μίσους. Βασικά, τα συστήματα θα μπορούσαν να μειώσουν τον αριθμό των δυνητικά ενοχλητικών βίντεο που πρέπει να παρακολουθήσει η ομάδα ασφαλείας, όπως εκείνα που περιέχουν ακραία βία ή εκμετάλλευση παιδιών. Το Facebook μάλιστα, κατηγορήθηκε ότι δεν έκανε αρκετά για να προστατεύσει την ψυχική υγεία των συντονιστών της πλατφόρμας που συχνά πρέπει να παρακολουθούν ενοχλητικό περιεχόμενο.
Το TikTok αλλάζει επίσης τον τρόπο με τον οποίο ειδοποιεί τους χρήστες αφού αυτοί παραβιάσουν τους κανόνες. Η πλατφόρμα παρακολουθεί τώρα τον αριθμό, τη σοβαρότητα και τη συχνότητα των παραβάσεων. Οι χρήστες θα δουν λεπτομέρειες σχετικά με αυτές στην ενότητα ενημερώσεων λογαριασμού στα εισερχόμενά τους. Μπορούν επίσης να δουν πληροφορίες σχετικά τις συνέπειες των πράξεών τους, όπως για πόσο καιρό θα αναστέλλεται η δυνατότητα να αναρτήσουν νέο περιεχόμενο ή να αλληλεπιδράσουν με περιεχόμενου άλλου χρήστη.