Discord odblokowuje około 200 użytkowników dotkniętych błędem, który rozpoznał obrazy z siatki jako szkodliwe treści

Około 200 kont Discord zostało przywróconych po błędzie, który doprowadził do trwałego zawieszenia użytkowników w usłudze wiadomości z powodu błędnego wykrycia obrazów opartych na siatce jako zawierające szkodliwe treści. W weekend pojawiły się doniesienia, że luka w narzędziach do moderacji AI Discorda sprawiła, że usługa błędnie wykrywała obrazy kwadratowej siatki jako zawierające CSAM.

"Nasze systemy oznaczają treść, dopasowując ją do znanych szkodliwych materiałów. Tego typu dopasowanie podobieństwa może prowadzić do fałszywych alarmów, dlatego członek naszego zespołu ds. Zaufania i Bezpieczeństwa zawsze przegląda oznaczone treści przed podjęciem jakichkolwiek działań" – wyjaśnił Discord w wątku na Twitterze/X. Stwierdzono, że głównym celem oznaczonych treści jest wstrzymanie przesyłania, a nie całkowite banowanie użytkownika.

To właśnie błąd powodował te bany, a konta dotknięte tym błędem zostały przejrzane i przywrócone. Discord ujawnia, że od maja tego roku błąd dotknął ponad 8 000 kont, ale wszystkie zostały odblokowane.

"Wiemy, że to nie jest satysfakcjonujące wyjaśnienie, jeśli to była twoja relacja, i powinnyśmy byli to zauważyć wcześniej. Pracujemy nad lepszymi zabezpieczeniami, aby to nie powtórzyło się po cichu, a szerzej nad tym, by nasze systemy bezpieczeństwa nie karały osób, które nic złego nie zrobiły," napisał Discord.

Więc jeśli czekałeś, by pochwalić się swoim ekwipunkiem diamentów w Minecraft, ale nie chciałeś zostać zbanowany przez błąd, teraz wygląda na to, że funkcje rozpoznawania wzorców na Discordzie zostały dopracowane, by uniknąć niesłusznych banów.