Roblox задействует ИИ для модерирования чатов

Roblox внедрила новую систему на основе искусственного интеллекта для модификации пользовательских сообщений в чатах. Эта технология выходит за рамки стандартной фильтрации ненормативной лексики, которая ранее заменяла запрещенные слова символами решетки.

Теперь же сообщения будут автоматически преобразовываться в более вежливые и корректные формулировки, не искажая при этом исходный смысл. В качестве примера, фраза «Hurry TF up!» трансформируется в «Hurry up!», сохраняя призыв к ускорению, но избегая грубости. Пользователи будут уведомлены о каждом случае автоматического редактирования текста, что способствует поддержанию дружелюбной атмосферы в общении.

Функция автоматического изменения сообщений в реальном времени доступна в игровых чатах для пользователей, прошедших проверку возраста и принадлежащих к схожим возрастным группам. Ранее в текущем месяце Roblox представила функцию подтверждения возраста для доступа к внутриигровым чатам. После успешной верификации пользователи могут общаться с другими игроками, чьи возрастные категории близки к их собственной. Так, например, игроки в возрасте 9-12 лет могут вести переписку с теми, кому от 13 до 15 лет.