MY.UAНовости
Объявили охоту на троллей: ученые создали инструмент, находящий зашифрованные оскорбления
Объявили охоту на троллей: ученые создали инструмент, находящий зашифрованные оскорбления

Объявили охоту на троллей: ученые создали инструмент, находящий зашифрованные оскорбления

В Интернете люди довольно часто не брезгуют прибегать к грубостям из-за безнаказанности и легкости обхода защиты от них. Стремясь обезопасить людей от таких представителей кибер-пространства, ученые разработали уникальный инструмент-ловушку для оскорблений.

Токсичность в Интернете развивается по мере того, как люди находят способы обходить системы модерации, при этом чувствуя полную безнаказанность. Маскируя вредоносный контент с помощью таких приемов, как замена букв цифрами, объединение слов или добавление пробелов и символов при написании оскорблений, злонамеренные пользователи обходят традиционные фильтры, основанные на ключевых словах, и разносят негатив по всемирной паутине, с чем решили побороться ученые, пишет The Conversation.

У Фокус.Технологии появился свой Telegram-канал. Подписывайтесь, чтобы не пропускать самые свежие и увлекательные новости из мира науки!

Такое поведение и изобретательность злоумышленников представляют собой серьезную проблему для онлайн-платформ, особенно для уязвимых групп, которые в несоразмерной степени страдают от такой тактики, говорит Джонни Чан, преподаватель школы бизнеса, в Оклендском университете. В ответ на эти изощренные методы им и его командой был разработан новый инструмент, который улучшает существующие системы защиты от интернет-грубиянов. Этот инструмент не заменяет существующие фильтры, а предварительно обрабатывает текст, удаляя манипулятивное форматирование, что облегчает обнаружение вредоносного контента, говорится в исследовании, опубликованном в журнале MethodsX.

Его процесс включает упрощение текста путем удаления лишних символов, стандартизацию вариаций, таких как опечатки, и выявление шаблонов, маскирующих оскорбительные слова. Благодаря такому комплексному подходу скрытая токсичность становится более прозрачной для автоматизированных инструментов модерации, что повышает их эффективность, говорят авторы. Применение этого инструмента в различных онлайн-средах дает широкие социальные преимущества и защиту для миллионов людей. Платформы социальных сетей могут обеспечить более безопасное пространство, минимизируя воздействие скрытых оскорблений, что очень важно для защиты молодых и более уязвимых пользователей от онлайн-издевательств, говорит Чан.

Для бизнеса же эта система служит защитой от скрытых клеветнических кампаний, позволяя оперативно принимать меры по защите репутации бренда. Политики и организации, заботящиеся о поддержании здоровой общественной дискуссии, также могут использовать этот инструмент для поддержания уважительных диалогов, особенно в жарких или деликатных дебатах.

Эта инновация представляет собой значительное достижение в области модерации контента. Она показывает, как постепенные улучшения в выявлении тонких проявлений токсичности могут оказать глубокое влияние на повышение безопасности онлайн-взаимодействия людей и улучшение психологического состояния подростков и детей, сидящих в Интернете. По мере развития цифрового общения будущие разработки могут включать в себя более тонкий анализ контекста, учитывающий динамику разговора, культурные нюансы и намерения, тем самым рассматривая не только то, что сказано, но и то, как и почему это выражено.

Путь совершенствования систем онлайн-модерации продолжается и является очень важным, считают авторы. Будущие инструменты, вероятно, будут включать в себя расширенное понимание контекста, что позволит более эффективно распознавать тонкости человеческого общения. Интегрировав эти инструменты в существующие системы модерации, платформы могут рассчитывать на снижение уровня незамеченной токсичности, создавая более благоприятную онлайн-среду и сообщества.

Также Фокус писал о том, как благодаря ученым из Университета Нагои в Японии, стало известно о еще одном способе контроля негативных эмоций.

Теги по теме
дослідженнянаука
Поделиться
Поделиться сюжетом
Источник материала
Коли в Україну прийде потепління: синоптикиня назвала точну дату
GlavRed
2025-04-07T12:27:46Z
У лікарні після бойового поранення помер митець з Франківська Геннадій Гаврилів
УкраинФорм
2025-04-07T12:19:58Z
У Музеї історії Києва відкриють артінсталяцію з орігамі-птахів
УкраинФорм
2025-04-07T12:19:53Z
У Львові відкрили новий Центр ментального здоров'я
УкраинФорм
2025-04-07T12:19:46Z
Київ засипало снігом: у мережі публікують кадри незвичної для весни погоди
24tv
2025-04-07T12:18:09Z
У Києві та низці областей оголошено повітряну тривогу через загрозу балістики
Antikor
2025-04-07T12:16:39Z
ЗСУ влаштували пастку росіянам біля Андріївки: Наєв показав відео успішної операції
24tv
2025-04-07T12:16:28Z
"Усі намагання росіян були зруйновані": у Силах оборони розповіли про ситуацію в Торецьку
24tv
2025-04-07T12:09:33Z
ЗС РФ захопили більшу частину Лисівки і Дачного: боєць про бої на Покровському напрямку
Фокус
2025-04-07T12:06:23Z
Пєсков заявив, що зупинити удари по Україні заважають питання, що “висять у повітрі”
Комсомольская правда
2025-04-07T12:28:59Z
Ізраїль завдав удару по наметах неподалік лікарень у Газі - вбиті та поранені журналісти
УкраинФорм
2025-04-07T12:28:20Z
ЗМІ: у ЄС немає чіткого плану щодо українських біженців у разі перемир'я у війні
Европейская правда
2025-04-07T12:24:33Z
Депутат Костенко розповів про очікування від «Рамштайну»
УкраинФорм
2025-04-07T12:24:08Z
Президент підписав скандальний закон, петиція проти якого зібрала потрібні 25 тис. голосів
ГЛАВКОМ NET
2025-04-07T12:22:25Z
У Фінляндії бачуть потребу у "чіткій дорожній карті" у разі зміни в армії США в Європі
Европейская правда
2025-04-07T12:19:28Z
Китай розслідує справу сина «економічного царя»: у справі з'явився слід Сі Цзіньпіна
ГЛАВКОМ NET
2025-04-07T12:18:26Z
Від перемир’я до невизначеності: що чекає на біженців з України в ЄС
Vlasti
2025-04-07T12:18:02Z
Трамп заявив про відсутність інфляції в США та про багатомільярдні доходи від мит: "Ціни знижуються"
Antikor
2025-04-07T12:16:40Z
На Бориса Джонсона напали на очах п'ятирічного сина - що трапилося
GlavRed
2025-04-07T12:27:47Z
Навіщо 8 квітня притискатися до дерева: яке свято, прикмети
GlavRed
2025-04-07T12:27:40Z
На місці удару Росії по Кривому Розі відслужили панахиду за загиблими
24tv
2025-04-07T12:24:06Z
Україні буде необхідно набагато більше, ніж 25 тисяч військових з Європи — Bloomberg
ZN UA
2025-04-07T12:18:33Z
Гойдалки з іграшками і квітами: у Кривому Розі ховають вбитих російською ракетою дітей
TSN
2025-04-07T12:16:00Z
Золота дитина: Кривий Ріг прощається з 9-річним Германом Тріпольцем, якого вбила Росія
24tv
2025-04-07T12:06:14Z
Не всі військові частини йдуть на контакт - родини загиблих і зниклих безвісти звернулися до влади
УкраинФорм
2025-04-07T12:04:01Z
Що відомо про суперсучасні винищувачі F-47
InternetUA
2025-04-07T12:01:19Z
Шоу «Вік на вік» на Новому та Dizel Show на ICTV2. Як дивилися телеканали 17—23 березня 2025 року
Детектор М
2025-04-07T12:01:00Z
Живопис війни й життя: що показують на виставці «Мистецтво жити»
ZN UA
2025-04-07T12:19:46Z
Актора серіалу «Гра в кальмара» засудили до одного року ув'язнення за сексуальні домагання
Детектор М
2025-04-07T12:16:18Z
Роблять оселю дорогою на вигляд: 3 вдалі поєднання кольорів
24tv
2025-04-07T12:15:10Z
Вийшов саундтрек до фільму «Киснева станція»
УкраинФорм
2025-04-07T12:04:36Z
Мене це бісить, – Євгенія М'якенька висловилася про відомих чоловіків, які виїхали за кордон
24tv
2025-04-07T11:54:31Z
«Тепер ти супергерой»: нові кадри 2 сезону «Миротворця» і офіційна дата релізу
ITC
2025-04-07T11:43:38Z
Ziferblat виступив на промоконцерті до «Євробачення-2025» в Амстердамі
Детектор М
2025-04-07T11:43:01Z
Буданов розкрив героя, яким надихнувся в дитинстві: через кого глава ГУР став розвідником
24tv
2025-04-07T11:27:37Z
Відомий британський скрипаль висловив підтримку Україні
УкраинФорм
2025-04-07T11:27:01Z
За жорстоке побиття військовослужбовця 41-річного мешканця Кам’янки-Бузької засуджено до реальної міри покарання
Украина Криминальная
2025-04-07T12:16:47Z
У Росії банда 7 років викрадала жінок у сексуальне рабство. У групі були свої «силовики» та «кадровики»
Украина Криминальная
2025-04-07T12:03:54Z
Мобілізація в Запоріжжі: обмежено придатного чоловіка засудили до суворого покарання
Политека
2025-04-07T11:57:05Z
В центрі Києва поруч з станцією метро "Олімпійська" чули вибух
Khreschatyk
2025-04-07T11:51:38Z
У Карпатах врятували двох чоловіків, які 8 діб шукали "короткий шлях" через кордон
Комсомольская правда
2025-04-07T11:49:19Z
Підпал автомобіля у Голосіївському районі столиці – зловмисника затримано
Украина Криминальная
2025-04-07T11:48:45Z
Вибух у центрі Києва: чоловіка, який підпалив автомобіль, затримали небайдужі перехожі
Antikor
2025-04-07T11:45:17Z
У Румунії розбився автобус з молдовськими номерами, є загиблі
Европейская правда
2025-04-07T11:33:12Z
На Миколаївщині прокурор отримав дисциплінарне стягнення: «привітав» поліцейських з днем контрацепції
Antikor
2025-04-07T11:30:43Z
Ціни на продукти в Україні злетять: Марчук розповів, скільки коштуватимуть популярні товари
GlavRed
2025-04-07T12:27:44Z
Деякі пенсіонери втратять понад 2000 гривень у 2025 році – деталі
GlavRed
2025-04-07T12:27:04Z
Нафтовий шок для Кремля: ціни на Urals впали до 50 доларів за барель
Telegraf
2025-04-07T12:24:43Z
Трамп хоче від Європи фінансових репарацій
iPress
2025-04-07T12:18:22Z
Ціни б’ють всі рекорди: в Україні стрімко дорожчає важливий продукт
GlavRed
2025-04-07T12:15:59Z
Чи вдарить по Росії зниження світових цін на нафту: економіст пояснив
TSN
2025-04-07T12:15:42Z
Як змінився прибуток найкращих IT-компаній в Україні за рік: статистика
ГЛАВКОМ NET
2025-04-07T12:03:17Z
Аграрії закликають Зеленського швидше підписати закон про кредитні канікули
AgroPortal
2025-04-07T12:00:12Z
Інфляції немає, США вже отримують мільярди – Трамп про нові мита
ZN UA
2025-04-07T11:55:54Z
Трубін – про перемогу над Порту: Матч, для якого не потрібна була додаткова мотивація
Football.ua
2025-04-07T12:28:05Z
Гімнастка Онофрійчук провела феноменальний етап Кубка світу в Болгарії, здобувши три "золота"
24tv
2025-04-07T12:24:31Z
Мбаппе: Є непогані пропозиції, але я думаю тільки про Реал
Football.ua
2025-04-07T12:19:54Z
Український "Фауст" розповів, завдяки чому здолав ветерана боксу із США
24tv
2025-04-07T12:15:14Z
Арсенал спробує зупинити Реал без Луніна: прогноз на супербій в Лізі чемпіонів
24tv
2025-04-07T12:03:52Z
Українці розсудять матчі основного раунду відбору Євро-2026 із футзалу
УкраинФорм
2025-04-07T12:00:36Z
Беленюк пообіцяв зробити з Довбика чемпіона Італії з греко-римської боротьби
ГЛАВКОМ NET
2025-04-07T12:00:18Z
Мак Аллістер: Чимало людей стверджують, що сезон завершено, але в роздягальні ми усвідомлюємо, що це не так
Football.ua
2025-04-07T11:58:20Z
Повідомили імʼя боксера, якого Дюбуа розгромить у ринзі - ним став колишній опонент Усика
Gazeta UA
2025-04-07T11:57:22Z
Де серце серед фламінго: складна загадка для людей з високим IQ
GlavRed
2025-04-07T12:27:07Z
Причина – парадоксальна: суд заборонив Закопане стягувати з туристів збір
24tv
2025-04-07T12:18:47Z
Як зупинити птахів від гніздування в небажаних місцях
24tv
2025-04-07T12:15:50Z
Сакура – ​​це вишня чи слива? Ви багато чого не знаєте про це красиве дерево
Telegraf
2025-04-07T12:09:51Z
Як відрізнити справжнє золото і срібло від підробки?
Мій Харків
2025-04-07T11:58:03Z
Куди треба наносити парфуми, щоб довше трималися: ви точно цього не знали
24tv
2025-04-07T11:54:43Z
Як захистити дерева від шкідників: які засоби використовувати
GlavRed
2025-04-07T11:27:59Z
Ніколи не говоріть ці 5 слів: вони притягують бідність та борги
24tv
2025-04-07T11:27:02Z
Такої ви ще точно не пробували: сирна паска без випічки з фруктовою начинкою
24tv
2025-04-07T11:24:27Z
Учені знайшли причину виверження вулканів на найгарячішій планеті Сонячної системи
Фокус
2025-04-07T12:27:54Z
Розкрито таємницю найбільшого айсберга Антарктиди: відомі глибинні шляхи його впливу на Землю
Фокус
2025-04-07T12:27:12Z
inZOI продалась мільйоном копій за перший тиждень
24tv
2025-04-07T12:18:42Z
Смартфон працюватиме довше: 5 способів скоротити використання даних на Android
Фокус
2025-04-07T12:16:11Z
Головоломка-тест для найуважніших: знайдіть кота за 5 с
Gazeta UA
2025-04-07T12:12:21Z
Португальська Defense Tech компанія TEKEVER відкриває представництво в Україні. Зокрема планують розширити штат і створити навчальні центри
AIN
2025-04-07T12:00:14Z
Passion UA - Мій новий девіз: DemQQ долучається до клубу Зінченка
Корреспондент
2025-04-07T11:49:25Z
OPPO тестує планшет із величезним дисплеєм
InternetUA
2025-04-07T11:46:52Z
Болівар очолить атаку Колоса в грі проти Руху
Football.ua
2025-04-07T11:46:42Z
Вітаміни які допоможуть зупинити випадіння волосся
360ua.news
2025-04-07T12:00:32Z
Стан стабільно важкий: у Львові рятують 73-річного чоловіка з лептоспірозом
Факти ICTV
2025-04-07T11:52:43Z
Вчені знайшли новий ресурс для антибіотиків — він «сховався» в організмі людини
ITC
2025-04-07T11:43:09Z
Всесвітній день здоровʼя: ВООЗ оголосила кампанію задля покращення життя жінок і дітей
Факти ICTV
2025-04-07T11:13:36Z
Чи можна повністю відмовитись від мʼяса без ризиків для здоровʼя
24tv
2025-04-07T11:03:48Z
Ексцентричні вправи покращують здоров'я та потребують всього 5 хвилин на день: про що мовиться
24tv
2025-04-07T10:21:58Z
Що підвищує ризик деменції, інсульту та депресії: 17 важливих чинників
ГЛАВКОМ NET
2025-04-07T10:21:52Z
Звʼязок розуму та тіла: голодування може змінити імунну систему через реакцію мозку
24tv
2025-04-07T09:42:01Z
Майже ₴3 млн. збитків під час закупівлі рентген-апаратів для госпіталю на Черкащині – судитимуть посадовців ОДА та медзакладу
Украина Криминальная
2025-04-07T09:34:24Z
Jaguar Land Rover призупиняє експорт усіх автомобілів до США
Топ Жир
2025-04-07T12:15:04Z
Новий седан Audi A6 2025 показали до презентації
Фокус
2025-04-07T12:04:37Z
Аналог VW Caddy: на аукціон виставили незвичний 90-річний Rolls-Royce
Фокус
2025-04-07T12:00:07Z
Без попередження: електропікап Tesla Cybertruck втратив важливу опцію
AutoGeek
2025-04-07T11:15:22Z
Caterpillar презентує на Bauma 2025 цікаві новинки
AutoCentre
2025-04-07T11:03:15Z
Xiaomi святкує 15 років
Portaltele
2025-04-07T10:43:59Z
Виробник Jaguar та Land Rover призупиняє постачання авто до США через нові мита
AIN
2025-04-07T10:30:04Z
Від $48 990: Tesla Model Y Juniper запустили у продаж
AutoGeek
2025-04-07T10:21:41Z
Польські тюнери створили G-Class для Барбі
AutoCentre
2025-04-07T10:16:10Z