"Белые против черных": алгоритм YouTube заблокировал канал о шахматах за расизм

Искусственный интеллект YouTube заблокировал канал шахматного видеоблогера Антонио Радича, вероятно, приняв обсуждение партии за расистские оскорбления.

Один из самых популярных шахматных каналов на YouTube, который ведет хорватский шахматист-любитель Антонио Радич, был заблокирован летом «за вредоносный контент» после публикации видео с гроссмейстером Хикару Накамурой.

Техподдержка канала отказалась объяснить причины блокировки, и канал был восстановлен через 24 часа. Однако за дело взялись компьютерщики из Университета Карнеги — Меллон, рассказывает Daily Mail. Они провели тесты на двух классификаторах речи, использующих ИИ для обнаружения «языка вражды».

Анализ 680 000 комментариев на шахматных каналах YouTube показал, что 82% комментариев, отмеченных ИИ как «вредоносные», не содержали расистских высказываний, зато упоминали термины «черные», «белые», «атака» и «угроза».

«Мы не знаем, какие инструменты использует YouTube, но, если они полагаются на искусственный интеллект для обнаружения расистских высказываний, такие вещи будут продолжать случаться», — сказал один из исследователей, Ашикур ХудаБухш из Института языковых технологий.

YouTube, в свою очередь, не раскрывает своих алгоритмов, но напомнил, что восстанавливает контент, если тот был удален по ошибке. Для этого владелец канала должен обратиться с запросом в техподдержку.

Чуть ранее алгоритм другой соцсети заблокировал снимок «излишне сексуальной» коровы. Известны также курьезные случаи, когда ИИ перепутал с мячом лысую голову футбольного судьи, а на гонках беспилотных автомобилей отправил болид в стену еще до старта.

via

[продолжение]

Комментарий:

Ещё интересное на этом сайте:

Злостная нарушительница
Ружьё в подарок
Они считают себя невероятно крутыми, но все окружающие умирают со смеху от их фото
Рыбак в Индонезии поймал акулу с человеческим лицом
Подборка картинок. Вечерний выпуск (30 фото) - 24.02.2021
Демотиваторы (20 фото) - 24.02.2021
Подборка гифок (25 гифок) - 24.02.2021
Девушка дня
В Находке жаловавшаяся на низкую зарплату врач сообщила об обстреле своей машины
Будни электрика в Таиланде
ВОЗ: "Пандемия коронавируса может закончиться в начале 2022 года"
Необычный "пассажир", который решил прокатиться на автомобиле в Австралии
Чудо-продукт: черепах стали кормить майонезом, чтобы разрушить мазут внутри них
Он заменил собой Шукшина в фильме «Они сражались за Родину». А зрители даже не заметили подмену
Депутат думы Екатеринбурга предложил создать Русскую республику со столицей на Урале
С 8 марта, девочики
Как россияне зимуют в США
Как провожают пилотов на пенсию
Эти фамилии ты запомнишь надолго
Бывший глава ЦРУ обвинил Хрущёва в убийстве Джона Кеннеди

« все анекдоты и картинки