Реакція компанії на інцидент

Facebook вже ініціював службове розслідування щодо цього інциденту та перепросив наголосивши, що це "неприпустима помилка". Компанія пообіцяла розібратися та зробити все можливе, щоб у майбутньому уникнути аналогічних ситуацій.

До теми Це не жарт, а нова реальність: Facebook запустив сервіс для молитв онлайн і викликав обурення

Представники компанії попередньо призупинили механізм, який надає рекомендації ШІ-алгоритму, щодо маркування відео.

Як ми вже зазначали, попри те, що ми працюємо над поліпшенням штучного інтелекту, ми знаємо, що він недосконалий і нам ще належить багато роботи. Ми просимо вибачення в усіх, хто міг побачити ці образливі рекомендації,
– прокоментувала ситуацію прессекретар Facebook Дені Левер.

Про яке відео мовиться

Улітку, 27 червня, на сторінці у профілі The Daily Mail з'явилося відео у якому демонструються сутички темношкірих чоловіків з цивільними особами та поліцейськими. Відео не мало жодного стосунку до приматів.

Video
Скриншот відео з помилкою ШІ-алгоритму Facebook / 24 канал

Аналогічні ситуації з алгоритмами на базі штучного інтелекту

Раніше неодноразово були зафіксовані випадки расизму з боку штучного інтелекту.

  • Так, у 2015 році сервіс Google Фото позначив кілька знімків з темношкірими людьми як зображення "горили", за що Google довелося перепрошувати. Тоді ж було оголошено, що компанія буде працювати над негайним усуненням проблеми.
  • Більше ніж через два роки було встановлено, що Google вирішила питання шляхом цензурування слова "горила" у пошукових запитах, а також часткового блокування слів "шимпанзе" та "мавпа".

Цікаво Instagram зобов'яже вказувати вік під загрозою блокування: чесність перевірить штучний інтелект

Варто зазначити, що техногіганти Google, Amazon та інші компанії вже багато років перебувають під пильним спостереженням через упередженість своїх алгоритмів, особливо у расових питаннях.