История с фотографиями

Сразу стоит заметить, что произошло все еще в 2021 году – в разгар пандемии COVID-19. Мужчина не смог обычным образом отвести сына к врачу и обратился к нему через Интернет. Медсестра для того, чтобы собрать максимальное количество данных, попросила мужчину сделать подробные фото паховой зоны сына.

Не пропустите Искусственный интеллект позволил умершей женщине "пообщаться" с людьми, посетившими ее похороны

После того как фото были загружены в облачное хранилище, алгоритмы Google приступили к работе, однако все закончилось не очень хорошо. Искусственный интеллект Google идентифицировал фото как материалы сексуального насилия над детьми (CSAM) и представил отчет в Национальный центр пропавших без вести и эксплуатируемых детей (NCMEC). Это привело к расследованию полиции.

Через два дня после загрузки фотографий Google закрыла все аккаунты отца, включая аккаунт Google Fi. Представители компании позвонили Марку (имя отца), чтобы сообщить ему, что фото его сына идентифицировано как "вредный контент", который рассматривается как "серьезное нарушение политики компании и может быть незаконным". Позже отец также узнал, что Google обозначил еще видео на его телефоне, и полиция Сан-Франциско начала расследование.

В конце концов с Марка были сняты все обвинения в противоправных действиях, и сейчас полиция не имеет к нему никаких вопросов. Однако в Google не спешили не то что извинится, а хотя бы принять какие-либо меры, по восстановлению аккаунта мужчины. Так, аккаунты Марка в Google до сих пор заблокированы.

Реакция Google на ошибку

Представитель компании отметил следующее:

Мы придерживаемся законодательства США в определении того, что такое сексуальное насилие, и используем сочетание технологии, сопоставление хешей и искусственного интеллекта, чтобы идентифицировать его и удалить с наших платформ.

Также он отметил, что сотрудники Google, работающие над ситуациями CSAM, проходят обучение от медицинских экспертов, чтобы понять, где на фото могут быть высыпания и другие проблемы в щекотливых областях. В то же время представитель Google подчеркнул, что ни один из сотрудников не врач, а медицинских экспертов не привлекают к каждому случаю.

Читайте на сайте Украинский стартап продает кадры войны и помогает пострадавшим украинцам

Стоит отметить, что компания Google по закону США обязана отчитываться о случаях потенциального насилия над детьми. В прошлом году Google сообщил о 621 583 случаях. Из этих случаев 4260 было передано в полицию для дальнейшего расследования.

Конечно, это не дает ему права фактически продолжать преследование человека после того, как с него сняли все обвинения. Остается важный вопрос, почему Google не спешит признавать свою ошибку и восстанавливать пользовательские данные и когда она собирается это сделать.