2025-04-05 16:15:20 +0200
Недавний инцидент с приложением для фотографий Apple вызвал бурные обсуждения, когда одно из изображений пожилой женщины было ошибочно идентифицировано как собака. Эта ситуация еще раз поднимает вопрос о том, как алгоритмы машинного обучения справляются с различиями в расе и внешности.
Ключевыми словами, которые описывают две важные части жизни автора – это "добрый", "заботливый" и "щедрый". Одной из этих частей является его покойная бабушка Анна, а другой – собака его жены по кличке Бакаи. Тем не менее, похоже, что для алгоритмов Apple их сходство оказалось слишком велико.
Семья автора не знает точного возраста Анны на момент ее смерти, так как свидетельства о рождении в начале 20 века в Гане часто выдавались с большим опозданием или вовсе отсутствовали. Однако, она дожила до получения обычной открытки от Ее Величества Королевы для столетних юбиляров, что подтверждает ее рождение в Гане до обретения независимости.
Эта ситуация поднимает важный вопрос: компании, использующие машинное обучение, все еще сталкиваются с трудностями при правильной идентификации чернокожих людей. Примером тому является скандал, когда Google 10 лет назад ошибочно назвал афроамериканскую пару гориллами, что привело к необходимости извинений и обновления программного обеспечения.
Сегодня мы наблюдаем аналогичную ситуацию, и это не только неприятно, но и опасно, поскольку подобные ошибки могут нести оскорбительный подтекст.
Автор, работая над фотографией своей бабушки, намеренно выделил ее темные тона кожи, чтобы подчеркнуть историю ее долгой и насыщенной жизни, но эти художественные приемы, вероятно, и стали причиной неверной идентификации Apple.
Что касается Бакаи, он явно собака и радовал автору личным общением. Каждое обращение к фото собак приводит к ошибке, когда на экране оказывается изображение Анны.
Автор не требует компенсации от Apple, но призывает к исправлению алгоритмов, чтобы предотвратить подобные ошибки в будущем. "Моя бабушка не собака. Она была столетней женщиной с мудростью, вместившей в себя множество жизненных испытаний" - говорит он в заключении, подчеркивая необходимость в более умном и точном распознавании в технологиях.
