Lamoda ввела новые правила для ИИ-примерки — сервис блокирует обработку фото детей
Платформа внедрила две модели искусственного интеллекта для проверки загружаемых изображений
Lamoda ввела дополнительные правила безопасности для сервиса онлайн-примерки одежды с помощью искусственного интеллекта, сообщила Russian Business пресс-служба компании. Теперь загружаемые фотографии проходят проверку двумя моделями ИИ. Они определяют возрастной контекст и наличие чувствительного контента.

Система определяет вероятный возраст и может ошибаться
Проверка фотографий проходит до запуска виртуальной примерки. Если система обнаруживает признаки детского изображения или чувствительного контента, обработка блокируется.
Для проверки используются две отдельные модели искусственного интеллекта:
- первая анализирует возрастной контекст;
- вторая — наличие чувствительного контента.
Определение возраста работает по вероятностному принципу, поэтому система может ошибаться. Lamoda учитывает эту особенность при настройке ограничений, сообщили в компании.
Онлайн-примерка не рассчитана на пользователей младше 12 лет.
Компания ранее внедрила модерацию детских фотографий в отзывах
Новые правила безопасности для онлайн-примерки стали очередным этапом кампании #страшноважно, которую Lamoda развивает с 2023 года совместно с АНО «Тебе поверят».
Ранее компания и эксперты организации разработали рекомендации по использованию детских фотографий в каталогах и распространили их среди участников модной индустрии. Кроме того, Lamoda внедрила модерацию изображений детей в пользовательских отзывах.
«По мере развития ИИ ответственность появляется и на стороне технологий. Нам важно, чтобы сервис сам учитывал контекст, в котором работает, и имел понятные границы допустимого», — заявила управляющий директор по продукту и данным Lamoda Татьяна Умряева.
По её словам, важно, чтобы технологические сервисы не создавали небезопасных сценариев для детей.
