Создатели поддельного порно с помощью нейросетей могут понести ответственность за производство порнографических материалов с несовершеннолетними. Об этом сообщил портал Motherboard.
В частности, речь идет о порно с «участием» актрисы Эммы Уотсон. Журналисты отыскали архив для обучения искусственного интеллекта, среди которых — кадры из фильмов о Гарри Поттере, в которых она играла Гермиону Грейнджер. В первых пяти частях серии Уотсон была несовершеннолетней.
В попытке обеспечить свою безопасность один из пользователей удалил весь тред на форуме, посвященный порнороликам с лицом актрисы Эль Фаннинг. «Я удалил все с Эль Фаннинг, потому что невозможно доказать, что ей уже было 18 лет на тех фотографиях. Лучше позаботиться о безопасности, чем потом сожалеть» — объяснил он. Однако в zip-файлах портретных подборок могут содержаться детские фото и других звезд, помимо Фаннинг.
В 2003 году американский Конгресс принял закон, согласно которому детским порно является даже компьютерная симуляция. Впервые нарушителя данного закона приговорили к 30 годам заключения.
В начале 2018 года разработчик алгоритма под ником deepfakeapp опубликовал программу для создания фейковых роликов в открытый доступ. После этого пользователи начали массово публиковать поддельные ролики на популярных ресурсах. Позднее публикации, сгенерированные с помощью deepfake, были запрещены в сервисе Gfycat, на Pornhub, в Twitter и Reddit.