Проблема создания порнографического контента при помощи ИИ и дипфейков является достаточно распространенной, поскольку такие материалы — это простой способ для шантажа жертв. Вместе с тем даркнет, а также определенные компьютерные навыки позволяют сохранить анонимность и значительно затруднить процесс идентификации злоумышленников. О том, что в Южной Корее за создание сексуальных изображений детей при помощи ИИ осужден мужчина, сообщило издание Korea Herald со ссылкой на местные СМИ. Его приговорили к 2,5 года тюремного заключения за нарушение закона о защите детей и подростков.
В законодательствах различных стран используются разные определения детской порнографии. Как правило, запрещается изображение сексуальных действий с участием реальных детей и подростков, чей возраст ниже определённого порога. Разработав эти критерии, 1СМЕС создал ориентиры, на которые странам следует опираться, принимая законы о борьбе с детской порнографией. Наши Правила сообщества определяют общий кодекс поведения на платформе, помогая сохранять безопасное пространство для пользователей.
Библиотека
Представитель NPCC Иэн Критчли также выразил опасение, что поток реалистичных, созданных с помощью ИИ образов может замедлить процесс выявления настоящих жертв сексуальных домогательств. «Мы всецело поддерживаем усилия правоохранителей по борьбе с теми, кто злоупотребляет нашей продукцией, используя ее в незаконных или злодейских целях», — говорится также в заявлении Stability AI. Однако в прошлом году была выпущена в открытый доступ ранняя версия с открытым кодом, позволяющая пользователям удалять любые фильтры и заставлять программу создавать любые образы, в том числе и противозаконные. Patreon утверждает, что придерживается политики «нулевой терпимости», настаивая на том, что «криэйторы не могут финансировать контент, посвященный сексуальным темам с участием несовершеннолетних». «Я муштрую своих девочек в компьютере», — пишет пользователь одного из таких аккаунтов, добавляя, что они демонстрируют «покорность». Другой пользователь за $8,30 в месяц предлагает «эксклюзивное искусство без цензуры».