Европейский Союз инициирует расследование против платформы X (бывший Twitter) из-за распространения сексуализированных изображений, созданных ИИ
После наложения штрафа в размере 140 миллионов долларов на компанию Илоны Маска — X — за нарушения Закона о цифровых услугах (DSA), Европейский Союз объявил о начале официального расследования платформы. Это расследование может привести к новым значительным штрафам, поскольку регулирующие органы пытаются выяснить, соответствовала ли X требованиям по сдерживанию распространения сексуализированных изображений, сгенерированных искусственным интеллектом.
На пресс-конференции представитель ЕС Томас Регнье заявил: «Мы считаем, что X может нарушать нормы DSA. За последние недели и месяцы на платформе было замечено антисемитское содержание, возникли случаи недобровольных дипфейков женщин, а также материалов сексуального насилия в отношении детей». Эти утверждения подчеркивают растущую обеспокоенность европейских властей в связи с тем, как социальные сети справляются с контентом, созданным с помощью новых технологий.
Первоначальное расследование, начатое в конце 2023 года, касалось предполагаемых нарушений со стороны X в области прозрачности и рекламы. Однако спусковым крючком для недавнего расследования стало резкое увеличение запросов на создание изображений с помощью ИИ. В особенности, начиная с новогодней ночи, когда Маск предложил боту Grok создать изображение, на котором он изображен в бикини, общественное внимание к данной теме резко возросло.
В период с 31 декабря по 8 января Grok обработал более 4,4 миллиона запросов на создание изображений. Для сравнения, за девять дней до этого было зарегистрировано всего около 300,000 запросов. Согласно данным Центра противодействия цифровой ненависти, из выборки в 20,000 сгенерированных изображений, 65% имели сексуализированный характер. Около 0.5% из этих изображений, по оценкам экспертов, были вероятно изображениями детей.
В ответ на критику X объявила о намерении остановить генерацию сексуализированных изображений с помощью Grok. В своем сообщении компания утверждала, что принимает «меры против незаконного контента на платформе, включая материалы сексуального насилия в отношении детей (CSAM), путем их удаления, постоянного приостановления аккаунтов и сотрудничества с местными властями и правоохранительными органами». Примечательно, что, согласно закону США о «Снять это», вступившему в силу в прошлом году, запрещается размещение или угроза размещения «интимных изображений» без согласия лица, что также подчеркивает необходимость строгих мер против подобного контента на платформах.
Рост использования ИИ в генерации контента вполне может обострить проблемы регулирования и уровня ответственности социальных сетей. Например, по последним данным, лишь около 27% пользователей социальных медиа уверены, что компании принимают достаточные меры для защиты от распространения вредного контента. Это явление подтверждает необходимость более жесткого контроля и прозрачности работы подобных платформ, особенно в свете высоких рисков, связанных с несанкционированным и потенциально опасным контентом.
По мере того как регуляторы продолжают искать способы урегулирования использования ИИ на платформах, последствия подобных расследований могут оказать длительное влияние на будущее социальных медиа и их роль в обществе.
