xAI запретил генерацию откровенных фото в X через Grok

Стартап xAI Илона Маска ограничил возможности нейросети Grok в соцсети X. После недавнего скандала разработчики отключили функцию генерации откровенных изображений реальных людей.

Фирма принимает меры по удалению CSAM-контента и наготы, а также в отношении нарушающих правила X пользователей. Она сообщит в правоохранительные органы о тех, кто пытается найти подобные материалы.

Создание картинок и возможность их редактирования через аккаунт Grok на платформе X теперь доступны только премиум-пользователям. Благодаря этому в xAI надеются привлечь к ответственности лиц, которые злоупотребляют возможностями чат-бота.

Разработчики назвали ограничение дополнением к текущим протоколам безопасности и анонсировали внедрение дополнительных мер защиты.

Очередной скандал

В начале января Grok попал в очередной скандал из-за возможности создавать изображения обнаженных реальных людей и несовершеннолетних.

Британская организация Internet Watch Foundation отметила, что ее аналитики обнаружили «криминальные материалы» детей в возрасте от 11 до 13 лет, которые предположительно созданы с помощью Grok.

Маск сообщил, что ему неизвестно ни об одном случае применения чат-бота для создания изображений обнаженных несовершеннолетних.

По его словам, чат-бот отказывается создавать незаконный контент. Однако могут быть случаи «враждебных взломов», которые приводят к «неожиданным результатам».

11 января малайзийский регулятор распорядился ввести временные ограничения после «неоднократных неудач X Corp» в устранении рисков, связанных с ИИ-сервисом.

За день до этого Индонезия приостановила доступ к чат-боту из-за аналогичных опасений и вызвала представителей компании для обсуждения вопроса.

Регуляторы ЕС, Великобритании, Бразилии и Индии потребовали расследовать роль Grok в распространении дипфейков.

Коалиция из 28 организаций в сфере защиты цифровых прав, прав женщин и детей призвала глав Apple и Google принять меры и удалить X и чат-бота из магазинов приложений.

Напомним, в январе Grok интегрируют с сетью Пентагона наряду с генеративным ИИ-движком Google.