Геймеры сдают мощности GPU в аренду для создания порно с участием искусственного интеллекта в обмен на скины для Fortnite
Если вы - геймер, предоставляющий свои мощности GPU компании, занимающейся облачными вычислениями под названием Salad, то велика вероятность того, что они используются для создания контента для взрослых, генерируемого искусственным интеллектом, в обмен на валюту и предметы из видеоигр. Да, вы все правильно поняли.
Согласно отчету 404 Media, компания Salad нашла умный способ увеличить масштаб генерации ИИ-контента, включая изображения, видео и текст, передав тяжелую вычислительную работу мощным графическим процессорам, установленным в игровых платформах. Геймеры, которые подписываются на "аренду" своих неработающих GPU, получают за это цифровые товары, такие как косметика Fortnite, кредиты Roblox, скины Minecraft и другие вознаграждения, связанные с играми, через магазин Salad.
Это легкие деньги - мощные видеокарты хорошо подходят для вычислительной мощности, необходимой для запуска моделей ИИ, таких как Stable Diffusion, для создания медиа. Но вот в чем загвоздка: часть ИИ-контента, который Salad генерирует с помощью арендованных мощностей GPU, - это контент для взрослых.
При регистрации Salad предоставляет пользователям возможность отказаться от участия в создании откровенного контента для взрослых. Однако, как сообщается, модератор Discord'а компании утверждает, что по умолчанию у всех участников установлен отказ от участия, а в некоторых странах включение данной опции не допускается из-за местных законов. На сайте Salad также говорится, что пользователи, которые не генерируют контент для взрослых, могут зарабатывать меньше денег.
"Возможно, в некоторых случаях вы будете зарабатывать немного меньше, если у нас будет высокий спрос на определенный контент для взрослых, но мы не планируем делать такие компании основой нашей бизнес-модели", - говорится в выдержке из FAQ.
Настоящая подлость проявляется в причастности Salad к Civitai, платформе, на которой происходит обмен моделями ИИ и генерируются изображения. 404 Media отмечает, что Civitai и раньше позволяла генерировать порно без согласия, включая один особенно тревожный случай, когда сгенерированные ИИ изображения "могли быть классифицированы как ****** порнография", проскользнувшая от другой компании, работающей с Civitai.
Ни компания Salad, ни Civitai не стали уточнять, насколько распространено создание контента без согласия и нелегального контента среди той порнографии, которая создается искусственным интеллектом. Но, учитывая послужной список Civitai и масштабы непрозрачных вычислительных мощностей, которые использует Salad, вполне возможно, что создаются какие-то некачественные материалы, о которых не знают геймеры, чьи GPU берутся напрокат.
Эта мрачная ситуация свидетельствует о более серьезных этических проблемах, возникающих при коммерческой разработке ИИ - компании спешат заявить о себе и расширить масштабы без соответствующих гарантий, прозрачности и мер ответственности.
404 Media предположила, что Salad по умолчанию помечает все задания с изображениями Stable Diffusion как "контент для взрослых", потому что на самом деле не может проверить, что генерируют отдельные пользователи.
Так что, хотя вы, возможно, просто надеетесь получить несколько бесплатных наборов для Fortnite, предоставив свой графический процессор облачной сети Salad, есть вероятность, что за кулисами ваше оборудование занимается цифровым развратом.
Источник: techspot.com