Не доверяйте создание паролей нейросетям

Пару дней назад вышла статья, которую на хаб никто не принес, а значит придётся это сделать самому. Переводить весь текст смысла не вижу т.к. в краткой выдержке содержатся все достойные внимания факты, а подробности уже лучше читать в оригинале.

• Пароли, сгенерированные LLM (непосредственно самой LLM, а не агентом с использованием инструмента), выглядят надежными, но по сути своей небезопасны, поскольку LLM предназначены для предсказания токенов, что противоположно безопасной и равномерной выборке случайных символов.
• Несмотря на это, сгенерированные LLM пароли встречаются в реальном мире: они используются реальными пользователями и незримо выбираются кодирующими агентами в рамках задач по разработке кода вместо того, чтобы полагаться на традиционные безопасные методы генерации паролей.
• Авторы протестировали самые современные модели и агенты и проанализировали надежность генерируемых ими паролей. Как подробно описано в этой публикации, эти результаты выявляют предсказуемые паттерны в символах паролей, повторяющиеся пароли, а также пароли, которые гораздо слабее, чем кажутся.
• Авторы рекомендуют пользователям избегать использования паролей, сгенерированных LLM, разработчикам - указывать кодирующим агентам применять безопасные методы генерации паролей при необходимости, а лабораториям ИИ - обучать свои модели и настраивать своих кодирующих агентов на использование безопасной генерации паролей по умолчанию.

Источник: материал https://www.irregular.com/ - Vibe Password Generation: Predictable by Design

От себя: фундаментальная природа ии так и остаётся загадкой для слишком многих - это забавно само по себе.