Guardrails для LLM: как устроена защита языковых моделей
Привет, Хабр! Я Антон, инженер по информационной безопасности в Selectel. Представьте новость: защиту GPT-6 Astra обошли обычным транслитом. Сегодня это звучит как фантастика, а вот ранние LLM ломались и на таком. Модель же не знает, кто пере...
Читать полный текст в источникеhabr.com — habr.com
Материал собран автоматически из открытых RSS-источников. Пересказ приведён в информационных целях в соответствии со ст. 1274 ГК РФ с указанием первоисточника; полное воспроизведение не осуществляется. Мнения авторов оригинала не обязательно отражают позицию ООО «АЛТЕЯ». Все источники проверены по реестру СМИ-иноагентов Минюста РФ (255-ФЗ).
Ещё по теме
Индустрия
Roundtables: A Conversation With the Creator of AI-Designed Viruses
09.10.2026, 06:08 МСК
Индустрия
OpenAI, the Partition Principle, and Mathematics
09.10.2026, 05:29 МСК
Индустрия
Pretend you’re sitting at Elizabeth Holmes’ desk on this weirdly detailed website
09.10.2026, 03:00 МСК
Индустрия
Fired OpenAI safety researchers dispute misconduct claims, warn of chilling effect
09.10.2026, 02:04 МСК