Промпт — не контракт: замерил, как часто модель нарушает жёсткие правила, и вынес их в код
У меня в проде работает ИИ-консультант на сайте. У него есть два правила, которые нарушать нельзя вообще: не называть цены и не называть клиентов, которые под NDA. Оба правила были написаны в системном промпте капслоком, с объяснением почему.Я зам...
Читать полный текст в источникеhabr.com — habr.com
Материал собран автоматически из открытых RSS-источников. Пересказ приведён в информационных целях в соответствии со ст. 1274 ГК РФ с указанием первоисточника; полное воспроизведение не осуществляется. Мнения авторов оригинала не обязательно отражают позицию ООО «АЛТЕЯ». Все источники проверены по реестру СМИ-иноагентов Минюста РФ (255-ФЗ).
Ещё по теме
Индустрия
Что такое JailBreak-атаки: почему ИИ нарушает собственные правила и как это работает
22.09.2026, 14:00 МСК
Индустрия
Как я строю нейросимвольное извлечение условий из тендерных документов
22.09.2026, 13:39 МСК
Индустрия
ИИ-агент как цифровой сотрудник: где возникают риски и как их ограничить
22.09.2026, 13:01 МСК
Индустрия
Intel запатентовала технологию корпусирования на стеклянной подложке с использованием микросветодиодов
22.09.2026, 11:19 МСК