Как заставить ИИ соблюдать закон, не трогая веса. Выкладываем в открытый доступ внешний фильтр для LLM

Дата публикации: 07-07-2026 13:10:22

В прошлом году я уже рассказывал об AVI (Aligned/Agreement Validation Interface) — концепции внешнего, гибкого и независимого от модели фильтра, который работает как умный файрвол для LLM: отбивает промпт-атаки на входе, проверяет ответы модели на токсичность, этичность и нарушение закона — на выходе. Недавно мы доработали свою концепцию с точки зрения архитектуры, реализовали и выложили на GitHub рабочий сервис на Python и FastAPI: входной и выходной фильтры, RAG-модуль, докер-сборку с мониторингом (Prometheus, Grafana, Jaeger), а также инструментарий для воспроизведения экспериментов на FinanceBench. Под катом расскажу, к какой архитектуре системы мы пришли, как сделали так, чтобы новые правила для фильтрации можно было добавлять одной фразой на естественном языке, как AVI показал себя в тестах и как помогает экономить на обучении ИИ-моделей. А по-научному и подробно все описано в журнале MDPI.Electronics (на английском).   Поехали!

Схожие новости

#	Наименование новости	Тональность	Информативность	Дата публикации
1	[Перевод] Когда ИИ-агент ошибается молча: 6 отказов, которые не видно по ответу	0	7	07-07-2026
2	Как желание быстрее читать чужой код превратилось в войну с недетерминизмом LLM	0	5	28-06-2026
3	X. Главное происходит здесь.	0	8	27-06-2026
4	Figma больше не первый инструмент дизайнера. И это не выбор	-5	6	07-07-2026
5	Мой бот назвали «очередным поделием с ИИ». Комментатор прав	-2	6	07-07-2026
6	Как заставить LLM выбирать осмысленные фрагменты из часовой расшифровки: почему «найди интересные моменты» не работает	0	5	28-06-2026
7	Я устал писать одноразовые скрипты для бенчмарков LLM и собрал харнесс, который сам считает Pareto-front	0	7	27-06-2026
8	Plumix: как я переписываю Flutter на C# — вместе с ИИ	5	7	07-07-2026
9	Два способа создания доступного DataPicker'а с помощью AI: 80/20 в пользу AI или системное проектирование с агентом	0	7	28-06-2026
10	ИИ не захватит мир, но даст вредные советы: обзор кейсов внедрения	0	5	02-07-2026

Классификация: Пресс-релизы. Схожих патентов: 0. Схожих новостей: 10. Тональность: 5. Информативность: 7. Источник: habr.com.