Коротко
- LLMON разделяет инструкции и данные, предотвращая атаки через инъекции
- IBM выпустила две экспериментальные модели на базе Granite 4.1, обученные работать с LLMON
- LLMON упрощает работу с данными, явно обозначая инструкции, требования и данные
- IBM выпустила инструменты и примеры для работы с LLMON, включая конвертеры для JSON
LLMON — новый язык разметки для LLM, разработанный IBM. Он позволяет явно обозначать структуру и семантику данных, что улучшает устойчивость моделей к атакам и повышает их общую надёжность. LLMON разделяет инструкции и данные, что предотвращает их смешивание и снижает риск атак через инъекции. Сегодня IBM выпустила две экспериментальные модели на базе Granite 4.1, обученные работать с LLMON: granite-4.1-3b-LLMON-preview и granite-4.1-8b-LLMON-preview. Эти модели показывают высокую устойчивость к атакам, сохраняя при этом общую производительность на уровне обычных моделей. LLMON также упрощает работу с данными, позволяя явно обозначать инструкции, требования и данные, что облегчает их обработку моделями. IBM выпустила инструменты и примеры для работы с LLMON, включая конвертеры для перевода JSON в LLMON и обратно. Это делает LLMON удобным для интеграции в существующие пайплайны. В будущем IBM планирует улучшить защиту от адаптивных атак, которые могут разворачиваться в течение нескольких диалоговых шагов. LLMON — это шаг вперёд в развитии безопасных и надёжных LLM, который может стать стандартом для разметки данных в будущем.
