Почему онтология снова важна в эпоху LLM

Введение

Появление больших языковых моделей (LLM) значительно расширило интерфейс и область применения AI-систем. Однако за беглым естественным языком, генерируемым LLM, все еще существуют фундаментальные ограничения. Ключевой момент заключается в том, что LLM сильны в языковых паттернах, но по своей сути слабы в семантике и логике.

Чтобы устранить это ограничение, концепция онтологии вновь привлекает внимание. В этой статье мы систематически ответим на следующие вопросы:

• Что такое онтология и какую роль она играет в AI?
• Чем онтология отличается от графа знаний?
• Может ли Graph RAG заменить онтологии?
• Где на самом деле должна располагаться онтология в сервисах на основе LLM?

---

1. Что такое онтология: «Иерархия значений», а не просто данные

Онтология — это семантическая модель, которая явно определяет концепции, отношения и правила, используемые в конкретной области. Она не просто хранит данные или определяет структуры; она предписывает "как понимать этот мир"

Например, в медицинской области онтология определяет такие факты, как:

• Doctor ⊆ Person
• Субъект отношения treats должен иметь тип Doctor.
• Hospital — это Organization, а не Person.

Эти определения являются здравым смыслом для людей, но для AI-систем это правила, которые невозможно узнать, если они не указаны явно.

---

2. Почему онтология важна в AI

2.1 Рассуждения на основе семантики

Онтологии позволяют AI логически выводить факты, которые не указаны явно.

Например, предположим, что дано следующее:

• A лечит B.
• Область определения treats — Doctor.

С помощью рассуждений на основе онтологии система может автоматически вывести:

A — врач. A — человек.

Такие рассуждения невозможны только с помощью традиционного машинного обучения или LLM.

---

2.2 Проверка согласованности и обнаружение ошибок

LLM часто генерируют правдоподобные, но неверные утверждения (галлюцинации). Онтологии служат механизмом для структурной блокировки этого.

Пример:

• «Медсестра делает операцию». → Нарушение правил онтологии → Немедленно признается ошибкой.

В областях, где ошибки недопустимы, таких как медицина, право и финансы, это является решающим отличием.

---

2.3 Объяснимый AI (Объяснимость)

Используя онтологии и графы знаний, мы можем объяснить логический путь для суждения AI: «Почему был сделан этот вывод?»

Это выходит за рамки простого доверия пользователей и напрямую связано с вопросами регулирования, аудита и подотчетности.

---

3. Онтология vs. Граф знаний: Отношения между чертежами и зданиями

Онтологии и графы знаний часто используются взаимозаменяемо, но их роли явно различаются.

Категория	Онтология	Граф знаний
Основная роль	Определение концепций, значений, правил	Фактические факты и экземпляры
Природа	Абстрактная, стабильная	Конкретная, динамичная
Пример	«Врачи — это люди»	«Доктор Ли — врач»

Используя аналогию:

• Онтология — это свод законов или чертеж.
• Граф знаний — это прецедентное право или фактическое здание.

Граф знаний — это просто связанные данные без онтологии, а онтология связывается с реальностью только через граф знаний.

---

4. Стандартная архитектура в эпоху LLM: Где место онтологии?

Наиболее стабильной структурой в современных AI-сервисах является гибридная архитектура, подобная следующей:

Основные принципы этой структуры ясны:

• LLM — это языковой интерфейс.
• Онтология — это система мышления.
• Граф знаний — это память.
• Reasoner — это логический движок.

LLM не судит; онтология думает.

---

5. Может ли Graph RAG заменить онтологию?

Чтобы сразу перейти к выводу:

Graph RAG может «использовать» онтологии, но не может их «заменить».

5.1 Что Graph RAG делает хорошо

• Поиск на основе сущностей и отношений
• Расширение запросов с использованием схем концепций
• Исследование связанных документов и узлов

В этих областях Graph RAG может выполнять часть роли облегченной онтологии.

---

5.2 Ограничения Graph RAG

Однако Graph RAG по сути не предоставляет:

• Автоматизированные рассуждения на основе формальной логики
• Проверка согласованности
• Обнаружение нарушений правил

Другими словами, Graph RAG может «перемещаться, следуя значениям», но не может «судить, является ли значение логически правильным».

---

5.3 Реалистичное оптимальное решение

Наиболее часто используемая на практике структура: