Обучение на основе объяснения - Explanation-based learning
Обучение на основе объяснений ( EBL ) - это форма машинного обучения, в которой используется очень сильная или даже совершенная теория предметной области (то есть формальная теория предметной области, сродни модели предметной области в онтологической инженерии , не путать с предметной областью Скотта. теория ), чтобы сделать обобщения или сформировать концепции из обучающих примеров.
Подробности
Примером EBL, использующего идеальную теорию предметной области, является программа, которая учится играть в шахматы на примере. Конкретная шахматная позиция, которая содержит важную особенность, такую как «Принудительная потеря черного ферзя за два хода», включает в себя множество нерелевантных особенностей, таких как особая разбросанность пешек на доске. EBL может взять один обучающий пример и определить, какие функции являются важными, чтобы сформировать обобщение.
Теория предметной области является совершенной или полной, если она в принципе содержит всю информацию, необходимую для решения любого вопроса о предметной области. Например, теория предметной области для шахмат - это просто правила шахмат. В принципе, зная правила, можно в любой ситуации выбрать лучший ход. Однако на практике сделать такой вывод невозможно из-за комбинаторного взрыва . EBL использует обучающие примеры, чтобы сделать поиск дедуктивных следствий теории предметной области эффективным на практике.
По сути, система EBL работает, находя способ вывести каждый обучающий пример из существующей базы данных теории предметной области. Краткое доказательство обучающего примера расширяет базу данных по теории предметной области, позволяя системе EBL очень быстро находить и классифицировать будущие примеры, похожие на обучающий пример. Главный недостаток метода - стоимость применения заученных макросов доказательства, когда их становится много, - был проанализирован Минтоном.
Базовая формулировка
Программное обеспечение EBL имеет четыре входа:
- пространство гипотез (совокупность всех возможных выводов)
- теория предметной области (аксиомы о предметной области)
- обучающие примеры (конкретные факты, исключающие возможные гипотезы)
- критерии работоспособности (критерии для определения того, какие особенности в домене можно эффективно распознать, например, какие особенности можно непосредственно обнаружить с помощью датчиков)
Заявление
Особенно хорошей областью применения EBL является обработка естественного языка (NLP). Здесь богатая теория предметной области, т. Е. Грамматика естественного языка, хотя и не идеальна и не полна, настраивается на конкретное приложение или конкретное использование языка с помощью банка деревьев (обучающие примеры). Райнер был пионером в этой работе. Первым успешным промышленным приложением был коммерческий NL-интерфейс для реляционных баз данных. Этот метод был успешно применен к нескольким крупномасштабным системам синтаксического анализа естественного языка, где проблема полезности была решена путем исключения исходной грамматики (теория предметной области) и использования специализированных методов LR-синтаксического анализа, что привело к огромному ускорению за счет затрат в покрытие, но с усилением неоднозначности. EBL-подобные методы также были применены к генерации поверхностей, в противоположность синтаксическому анализу.
При применении EBL к NLP критерии функциональности могут быть созданы вручную или могут быть выведены из банка дерева с использованием либо энтропии его or-узлов, либо компромисса целевого охвата / устранения неоднозначности (= компромисс отзыва / точности = f -счет). EBL может также использоваться для компиляции основанных на грамматике языковых моделей для распознавания речи из общих грамматик унификации. Обратите внимание, как проблема полезности, впервые выявленная Минтоном, была решена путем отказа от исходной теории грамматики / предметной области, и что цитируемые статьи, как правило, содержат фразовую грамматическую специализацию - полную противоположность исходному термину, основанному на обобщении на основе объяснения. Возможно, лучшим названием для этого метода было бы сокращение пространства поиска на основе данных. Среди других людей, которые работали над EBL для НЛП, были Гюнтер Нойман, Аравинд Джоши, Шринивас Бангалор и Халил Сима'ан.