ЛОГИЧЕСКИЙ ПОДХОД В ТЕОРИИ УПРАВЛЕНИЯ

В двухтысячном году Институт динамики систем и теории управления Иркутского научного центра СО РАН отмечает своё двадцатипятилетие. Этому событию посвящалось интервью директора Института члена-корреспондента С.Васильева "От искусственного интеллекта -- до стратегических решений в экономике" ("НВС" N 26-27, июль 2000 года). Сегодня газета продолжает юбилейные публикации.

На стыке современной теории управления и искусственного интеллекта активно формируется и развивается область исследований и разработок, именуемая интеллектным управлением. Одна из научных школ Института динамики систем и теории управления (ИДСТУ) СО РАН разрабатывает оригинальные математические методы, представляющие логический подход в интеллектном управлении. Этот подход рассматривается в статье руководителя школы члена-корреспондента РАН С.Васильева.

Теория управления есть совокупность методов, позволяющих выработать и обосновать решение, которое принимается для достижения заранее поставленной цели, в условиях как-либо определенной ситуации. В частности, теория автоматического управления -- наука о методах определения законов управления какими-либо объектами, допускающих реализацию с помощью технических средств автоматики и вычислительной техники.

До недавнего времени постановка и решение задач управления опирались на более или менее традиционные математические модели, как правило, в форме тех или иных уравнений динамики управляемого процесса (дифференциальных, конечно-разностных и других).

Будучи всегда неточен, результат моделирования, как известно, может содержать даже в явной форме "следы недомоделированной динамики". Например, в правой части уравнений динамики могут оставаться неизвестные члены, именуемые -- постоянно действующими возмущениями. Понятия адаптивности, робастности и другие также были призваны учитывать немоделируемую динамику путем получения недостающей информации на этапе обучения или в режиме реального времени.

Недавние достижения в кибернетике, информатике и, в частности, так называемом искусственном интеллекте вызвали появление некоторых новых средств моделирования, управления и оптимизации сложных нелинейных управляемых систем. В их числе -- нейронные сети, генетические алгоритмы, системы, основанные на правилах, а также системы для автоматизации поиска выводов и порождения гипотез. Из перечисленного (так называемых "интеллектных" средств управления) рассмотрим развиваемый в нашей научной школе логический подход в математической теории управления динамическими системами.

Открывающиеся здесь возможности были апробированы нами в применении к проблеме создания искусственного ассистента пилота высокоманевренных самолетов, к управлению процессом наведения орбитальных приборов (телескопа), планированию действий мобильного робота.

Логические исчисления не предписывают жесткой последовательности действий, а предполагают определенную свободу выбора в рамках соответствующего "исчисления возможностей".

Переход к логическим исчислениям как к новым, логическим моделям динамики и управления стимулирует использование "аналитических (символьных) вычислений, утверждавших свое право на существование в условиях конкуренции с численными методами механики, физики, математики" (Д.Климов).

Различаются три (всегда объективно существующие) уровня управления:

-- верхний уровень управления: целеполагание (вопрос его полной автоматизации сегодня и в ближайшем будущем проблематичен, тем не менее этот уровень представлен в человеко-машинных системах);

-- средний уровень управления: поиск управляющих воздействий, то есть поиск способа достижения поставленной на верхнем уровне цели;

-- нижний уровень управления: реализация выбранного на среднем уровне способа достижения поставленной цели.

Использование интеллектных средств будет ориентировано сегодня и в ближайшем будущем на решение задач управления не только нижнего, но и среднего уровня. Это приводит к новым технологиям, расширяющим потенциал проектирования и управления динамическими системами.

Об интеллектном управлении

Взаимопроникновение методов теории управления и искусственного интеллекта осуществляется в общей области этих дисциплин, называемой нами интеллектное управление (используемый у нас в стране термин "интеллектуальное управление", на наш взгляд, излишне антропоморфен; его лучше использовать для систем с собственным целеполаганием).

Система интеллектного управления (СИУ) должна иметь способность воспринимать информацию о процессах, возмущениях и условиях функционирования, выводить заключения и обучаться.

По оценке некоторых экспертов, приоритет по прикладному использованию теории интеллектного управления, а именно -- систем, основанных на нечетких логических правилах, принадлежит японским фирмам. Для поддержки эффективного функционирования систем, основанных на нечетких правилах, создана и развивается специальная вычислительная техника. Конечно, скептики тут же припомнят (и будут правы) чрезмерный ажиотаж, вызванный в свое время другими специализированными ЭВМ, а именно Лисп- и Пролог-машинами. Тем не менее, благодаря "нечетким" микропроцессорам, нечеткое управление нашло простейшие, но многочисленные приложения в быту, автомобилях, химическом производстве и т.д.

Повышение "уровня интеллекта"
в системах автоматического управления

Считается, что управление, основанное на нечетких и других правилах, ведет к более высокой степени автоматизации для сложных, плохо структурированных процессов. Это справедливо, но только если имеется подходящее знание о процессе, которое может быть хорошо представлено в терминах этих (нечетких или других) правил. Существуют различные процессы, для которых такого знания нет вовсе или его нет в необходимой степени. Например, если в системе управления возможны ситуации таких отказов элементов (подсистем), которые заранее не предусмотрены и не обеспечены средствами их обнаружения и локализации, то система управления должна над имеющейся базой знаний принять наиболее рациональное решение (осуществить реконфигурацию и т.п.). При этом может понадобиться заранее не предусмотренным способом спланировать целую последовательность действий по выводу системы в работоспособное состояние. Для этого нужны другие методы интеллектуализации, с другими формами представления и обработки знаний, вообще говоря, обеспечивающие более высокий уровень интеллекта. В частности, могут понадобиться более мощные методы "обдумывания" ситуации, обрабатывающие знания общего вида, нежели методы, просто использующие правила, априорно заготовленные или несколько модифицируемые в процессе функционирования.

С этой точки зрения перспективны методы логического вывода. Они служат для автоматизации доказательства теорем в формальных исчислениях, построения следствий (развертывания формальных теорий), порождения гипотез и т.д. Системы автоматического доказательства теорем (АДТ) работают обычно в полной первопорядковой логике и существенно превосходят сегодня другие средства искусственного интеллекта с точки зрения глубины логических выводов и сложности доказываемых ими утверждений.

На наш взгляд, проникновение полных первопорядковых логик и методов автоматизации логического вывода (в частности, в форме АДТ) в сферу интересов и компетентности специалистов по теории управления является весьма существенным, позволяя развить теорию управления в направлении расширения потенциала решения сложных задач управления, повышения степени автоматизации, создания СИУ, в большей степени оправдывающих свое название благодаря повышению уровня их интеллектуальности. При этом теория управления и искусственный интеллект становятся значительно более совместимыми, поскольку предикатные языки (первого и более высоких порядков) существенно более выразительны и охватывают вещественные и другие переменные. Грубо говоря, выразительная сила предикатных языков так соотносится с выразительной силой булевских (пропозициональных) языков, как выразительная сила языка математической теории управления соотносится с выразительной силой языка двоичной арифметики.

Предикатные языки позволяют формализовать более широкие знания для последующей обработки машинно-ориентированными правилами. В этих языках каждая формула выражает не столько специальный (локальный) переход от условий к действию, то есть отдельный, более или менее очевидный шаг приближения к цели управления, сколько интуитивное представление человека о мире и правильности (логичности) умозаключений. Другими словами -- все это имеет более универсальный характер.

Применимость логического вывода в контуре управления, помимо прочего, базируется на том, что цель управления и возможности доступных при этом средств достижения цели могут быть описаны в логическом языке. Тогда свойство разрешимости задачи управления эквивалентно конструктивной логической выводимости формулы A, записывающей цель управления, из формулы B, описывающей возможности средств достижения цели. Если найденный (обычно многошаговый) вывод A из B конструктивен, то из него алгоритмически может быть извлечено искомое управление как целенаправленная последовательность действий.

Таким образом, система АДТ в подходящем формальном исчислении осуществляет доказательство теорем и формирует соответствующее управление, обеспечивающее достижение цели управления, может быть, в многошаговом процессе, когда вывод и отработка полученного управления многократно чередуются, а каждый вывод значения управления в свою очередь является обычно многошаговым. Иначе говоря, система АДТ, обрабатывая разные знания и находя в общем случае целую последовательность действий, способна вырабатывать план достижения цели управления.

Существуют трудности применения логического подхода в задачах управления, но и пути их преодоления. Не вдаваясь в детаkи, укажу на первую возникающую сложность -- необходимость учета изменчивости мира. СИУ должна иметь способность к рассуждениям о поведении данных и знаний с течением времени, о связи прошлых, настоящих и будущих событий... Динамичность мира вызывается уже действиями самой СИУ.

Отмечу также, что прямое использование наиболее популярного в области искусственного интеллекта метода АДТ -- метода резолюций -- может не обеспечить требуемой эффективности системы. Автор методы резолюций Дж.Робинсон квалифицировал сложную структурированность знания (сложность изначальной формульной структуры) как отрицательное свойство с точки зрения эффективности АДТ. Языком резолюционных систем является язык дизъюнктов. Его основным положительным свойством, с точки зрения Робинсона, является ориентированность на машинную обработку (простота, однородность информации и единственность правила вывода).

Логическое программирование, созданное не без влияния метода резолюций, предъявляет еще большие требования к языку, упрощая его. Однако упрощение языка получается за счет препарирования, дробления исходной информации, уничтожения ее структуры, которая сама по себе имеет эвристическое и, во многих случаях, решающее значение, позволяющее ограничить бездумное порождение следствий.

Мы поставили себе задачу создания языков, элементы которых легко поддаются машинной обработке, но при этом их структура не уничтожается. Отметим в этом направлении язык и исчисление сигма-формул, предложенные в Институте математики СО РАН (Ю.Ершов, С.Гончаров, Д.Свириденко). Нами также разработаны новые языки -- позитивно-образованных формул с основанными на них исчислениями, а также эффективные механизмы поиска выводов, которые, как и резолюционные механизмы, тоже являются машинно-ориентированными, но способны работать с более сложными формами представления знаний. При этом снова сложность формул оборачивается полезным богатством структуры, хорошей совместимостью с эвристиками, укрупненностью понятийного базиса и обрабатываемых деталей и, как следствие, сокращением комбинаторики. Имеются убедительные свидетельства компактности и выразительности этих языков и эффективности разработанных механизмов логического вывода, а также примеры легко доказываемых на этой основе теорем, на которых "споткнулся" метод резолюций. Кроме того, перевод формулы исчисления предикатов, например, в язык позитивно-образованных формул не разрушает эвристическую структуру исходной формулы и практически не увеличивает длину получаемого выражения, тогда как перевод даже бескванторных формул на язык дизъюнктов может приводить к резкому удлинению формулы.

Удалось разработать метод адаптации базовых логических средств (в языке позитивно-образованных формул) к специфике разных приложений на основе модификаторов - правил ограничения вывода в базовом исчислении. Эти правила позволяют не только ограничить комбинаторное пространство поиска вывода, но и сильно изменять саму логику, преобразуя, например, исходную логику с классической семантикой в конструктивную логику, немонотонную логику, в логику с фактором времени и т.д.). Указанные логики весьма полезны в формировании управления динамическими системами. Приложения разработанных нами логических средств выполнены применительно к управлению движущимися объектами, о которых уже упоминалось. Помимо проблемы динамичности знаний, необходим учет ограниченности ресурсов (времени, памяти, информации), неполноты и иррелевантности знаний, а также возможной неразрешимости проблемы выводимости. СИУ в режиме реального времени (РВ) решают "жесткие" и "мягкие" задачи. В жесткой задаче РВ корректное действие или решение зависит не только от результатов формирования управления, но и времени, в течение которого эти результаты получены, причем выход за временные ограничения означает полную бесполезность управления. Пример -- навигационная система на борту ракеты. В мягкой задаче РВ также имеются временные ограничения, но выход за временные ограничения приводит к постепенной (обычно монотонной по времени) потере ценности управления. Согласование требования работы СИУ в режиме РВ с возможным эффектом медлительности логического вывода состоит в такой организации формирования управления, при которой первое приближение управления выводится быстро, но, может быть, с низким качеством и, если еще остается ресурс времени на его улучшение, то это управление итеративно улучшается вплоть до момента передачи его на исполнение. Такие алгоритмы за рубежом именуются "Anytime Algorithms" -- алгоритмы, "всегда готовые" выдать грубое (низкокачественное) или более совершенное управление. При этом можно использовать систему логического вывода так, что формирование управления будет обеспечиваться в стиле комбинированного управления: управление по принципу обратной связи в комбинации с упреждающим логическим моделированием управляемого процесса при альтернативных управлениях. Глубина просмотра будущего может зависеть от жесткости режима РВ. С логической же точки зрения, здесь вместо априори заданной теоремы выводятся лишь следствия текущего состояния при альтернативных управлениях. Эти следствия могут выражать свойства соответствующих траекторий важные для оценки качества управлений. Реализуемость этого подхода к построению СИУ показана в наших работах. Мы будем именовать его "автоматическим выводом следствий" (АВС). СИУ не могут работать эффективно со слишком бедной информацией. Но и слишком много знаний также вызывают в системе тенденцию к деградации. Поэтому важно решение проблемы иррелевантности знаний, то есть смешанности полезных знаний с бесполезными, которые лишь усложняют обработку знаний. Считается, что около 90% нейронных окончаний в нашем мозге являются запрещающими и служат для игнорирования и подавления сигналов от органов чувств. Более того, в ходе обдумывания проблемы мы в явной форме рассуждаем о релевантности отдельных сущностей в модели проблемной области. Тем самым мы стремимся упростить формулировку проблемы и исключить расточительные действия при ее решении. За рубежом разрабатывается логический подход к учету иррелевантности в контексте обеспечения эффективных дедуктивных построений над большими базами знаний (хорновского типа). При этом достигнуто весьма существенное ускорение обработки запросов на основе автоматического вывода утверждений об иррелевантности определенного типа. В богатых логических теориях одновременно с увеличением выразительной и дедуктивной силы возникает и заслуживает внимания неразрешимость проблемы выводимости. Уже классическое исчисление предикатов является неразрешимым, как это независимо показали еще в 30-е годы А.Черч и А.Тьюринг. Точнее, оно является только полуразрешимым, то есть существует процедура, распознающая любую теорему как доказуемую, однако не существует процедуры, классифицирующей произвольную формулу, -- является ли она теоремой или не является таковой. Это фундаментальное негативное свойство достаточно богатых логических систем прямое продолжение их достоинства -- высокой выразительной силы, позволяющей охватить в своей формализации существенно более широкий пласт знаний, а, следовательно, и поддержать более широкий класс задач управления, включая более сложные, к которым просто неприменимы более бедные, хотя и разрешимые, логические теории. Таким образом, достаточно богатые логические системы распознают все принципиально доказуемые в них теоремы, но в случае доказательства некоторых недоказуемых утверждений могут работать неограниченно долго, не проявляя видимых признаков того, что доказываемое утверждение принципиально недоказуемо. Негативный эффект этого усиливается на практике ограниченностью ресурсов. Казалось бы, это ставит предел применению не только логик, но и вообще ЭВМ. Но, как отмечал еще академик В.Глушков, "проблемы теоретической и практической разрешимости задачи лежат в совершенно разных областях". Необходимо найти не универсальный алгоритм, который решал бы все проблемы пусть даже конкретной данной области, а "практически функционирующие алгоритмы, которые работали бы так же или лучше, чем специалист этой области". Сказанное касается и задач с неполной информацией. В частности, разработанный нами метод последовательного порождения гипотез может преобразовать принципиально недоказуемое в рассматриваемом исчислении утверждение в теорему, то есть преобразовать неразрешимую задачу в разрешимую, если синтезированные дополнительно гипотезы являются истинными (в нужном на практике смысле -- дескриптивном, конструктивном или смешанном). Метод полезен и в случае ограниченности ресурсов времени и памяти, так как в случае нехватки этих ресурсов метод ускоряет вывод теорем ценой введения дополнительных избыточных условий.

Таким образом, метод последовательного порождения гипотез пытается доказать исходное утверждение, а при появлении трудностей с его доказательством синтезирует фрагмент будущей гипотезы, немедленно применимый для использования в незавершенном доказательстве. Если продолженное доказательство снова сталкивается с трудностями, то синтезируется следующий фрагмент гипотезы и т.д. Органичное сочетание АДТ с порождением гипотез приближается в большей мере к стилю умозаключений человека, нежели каждая из этих интеллектуальных функций в отдельности. Вместе с тем современное состояние этого направления исследований по созданию СИУ, сочетающих АДТ и автоматическое гипотезирование, обеспечивает пока бoльшую приложимость результатов именно в человеко-машинных системах, поскольку автоматическое гипотезирование может приводить к целому спектру возможных гипотез, окончательная оценка и принятие которых, вообще говоря, требует мотиваций и умения пересматривать цели. Резюмируя, заметим, что слабая на сегодня приспособленность большинства систем АДТ к задачам РВ не является абсолютно непреодолимым барьером и фатальным следствием названного ранее преимущества перед другими видами интеллектных компонент для СИУ. Такое заключение можно сделать как на базе предыдущих рассмотрений, так и других результатов, оставшихся не упомянутыми здесь, а не потому, что вот-вот подойдут новые суперпроизводительные модели ЭВМ, способные в большей степени поддержать сложные выводы в режиме РВ (хотя и это не бессмысленно, так как последовательное поднятие планки сложности решаемых задач не может не способствовать постепенно более широкой применимости средств АДТ в задачах РВ). Указанный недостаток является постепенно устранимым; более того, он уже сегодня заметно нивелируется при должном учете специфики интеллектуальных подзадач задачи управления и выбора такой архитектуры СИУ, в которую бы были встроены разные виды принятия решений -- от "обдумывания" на основе знаний (путем АДТ, АВС и другими методами) до рефлекторных реакций (искусственные нейронные сети). При этом важно иметь возможность автоматического преобразования знания общего вида в процедурное, то есть от уровня обдумывания (на основе АДТ и других методов) к продукционному уровню ("если.., то...") и ниже -- к рефлекторному уровню. Такая архитектура уже обсуждается в литературе. Целесообразно в контексте традиционных и перспективных задач управления дать качественную шкалу возрастания потенциала решения задач в системах автоматического (и автоматизированного) управления.

В нижеследующей шкале каждый класс систем включает все предыдущие с точки зрения охвата их возможностей управления. 1. Системы программного управления (управляющие воздействия являются функцией только времени).

2. Системы с обратной связью (значения управлений формируются в зависимости от времени и текущего состояния объекта управления).

3. Системы идентификационного управления (неполностью известные параметры объекта управления идентифицируются с помощью специальных методов).

4. Системы адаптивного управления (системы с самонастройкой). 5. Системы интеллектного управления (СИУ без целеполагания).

6. Интеллектуальные системы управления ( СИУ с целеполаганием, формированием новых понятий и отношений в развиваемой модели мира; сегодня представлены человеко-машинными системами).

Уровни 5 и 6 -- это уровни организации и координации управления; уровни 1--4 -- уровни исполнения. Причем каждый уровень 5 и 6 может иметь собственную иерархию подуровней, где верхние управляющие воздействия управляют процессом как обобщенным целым, а компоненты системы управления на более нижних подуровнях "фокусируются с большим разрешением" на отдельных подпроцессах (подлежащих координации). С другой стороны, верхние подуровни управления являются неточными, так как имеют дело с процессом на уровне логического или логико-лингвистического описания; управления нижележащих подуровней -- более точны и т.д. Такая структура иерархической системы управления, по-видимому, аналогична структуре функционирования мозга и является результатом декомпозиции задач с постепенным фокусированием внимания на более мелких деталях.

Ареал применения средств искусственного интеллекта -- ИИ к задачам всех уровней управления постоянно расширяется. Относительные неудачи кавалерийских атак на глобальные проблемы ИИ типа известной проблемы создания Универсального Решателя Задач (General Problem Solver) предсказаны классическими отрицательными результатами и объясняются в теории сложности алгоритмов. Эти неудачи побудили к более тонким и глубоким исследованиям и специализации логического и других подходов к тем или иным классам задач. На повестке дня -- создание полностью автоматических систем интеллектного управления. Достижения в области автоматизации логического вывода, индуктивного логического программирования, порождения гипотез, распознавания образов уже вызвали в жизнь ряд амбициозных проектов, в том числе, например, проект создания беспилотных самолетов. Вместе с тем, не должно быть неоправданного обобщения в оценке будущих перспектив использования интеллектного управления, как это уже было в прошлом в области искусственного интеллекта. Требуются новые идеи и решения, в том числе развивающие и интегрирующие перспективные и уже сегодня полезные методы. Приложения и экспериментальные исследования должны помочь сакцентировать и/или скорректировать направления прогресса в области интеллектного управления -- в целом и логического подхода в теории управления -- в частности.