Лекция 1

Сфера и методы   исследований эволюционной кибернетики. Модели возникновения молекулярно-генетических кибернетических систем

В настоящем курсе я буду читать лекции по эволюционной кибернетике. Речь пойдет об исследованиях эволюции биологических информационных систем и обеспечиваемых этими системами кибернетических свойств биологических организмов. По моему мнению, эволюционная кибернетика – это только формирующаяся научная дисциплина. Поэтому многие вопросы могут быть изложены несколько эскизно и не на все ваши вопросы я смогу ответить в полной мере. Тем не менее, эволюционная кибернетика -- это живое, активно развивающееся научное направление. И в своих лекциях я постараюсь дать представление о ведущихся здесь исследованиях, а также дать возможность вам самим активно включиться в эти исследования.

Отмечу также, что я не буду очень подробно излагать используемые математические методы и приводить подробные доказательства – для меня значительно более важно представить вам идейную сторону предмета, и  в определенной степени, даже происходящую здесь драму идей, которая, по-видимому, имеет место в любой активно развивающейся науке.

Первая лекция будет состоять из двух частей: в первой части я сделаю краткий анонс всего курса, а во второй – остановлюсь на качественном рассмотрении моделей самых простейших живых (или, точнее предживых) кибернетических систем, моделей возникновения молекулярно-генетических кибернетических систем, которые формировались в процессе происхождения жизни.

1. Сфера исследований эволюционной кибернетики

Содержание курса соответствует сфере исследований эволюционной кибернетики, представленной на рис.1.

Lec1_1.gif (22732 bytes)

 

Рис. 1. Области исследований эволюционной кибернетики

1.1. Эволюционное моделирование

Уже достаточно сложившаяся область – эволюционное моделирование (Рис.1), в котором можно выделить: 1) модели возникновения молекулярно-генетических информационных систем, 2) моделирование общих закономерностей эволюции, 3) эволюционные модели искусственной жизни, 4) прикладное эволюционное моделирование. Охарактеризуем кратко эти направления.

1.1.1.  Модели возникновения молекулярно-генетических информационных систем

Интенсивные исследования по моделированию возникновения молекулярно-генетических информационных систем начались в 1960-70-х годах. Интерес к этим исследованиям связан с интригующими проблемами: как могла возникнуть жизнь на Земле? Каковы могли бы быть первые кибернетические схемы функционирования первобытных организмов? Обсуждение этих моделей мы начнем во второй части этой лекции.

1.1.2.Общие модели эволюции

Общие модели эволюции разрабатывались сравнительно давно. В 1910-1930-х годах классическими работами  Р. Фишера ( R.A.Fisher), Дж. Холдейна (J.B.S. Haldane), и С. Райта (S.Wright) были заложены основы популяционной генетики. Классическая теоретическая популяционная генетика была основана на синтетической теории эволюции, т.е. на синтезе Дарвиновской концепции естественного отбора и Меделевской дискретной генетики. Согласно синтетической теории эволюции, главный механизм прогрессивного развития - естественный отбор тех организмов, которые смогли получить выгодные мутации.

Теоретическая популяционная генетика характеризует популяцию как динамический процесс эволюции распределения частот генов.

Математическая популяционная генетика на базе синтетической теории эволюции интенсивно развивалась до 60-х годов, когда возникли определенные трудности, связанные с экспериментальными достижениями молекулярной генетики (оценки скорости эволюционной замены аминокислот в белках и полиморфизма белков). Чтобы проинтерпретировать экспериментальные результаты, М.Кимура предложил так называемую теорию нейтральной эволюции [1]. Основное предположение теории М.Кимуры: мутации на молекулярном уровне (замены нуклеотидов в ДНК и аминокислот в белках) преимущественно нейтральны, или слабо невыгодны. Используя математические методы популяционной генетики, М.Кимура вывел ряд следствий теории нейтральности, которые находятся в довольно хорошем согласии с экспериментальными данными. Образно говоря, теория нейтральности – это популяционная генетика на базе достижений молекулярной биологии.

Среди работ, посвященных моделированию общих кибернетических закономерностей биологической эволюции, отметим также интересный цикл исследований С.Кауффмана, посвященный анализу автоматов, состоящих из множества случайно связанных логических элементов [2]. Отдельный автомат можно рассматривать как модель молекулярно-генетической системы управления живой клетки, при этом каждый логический элемент интерпретируется как регулятор синтеза определенного фермента. Примечательно, что при исследовании автоматов Кауффмана применяются высокоэффективные математические методы статистической физики. Модели Кауффмана позволяют сделать ряд предсказаний относительно "программ" жизнедеятельности клеток. В частности, продемонстрировано, что для одновременного обеспечения устойчивости и гибкости программы число входов логических элементов должно быть ограничено определенным интервалом, а именно составлять величину примерно равную 2-3. Подробнее автоматы Кауффмана мы обсудим в лекции 9 .

К работам по моделированию общих аспектов биологической эволюции можно отнести и исследования вопросов эволюции генетических текстов. В работах Д.С.Чернавского (Москва) исследовалась проблема возникновения в процессе эволюции новой биологически значимой информации, а также была сделана оценка вероятности случайного формирования в геноме участка ДНК, кодирующего новый функционально важный для организма белок. Д.С. Чернавский недавно написал новую книгу по динамике информационных систем, думаю, что в ближайшее время эта книга будет издана и в ней можно будет найти много интересного.

1.1.3. Эволюционные модели искусственной жизни

В конце 80-х годов сформировалось очень интересное направление кибернетических исследований – искусственная жизнь (английское название Artificial Life или ALife). Многочисленные Интернет-ссылки на работы этого направления можно найти на Интернет-сайте интересного междисциплинарного Института Санта Фе: http://alife.santafe.edu/ . Основной мотивацией исследований искусственной жизни служит желание понять и промоделировать формальные принципы организации биологической жизни. Как сказал руководитель первой международной конференции по искусственной жизни К.Лангтон (C.Langton) “основное предположение Искусственной Жизни состоит в том, что “логическая форма” организма может быть отделена от материальной основы его конструкции”. “Организмы” в искусственной жизни – придуманные людьми объекты, живущие в мире компьютерных программ.

Приведем некоторые примеры характерных исследований Искусственной жизни:

- исследование динамики жизнеподобных структур в клеточных автоматах (К.Лангтон);
- эволюция двух конкурирующих популяций, одна из которых есть популяция программ, решающих определенную прикладную проблему (проблему сортировки), а вторая – популяция задач, эволюционирующих в направлении усложнения проблемы (Д.Хиллис (D.Hillis));
- эволюция и формирование “биоразнообразия” самовоспроизводящихся программ, живущих в виртуальных компьютерах (Т.Рей (T.Ray));
- анализ "биоразнообразия" самовоспроизводящихся программ на базе теории самоорганизованной критичности (К.Адами (C.Adami));
- компьютерная модель ПолиМир (PolyWorld), разработанная Л.Ягером (L.Yaeger),  в которой эволюция популяции искусственных организмов (агентов) происходит вполне естественным образом: агенты питаются растущей на лужайках травой, могут бороться друг с другом (в результате борьбы агент может погибнуть, тогда он превращается в пищу, которую может съесть победитель), могут скрещиваться, давая потомков - новых агентов; агенты имеют нейронную сеть, которая управляет поведением агентов.

Отметим, хотя лозунг “Искусственная Жизнь” провозглашен в конце 80-х, в действительности идейно близкие модели разрабатывались в 50-70-е годы. Приведем два примера из истории отечественной науки.

В 60-х годах блестящий кибернетик и математик М.Л.Цетлин предложил и исследовал модели автоматов, способных адаптивно приспосабливаться к окружающей среде. Работы М.Л.Цетлина инициировали целое научное направление, получившее название “коллективное поведение автоматов”.

В 60-70-х годах под руководством талантливого кибернетика М.М.Бонгарда была построена весьма нетривиальная модель “Животное”, характеризующая адаптивное поведение искусственных организмов, живущих на разбитой на клетки плоскости и обладающих рядом конкурирующих между собой потребностей.

Эволюция кибернетических сущностей – одно из главных направлений исследований Искусственной жизни.

В ИПМ мы (Роман Гусарев и я) недавно начали разработку модели, которую можно отнести к эволюционным моделям Искусственной жизни. Модель посвящена исследованию проблемы возникновения целенаправленного адаптивного поведения. Основные предположения модели состоят в следующем:

  1. Имеется популяция агентов (искусственные организмы), которые имеют основные естественные потребности (Безопасность, Энергия, Размножение).
  2. Популяция агентов эволюционирует в простой среде, где растут лужайки травы (пища агентов). Агенты взаимодействуют между собой: агенты могут скрещиваться и бороться друг с другом. Борьба может привести к гибели агента (погибший агент превращается в пищу и может быть съеден победителем). Скрещивание приводит к рождению новых агентов.
  3. Каждая потребность характеризуется количественно мотивацией. Например, если энергетический ресурс агента мал, то есть потребность найти пищу и мотивация к нахождению пищи.
  4. Поведение агента управляется его нейронной сетью, которая имеет специальные входы от мотиваций. Если имеется определенная мотивация, то поведение агента меняется с тем, чтобы удовлетворить соответствующую потребность. Такое поведение можно называть целенаправленным (есть цель достигнуть определенную потребность).

Наиболее интересная проблема: как такое целенаправленное поведение могло возникнуть в процессе эволюции? Наша основная цель – исследовать данную проблему настолько глубоко, насколько это возможно. Подробно модель будет представлена в лекции 14.

1.1.4. Прикладное эволюционное моделирование

Согласованность и эффективность работы элементов биологических организмов наводит на мысль – можно ли использовать принципы биологической эволюции для оптимизации практически важных для человека систем?

В нескольких модификациях подобные идеи возникали у ряда авторов. В 1966 году Л.Фогель (L.J.Fogel), А.Оуенс (A.J.Owens), М.Уолш (M.J.Walsh) [3] предложили схему эволюции логических автоматов, решающих задачи прогноза. Исследования по прикладному эволюционному моделированию, идейно близкие к работам Л.Фогеля с сотрудниками, были разносторонне развиты в работах И.Л.Букатовой [4]. В 1975 г. вышла основополагающая книга Дж.Холланда (J.H.Holland) “Адаптация в естественных и искусственных системах” [5], в которой был предложен генетический алгоритм, исследованный в дальнейшем учениками и коллегами Дж.Холланда в Мичиганском университете. Примерно в это же время группа немецких ученых (И.Рехенберг (I.Rechenberg), Г.-П.Швефель (G.-P.Schwefel) и др.) начала разработку так называемой эволюционной стратегии. Эти работы заложили основы прикладного эволюционного моделирования или эволюционных алгоритмов.

В общем виде эволюционный алгоритм – это оптимизационный метод, базирующийся на эволюции популяции “особей”. Каждая особь характеризуется приспособленностью f(S) – многомерной функцией ее "генов" S = (S1 , S2 ,...,SN). Задача оптимизации состоит в максимизации функции приспособленности f(S) . В процессе эволюции в результате отбора, рекомбинаций и мутаций геномов особей происходит поиск особей с высокими приспособленностями.

Основные эволюционные алгоритмы:
1) генетический алгоритм, предназначенный для оптимизации функций дискретных переменных и акцентирующий внимание на рекомбинациях геномов;
2) эволюционное программирование, ориентированное на оптимизацию непрерывных функций без использования рекомбинаций;
3) эволюционная стратегия, ориентированная на оптимизацию непрерывных функций с использованием рекомбинаций;
4) генетическое программирование, использующее эволюционный метод для оптимизации компьютерных программ [6].

По сравнению с обычными оптимизационными методами эволюционные алгоритмы имеют следующие особенности: параллельный поиск, случайные мутации и рекомбинации уже найденных хороших решений. Они хорошо подходят как простой эвристический метод оптимизации многомерных, плохо определенных функций. Формируются даже целые области применения эволюционных алгоритмов. Например, несколько лет назад появился термин "Эволюционная роботика", отражающий возможности формирования управляющей  нейронной сети робота естественным эволюционным путем.

1.2. Эволюционная нейрокибернетика

Отмеченные выше модели не затрагивают эволюцию наиболее интересных “интеллектуальных” свойств биологических организмов. И пытаясь проанализировать, как в процессе эволюции могли возникнуть “интеллектуальные” биокибернетические свойства, мы приходим ко второй, потенциально обширной, области исследований (Рис.1), которую можно назвать эволюционная нейрокибернетика. В отличие от эволюционного моделирования эта область исследований только формируется. К ней можно отнести два направления: работы по моделированию эволюции нейронных сетей и теорию происхождения логики. Эта область затрагивает глубокие философские вопросы, и требует специального внимания. Здесь, в предварительном анонсе, мы только упомянем ее, а подробное обсуждение проведем позднее. Но если есть интерес, то желающие могут познакомиться с идейной стороной вопроса по статьям на моей домашней странице:    http://www.keldysh.ru/BioCyber/Papers_R.html .

2. Методы эволюционной кибернетики

Изложенное выше демонстрирует один из методов исследований эволюционной кибернетики – метод математического и компьютерного моделирования. 

Однако, одного моделирования явно недостаточно для охвата всей многогранности эволюции биокибернетических систем. Поэтому целесообразно сочетание построения моделей с развитием общих концепций эволюционной кибернетики.

Яркий пример, иллюстрирующий разработку эволюционных концепций, – книга В.Ф.Турчина "Феномен науки. Кибернетический подход к эволюции" [7]. Книга была написана в стенах Института прикладной математики примерно в 1970 г., однако из-за политической деятельности ее автора впервые была издана только в США в 1977 г. В.Ф.Турчин рассматривает биологическую эволюцию с кибернетической точки зрения, а эволюцию научного познания - как продолжение биокибернетической эволюции. В книге последовательно проанализированы ступени биологической эволюции, а также этапы возникновения и развития математического знания. Книга написана исключительно четко, с хорошо обоснованной внутренней логикой.

В качестве кибернетической основы исследования В.Ф.Турчин использует предложенную им "теорию метасистемных переходов".

Кратко и очень упрощенно суть теории метасистемных переходов сводится к следующему: переход от нижних уровней системной иерархии к верхним происходит путем метасистемных переходов. Каждый метасистемный переход можно рассматривать как объединение ряда подсистем Si нижнего уровня и появление дополнительного механизма управления C объединенными подсистемами. В результате метасистемного перехода формируется система S' нового уровня (S' = C + Si Si), которая может быть включена как подсистема в следующий метасистемный переход.

Схема метасистемного перехода представлена на Рис.2.

Lec1_2.gif (5583 bytes)

Рис. 2. Схема метасистемного перехода. Si –  системы нижнего уровня, C –   управление объединенными подсистемами, S ' –  система нового уровня иерархии.

Примеры метасистемных переходов:

управление положением = движение
управление движением = раздражимость (простой рефлекс)
управление раздражимостью = (сложный) рефлекс
управление рефлексами = ассоциации (условный рефлекс)
управление ассоциациями = человеческое мышление
управление человеческим мышлением = культура

В.Ф.Турчин рассматривает метасистемный переход как некий кибернетический аналог фазового перехода. Он уделяет особое внимание количественному накоплению "потенциала развития" в подсистемах Si перед метасистемным переходом на качественно новый уровень иерархии, а также процессу размножения и развития подсистем предпоследнего уровня иерархии после метасистемного перехода.

На основе теории метасистемных переходов в Интернете развивается уникальный международный Principia Cybernetica Project [8]. В этом проекте делается попытка осмыслить на основе эволюционной научной концепции вечные вопросы человечества: “Почему мир такой, какой он есть? Откуда мы (люди, человечество) произошли? Кто мы? Куда эволюционирует человечество?” Кстати, подумайте: Что может быть следующим метасистемным переходом после перечисленных выше?

3. Модели возникновения молекулярно-генетических кибернетических систем

Как возникли первые кибернетические системы, самые простые молекулярно-генетические информационные системы в процессе происхождения жизни? В 60-80 годы подобные проблемы заинтриговали многих ученых. Целая плеяда Нобелевских лауреатов (Ф.Крик (F.H.C.Crick), М.Эйген (M.Eigen), Ф.Дайсон (F.J.Dyson), Ф.Андерсон (P.W.Anderson)) предприняла попытки представить и промоделировать сценарии возникновения предбиологических информационных систем.

Почему же возник такой интерес к проблеме возникновения молекулярно-генетических кибернетических   систем?

3.1. Революция в молекулярной биологии

В 50-60-х годах в молекулярной биологии был сделан ряд потрясающих открытий:
1) расшифрована химическая структура ДНК (Уотсон и Крик, 1953) и стали известны основные принципы кодирования генетической информации;
2) стали известны основные принципы функционирования молекулярно-генетических самовоспроизводящихся систем живых клеток,
3) расшифрован генетический код.

Эти открытия совершили революцию в науках о жизни. Особенно впечатляет своей "продуманностью" схема функционирования молекулярно-генетических самовоспроизводящихся систем (Рис.3). 

Lec1_3.gif (16841 bytes)

Рис. 3. Схема самовоспроизводящейся молекулярно-генетической системы живой клетки.

На схеме представлена двойная цепь ДНК (постоянная память клетки), с которой (путем транскрипции) считываются матричные РНК (мРНК). По мРНК (путем трансляции) синтезируются белки (ферменты и структурные белки). В процессе трансляции участвуют транспортные РНК. Синтез белков происходит в рибосомах. Синтезируемые ферменты принимают участие в процессах репликации, транскрипции и трансляции.

Приведенная кибернетическая схема весьма нетривиальна с молекулярно-генетической точки зрения: для ее функционирования необходим четкий генетический код (соответствие между триплетами ДНК и пептидными основаниями), необходима сложная "механика" работы рибосом и все в целом должно согласовано работать. Примечательно, что эта кибернетическая схема существует в самых простейших клетках. Т.е. она должна была быть с самого начала жизни на Земле.

Но каковы могли быть механизмы возникновения такой схемы в процессе происхождения жизни? Фактически попыткам осмыслить этот вопрос были посвящены исследования М.Эйгена и Ф.Крика с сотрудниками. Ф. Крик с сотр. тщательно исследовал возможные биомолекулярные механизмы происхождения генетического кода [9]. М.Эйген пошел по пути построения математических моделей, иллюстрирующих (но далеко не воспроизводящих) возможные процессы происхождения простейших самовоспроизводящихся молекулярно-генетических систем [10,11].

3.2. Модели предбиологической эволюции. Общие представления о моделях

И на этом пути М.Эйген провел впечатляющие исследования. Он, в частности, предложил и проанализировал модель "квазивидов", описывающую достаточно простую эволюцию полинуклеотидных (информационных) последовательностей, и модель "гиперциклов", описывающую систему каталитически взаимодействующих ферментов и полинуклеотидов. Очень интересная модель – модель "сайзеров" (syser от System of self-reproduction), была предложена новосибирскими учеными В.А. Ратнером и В.В.Шаминым. Здесь мы только качественно охарактеризуем модели квазивидов и сайзеров. Более детально модели возникновения   молекулярно-генетических кибернетических систем будут представлены в следующих лекциях.

3.2.1. О модели квазивидов

В модели квазивидов анализируется эволюция популяции последовательностей символов (информационных аналогов цепочек ДНК или РНК). Последовательности обладают определенными селективными ценностями. В процессе эволюции происходят отбор последовательностей в соответствии с их селективными ценностями и мутации – случайные замены символов в последовательностях.

Характерная эволюция распределения последовательностей схематически показана на Рис.4. Для простоты предполагается, что последовательности бинарны, т.е. “геном” каждой “особи” представляет собой последовательность нулей и единиц. Длина последовательностей равна N (N >>1). Есть одна оптимальная последовательность, обладающая максимальной селективной ценностью. Селективные ценности остальных последовательностей тем меньше, чем больше расстояние по Хеммингу r (число несовпадающих символов) между рассматриваемой и оптимальной последовательностями. Исходное распределение (t = 0) случайно. В результате эволюции формируется квазивид: популяция, в которой наряду с оптимальной последовательностью есть множество сходных с ней мутантов.

Lec1_4.gif (16125 bytes)

3.2.2. О модели сайзеров

Модель сайзеров (Рис.5) [12,13] описывает самовоспроизводящуюся систему макромолекул, в которую входят: полинуклеотидная матрица I, фермент репликации E1 и фермент трансляции E2 . Полинуклеотидная матрица хранит информацию, кодирующую синтезируемые в сайзере ферменты, фермент репликации E1 обеспечивает копирование полинуклеотидной матрицы, а фермент трансляции E2 – синтез ферментов в соответствии с закодированной в матрице информацией. Возможны также другие ферменты E3 , E4 , ..., En , выполняющие какие-либо еще полезные для сайзера функции. По общей структуре модель сайзеров сходна со схемой самовоспроизводящихся автоматов, исследованных на заре развития вычислительной техники Дж. фон Нейманом (J.von Neumann) [14].

Lec1_5.gif (13893 bytes)

 

Литература:

  1. Кимура М. Молекулярная эволюция: теория нейтральности. М.: Мир, 1985, 400 с.
  2. Кауффман С. Антихаос и приспособление // В мире науки. 1991. N.10. С. 58-65.
  3. Фогель Л., Оуэнс А., Уолш М. Искусственный интеллект и эволюционное моделирование. М.: Мир, 1969. 230 с.
  4. Букатова И.Л. Эволюционное моделирование и его приложения. М.: Наука, 1979. 231 с.
  5. Holland J.H. Adaptation in natural and artifical systems. Ann Arbor: Univ. of Michigan Press, 1975. 183 p.
  6. Koza, J.R. (1992), “Genetic Programming: On the Programming of Computers by means of Natural Selection”, Cambridge, MA: MIT Press.
  7. Турчин В.Ф. Феномен науки. Кибернетический подход к эволюции. М.: Наука, 1993. 295с. Английский вариант книги доступен в Интернете: http://pespmc1.vub.ac.be/POSBOOK.html
  8. The Principia Cybernetica Project. Интернет адрес: http://pespmc1.vub.ac.be/
  9. F.H.C.Crick. The origin of the genetic code. // Journal of Molecular Biology.1968. Vol. 38. N.3. P.367-379.
  10. Эйген М. Самоорганизация материи и эволюция биологических макромолекул. М.: Мир, 1973. 216 с.
  11. Эйген М., Шустер П. Гиперцикл. Принципы самоорганизации макромолекул. М.: Мир, 1982. 270 с.
  12. Ратнер В.А., Шамин В.В. Сайзеры: моделирование фундаментальных особенностей молекулярно-биологической организации. Соответствие общих свойств и конструктивных особенностей коллективов макромолекул // Журн. общ. биологии. 1983. Т.44. N.1. С. 51-61.
  13. Feistel R. On the evolution of biological macromolecules. Precelular organization. 4. Holobiotic competition // Studia biophysica. 1983. V.93. N.2. P. 113-128.
  14. Фон Нейман Дж. Теория самовоспроизводящихся автоматов. М.: Мир, 1971, 382 с.

Материал лекции основан на следующих статьях:

Редько В.Г. Эволюционный подход к исследованию естественных и созданию искусственных "биокомпьютеров" // Нейрокомпьютер. 1994. N.1,2. С. 38-49. Интернет адрес: http://www.keldysh.ru/BioCyber/Papers_R.html

Редько В.Г. (1998). Эволюционная биокибернетика. Почему так медленно развивается актуальная наука? Интернет адрес: http://www.iph.ras.ru/~mifs/rus/redko1r.htm

Редько В.Г. (1998). Синергетика 2, Синергетика 3 или Эволюционная кибернетика. Интернет адрес:  http://www.iph.ras.ru/~mifs/rus/Red2.htm

Редько В.Г. Эволюционная биокибернетика // "Компьютерра". 1999, март, N 11. Интернет адрес: http://www.computerra.ru/1999/11/27.html

Red'ko V.G. Towards the evolutionary biocybernetics // Proceedings of The Second International Symposium on Neuroinformatics and Neurocomputers, Rostov-on-Don, 1995. P. 422-429. Интернет адрес: http://pespmc1.vub.ac.be/Papers/Redko/ToEvCyb.html.

Red’ko V.G. Mathematical Modeling of Evolution (1999). Интернет адрес: http://pespmc1.vub.ac.be/MATHME.html.

 

Copyright © Vladimir Red'ko,   Sep 5 1999 ( redko@keldysh.ru )

Last modified: Dec 3, 1999