Цепь Маркова и Принцип свободной энергии: Андрей Андреевич Марков

Андрей Марков
Андрей Марков

Возможно, вы не знали. Но советские ученые и инженеры создали самую первую цифровую электронную вычислительную машину в континентальной Европе

А что если я скажу, что не было бы Яндекса, Google, алгоритма Page Rank, который был предложен Лари Пейдж и Сергеем Брином для ранжирования веб-страниц, а соответственно и удобного поиска в интернете если бы не одна работа русского математика в 1906 года!

Сегодня я расскажу про русский вклад в Computer Science.

А также вы узнаете причем здесь выращивание человеческих мозгов на кремниевом чипе и как связан русский математик с прогнозом погоды.

И еще. Хардкорная математика «Евгений Онегин» Пушкина, лабораторные мыши DOOM II и виртуальный пинг-понг для минимозга – в этой истории смешалось все! Так кто же этот загадочный человек, что так повлиял на сегодняшнее ИТ?

Андрей Андреевич Марков,  русский математик и академик, член Санкт-Петербургского математического общества. Родился Андрей Андреевич в июне 1856 года в Рязани.

Андрей Марков в раннем возрасте страдал туберкулёзом коленного сустава и до 10 лет ходил на костылях. Только после операции, проведённой известным хирургом он получил возможность ходить нормально.

Если бы не «Цепь Маркова» (из работы 1906 года), то алгоритмы Яндекса и Google работали бы не так хорошо, не было бы любимого многими студентами «антиплагиата».

Цепи Маркова используются также для прогнозирования различных процессов: например, прогноз погоды или прогнозы случайных событий, или таких сложных вещей как оптимизация производительности телекоммуникационных сетей, ну и для маркетинга, конечно же, куда без него.

Сейчас их активно применяют и для генерации текстов и даже для распознавания речи. Автозаполнение слов и предложений тоже под силу им. Цепь Маркова идеально подходит и для создания алгоритмических музыкальных композиций.

Для того чтобы понять, что такое Цепь Маркова проведем эксперимент.

Одной из первых научных дисциплин, в которой цепи Маркова нашли практическое применение, стала лингвистика. Сам Марков для иллюстрации своих результатов исследовал зависимость в чередовании гласных и согласных в первых главах «Евгения Онегина».

Но давайте немного познакомимся с Андреем Андреевичем, прежде чем узнаем о необычных применениях его открытия.

По большинству предметов он учился плохо, исключение составлял только один предмет — математика. Ей он был предан на 100 процентов.

31 мая 1878 года он окончил Петербургский университет по математическому разряду физико-математического факультета со степенью кандидата.

А уже в 1880 году он защитил свою знаменитую магистерскую диссертацию, сразу выдвинувшую его в первые ряды русских математиков. По характеру он был непокладист и ершист.

На все имел свое мнение. Если так можно сказать «очень ценил себя в математике». Сам осознавал, что многого достиг. Но в его время, все эти изыскания с марковскими процессами, которые были так названы впоследствии, были чисто умозрительной штукой, в отличии от сегодняшнего дня.

Так как же объяснить, по простому, что это за Цепи Маркова такие?

Цепи Маркова — это последовательность событий или действий, где каждое новое событие зависит только от предыдущего и не учитывает все остальные события.

Это псевдослучайный процесс перехода из одного состояния в другое. Переход происходит без запоминания предыдущего состояния (этот переход  и называется «марковостью»), и зависит только от текущего состояния и вероятностей, которые представлены в так называемой матрице переходов.

Короче говоря, переход из одного состояние в другое – это случайный процесс, носящий вероятностный характер.

Марков изучал последовательность 20000 букв в поэме А.С. Пушкина «Евгений Онегин». В 1913 году представил результаты своей работы в докладе Петербургской Академии наук на примере Евгения Онегина, а точнее просто на этом примере показал последовательность событий, каждое из которых было связано с предыдущим.

Так, например, после гласной буквы в тексте, скорее всего встретится согласная, чем гласная. И не потому, что согласных просто больше, чем гласных. Дело в том, что пары гласная-гласная встречаются гораздо реже, чем гласная-согласная.

Занимательные факты из жизни Маркова

Н.А. Морозов в 1915 году на собрании Академии наук в Санкт-Петербурге назвал метод Маркова «Новым оружием для анализа древних рукописей».

На демонстрации Морозов представил некоторые статистические данные, которые могли бы помочь определить стиль некоторых авторов.

Теперь то, мы с вами знаем, в эру развития компьютеров и смартфонов, что так оно и есть. Но сам  Марков счел эксперименты Морозова неубедительными, однако упомянул, что более современные модели и расширенный набор данных дают возможность автору устанавливать подлинность применяя только математический анализ данного литературного произведения. К 1916-му году Марков прекратил свои исследования, потому что почти полностью потерял свое зрение из за глаукомы.

Пушкин и чередование букв, конечно интересно. Но причем здесь Гугл и Яндекс.

А все просто.  В 1998 году Пейдж и  Брин опубликовали статью «The PageRank Citation Ranking: Bringing Order to the Web», в которой описали знаменитый алгоритм PageRank, ставший фундаментом Google.

Через 20 лет Google стал мега гигантом, а в основе PageRank лежит гипотеза: что наиболее вероятные страницы в стационарном распределении должны быть также и самыми важными (мы посещаем эти страницы часто, потому что они получают ссылки со страниц, которые в процессе переходов тоже часто посещаются).

Мы фактически  имитируем  веб-пользователя, случайным образом перемещающегося от страницы к странице; при этом показателем ранжирования становится распределение страниц — на самые посещаемые страницы в устоявшемся состоянии должны ссылаться другие часто посещаемые страницы, а значит, самые посещаемые должны быть наиболее релевантными, таким образом здесь отлично легли Цепи Маркова. Если этот пример вам показался немного сложным…ну что же. Следующий вообще взорвет мозг. В прямом смысле.

Сейчас расскажу вами об обратном «чипирование»: это когда клетки мозга выращивают на кремниевом чипе, а не внедряют микросхемы в мозг.

Сотни тысяч клеток человеческого мозга, выращенных в чашке Петри, обрели новый смысл жизни — они целыми днями играют в ретро-видеоигру Pong. Можно сказать, что их сознание живет в Матрице. Они верят, что являются ракеткой для отбивания цифрового шарика.

Эти клетки живут в придуманном и разработанном специально для них игровом мире. Как же клетки объединились в «мини-мозг»?

А здесь как раз и приходит на выручку Цепи Маркова.

Специалисты компании Cortical Labs в рамках проекта DishBrain создали мини-мозг и научили его клетки играть в виртуальный пинг-понг. Ученые использовали около миллиона живых клеток мозга. Они была размещены в чашке Петри — прозрачном сосуде, к которому были подключены микроэлектроды.

За счет активации нейронов искусственные клетки смогли перемещать виртуальную ракетку. Клетки демонстрируют способность к самоорганизации целенаправленно в ответ на скудную сенсорную информацию о последствиях своих действий.

Интеграция биологических нейронов и обычного аппаратного обеспечения (из кремния) это интересный вызов современности. Возможно, синтетический мозг из биоматериала со временем будет работать эффективнее, чем ИИ на суперкомпьютере.

И в будущем можно будет создавать способных к обучению биороботов. Насколько этично это будет — другой вопрос. Считается, что эти гибридные чипы способны обучаться и перестраиваться, чтобы решать новые задачи. Пример понга демонстрирует, как они подстроились под условия нового мира. Этот эксперимент интересен еще и тем, что обучение нейросети из человеческих клеток различным играм — это важный шаг в создании синтетического мозга, способного решать широкий спектр задач.

Еще ждем когда этот «мозг» обучат играть в DOOM, крысы же играют (вот нейроинженер из Венгрии Виктор Тот натренировал лабораторных крысят проходить уровень классической компьютерной игры DOOM II), чем «мозги» из Чашки Петри хуже?

Как им это вообще удалось: как клетки объединились в «мини-мозг»?

Если очень упрощать: то согласно принципу свободной энергии Фристона, который базируется на изысканиях Маркова, конкретно на покрытиях Маркова, всё живое, начиная с одной-единственной клетки и заканчивая человеческим мозгом с миллиардом нейронов (ну или такой вот колонией клеток на чипе), регулируется универсальным правилом, сводящимся к математической функции, согласно которой быть живым — значит сокращать разрыв между ожиданиями и чувственными данными.

Но был похожий эксперимент и с ИИ, а не с мозгами в чаше.

В конце 2017 года группа нейробиологов из Королевского колледжа Лондона под руководством Розалин Моран провела эксперимент, столкнув в игре Doom две ИИ-системы — систему максимизации награды и систему активного вывода. И победила, та что базировалась на принципах активного вывода, это доказывает что марковские процессы буквально лежат в основе нашего сознания.

Источник 1 — https://cs.petrsu.ru/~olbgvl/greatapp/onegin_rus.html
Источник 2 — https://zen.yandex.ru/media/anosistema/iskusstvennyi-mozg-iz-kletok-cheloveka-vyzovy-i-otkrytiia-61f1f504c18e4742a3fa6cfb?&

Оставьте первый комментарий

Отправить ответ

Ваш e-mail не будет опубликован.


*


два × один =