Может ли нейробиолог понять микропроцессор?

Нейробиологи, вооружившись методами, обычно применяемыми для изучения живых нейроструктур, попытались использовать их чтобы понять, как функционирует простейшая микропроцессорная система — «Мозгом» был процессор MOS 6502.
182
Разница между in silico и in vivo — живыми и неживыми системами, обрабатывающими информацию, всегда смущала исследователей. Велик соблазн смоделировать на компьютере или прямо электронной схемой, например, головной мозг мыши. Но как далеко можно проводить аналогии между мозгом настоящим и его цифровой моделью? Вопрос этот всплывает всякий раз, когда удаётся получить интересные результаты моделирования. И всякий раз находятся те, кто напоминает: живое и неживое — две совершенно разных категории, все связи между ними условны, сходство только внешнее!
Для сравнения. Слева схема микропроцессора 6502. Справа предполагаемая схема визуальной системы приматов. При этом учёные до сих пор не уверены, прави
Для сравнения. Слева схема микропроцессора 6502. Справа предполагаемая схема визуальной системы приматов. При этом учёные до сих пор не уверены, правильно ли выделены блоки (тот факт, что они разделены анатомически, мало что значит) и не знают точно, как выходы блоков зависят от состояния их входов…
Этот вроде бы смешной вопрос на самом деле связан с проблемой, которая сильно докучает нейробиологам. Вы, конечно, знаете, что придуманы сотни методов изучения головного мозга. В общем они сводятся к сбору всевозможной информации о работе тех или иных его частей и попыткам, анализируя её, понять, как мозг устроен. Но что значит понять с точки зрения нейробиологии? А это значит быть способным заменить любой участок искусственным аналогом, не нарушив работы мозга целиком.
Так вот, несмотря на все успехи в выдумывании всё новых методов изучения мозга, от понимания его учёные всё ещё бесконечно далеки! Отчасти причиной тому чрезмерная сложность живого: чаще всего мы не знаем даже, действительно ли оно работает так, как мы предположили. Но тем больше причин проверить методы на простых и известных до последнего винтика неживых системах!

Что и проделала группа исследователей из США, опубликовавших замечательную работу в жанре так называемой вычислительной биологии. Называется она «Может ли нейробиолог понять микропроцессор?» и если вас не смущает английский, я очень рекомендую оригинал: написано простым языком, зато подробнейше разбирает массу любопытных и сложных вопросов.
Процессор исполняет Space Invaders.
Процессор исполняет Space Invaders.
Суть: нейробиологи, вооружившись методами, обычно применяемыми для изучения живых нейроструктур, попытались использовать их чтобы понять, как функционирует простейшая микропроцессорная система. «Мозгом» стал MOS 6502 — один из популярнейших микропроцессоров всех времён и народов: 8–битный чип, использованный во множестве ранних персональных компьютеров и игровых приставок, в том числе Apple, Commodore, Atari. Естественно, что мы знаем об этом чипе всё — ведь он создан человеком! Но исследователи сделали вид, что не знают ничего — и попытались понять его работу, изучая теми же методами, которыми изучают живой мозг.
Химически была удалена крышка, под оптическим микроскопом изучена схема с точностью до отдельного транзистора, создана цифровая модель (тут я немного упрощаю, но суть верна), причём модель настолько точная, что на ней оказалось возможно запускать старые игры (Space Invaders, Donkey Kong, Pitfall). А дальше чип (точнее, его модель) был подвергнут тысячам измерений одновременно: во время исполнения игр измерены напряжения на каждом проводке и определено состояние каждого транзистора. Это породило поток данных в полтора гигабайта в секунду — который уже и анализировался. Строились графики всплесков от отдельных транзисторов, выявлялись ритмы, отыскивались элементы схемы, отключение которых делало её неработоспособной, находились взаимные зависимости элементов и блоков и т.п.

Насколько сложной была эта система по сравнению с живыми? Процессор 6502, конечно, и рядом не стоит с головным мозгом даже мыши. Но он приближается по сложности к червю Caenorhabditis elegans — ломовой лошадке биологов: этот червь изучен вдоль и поперёк и уже предпринимаются попытки смоделировать его полностью в цифровом виде (вспомните «О правах животных in silico»). Таким образом задача анализа системы на чипе 6502 не является чрезмерным упрощением. И результаты имеют право быть экстраполированы на системы in vivo.
Попытка понять функциональные взаимосвязи.
Попытка понять функциональные взаимосвязи.
Вот только исследователи… потерпели поражение! Нет, какие–то результаты, конечно, получены были. Анализируя чип, удалось выделить функциональные блоки, набросать схему их вероятных взаимосвязей, получить некоторые интересные подсказки насчёт того, как, вероятно, работает микропроцессор в целом. Однако понимания в том смысле, в каком его требует нейробиология (в данном случае: быть способным исправить любую поломку), достигнуто не было! Отсюда два неприятных вывода и один совет.
Во–первых, имеющиеся на вооружении нейробиологов методы очевидно бесполезны для изучения живого мозга. Разве вправе мы надеяться понять сложнейшую живую систему, если не в силах справиться даже с простейшей искусственной моделью?

Во–вторых, наращивание объёма информации, собираемой о мозге, вероятно, не поможет проникнуть в секреты его работы глубже — без смены методов анализа. Ведь 6502 измерялся с предельной точностью, от исследователей не укрылось ничто в нём происходящее, и тем не менее понять его не удалось!

Что же до совета, нейробиологам рекомендуют взяться за задачу с другого конца: разработать (принципиально новые) методы изучения искусственных систем, убедиться, что они работают, что действительно позволяют понять, как система вроде того же 6502 устроена — и только потом экстраполировать их на живые нейроструктуры. Так неживое поможет разобраться в живом.

[1] Оригинал статьи на computerra.ru.
[2] Оригинал на английском.
crea7or
182
5464
Опубликовано на science
слава роботам! смерть человекам!

image
Если вы когда–либо занимались эволюционными алгоритмами, или хотя бы слушали/читали про них, вы наверняка знаете что эволюция любит "читить". Если есть где–то возможность соптимизировать что–то, есть вероятность что эволюция найдет и использует это. Нет, я не утверждаю что эволюция производит идеальные создания, легко продемонстрировать что это не так. Но смысл в том, что эволюция легко создает очень сложные системы, часто из небольшого количества элементов, разобраться в которых очень и очень сложно.

Вот практически элементарный пример, очень эффективная антенна, созданная эволюционным алгоритмом (статья в вики):

image

Сомневаюсь что хоть один радиоинженер в мире сможет объяснить почему эта форма работает лучше других.

Если взять пример чуть сложнее, простая нейронная сеть, которая получилась в результата обучения выглядит примерно так:

image

Тут всего 5 слоев, в трех из них по 20 "нейронов". И уже хрен разберешься что происходит. Но оно как–то работает.

Для сравнения, в человеческом мозге 100 млр нейронов и 100 трлн соединений.

Мне кажется мы никогда не разберемся как конкретно оно работает, в лучшем случае поймем микроструктуры и отдельные области.
olegk: Когда–то казалось, что и земля плоская.
pofigarius: есть люди, которые и сейчас в это верят.
olegk: > Сомневаюсь что хоть один радиоинженер в мире сможет объяснить почему эта форма работает лучше других

Вот вы недоговорили важные факты, которые по сути и объясняют её строение:
* Круговая поляризация
* Широкополосность в X–дипапзоне
* Постоянное волновое сопротивление на всём диапазоне.

В общем–то это смесь логопериодической и спиральной антенны. Форма особенна тем, что использует минимум, человек–же использовал–бы больше проволоки.
olegk: Похоже на разогнутую скрепку. Её правда, сначала вычислили? А то, может присобачили скрепку, а она возьми и заработай как надо.
Se_S: Могу точно сказать, что прекрасная направленная антенна выходит из классической банки "Нескафе".
olegk: Учитывая новые данные последних лет, когда ранее якобы "бесполезные" системы оказывались очень даже нужными и полезными, предполагаю что гортанный нерв ждет та же судьба.
Keemosabe: креационист не палится.
Мозг на жизнь вынужден реагировать сразу и хором.
От входа до выхода у него несколько тактов, и все 100млрд. "решал" обязаны проголосовать
и вложиться своими весами в направление результирующего вектора поступка.
Они как–бы лепят матрицу, которая из коровы сразу делает котлеты.
В процессоре весь поток данных ждет последовательной обработки одним АЛУ.
Сначала оно убивает корову, потом сдирает шкуру, потом превращается в мясорубку...
Это очень управляемая конструкция, но это, по сути, один нейрон, который отдувается за всех.
С алгоритмическими автоматами, пусть и разогнанными до гигагерц, мы примеряемся
к электроколлоидной биомассе, работающей на десятке герц, но с очень древними навыками.
Придется набраться терпения, это начало пути.
Но что значит понять с точки зрения нейробиологии? А это значит быть способным заменить любой участок искусственным аналогом, не нарушив работы мозга целиком.

Кто так решил?
cocolacrep: Сомневаюсь что хоть один радиоинженер в мире сможет объяснить почему эта форма работает лучше других.
image
Опытный инженер без всяких методов и расчетов сразу скажет что и как.
gamer: На этой кривой антенне отдельные участки влияют друг на друга. Это меняет параметры антенны и диаграмму. Тем более, что физические антенны не очень согласуются с моделями и требуют наладки, даже простейшие. В некоторые специально вводят наладочные элементы (обычно 1), меняя который можно подстроить антенну. Не исключено, что увеличив их число и натравив на них некий алгоритм (генетический или аналитический), можно было бы значительно ее улучшить.
RCanywhere: Для генетического алгоритма все одно нужно софт для расчета антенны делать и генетический алгоритм настраивать примерно представляя конечный результат. Проще без него.
Отличный рассказ про это дело есть аж 58 году Крабы идут по острову. В то время было модно всякими генетическими алгоритмами и нейросетями увлекаться. Потом появились компьютеры и стало понятно, что не все так просто.
gamer: Генетический алгоритм может менять модель, а аналитический — заниматься оптимизацией этой модели. Так не делают?
cocolacrep: В этом месте журналист то ли упрощает, то ли не так всё понял. По крайней мере, мне при чтении оригинального исследования показалось, что речь идёт совсем о другом уровне понимания. Или, как минимум, не только об этом уровне. В исследовании говорится примерно следующее:

Во–первых, важно знать, как система работает на уровне вычислений: какие проблемы она стремится решить, как она выполняет эти задачи алгоритмически и какие процессы использует. Во–вторых, необходимо разобраться, каким образом система реализует алгоритмы на физическом уровне. «В конечном итоге, — пишут исследователи, — мы хотим понять работу мозга на всех этих уровнях». В случае с микропроцессором понимание можно выразить вопросом «Как элементы схемы дают начало вычислениям?»

Я приведу кусок из самого исследования, чтобы было совсем понятно, «кто так решил»:

What constitutes an understanding of a system? Lazbnick’s original paper argued that understanding was achieved when one could “fix” a broken implementation. Understanding of a particular region or part of a system would occur when one could describe so accurately the inputs, the transformation, and the outputs that one brain region could be replaced with an entirely synthetic component. Indeed, some neuroengineers are following this path for sensory and memory systems. Alternatively, we could seek to understand a system at differing, complementary levels of analysis, as David Marr and Tomaso Poggio outlined in 1982. First, we can ask if we understand what the system does at the computational level: what is the problem it is seeking to solve via computation? We can ask how the system performs this task algorithmically: what processes does it employ to manipulate internal representations? Finally, we can seek to understand how the system implements the above algorithms at a physical level. What are the characteristics of the underlying implementation (in the case of neurons, ion channels, synaptic conductances, neural connectivity, and so on) that give rise to the execution of the algorithm? Ultimately, we want to understand the brain at all these levels.

In this paper, much as in systems neuroscience, we consider the quest to gain an understanding of how circuit elements give rise to computation.

Мне кажется, последняя фраза говорит о том, что исследователей волновало вовсе не «как заменить участок искусственным аналогом».
Во–первых, имеющиеся на вооружении нейробиологов методы очевидно бесполезны для изучения живого мозга.

Странный вывод. По–моему, опыт показывает только, что имеющиеся на вооружении нейробиологов методы бесполезны(малополезны?) для изучения процессора.
В мозгу же есть более–менее независимые функ.отделы а в процессоре все функ.блоки работают в связке. Например, чтобы дернуть рукой, в мозге задействуется двигательная кора. А чтобы дернуть виртуальной рукой процессору надо считать инструкции из памяти команд, считать параметры модели из памяти данных, часть взять из кэша и или положить в кэш, команды пропустить через микропрограммы и данные — через АЛУ. Затем выдать результаты куда–то или заслать в порты вывода. Все части процессора задействованы и исследовать их по–отдельности невозможно.
RCanywhere: Если верить авторам статьи, в мозге с независимыми функциональными отделами не лучше, чем в процессоре: "If we had been able to isolate a single function, maybe by having the processor produce the same math operation every single step, then the lesioning experiments could have produced more meaningful results. However, the same problem exists in neuroscience. It is extremely difficult or technically impossible to produce behaviors that only require a single aspect of the brain."
RCanywhere: Ага, а еще при этом в подлом мозге одни участки могут замещать другие при потере функционала, равно как и определенные функции мозга усиливаются при снижении других:)
Мне кажется, что автор статьи в Компьютерре очень упрощает понятие «понимания» и опускает некоторые интересные подробности — например, то, какие нейробиологические методы пытались воспроизвести учёные, поэтому я дам ссылку на собственную версию этой новости. Надо сказать, моя версия тоже не без греха: я умудрилась изучить статью несколько раз, включая раздел «Методы» и упустить тот факт, что речь идёт о цифровой симуляции микропроцессора (ужасно стыдно) — впрочем, если это действительно «идеально точная» симуляция, может быть, разница для эксперимента не принципиальна. Но, в любом случае, статьи неплохо друг друга дополняют — в каждой есть то, чего нет в другой. А вообще всем советую почитать оригинальное исследование, хотя бы начало и конец, потому что середина там весьма хардкорна для тех, у кого нет знаний и в области нейробиологии, и в области электроники.
Мозговед изнасиловал журналиста.
Сравнивать мозг с процессором, то же самое, что сравнивать свечку с ядерным реактором — они же оба дают тепло!
Слишком самонадеянно, со стороны людей считать, что процессор чем–то подобен мозгу. Они оба имеют память, оба решают задачи, но на этом сходство заканчивается. Есть и сплавы металлов, которые имеют память, и наборы шестеренок, которые решают задачи, но мы же не считаем их подобием мозга.
Принципиальное различие в том, что мозг имеет волновой принцип функционирования. Все процессы в нем, зарождаясь, проходят по всему объему отражаясь и интерферируя пока не угаснут. Это легко увидеть по проявлениям злости у приматов: воздействие, самовозбуждение, неконтролируемая ярость, успокоение. Чем сильнее развит мозг примата, тем ярче фаза самовозбуждения. Все же знают, когда человек сам себя "накручивает"? Волны возбуждения в мозгу подпитываются негативными воспоминаниями, амбициями, антипатией, все увеличивая амплитуду, пока шторм не охватит весь мозг и человек потеряет контроль над собой. Это называют "состояние аффекта". А возникает он у людей, которые не имеют барьеров в мозге, об которые разбивались бы волны возбуждения, теряя свою энергию.
Есть такое в процессоре? Нет.
iangel: В процессоре нет, а в программе в совокупности с процессором есть все, что реализует программист, в рамках аппартных ограничений, навыков программиста.
Спасибо за интересную статью. Интересно, что еще Марвин Минский посмеивался над нейробиологами полагая, что бесполезно исследовать мозг без предварительных гипотез об его устройстве.