Умнее, чем кажутся

На прошлой неделе Вышка принимала в своих стенах Онура Гюнтюркюна из Рурского университета Бохума, одного из ведущих специалистов по исследованию мышления. Гюнтюркюн известен, в частности, демонстрацией того, что сороки проходят зеркальный тест, т.е. узнают себя в зеркале. IQ.HSE сходил послушать лекцию профессора Гюнтюркюна, организованную при поддержке Немецкого научно-исследовательского сообщества (DFG) — а после задал ему несколько вопросов о том, как относиться к проблеме мышления и почему рыбки-чистильщики оказались «умнее» осьминогов.

Если не хотите смотреть, можно прочесть наш пересказ

Историю жизни, благодаря Дарвину, мы привыкли рассматривать как историю филогенетической родственности. Люди с шимпанзе похожи, потому что 8 миллионов лет назад у нас был общий предок, и оба вида немало от него унаследовали. Люди похожи на собак меньше, чем на шимпанзе — потому, что их общий предок намного древнее. Даже с голубями он у нас есть, но он жил 312 миллионов лет назад.

Эта логика гласит, что сходство указывает на филогенетическое родство. Но есть и другой принцип. еж и ехидна похожи, у них близкий фенотип , но движущая сила этого сходства не наследственность (гомология), а отбор (гомоплазия). Здесь мы имеем дело с параллельной эволюцией — возникновением особенностей в результате реакции на давление отбора. Т.е. сходство ежа и ехидны объясняется не их родством, а тем, что на них действовали похожие факторы отбора.

Теперь представим, что осьминоги начинают думать, как люди, чувствовать, как люди, ошибаться, как люди, и т.д. Вопрос, который меня волнует: будет ли у них человеческий мозг? Или он будет совсем другим, но функционировать точно так же, как человеческий?

Есть ли у мозга достаточная степень свободы, чтобы создавать сложную ментальную жизнь на разных «моделях», или ментальные способности, подобные нашим, жестко завязаны на конкретную структуру?

Мозг приматов

У макаки есть кора лобных долей, там 6 слоев, это крайне сложная структура. Теория происхождения неокортекса связана с именем Людвига Эдингера, анатома. В начале эволюции позвоночных были рыбы. Эдингер знал, что ствол головного мозга рыб и людей, равно как и других позвоночных, очень похож.

Первая часть его идеи в том, что мозг эволюционировал просто приращением. У рептилий ничего не пропало, только паллиум (он же плащ или мантия головного мозга) стал крупнее, и в нем уже появились слои. У птиц стали огромными базальные ядра , которые контролируют заученные действия. У млекопитающих паллиум стал на порядке крупнее, и что самое главное, у самых умных большая его часть уже состоит из неокортекса.

Посмотрите на мозг голубя. Субпаллиум у них — и это в основном базальные ядра — огромный. А вот доля паллиума мала, и лишь небольшая его часть считается неокортексом.

У макаки же огромная доля мозга занимает паллиум, и большая его часть это кортекс, и лишь небольшая часть всего мозга приходится на субпаллиум. Кроме этого, кортекс покрыт извилинами, и что делает его площадь еще больше. Из этого мы выводим, что именно поэтому макаки столь умны.

Если вы откроете атлас человеческого мозга и посмотрите на номенклатуру, то увидите в ней теорию Эдингера: проторептильный мозг, палеомаммальный...

Так вот, вся эта теория неверна. Мы следовали ложной теории сто лет. Мы пользовались ей только потому, что она опирается на животных, которых мы никогда не проверяли.

Почему неокортекс так важен? Вот рисунок. Ткани неокортекса упорядочены вертикально — нервные волокна передают по вертикали сигналы, например, сенсорные.

Неокортекс / Wikimedia Commons

Тут же у нас есть нейроны, каждый из которых выполняет какую-то специфическую вычислительную задачу. Но помимо вертикальных нитей, неокортекс пронизан также нитями, организованными горизонтально. Итак, вы получаете какие-то сигналы по вертикальным каналам и связываете все со всем по горизонтальным. Из-за этой инфраструктуры мы столь умны.

Возьмем мозг голубя. Тут нет ни слоев, ни вертикальных, ни горизонтальных связей, нет деления на слои. Очевидно, что мозг этого животного не способен на то, что может мозг шимпанзе.

Есть и другая классификация интеллекта животных. Это соотношение массы тела к массе мозга. Как вы видите, на этом графике млекопитающие находятся выше, и люди здесь на самом верху. Казалось бы, тут можно было и остановиться.

График соотношения массы тела к массе мозга / Wikimedia Commons

Мышление птиц

Но вместо того, чтобы остановиться, ученые начали изучать птиц. Вот что мы узнали за последние 20 лет о врановых:

у них есть эпизодическая память;

они распознают себя в зеркале;

они способны не только использовать подручные предметы в качестве инструментов, но и изготавливать инструменты;

способны мыслить по аналогии;

планировать.

В 2010-м году я с коллегой провел сравнительный тест между птицами и приматами на отложенное вознаграждение — который мы проверяли при помощи аналога зефирного теста, т.е. предлагали животным потерпеть нос к носу с не самым вкусным лакомством, чтобы взамен получить что-то повкуснее. И вот результаты: попугаи продержались 15 минут, вороны шесть минут, шимпанзе четыре минуты, а бонобо 40 секунд.

20 лет назад мы провели с сороками эксперимент, подобный тому, что Жан Пиаже проводил с детьми — на перманентность предметов, т.е. понимание того, что когда объект исчезает из вида, он не перестает существовать. Пиаже не только описал, как проходят тест дети, но и описал то, как именно они ошибаются на разных стадиях развития. И наши сороки, взрослея, не только дошли до последней, шестой стадии, но и сделали это быстрее, чем люди — и что самое главное, на каждой из стадий они совершали ошибки того же типа, что описывал Пиаже, работавший с детьми. Т.е. их мышление в этом отношении было организовано точно так же, как и наше.

Примерно то же продемонстрировали и наши недавние эксперименты с голубями на заучивание британской орфографии.

Ну и последнее: посмотрите на то, как они играют.

Птичий мозг

Давайте вернемся к мозгу птицы. У них нет неокортекса, почему при этом они ведут себя столь похоже на людей и приматов? Вот что я думаю.

Возьмем крылья. У летучих мышей, птерозавров и птиц есть (или были) крылья, все они летали, но анатомия этих крыльев разная. У птерозавра удлинился только большой палец. У летучих мышей удлинились все четыре пальца, а большой нет. У птиц ничего особенно не удлинилось, они справились при помощи перьев.

Не так ли произошло с мышлением?

Вот мозг птицы: огромный подпаллиум и малый слой паллиума. В 2002 году мы собрались в университете Дьюка, чтобы найти новый способ взглянуть на эволюцию мозга птиц. Это был самый захватывающий семинар в моей жизни, я за неделю спал 14 часов. Вот что мы решили: что слой паллиума у птиц на самом деле на порядки больше, просто его анатомическая структура иная. Но в действительности это структура, гомологичная неокортексу приматов. Т.е. 312 миллионов лет назад, в то время когда на Земле жил общий предок птиц и млекопитающих, его мозг уже был поделен на паллиум и подпаллиум, и первого было больше. Но вот организация этих зон мозга у птиц и млекопитающих радикально отличается.

Мы считаем, что самая важная часть мозга для наших когнитивных способностей высшего порядка — это префронтальная кора. Она отвечает за обработку сенсорной информации, в ней находятся клетки, которые отвечают за исполнительные функции: обучение, категоризацию, рабочую память и так далее.

Как мы теперь знаем, у птиц она тоже есть. Сравнив активность клеток из префронтальной коры макак и птичьего аналога неокортекса, мы увидели, что их активность структурно подобна.

Что это значит? Что независимо друг от друга птицы и млекопитающие развили зоны мозга для мышления высокого уровня (higher cognition), и они похожи друг на друга связностью, нейрохимией, функциями и клеточными механизмами. И это аргумент в пользу того, что у способности к мышлению не так много степеней свободы — когда природе необходимо создать мышление, она вынуждена воспроизводить примерно одну и ту же принципиальную схему.

Что делать с соотношением масса тела/масса мозга? В него надо внести уточнение, и смотреть на «плотность упаковки» нейронов в мозге. И тогда мы увидим, что у ворона, например, на один грамм мозга нейронов больше, чем у некоторых обезьян. А плотность упаковки нейронов в мозге голубя больше, чем в мозге человека.

Что это дает? Мы провели эксперимент, в котором заставляли студентов соревноваться с голубями, несколько усложнив для людей задачу технически , чтобы уравнять их с птицами. И дали обеим группам задачу на мультитаскинг. Что произошло? Голуби выиграли.

© GIPHY

Итого

У млекопитающих и птиц области переднего мозга гомологичны — и их когнитивные возможности в целом сравнимы. При этом они развились независимо друг от друга. То же можно сказать и о мышлении: птицы и млекопитающие учатся, забывают, ошибаются, делают обобщения и производят суждения примерно одним и тем же образом. Соответственно, в природе есть крайне небольшая степень свободы в том, как порождается мышление.

Но кортекса у птиц нет, как нет деления на серое/белое вещество, и топология мозга совсем другая. Дизайн мозга птиц более эффективен, в то время как мозг человека эффективнее в итоге. Птицы умнее «на нейрон», в то время как мы умнее «по нейронам», т.е. превосходим птиц только в силу сырой мощи нашего мозга: он больше, в нем больше нейронов.

— Итак, у нас есть «мыслительная машина», та производит мышление, в какой-то момент мышление производит язык, т.е. способ символического кодирования информации, эдакий «файл подкачки» для мышления, и мы получаем интеллект в примерно том виде, как мы его понимаем. Нужен ли именно мозг для всего этого, или пойдет любая машина, которая сможет оперировать символами и тому подобное?

— У кораллов нет мозга. Хотя есть нервная система, потому что им надо передвигаться. Как только у вас возникает необходимость в движении, вам также потребуются и нервные клетки. Сами по себе они еще не мозг, потому что могут быть распределены, как сеть. Но если речь уже о координации ввода и вывода, то для этого уже нужна какая-то точка сборки, а это мозг. Они бывают очень примитивным, предельно простой рефлексивной машинерией: почувствовал свет — спрятался, свет исчез — вылез обратно. Но как только вам потребовалось что-то больше, чем простейшие рефлексы, это значит что вам нужно больше нейронов, и без мозга вам тут уже совершенно не обойтись.

Онур Гюнтюркюн / Ксения Доронина

Но если вы спросите меня о том, только ли мозг помогает нам думать, ответ будет нет, все сложнее. Вот, смотрите, у меня бутылка в руке. Я смотрю вам в глаза, не смотрю на бутылку, и опускаю ее себе на колено. Раньше мы думали, что это действие требует очень сложных вычислительных операций. Мне надо знать дистанцию, силу моих мышц, вес бутылки, и просчитать все это для того, чтобы совершить это действие. Но в действительности я этого не делаю. Я просто медленно опускаю руку, и когда мой мизинец сообщает мне, что я коснулся колена, я останавливаюсь.

— А, вы говорите про embodied cognition.

— Да. Участие в этом процессе пальца, способного осязать, позволяет мне уменьшить сложность вычислений. Они все необходимы, но это намного более простая задача, чем мы думали раньше.

— Т.е. чтобы быть разумным, мне не обязательно нужен мозг, но достаточно очень сложного тела?

— Нет, если ваше тело сложно устроено, то и мозг тоже.

— Давайте я задам пару вопросов о зеркальном тесте. Ваша группа показала, что его проходят сороки, есть также результаты с приматами, слонами и дельфинами. Все это животные, которых с точки зрения обывателя в принципе можно назвать «умными». Однако в начале этого года японцы показали, что зеркальный тест проходит и рыбка-чистильщик из семейства губановых. И этот результат сильно озадачил научное сообщество. А вас?

— Это замечательный эксперимент, и в уверен — не на все сто процентов — но уверен, что его выводы группы Коды правильные. Я очень воодушевлен этой статьей, потому как не верю, что способность к распознаванию себя это привилегия немногих животных, я считаю, что она намного более распространена.

Вот вы шагаете куда-то и видите, что за вами следует ваша тень. И вы знаете, что это ваша тень, а не какое-то другое странное животное. Всех животных объединяет тот факт, что у них есть тени. И они должны понимать, какая принадлежит им, а какая кому-то другому. Я вижу приближающуюся тень — значит, сюда идет кто-то другой. Я вижу, как двигается моя тень — это не животное.

Возможно, самосознание (self-recognition) намного более распространено, и я считаю, что в случае с распознаванием себя в зеркале можно выделить три уровня. Самый примитивный это «думаю, это другое животное», самый высокий «думаю, это я», но есть также возможность того, что очень много животных в этом смысле занимают промежуточную позицию: «я знаю, что это не другое животное, потому что его движения строго коррелируют с моими, но я недостаточно умен, чтобы понять, что оно зависит от меня». Есть эксперименты с курицами, голубями и разными обезьянами — они не узнают себя в зеркале, когда проходит этот классический тест, но и ведут себя очень странно напротив зеркала. Они не ведут себя так, будто напротив них другая обезьяна, а так, будто имеют дело с каким-то очень необычным созданием, очень странным. Кем-то, кто делает то же самое, что и я, но я не понимаю, что это такое.

— Т.е. нечто, не характерное для среды, к которой я привык, и оттого меня это пугает?

— Возьмем 18-месячных детей, в этом возрасте они понимают, что отражение в зеркале это они. И мы понимаем это, поняв корреляцию между движением в зеркале и нашим собственным движением. Но мы замечаем эту корреляцию намного раньше — и только к 18-му месяцу нашей жизни наступать этот самый момент: «ага! это я!» Этот «ага-момент» не наступает ни на 9-м, ни на 12-м месяце, он наступает где-то в районе 18-го. Нужен некоторый онтогенезис вашей ментальной жизни для того, чтобы понять, что эта корреляция вызвана тем, что я стою здесь [напротив зеркала].

Я полагаю, что важно принимать во внимание ментальную жизнь других животных. Думаю, что в этих трех группах животных намного больше понимают, что в зеркале отражаются они, но не показали этого нам, просто потому что они не проходят классический зеркальный тест, или мы вообще их не проверяли. Затем, есть те, кто замечают корреляцию и обеспокоены странным животным напротив, но не достаточно умны, чтобы понять — это они. И лишь затем самые простые животные, которые просто думают, что напротив них какой-то другой парень.

— Ага, вы этим частично ответили на мой второй вопрос, но я все равно его задам. Вот рыбка-чистильщик, а вот осьминог. Рыбка прошла тест, осьминог нет. Но если я спрошу вас о том, кто из них кажется вам умнее, вы ведь все равно ответите, что осьминог, не так ли?

— Я мог бы так ответить, поскольку движения осьминога намного сложнее, и мы привыкли ассоциировать сложность с мышлением. Но если мы посмотрим на социальную жизнь двух этих животных, рыбки-чистильщика и осьминога, то увидим, что чистильщики делают невероятные вещи.

Они снимают с других животных паразитов. При этом у них есть «мойка», место посреди океана, где они живут — обыкновенно вместе со своим партнером, то есть они моногамны — и обслуживают своих клиентов.

Их клиентелла как правило намного крупнее, чем сами чистильщики, и потенциально опасны. Они удерживают в памяти очередность клиентов: кто приплыл первым, кто вторым, кто третьим, кто четвертым. И обслуживают их в порядке очереди. Исключения делаются только в двух случаях. Если клиент очень опасен, то его обслуживают первым. А также вне очереди чистят тех, кто посещает «мойку» каждый день.

Они также наблюдают за своим партнером: и если тот обслуживает клиентов недостаточно хорошо, они с ним ссорятся (have a fight). Задумайтесь о том, как сложна эта социальная коммуникация.

— Да, осьминоги-то в одиночку живут.

Осьминоги одиночные животные. В этот момент, возможно, вы передумаете по поводу нашей маленькой рыбки-чистильщике, и сочтете, что она когнитивно сложнее.

— Что же, поэтому вас не удивил результат японских ученых?

— Ну, я был удивлен, но скорее приятно удивлен. Я знаком с ними, я знаю, что они очень трудолюбивые и хорошие ученые. Я верю в их данные и склонен доверять их интерпретации.

— У нас есть зеркальный тест, тест на использование инструментов и множество других. Насколько я понимаю, между идеей «ума» и всеми теми когнитивными способностями, которые мы можем экспериментально проверить, есть размытая зона, через которую мы пока не перекинули никаких мостков. Это потому, что у нас нет достаточно хороших экспериментов, чтобы ее преодолеть, или дело в чем-то еще?

— Боюсь, что проблема тут не с нашими тестами, а с тем, что у нас нет хороших теорий. Мы не сложили результаты разных тестов в теорию, которая хотя бы могла бы претендовать на то чтобы быть корректной, проверяемой и при этом достаточно глубокой. И это, я бы сказал, вообще наша самая серьезная проблема.

Я склонен считать, что тестов у нас достаточно. Даже не так — тестов-то, конечно, никогда не достаточно, всегда хорошо провести еще какие-то и проверить аспекты, которые мы прежде не проверяли. Но наша проблема не в разработке новых экспериментов, разработке хороших теорий. Потому что когда я говорю «мышление», что это значит на самом деле? Обработка информации — но это ведь не ответ, это просто другой термин.

Вы можете сфокусироваться на том, что мы называем «исполнительными функциями», а затем свести их к каким-то центральным ментальным процессам. Но у нас все равно нет хорошей теории, которая собирала бы из центральных аспектов мышления какой-то механизм таким образом, чтобы мы могли его поверить каузально. И в этом, как мне кажется, самый главный вызов.

— Я усматриваю тут некоторую параллель с тем, что называют «трудной проблемой сознания». Верно ли такое сравнение, что проблема понимания мышления чем-то подобна проблеме понимания сознания? Насколько я помню, Чалмерс, сформулировавший трудную проблему сознания, считал, что мышление это как раз легкая часть.

— Ну, а я думаю, что все наоборот. Трудная проблема кажется сложной лишь оттого, что мы можем проверить сознание через опыт первого лица. Я тот, кто воспринимает красноту красного, и вы не можете узнать, как именно я переживаю это. Сам принцип, научная проблема — тут мне не кажется сложной. Сложна она только оттого, что у нас нет теста, который позволил бы заглянуть в осознавамые вами переживания.

Проблема мышления намного сложнее, потому что составлена из столь разных подчастей. Каждая из них имеет разный функционал, возможно совершенно разные структуры мозга отвечают за него — в общем, сама проблема намного более разнообразна. Намного более многогранна. Поэтому, на мой взгляд, создать хорошую теорию мышления намного сложнее. Но, не исключаю, что я так считаю только потому, что сознание мне не интересно.

— Что, на ваш взгляд, выглядит сейчас наиболее оптимальным путем к общей идее мышления? Есть поведенческие эксперименты, с опорой на которые мы можем формулировать какие-то теории, есть нейронауки, которые лезут в мозг, строят коннектомы и потом пытаются как-то связать все эти данные с поведением. Какой угол атаки кажется вам наиболее плодотворным в этом отношении здесь и сейчас?

— Ну, это сложный вопрос, так вам скажет кто угодно, кого бы вы об этом не спросили. Во-первых, мы сейчас с вами живем в то время, когда нам кажется, будто бы глубокое обучение (deep learning) все это уже решил. Но на самом деле нет, ничего оно не решило. Это просто система, вычислительная мощность которой очень высока, настолько, что она может перебрать все виды процедур обучения с невероятной скоростью. Но в реальной жизни у нас такой возможности нет. Мы превосходим эти компьютеры во многих отношениях.

Вот я вижу падающую бутылку. Мне достаточно буквально пары раз, чтобы сформировать соответствующее ожидание от прочих подобных ситуаций. А машине из условного Google нужно 10 тысяч итераций для того чтобы это сделать. Но поскольку эти итерации происходят за мгновение, эта машина кажется умной. В этом смысле у глубокого обучения и других подобных систем нет предсказательной мощи того уровня, что так быстро развивается у биологических систем.

Тем не менее, это все невероятно интересно, и, следовательно, в клубе по разработке будущей теории мышления нам нужны люди из этой области, области искусственного интеллекта. Но нам не стоит думать, будто у них есть ответ, они только часть ответа, который мы ищем.

Нам нужны психологи-экспериментаторы и биологи, чтобы проводить критические эксперименты. Нам нужны нейробиологи и другие ученые из области нейронаук, нам также нужны нейроученые-теоретики, которые работают с мозгоподобными структурами, но на базе компьютеров. Они моделируют биологически реалистичные нейронные сети — не те, которые сейчас используются в машинном обучении, которые были скорее инспирированы биологией — а именно биологически реалистичные, которые позволяют нам сказать, что их свойства очень похожи на свойства нейронных сетей животных. Помимо них нам, с очевидностью, нужны философы, которые специализируются на философии сознания. В общем, все это просто собрание хорошо мыслящих людей. Нет никакой гарантии, что оно даст хоть какой-то результат, но а что еще мы можем сделать?

— Хорошо, если мы соберем искусственный мозг, полную копию естественного, и заставим его пройти какой-то когнитивный тест, будет ли это достаточной демонстрацией того, что мы что-то понимаем? Есть ли у вас представление о том, какой именно порог нам нужен взять в направлении теории мышления?

— Ну, это же и есть базовая идея европейского Human Brain Project, который будет стоить нам где-то полмиллиарда евро. Это идея Генри Макрама, нейробиолога, который сказал «давайте воспроизведем колонку кортекса крысы в отношении один к одному на компьютере», совершенно идентичную, а потом умножим это на десять миллионов, и получим сознание.

Ничего не вышло, потому что это чистый подход снизу-вверх. Но нужны оба: как чистый bottom-up, так и top-down. Вот вам простой пример про память. Когда мы делаем ошибку, работая с рабочей памятью, она обычно фонологическая: путаем киви с Киевом, хотя киви это фрукт, а Киев город. С долговременной памятью все иначе: мы путаем баронов с королями, это все аристократические титулы. Тут мы путаем семантические категории, а в рабочей памяти — фонологические категории.

Нужно знание по модели сверху-вниз, для того чтобы это понимать, нужно быть психологом-экспериментатором. И тогда ты задаешься вопросом: Генри Макрам, ты такое сделаешь? Вот это реальный мозг. Видишь это в своей кортикальной колонке? Скорее всего, нет. Потому что нам сначала нужна топологическая схема, которая создает эти функции, что нелегко получить, работая снизу вверх. Так что нам нужно совместить оба подхода. И сейчас именно это и происходит в Human Brain Project, в большей степени, чем прежде. Это очень смелый шаг со стороны европейских ученых. Не хочу быть пессимистом, но я думаю, что времени на это нам потребуется больше, чем дал нам Евросоюз.

— А помимо HBP?

— Ну, HBP это очень многообещающий проект, но я думаю, что когнитивные нейронауки вообще аккумулируют знание с такой скоростью, что только за счет этого мы уже сможем придумать теории получше. Надежда на это есть. Поскольку теории получше появляются в человеческих мозгах. Чем больше данных, тем сложнее тебе защищать теорию, но это не невозможно. Я думаю, со временем мы все-таки ее придумаем. Но это будет не какой-то один проект, HBP или что-то еще: потому что в США есть подобные проекты, в Китае, и их подходы разные. Я уверен, что и в России, несмотря на то, что подобного проекта у нее нет, есть замечательные ученые, которые также занимаются мышлением. И это верно для многих других стран, и все это нам необходимо.
IQ

December 13, 2019