Круглый стол
8 июля 2021 г. Точка кипения НГТУ. Новосибирск.
Модератор:
Зубарев Кирилл Ильич , лидер Точки кипения НГТУ, модератор программы SEDeC МШУ «Сколково».
Спикеры:
Спешилова Елизавета Ивановна , науч. сотр. НОЦ «Гуманитарная урбанистика» Новгородского государственного университета им. Ярослава Мудрого.
Тема: « Искусственный интеллект в образовании: риски и перспективы».
Аванесов Сергей Сергеевич , д. филос. н., профессор, зав. каф. теологии, Новгородский гос. ун-т им. Ярослава Мудрого.
Тема: «” Искусственный интеллект" и антропологическая редукция в образовании».
Ларьяновский Александр Владимирович , управляющий партнер Школы английского языка Skyeng.
Смирнов Сергей Алевтинович, д. филос. н., в. н. с., Институт философии и права СО РАН.
Тема : «Цифра в школе: в поисках объяснительных моделей».
Пестунов Андрей Игоревич, к. физ.-мат. н., заведующий кафедрой информационных технологий. НГУЭУ.
Тема: « Умные технологии в образовании: где грань между "калькулятором" и "смартфоном"»?
Участники:
Четверухина Гульнара, директор гимназии № 6, г. Междуреченск, Кемеровская область.
Горбачева Анна Геннадьевна , доц. НГУЭУ, к. филос. н.
Кайгородов Павел Викторович , к. филос. н., ст. преп. НГУЭУ.
Синюкова Наталья Алексеевна , м. н. с. ИФПР СО РАН.
Сидорова Татьяна Александровна , к. филос. н., каф. фундаментальной медицины, Институт медицины и психологии им. В. Зельмана, НГУ .
Сопочкин Сергей Владимирович , директор лицея № 130 им. М.А.Лаврентьева.
Жафярова Мария Наильевна , зам. министра образования Новосибирской области.
Пермяков Руслан , «Агентство стратегических инициатив», общественный представитель от Новосибирской области.
Стенограмма:
Зубарев К.: Друзья, здравствуйте! Начинаем. Меня зовут Кирилл Зубарев. Я являюсь лидером «Точки кипения» НГТУ, город Новосибирск и, наверное, членом инициативной группы, которая начала обсуждать этические вопросы применения такой технологии, как искусственный интеллект, в различных областях знаний.
Я бы хотел небольшое вступительное слово сказать, ну, как бы задать те рамки, в которых мы действуем, в рамках чего идут дискуссия, чтобы как-то наши вопросы, предложения и так далее, было понятно, из чего мы исходим. Во-первых, нужно сказать, что это уже третье мероприятие из серии круглых столов. Мы провели какое-то такое установочное – один круглый стол, где разговаривали про применение вообще искусственного интеллекта в разных областях в мире и у нас. Второй круглый стол у нас был посвящен применению этой технологии в медицине. И вот третий круглый стол у нас посвящен применению искусственного интеллекта в такой сфере, как образование.
У нас есть три организационные рамки, из которых мы, вообще, обсуждаем эти вопросы. Изначально в прошлом году мы обсуждали на клубе модераторов проектной работы сам принцип, что для развития территории в городе должны присутствовать дискуссионные площадки мирового уровня. Это значит, что как бы мы должны обсуждать некий фронтир определенный и быть сомасштабными тому дискурсу, который в мире происходит по этим вопросам.
Второе. Мы для себя пока не очень понимаем. Ну, вернее, как? У нас есть некоторые гипотезы того продукта, который должен получиться на выходе такого обсуждения. Мы для себя пока видим, что для себя в гипотезе мы положили такой формат, как полигон, полигоны по сферам человеческой жизни. Для себя определили некоторые, как бы сказать, общественно-чувствительные сферы, где очень остро реагируют на изменения и применение технологий. И хотим построить несколько полигонов, где мы будем обсуждать, испытывать и делать какие-то выводы.
Вторая форма потенциальная возможная – это некая декларация. Эта форма, уже в мире известна. На прошлой неделе, когда мы обсуждали медицину, как раз вышла декларация Всемирной организации здравоохранения в отношении технологии искусственного интеллекта. Ну, и дальше мы перечисляем некие технологические какие-то решения, публикации, книги. В общем, мы эту организационную рамку, что должен быть результат этих обсуждений и как мы будем дальше двигаться, мы для себя как бы держим, что это не просто поговорили и разошлись, а что мы должны потом результаты эти каким-то образом формализовать.
И третье – это, ну, понятно, что выходить в одиночку ресурсов не хватит. Поэтому мы хотим выстроить партнерство с каким-то сильным технологическим партнером. И в этом смысле мы уже некоторые попытки предприняли. Допустим, на прошлом мероприятии у нас «Сбербанк» присутствовал. И, в принципе, в конце июля мы хотим выйти на такую дискуссию со Школой антропологии будущего и в дальнейшем выйти на такую дискуссию с крупным партнером. Это такие организационные рамки нашего обсуждения. И, наверное, я как ведущий, или модератор, может быть, буду из этих рамок делать суждения либо мои коллеги. [00:05:00]
Если говорить к теме, то мы состав участников круглых столов всегда пытались формировать из того, что сама технология искусственного интеллекта, она не сама по себе присутствует. Она, во-первых, входит в какую-то сферу жизни, где уже свои какие-то сложившиеся исторические культурные позиции сформировались. И поэтому мы попытались таким образом приглашать в дискуссии людей, которые могут представлять ту или иную позицию. Ну, сразу скажу, что, наверное, может быть, нам не всегда это удалось, но точно мы приглашаем людей из сферы деятельности. То есть если на прошлом столе медицину мы обсуждали – мы обязательно пригласили врачей, руководителей медицинских учреждений, то сегодня, я знаю, у нас присутствуют и педагоги (бывшие и настоящие), и руководители школ. У нас есть, будут выступать разработчики технологий искусственного интеллекта. У нас будут представители частных компаний, частной школы. Ну, я не могу сказать, что, наверное, у нас все присутствуют. И исследователи, еще, позиция, подсказывает Сергей Алевтинович. Ну, вот, наверное, из вводной части – всё. Формат у нас обсуждения такой, что у нас коллеги, которых мы пригласили, сделают небольшие сообщения (я прошу всех уложиться в 10-15 минут), и потом – открытая площадка, можно делать суждения, задавать друг другу вопросы из любой позиции. Можно провоцировать на какие-то вещи. Это даже приветствуется. И первой я бы передал слово Спешиловой Елизавете Ивановне, представителю Новгородского государственного университета Ярослава Мудрого. Елизавета, скажите, вы с нами?
Спешилова Е.: Здравствуйте, коллеги! Рада всех приветствовать.
Зубарев К.: Здравствуйте! У вас будет презентация какая-нибудь?
Спешилова Е.: Нет, без презентации. Тема моего сегодняшнего выступления звучит следующим образом: «Искусственный интеллект в образовании: риски и перспективы». На мой взгляд, прежде чем приступать к рассмотрению частных случаев использования ИИ в образовании, методологически необходимо кратко прояснить, что я подразумеваю под самим понятием «искусственный интеллект». Поскольку оно, на мой взгляд, является крайне непрозрачным и метафоричным, а его значение сопряжено, с одной стороны, как с некоторыми фантастическими коннотациями, включая опасения захвата человечества роботизированными системами, так и со вполне прагматическим определением ИИ как компьютерной программы, имеющей определённые свойства, например, такие, как самообучаемость.
В целом, к искусственному интеллекту принято относить компьютерные системы, обладающие возможностями, которые мы традиционно связываем с человеческим разумом, такими как: понимание языка, обучение, способность рассуждать и решать проблемы. Это определение восходит к Эдварду Фейгенбауму и дано им в 1980-е годы. Кроме того, этим же термином обозначается и отрасль информатики, занимающаяся разработкой подобных систем. На мой взгляд, использование термина «интеллект» в данном случае является весьма условным и не точным, поскольку речь идёт только об одном аспекте интеллектуальных способностей – умении обрабатывать и генерировать информацию с помощью определённых алгоритмов и вычислительных способностей. Как уточнял Джон Маккарти (собственно автор термина «artificial intelligence»), под интеллектом в пределах этой науки понимается только вычислительная составляющая способности достигать целей в мире. При этом стоит добавить, что именно тех целей, которые ставят перед искусственным интеллектом его разработчики. Здесь, безусловно, нет речи ни о каких других интеллектуальных способностях: ощущении, представлении, воображении и, тем более, мышлении либо воле и целеполагании.
Подобное некорректное искусственное использование самого термина «интеллект» порой провоцирует возникновение ложных ассоциаций и тревог. Поэтому, когда мы говорим про применение ИИ в образовании, также следует иметь в виду эту терминологическую неточность. Тем не менее, это не значит, что в данной сфере нет никаких проблем. Они есть и связаны в целом с процессами общей цифровизации антропологической реальности, к которой относится и распространение технологий, базирующихся на искусственном интеллекте.
Переходя к анализу применения искусственного интеллекта в образовании, мне хотелось бы отметить интересную ситуацию. С одной стороны, эпидемиологическая обстановка прошлого года стимулировала массовый переход образования в онлайн. С другой стороны, степень распространённости искусственного интеллекта выросла в связи с этим незначительно. Преподаватели были вынуждены в экстренном порядке переводить свои курсы в цифровой формат, что послужило только дополнительной нагрузкой. И вполне себе естественный интеллект учителей в максимально сжатые сроки должен был перестроить образовательный процесс, вникнуть в интерфейс новых систем, разобраться в них, загрузить необходимые материалы и контролировать успеваемость учеников. Искусственный интеллект в этом процессе, как правило, не применялся.
Карлос Дельгадо Клоос, профессор и вице-президент по цифровому образованию в Мадридском университете имени Карла III, рассуждая об использовании технологий в образовании, предлагает общую, но, тем не менее, любопытную, на мой взгляд, классификацию технологических эволюций. В качестве первоначальной образовательной модели он говорит о непосредственном общении учителя и ученика, восходящем ещё ко временам Сократа. Первая революция, или «Образование 1.0», связывается им с возникновением книгопечатания, когда знание становится частично доступным и без прямого контакта с учителем. Вторая революция, или «Образование 2.0», – это применение компьютеров, проекторов и других технических средств в очной образовательной среде. «Образование 3.0» – это технологии, основанные на использовании интернета и облачных решений, характерных для массовых онлайн-курсов (видеоматериалы, интерактивные методы вовлечения аудитории). И, наконец, «Образование 4.0» – это непосредственно то, что связано с искусственным интеллектом, переход к новым технологиям, которые сейчас ещё находятся на первоначальном этапе своей зрелости. Сюда он, к примеру, относит использование дополненной реальности в обучении, VR -технологии. Если говорить о текущем состоянии образовательной среды, то мы находимся преимущественно на этапе перехода от «Образования 2.0» к «Образованию 3.0», то есть на пути общей цифровизации образовательных практик.
Тем не менее, если мы анализируем научную среду, то видим, что тематика использования ИИ в образовании, безусловно, набирает обороты. Об этом, к примеру, свидетельствует наличие специализированных журналов, посвящённых данной области: International Journal of Artificial Intelligence in Education (издательство Springer), Computers and Education (издательство Elsevier), British Journal of Educational Technology (совместное издание Wiley-Blackwell и The British Educational Research Association). Однако стоит отметить, что материалы данных журналов, особенно первых двух, посвящены именно частным аспектам использования тех или иных технологий, а не их этической или гуманитарной оценке.
В отличие от других сфер реальные и практические разработки, использующие искусственный интеллект в образовании, распространены весьма скудно. В качестве наиболее известных примеров можно привести коммерческие приложения, помогающие в изучении иностранных языков: Skyeng, Duolingo, Lingualeo, Parla. Но каких-либо масштабных проектов, активно используемых в государственной образовательной системе, я, честно говоря, не встретила. Поэтому буду признательна коллегам, если вы таковые подскажете.
Среди иностранных образовательных проектов, базирующихся на искусственном интеллекте, можно отметить Thinker Math – приложение для индивидуального обучения школьников математике, которое на основании оценочного теста и анализа особенностей взаимодействия ученика с материалом может выстраивать индивидуальную образовательную траекторию. Также интересна компания Knewton, занимающаяся разработками в сфере адаптивного обучения и персонализации образовательного контента.
Такое неглубокое проникновение технологий искусственного интеллекта в образовательные процессы обусловлено как сложностью и дороговизной создания подобных разработок, так и негибкостью самой системы образования, долгим процессом освоения таких инструментов преподавателями.
В общем, если говорить про цель использования искусственного интеллекта в образовании, то она выглядит достаточно безобидно и продуктивно. Её можно сформулировать примерно следующим образом: в отношении учеников искусственный интеллект используется для адаптации уроков, их содержания и темпа усвоения к конкретным потребностям отдельного ученика с учётом его персональных особенностей; в отношении учителей искусственный интеллект призван автоматизировать рутинные процессы проверки заданий и тем самым освободить для них дополнительное время, которое можно посвятить живому общению с учениками.
Таким образом, говоря о перспективах применения искусственного интеллекта в образовательной среде, можно выделить следующие направления развития:
- адаптивное обучение (то есть построение личной образовательной траектории, выявление и устранение пробелов в знаниях учеников);
- автоматическое оценивание знаний учеников;
- обратная связь (оценка самого преподавателя учениками);
- виртуальные помощники (ассистенты различных курсов и так далее);
- proctoring (отслеживание того, что ученик самостоятельно выполняет задания, сдаёт экзамены);
- умные кампусы (которые служат для навигации в образовательном пространстве, поиска различных лекционных залов, парковок, а также коммуникации с преподавателями и так далее).
Технологически такое использование ИИ в образовании зачастую оформляется в виде создания различных чат-ботов с определёнными функциями, симулирующими поведение учителя.
Создание таких технологий, безусловно, имеет ряд положительных эффектов: например, обеспечивает инклюзивность образования, его общедоступность, массовость. Мы можем сейчас без проблем прослушать какие-либо оксфордские курсы по интересующей нас теме, что раньше, конечно, было невозможно без фактического посещения места.
Однако нельзя надеяться исключительно на искусственный интеллект при решении всех образовательных задач. Так, например, применение искусственного интеллекта порой приводит к возникновению проблем, которых он, казалось бы, призван избегать. Подобное случилось в прошлом году при применении искусственного интеллекта для автоматического оценивания выпускников старшей школы в Великобритании. Достаточно такой примечательный случай, на мой взгляд. Поскольку в прошлом году стандартные выпускные экзамены были отменены, встал вопрос об итоговом оценивании учеников. По сути, эти результаты напрямую влияют на возможность учеников поступить в какое-либо высшее учебное заведение Великобритании. В стремлении к справедливости, объективности и беспристрастности Ofqual – ведомство, которое регулирует квалификацию и экзамены в Англии, – решило использовать для оценивания учеников специально разработанный алгоритм, поскольку сотрудники ведомства исходили из того, что итоговые оценки учителей могут быть предвзятыми по возрасту, полу и этнической принадлежности. Однако на деле созданный алгоритм оказался дискриминирующим: он анализировал рейтинг каждого ученика и средний показатель успеваемости по школам и, в итоге, завышал оценки учащимся из частных школ и занижал их способным ученикам, которым не повезло учиться в заведениях с плохой общей статистикой. По этой причине почти 40% студентов получили результаты ниже, чем прогнозировали их учителя, что могло стоить им места в заветном университете. Против таких несправедливых результатов взбунтовались сами школьники: они собирались возле здания ведомства с лозунгами «К черту алгоритм!» и «Учителя знают лучше!». Ofqual было вынуждено отменить своё решение, и учащиеся смогли получить либо прогнозируемые оценки своего учителя, либо оценку алгоритма – в зависимости от того, что было выше.
Именно подобные ситуации демонстрируют определённые риски использования искусственного интеллекта. В основе необходимости применения таких технологий лежит вера в то, что алгоритм способен объективно оценивать учеников и тем самым, к примеру, устранить проблему «любимчиков». Однако по словам Джины Нефф, преподавателя Оксфордского университета, «данные проекты дают возможность для своего рода магического мышления, некритической надежды на то, что алгоритм каким-то образом просто смоет любую предвзятость учителя, любую попытку обмана или игры с системой». Это, конечно, не вполне соответствует действительности, поскольку за любым искусственным интеллектом стоит группа разработчиков.
К числу рисков, связанных с искусственным интеллектом, согласно аналитической записке Института Юнеско по информационным технологиям в образовании, относится также следующее: вопросы конфиденциальности, защиты и использования данных учащихся; неравенство в предоставлении доступа к образовательным технологиям (поскольку 43% населения мира по-прежнему не имеет выхода в интернет); риск распространения дискриминации на основании гендерных, расовых, социально-экономических признаков и различия уровня способностей, а также возможность трансляции различных социальных и культурных стереотипов; кроме того, есть опасения, что распространение искусственного интеллекта будет приводить к сокращению числа рабочих мест; и, наконец, это может привести к зависимости от технологий.
Пожалуй, именно последнее имеет подлинное антропологические значение. Речь здесь идёт о том, что аутсорсинг решения определённых образовательных задач и реализации когнитивных функций повышает зависимость от технологий, тогда как сами человеческие способности к выполнению этих функций ослабевают, то есть утрачиваются каллиграфические навыки, навыки счёта в уме, навигации в пространстве и так далее. Надежда ученика на гаджет, на то, что он предложит ему образовательную траекторию и решит за него ряд повседневных задач, высвобождает определённое время. Однако для чего оно используется? Оно может использоваться как конструктивно – для подготовки к занятиям, для творчества и совершенствования каких-то новаторских способностей, так и деструктивно – для многочасового погружения в социальные сети.
В современном образовательном пространстве фактически не анализируются ни реальные проблемы и потребности учителей, ни способности и интересы учеников, особенно если мы говорим о сфере бюджетного образования, государственного. Общая образовательная система, на мой взгляд, упускает из виду, что образование – это, прежде всего, образование и становление самого ученика как личности, а не только приобретение определённых знаний, умений и навыков, как сейчас требуется указывать и перечислять при разработке каких-то образовательных и рабочих программ в университетах. Такое упрощение ведёт к редукции образования до простого механического усвоения знаний. Сложно, конечно, судить о качественной оценке и сравнении образовательных стратегий разных исторических периодов, однако мне кажется, что сократический метод, то есть прямое общение учителя с учеником, ничуть не менее и даже более эффективен в качестве образовательной стратегии воспитания человека как личности.
На мой взгляд, как точно заметил Сергей Алевтинович и Наталья Алексеевна в своей статье «Этическая и гуманитарная экспертиза: концептуальное различение», современные практики (в том числе образовательные) интерпретируют человека как «пассивный объект защиты, заботы и воздействия», а не как «субъект собственных изменений, на себе выстраивающий опыт заботы о себе». В этом контексте с помощью гуманитарной экспертизы необходимо сделать акцент на том, что образование – это, прежде всего, образование самого себя, и вернуть человеку возможность поиска своей нормы, своего образа и принятия ответственности за ту норму, которую он выбирает. Однако это уже тема для дальнейших изысканий. На этом на сегодня всё. Спасибо.
Зубарев К: Спасибо, Елизавета. Коллеги, Сергей Алевтинович, говорим в микрофон, чтобы нас слышали.
Смирнов С.А.: Спасибо большое за выступление. Для меня это очень хорошее начало. Елизавета Ивановна, вот смотрите, что получается. Во-первых, вы начали с того, что искусственный интеллект, вообще-то, – это не научное, не строгое понятие, это больше метафора. Правильно? Во-первых, мы тогда с этим, который называем «искусственным интеллектом», обращаемся как с метафорой. Тогда это похоже на творчество. Это, вообще-то говоря, строго научно до сих пор не обсуждается. И научного дискурса по этому поводу нет. Правильно я понял?
Спешилова Е.: Да, безусловно.
Смирнов С.А.: Значит, это тогда первая уже проблема. То есть тут пока мы вынуждены находиться в весьма таком творческом поиске, обсуждая искусственный интеллект не научно, а как метафору. Теперь дальше. Когда вы привели пример с англичанами по поводу оценок и применения искусственного интеллекта, что получается? Там же не он виноват, а, пардон, человек, составивший алгоритм программы оценки. Так проблемы тогда не в нем, а, опять же, в нас, грешных, которые до сих пор не научились обращаться с этой игрушкой. То есть в этом смысле проблема, опять же, не в нем, а в нас, но попавших в новую реальность. Что значит выстроить новый интерфейс с этой игрушкой? Это как вот с любым орудием труда. Вот есть ручка. Можно писать, а можно убить: в глаз раз – и всё. Неадекватное использование. Не для этого. В этом смысле что прибавляет искусственный интеллект принципиально нового по сравнению с привычными орудиями. Это какой-то особый умный инструмент. Это такой же инструмент или он принципиально иной, задающий иную реальность? Это не просто инструмент технический. Он еще что-то принципиально иное задает. Как вы считаете?
Спешилова Е.: На мой взгляд, здесь, с одной стороны, есть и эволюционное развитие технологий. С другой стороны, я согласна, что это действительно определённая революция, ведущая к значительным антропологическим изменениям. То есть искусственный интеллект – это не стандартное орудие, которое мы можем, условно говоря, почти полностью контролировать. Он генерирует такие результаты, которые не всегда являются предсказуемыми. Даже разработчики не могут спрогнозировать, что он выдаст (вот этот эффект «чёрного ящика»). И проблема, мне кажется, ещё в том, что человек при использовании искусственного интеллекта как бы пытается решить какие-то свои проблемы, хотя, на самом деле, просто транслирует их в новую среду, как в случае с британцами. У людей есть надежда на то, что искусственный интеллект, наконец-то, будет объективным и непредвзятым, тогда как априори считается, что у учителей есть «любимчики» и «нелюбимчики» и они предвзяты. Однако искусственный интеллект, поскольку это человеческое создание, транслирует те же самые установки.
Смирнов С.А.: Я заострю вопрос. Зачем искусственный интеллект там, где есть учитель и ученик и где лучше работает сократический диалог? Зачем там искусственный интеллект? Если есть задача работы с человеком, с его сердцем, с его головой, с его душой, зачем там искусственный интеллект?
Спешилова Е.: По факту, на мой взгляд, да, это не является строго необходимой частью образовательного процесса.
Смирнов С.А.: Но тренд ведь тащит. Все ж туда идут дружно и хором.
Спешилова Е.: Да.
Смирнов С.А.: То есть мы с вами ретрограды. Мы против прогресса.
Спешилова Е.: Отчасти да. Но при этом не хотелось бы умалять и позитивные функции, такие как высвобождение времени, автоматизация каких-то рутинных аспектов оценивания. Вроде бы учителю это должно помогать. Хотя на деле, как мне кажется, то, что мы видим сейчас, нисколько не помогает, а только добавляет головной боли.
Зубарев К.: Я как гипотезу можно, Сергей Алевтинович, выскажу? Искусственный интеллект, он все-таки в тех областях возникает, когда мы начинаем оперировать таким количеством данных и таким количеством параметров, которые, собственно говоря, человеческий мозг не может справиться на сегодняшний день. Если говорить про сферу образования и подготовки, то мы сегодня, собственно говоря, идем к тому, что система разделения труда и глубина разделения труда [00:30:00] настолько сегодня как бы расширяется, что сегодня система, ну, та, которая существует система подготовки, она не может, ну, как бы выполнить, условно, «систему навигации», подготовки.
Смирнов С.А.: Кирилл, ну, какая навигация? Учителю сложно построить навигацию ребенку, чтобы построить его индивидуальную траекторию?
Зубарев К.: Вот это и есть та почва, что...
Смирнов С.А.: Да не выстроит он никакую навигацию ученику, этот искусственный интеллект, даже в ХХХ веке. По определению. Потому что это уникальная траектория.
Четверухина Г.: Здравствуйте! А можно суждение?
Смирнов С.А.: Какой такой алгоритм надо заложить в этот искусственный интеллект, чтобы он выстраивал траекторию тысячам, миллионам учеников?
Зубарев К.: Давайте так: у нас будут разработчики, они в докладах как бы попытаются ответить на этот вопрос. Да, конечно.
Четверухина Г.: Здравствуйте! А можно суждение? Я просто как практик.
Зубарев К.: Да. Только представляйтесь.
Четверухина Г.:Кузбасс, город Междуреченск, директор гимназии № 6, Четверухина Гульнара. Я в течение прошлого года достаточно так активно занималась тем, что участвовала в различных семинарах, связанных с искусственным интеллектом. Меня волновали два вопроса, ну, как бы несколько моментов.
Первое – это каким образом можно обеспечить процессы управления в образовательной организации с использованием искусственного интеллекта. Так как, на самом деле, достаточно много данных сегодня, даже в разрезе одной образовательной организации. И мы провели такой срез, и есть у нас понимание некоторое о том, каким образом можно применить, как облегчить работу не только педагогов, но и управленцев, в том числе.
И второй момент. Я какое-то время работала с Институтом искусственного интеллекта и пыталась написать свое первые нейронки, для того чтобы понять, насколько сегодня в системе образования нужен собственно искусственный интеллект и нужен ли он в школе.
Какие выводы я сделала для себя. Но я хочу согласиться с тем, что, на самом деле, искусственный интеллект – это метафора, это такая почва для творчества в будущем. Потому что искусственный интеллект – это не только инструмент, он не только может стать инструментом в системе образования, он может стать еще и содержанием, таким средством, с помощью которого можно учить детей, допустим, работать с какими-то кейсами.
Ну, например, моя первая нейронка была посвящена тому, что я различала два автомобиля по цветам: синий и черный, и какой они марки. И хочу сказать, что подобные технологии именно в образовании, они интересны тем, что это такой комплекс, такой симбиоз предметного содержания, который позволяет детям получить вот те самые метапредметные навыки, о которых очень много говорят. Потому что там ребенок, который пишет нейронку, он должен обладать не только программированием, но и знать очень хорошо математику. И в этом смысле тогда не возникает того, что у него ухудшаются его какие-то мыслительные процессы. Вот как раз они в этот период становятся наиболее такими необходимыми, для того чтобы он смог себя как-то развивать. И в моем понимании искусственный интеллект в школе – это не столько готовый инструмент, который нужно принести и положить каждому педагогу или ребенку. Это, наверное, то содержание, которое сегодня нужно внести, для того чтобы понимание искусственного интеллекта и его возможностей, то есть на основании него как можно, в принципе, самому даже простую вот эту нейронную сеть, чтобы она стала таким кейсом, на основании которого ребенок начал бы работать и размышлять. Вот я для себя искусственный интеллект увидела таким образом.
Конечно, если просто со стороны посмотреть, такие технологии, создание, для того чтобы оно автоматически считало, читало, их огромное количество. И вопрос, наверное, сегодня заключается в образовании в том, чтобы выделить те платформы, которые созданы на базе искусственного интеллекта, которые являются наиболее эффективными. В этом сейчас проблема.
А вот вторая сторона, использование искусственного интеллекта как нового содержания в образовании, – это, мне кажется, более интересный момент. Потому что здесь можно строить не только, допустим, заниматься кейсами и заданиями, но и какие-то проектные задания разрабатывать. У него, на самом деле, очень много возможностей. И это новая среда обучающая для наших детей. Спасибо. [00:35:00]
Зубарев К.: Спасибо, Гульнара. Я бы хотел немножечко как бы место найти. То есть про что говорит Гульнара? Это место, когда мы готовим человека использовать инструменты такого типа. Ну, то есть мы можем его готовить и использовать лопату, но лопата уже никому не нужна. Есть ли еще у кого-нибудь суждения в этой части? Давайте последнее, и мы перейдем тогда к Александру Владимировичу.
Горбачева А.: Меня зовут Горбачева Анна. Я хотела бы дополнить по поводу вот примера: то, что прозвучало, что в Англии алгоритм неправильно оценивал обучающихся. Я хочу рассказать об одном эксперименте. Даже не эксперименте. Это было в Соединенных Штатах Америки, когда достаточно крупная компания принимала на должность людей, и их отбирал не живой человек, а всё это делалось при помощи нейронных сетей. То есть нейронные сети очень хорошо обучили. Здесь у них был отбор в пользу белых американцев с высшим образованием. И когда афроамериканцам отказывали в должности, то есть разработчики посчитали, что нейронная сеть работает не верно и прекратили принимать на работу при помощи искусственного интеллекта. Хотя, на самом деле, отбор был машины верный. Потому что машина отвергала афроамериканцев без высшего образования, имеющих за плечами какие-то преступления. И та ситуация, которая происходит в Америке, вот этот нацизм, вот это притеснение как раз белых американцев, посчитали, что нейронная сеть работает неправильно. Хотя, на самом деле, она работала достаточно хорошо. Поэтому это просто зависит от того, как машина, как нейронные сети обучены.
у, и еще, конечно же, хотелось бы, чтобы мы как-то сразу определили, что такое искусственный интеллект. Ну, я так для себя понимаю, искусственный интеллект, как говорит Ник Бостром, что искусственный интеллект – это тот интеллект, который будет превосходить все лучшие человеческие умы во всех сферах: это интеллектуальная деятельность, творческая, когнитивная и прочее, прочее, прочее. То есть это будет, ну, совершенно такой идеальный мозг. Поэтому то, что сейчас, искусственный интеллект, на сегодняшний день он не создан. Это просто нейронные сети, которых запрограммировали, обучили, и они работают по тому алгоритму, который задали им дата-сайентисты.
Зубарев К.: Спасибо. Ну, я думаю, что мы разные мнения услышим сегодня. Александр Владимирович Лариновский, здравствуйте! Скажите, пожалуйста, вам нас слышно?
Ларьяновский А.В.: Да. Добрый день!
Зубарев К.: Я хотел бы вам передать слово. Коллеги, разрешите представить: Ларьяновский Александр Владимирович, управляющий партнер Школы английского языка Skyeng. Я попросил Александра Владимировича тоже сделать небольшое сообщение по поводу того, ну, во-первых, используют ли они в своей школе. Так как, насколько я понимаю, школа, в принципе, онлайн используют цифровые технологии. Используете ли вы какие-то уровни искусственного интеллекта? И в чем они вам помогают, в чем возможности, в чем опасности, как вы видите?
Ларьяновский А.В.: Спасибо огромное, в первую очередь, за возможность выступить. Я очень сожалею, что не могу лично присутствовать. Все-таки я отдал много лет работе в НГТУ. Это моя альма-матер. Поэтому очень приятно, что позвали. Во-вторых, потому что я не знал, что будет настолько оживленная дискуссия. Коллеги, спасибо большое, получил искреннее удовольствие. Давайте я, наверное, сначала скажу одной фразой. Да, действительно, никакого искусственного интеллекта в природе не существует, существуют данные и алгоритмы. И когда мы разговариваем в терминах данных и алгоритмов, как-то дихотомия, которая тут пытается прозвучать, что есть учитель, а есть данные и алгоритмы, она становится несколько глупой, потому что работает исключительно только симбиоз. И симбиоз данных и алгоритмов, конечно, работает лучше, чем живой человек. Ну, по большому количеству причин. Я назову две, которые, мне кажется, самые важные.
Первая. Ни один преподаватель не способен тратить время на то, чтобы читать то количество научных материалов, которые выходят в мире, и применять их на практике. И никакие курсы повышения квалификации с этой работой точно так же не справятся. То есть учитывать любые best practice, которые появляются в мире и имплементировать их в себя человеческий мозг не способен. Соответственно, алгоритмы, которые подсказывают преподавателю, что можно сделать, рекомендуют (уровень рекомендаций можно варьировать, скорее, по шкале жесткости), – это то, где, безусловно, сейчас, и давно, алгоритмы доказали свою работоспособность.
Второе. Ни один учитель, даже если ему платить миллиард долларов в час, не способен запомнить все особенности каждого своего ученика, все знания, которые у него есть. Просто человеческий мозг не приспособлен, для того чтобы хранить информацию в таких масштабах: когда, где и почему каждый конкретный ученик ошибся. Алгоритмы способны с этой штукой делать. Поэтому, безусловно, их помощь учителю суперпонятна, прозаична и легко просчитывается.
Теперь давайте перейдем к конкретике. Что делают данные и алгоритмы у нас? Вот сейчас прозвучали слова «могут ли алгоритмы построить персональную траекторию обучения». Мне кажется, что как раз когда мы про это говорим, я еще ни разу не слышал, чтобы люди, которые говорят о персональной кривой, хорошо задумались про то, что персональная кривая – это две точки, а не одна. И про начальную точку, на самом деле, практически всегда забывают. То есть чтобы сделать персональную какую-то кривую, нужно понять, а где, вообще, человек находится. Понять, что человек знает, что человек не знает – ну, в малом возрасте худо-бедно можно, а начиная со средней школы и дальше, до старости практически невозможно никаким тестированием. Потому что, либо тестирование будет очень поверхностное, либо тестирование будет настолько сложным, что подвесом самого тестирования человек начинает ошибаться. То есть когнитивная усталость не позволяет получать хорошие тесты. Года четыре назад у «вышки» было хорошее исследование на эту тему. То есть реально отследить и понять, составить карту всю ментальную, что человек знает, что не знает, можно только тогда, когда ты наблюдаешь за теми ошибками, которые он совершает в процессе обучения.
У нас эту функцию выполняют, безусловно, алгоритмы. То есть сейчас уже абсолютно все ошибки, которые человек сделал, мы фиксируем. Мы понимаем, в чем он ошибся, в чем он не ошибся. Изначально алгоритмы учились это делать примерно за 30 часов. Потом была важная веха, мы это сделали за 18 часов. Сейчас это 8 часов, в экстремумах – 6 часов мы составляем себе карту по английскому языку. На самом деле, всё, что касается веточек грамматики, всё, что касается таксономии всех навыков по языку: чтение, говорение, письмо либо печатанье и аудирование. И, соответственно, на основании этих данных алгоритмы уже могут делать две ключевые вещи. Первое: они могут понятным образом рекомендовать преподавателю, живому преподавателю (еще раз говорю, нет никакой дихотомии) давать на аудиторную либо внеаудиторную отработку ученику конкретные топики, в которых он ошибается. И второе, что очень важно, алгоритм учится у нас предсказывать. Собственно говоря, вот это сокращение времени позволяет нам всё точнее и точнее на старте определять, что же, на самом деле, человек знает, для того чтобы мы могли строить эту самую персональную кривую траекторию. Это раз.
Второе. То, от чего у всех преподавателей вскипает разум возмущенных и кровь в жилах, – это посекундный контроль урока. Я немножко наброшу. В отличие от подавляющего количества образовательных учреждений мы полностью контролируем все, что происходит на каждом уроке. У нас таких уроков сейчас порядка 50 тысяч в сутки. 50 тысяч уроков мы проводим за 24 часа. Вот каждый из этих уроков, каждая секунда этого урока контролируется алгоритмами.
Что там происходит? Первое. Конечно же, идет ли преподаватель по телу урока или у него сейчас появилась какая-то фантазия. Появилась фантазия – не хорошо и не плохо, но повод для того, чтобы мы понимали: действительно ли мог преподаватель очень осознанно, разумно и правильно сделать, отклонившись от тела урока. Может быть, он просто схалявил. Это повод для анализа, для ассистмента урока. Второе. Чем преподаватель занимается. Общается ли он с учеником или пялится себе в телефон (благо, что онлайн). [00:45:00] Сколько времени говорит преподаватель, сколько времени говорит ученик, на каком языке они говорят, как это соотносится с рисунком урока. Компьютерное зрение анализирует фокус у преподавателя, включен ли он в эмоциональный фон на уроке – это всё тоже делает алгоритм.
У нас есть опыт массового использования алгоритма. Это когда мы в прошлом году вместе с группой кампаний просвещения под локдаун случайно сделали успешный проект. В смысле действительно случайно. Мы не думали, что он так выстрелит, и автоматизировали проверку домашних заданий для школьников с 1-го по 11-й класс по всем предметам. И в результате у нас больше сейчас 30 миллионов выполненных домашних работ. И в отличие от ВПР и ЕГЭ мы достаточно точно по ряду регионов России, конечно, везде разное покрытие, но по некоторым классам оно у нас достаточно полное, по некоторым школам мы можем очень хорошо предсказывать, что же, на самом деле, из предыдущих предметов, классов ученик усвоил, что он, на самом деле, не усвоил. Другое дело, что эти данные никому, кроме нас, не нужны. Это только мы умеем строить на них дальше какие-то правильные предметы. Но, тем не менее, мы сейчас это используем для себя, когда мы понимаем, что в каком-то областном центре, скорее всего, кажется, судя по данным, все учителя геометрии «хромают», ну, то есть просто школа достаточно плохая, это значит, что туда нужно сильнее предлагать все услуги, которые, так или иначе, связаны с тем, чтобы школьники подтягивали фактически знания. Я сейчас не про ЕГЭ, ни про ОГЭ и не про ВПР. Подтягивать эти знания. В этом смысле частный бизнес умеет, гонясь за деньгами, наносить именно непоправимую пользу, используя данный алгоритм.
Вот если вкратце – так. Могу приводить еще сотни примеров. Но суть того, что я хочу сказать, что ни в коем случае нельзя говорить, кто кого заменит или кто вместо кого. Можно говорить о том, как экзоскелет фантастических фильмов помогает человеку делать то, что он не может сделать без подобных инструментов. Как молоток, очки и компьютер позволяет нам делать больше, точно так же алгоритмы и данные позволяют любому учителю становиться действительно крутым учителем, используя данные для принятия решений, а не компьютер вместо учителя принимает решение. Спасибо.
Зубарев К.: Спасибо, Александр Владимирович. Коллеги, есть у кого-нибудь комментарии?
Четверухина Г.: А можно вопрос?
Зубарев К.: Да, конечно.
Четверухина Г.: Извините, что я сегодня так активно. Меня просто очень волнуют вопросы, связанные с управлением и, в частности, с принятием решений. Вот я бы к коллеге хотела обратиться. Александр, скажите, пожалуйста, каким образом вы обучаете своих преподавателей правильно принимать решения? Потому что, насколько я понимаю, искусственный интеллект дают целую дефектную ведомость. Может быть, у вас как-нибудь по-другому устроено, но это целый пласт таких вот точек реперных, относительно которых надо принимать решения, рассуждать. Вот меня этот аспект волнует: как правильно научить, есть ли какие-то технологии специальные? И еще второй вопрос. Относительно какого результата... У вас прописан какой-то вот такой результат, к которому вы стремитесь, или вы в процессе корректируете его? Спасибо.
Ларьяновский А.В.: Спасибо. Очень хорошие вопросы. Дать честный ответ или вежливый?
Зубарев К.: Давайте честный.
Ларьяновский А.В.: Честный ответ. Учителя мы учим читать то, что написано на экране и сделать то, что там написано. Соответственно, с точки зрения учителя это выглядит так. На уроке в письменной речи ребенок сделал ошибки вот в таких-то пунктах грамматики. До этого такие же ошибки были еще много раз. Скоринг говорит о том, что первая тема, которую нужно отправить на обработку – вот такая, вторая – такая, третья – вот такая. Мы рекомендуем выбрать первую. Но если у тебя есть мнение, что надо выбрать вторую или третью, выбери любую из них. Но никакую из тех, которая, тебе кажется, что еще нужно сделать. Если тебе кажется, что еще нужно сделать, то у тебя есть способ донести мнение, что алгоритм ошибся. Мы тогда будем разбираться, что с этим делать.
Да, это достаточно жесткая трудовая дисциплина. То есть у нас самый большой датасет в мире по проведенному количеству уроков с живым преподавателем. Ну, кроме Китая. Сейчас это порядка 40 миллионов часов проведенных уроков. Мы хорошо понимаем, что у учителя когнитивных ошибок возникает достаточно много. [00:50:00] Ну, в смысле иногда он прав. Но если смотреть на большие числа, то алгоритм ошибется реже в подсказке того, на что нужно учителю обратить внимание. Поэтому мы, продолжая тюнить модель, не веря тому, что алгоритм идеален, просто каждый раз мотивируя учителя, сообщать нам об ошибках, когда он считает, что мы действительно неправильно сделали, на всех таких кейсах мы доучиваем свою модель. И мы не говорим о том, что мы изобрели, всё, и теперь эта вся штука работает. Нет. Так же, как и любая технология, она требует. Так же, как и педагогические практики в живом мире без компьютеров, точно так же требуют мнения учителя. Это что касается первого вопроса. Поэтому короткий ответ вам: трудовая дисциплина. Простите, а второй вопрос?
Четверухина Г.: Второй вопрос был про результат.
Ларьяновский А.В.: Всё. Понял. На самом деле, поскольку всё происходит на уровне конкретный человек, то есть не группа, а конкретный человек, то, безусловно, снимается цель человека, который может человеком (если ребенок – родителем) поправиться по ходу пьесы. Но мы учимся максимально точно описывать тот результат, который должен быть. Человек говорит: «Мне нужен английский, для того чтобы переписываться по работе с контрагентами в Китае». Ну, и отлично. Можно спокойно нарисовать всё дерево, которое он должен знать для этого. «Мне нужно поступить в вуз, в Гарвард». Отлично. Можно обрисовать всё дерево.
Четверухина Г.: Спасибо.
Зубарев К.: Спасибо. Еще?
Сидорова Т.А.: Можно еще вопрос?
Зубарев К.: Да, Татьяна Александровна. Задавайте, вас слышно. Нас слышно?
Сидорова Т.А.: Да. Спасибо за интересное сообщение. У меня есть более, чем, по-моему, 10-летний опыт работы в комиссии по проверке ЕГЭ по обществознанию. И я заметила следующее. Что в первые годы, действительно, проверка преподавательская, она была необходима совершенно. Потому что работы действительно отличались, и в этих работах нужно было уловить какую-то индивидуальность ученика. Но с течением времени, когда, наверное, активно подключились репетиторы, которые натаскивали учеников и таким образом алгоритмизировали саму подготовку к выполнению части «С» по этой дисциплине, то проверять уже, ну, почти нечего было. В связи с этим вопрос у меня следующий. Вот такая нарастающая алгоритмизация в процессе обучения, она меняет само сознание ученика. И не отменяет ли она, вообще, необходимость в развитии воображения, способности к творчеству? Ну, вот, элементарно потребности в том, чтобы дети (ребенок) писал стихи, как, в принципе, это предполагается в юношеском возрасте. Потому что вот в этой части «С», особенно там, где дети пишут эссе, с течением времени просто нечего читать. Потому что нет никакого творчества. То есть ответы строго в соответствии с теми критериями, по которым проверяют и ставят баллы.
Ларьяновский А.В.:: Можно я скажу ответ как гражданин и IT-шник? У любого изменения в проекте должен быть заказчик. Заказчика в изменении системы образования в стране сейчас не существует. Его просто нет. Его нет наверху. Я очень много времени провожу в трех профильных министерствах, которые с этим связаны (кроме двух образовательных, еще и Минцифры). Его нет внизу: ни у родителей, ни у педагогов, учителей. Есть недовольство, но заказчика изменений нет. Система оптимизирует те функции, которые для нее считаются важными. То есть, да, так легче работать, так легче принимать решения. [00:55:00] До тех пор, пока общественный заказ не появится, система будет такой, какая она есть. Это никак не связана с алгоритмами вообще. Это связано только с тем, что KPI по реальному... То есть задача образования, на самом деле, она одна: научить человека принимать наиболее эффективные для него решения. И для этого нужно, чтобы человек писал стихи, был связан с воображением и всем остальным. Сейчас заказа на то, чтобы человек был самостоятельным и учился самостоятельно принимать решения, в обществе нет, еще раз говорю, ни сверху, ни снизу. Это мой личный ответ.
Зубарев К.: Спасибо. Мария Наильевна.
Жафярова М. Н.: Здравствуйте, Александр Владимирович! Вопрос от Министерства образования Новосибирской области. Ну, вот учитывая, что в топе-5 вакансий учителя иностранных языков (для вас это очевидно, не секрет), у меня вопрос: если у вас такие исключительно социально ориентированные бизнес-модели, которые позволят воспользоваться школе вашей услугой и, в общем, как бы оказаться в пределах бюджета, который выделен на фонды оплаты труда педагогических работников. Спасибо.
Ларьяновский А.В.: К сожалению, законодательство не позволяет нам это делать. Потому что законодательство требует, чтобы учитель проживал в том же населенном пункте, в котором оказывает услугу. У нас был опыт с Чечней, где совсем нет пединститута и с учителями вообще нет. И ваши коллеги из Грозного, в общем, шли на уголовное преступление, нарушая это, чтобы дать детям английский язык. То есть если поменяется эта система, мы готовы решать задачу. И это не вопрос, на самом деле, по большому счету, денег. Это именно вопрос о том, как эта штука делается.
С вузами легче. В вузах у нас эта практика сейчас есть. С сибирскими – нет, но Уральский федеральный университет, много крупных вузов в Питере, в Москве, где мы сейчас расшиваем историю с кафедрами иностранных языков, просто показывая, что мы умеем это делать намного дешевле, суперэффективнее, чем это делают они. Тоже они не могут позволить себе уволить, по понятным причинам, всю кафедру. Поэтому мы работаем в гибридном формате вместе с ними, беря на себя как раз все рутинные функции, которые можно с преподавателя снять. Счастливо уходит проверка домашних заданий, включая эссе. И тогда это хорошо получается. Но есть группы, в которых честно всё ведем мы. Административные барьеры, к сожалению, мешают.
Зубарев К.: Сергей Алевтинович.
Смирнов С.А.: Спасибо. Коллеги, вот второе выступление – и у меня возникает опять ощущение, что вроде бы в школе базовый процесс – это обучение и развитие конкретной личности ребенка. Но когда мы обсуждаем искусственный интеллект, а точнее, алгоритмизацию и программирование, мы сразу уходим в другие вещи. Мы не обсуждаем, на самом деле, обучение и развитие, мы обсуждаем преодоление рутинных операций, когда рождаются большие масштабы, и тогда там человек проигрывает машине. Но мы поневоле начинаем машинизировать самого учителя и ученика. Они у нас становятся функциями, которые всегда будут проигрывать умной, быстрой машине, которая не ошибается. Может быть, мы сменяем предмет разговора? Мы, вообще, про что говорим тогда?
Ларьяновский А.В.: А можно мне встречный вопрос задать? Простите, что перебиваю. А какие показатели и KPI есть у школы на развитие личности?
Смирнов С.А.: А с какой стати вы применяете понятие KPI к школе? Школа не может быть...
Ларьяновский А.В.: Я отвечу с такой стороны. Если есть цель, то есть, соответственно, и те метрики, по которым вы понимаете, что цель достигнута или не достигнута.
Смирнов С.А.: Ну, и какая цель у школы?
Ларьяновский А.В.: Нет, вы только что сказали, что цель у школы – развитие личности. Это декларация. Это первомайский лозунг. Это красивые слова, которые школа говорит. Но она так не делает. Потому что вообще никакой мотивации у учителя сейчас развивать личность нет. Захочет он – сделает, не захочет – ничего ему не будет.
Смирнов С.А.: Вы только подтверждаете мою правоту. Про это и речь.
Ларьяновский А.В.: То есть проблема в школе и в тех системах метрик, а не в том, что мы добавляем туда алгоритмы. Извините, автоматизация бардака создает автоматизированный бардак.
Смирнов С.А.: Вы меня слышите? Школа потеряла базовый процесс. Она перестала учить и развивать.
Ларьяновский А.В.: Она этим и не занималась.
Смирнов С.А.: Она начинает подменять процесс и начинает заниматься имитацией.
Ларьяновский А.В.: Нет. Она этим и не занималась. Я лично видел, как выпускники прекрасной советской школы ставили банки с водой около Кашпировского. Нет, она этим не занималась.
Смирнов С.А.: Дело в том, что вы построили бизнес-модель, хорошую и эффективную, и там всё отстроено, всё понятно.
Ларьяновский А.В.: Вот как раз мы занимаемся тем, что включаем в свои задачи развитие ребенка. Мы реально сидим и думаем, как научить ребенка ставить собственные цели, как научиться их добиваться.
Смирнов С.А.: Вы построили школу по бизнес модели.
Ларьяновский А.В.: В вашей голове мы именно так и сделали. Но в реальности это не так.
Зубарев К.: Ну, я вот лично за жесткую систему подготовки образования. И если, допустим, вот я сейчас из позиции своего родителя, то есть если задано, что ребенок должен ежедневно читать, у него должна быть какая-то метрика, на самом деле. И метрика не про то, что он выучит, а про то, что он должен прочитать 100 или 200 страниц в день. И если он этого не делает, у него каждый день уходит.
Смирнов С.А.: А почему такое отношение? Почему у тебя вдруг, у родителя, такой критерий в отношениях с ребенком?
Зубарев К.: Не знаю. Потому что я считаю, что она работает. Потому что каждый пропущенный день, если он не прочитает, уходит.
Смирнов С.А.: Не факт.
Зубарев К.: Факт.
Смирнов С.А.: Есть разные подходы к своему любимому ребенку. Почему надо задавать такой очень количественный, очень формальный подход – сколько страниц надо прочитать?
Зубарев К.: Поэтому я за толерантность в подходе.
Смирнов С.А.: Правильно. Так ты сам себя ограничиваешь в действиях со своим ребенком: вот столько-то надо читать. Не факт. Кто сказал? Не обязательно.
Зубарев К.: Ну, предложите варианты.
Смирнов С.А.: А вы просто начинайте всё с другой вещи. Устанавливается реально контакт взрослого и ребенка или не устанавливается? А внутри – многообразнейший репертуар взаимодействий. И коллега прав: школа не позволяет этого делать. Она превратилась в очень жесткую функциональную машину. И поэтому начинают педагоги, родители и бизнесмены искать другие площадки развития детей: разного рода центры развития и школы английского языка.
Зубарев К.: Но это же счастье. Конкуренция – это плохо?
Смирнов С.А.: Да нет. Это не от хорошей жизни. Школа, базовая школа потеряла саму себя.
Ларьяновский А.В.: Нет, это от хорошей жизни. Конкуренция – это хорошо.
Смирнов С.А.: Категории конкуренции к образованию неприменимы. Это не бизнес сфера.
Ларьяновский А.В.: Применимы, применимы. НГТУ с МГУ как-то конкурируют же. Нормально. Ничего. МГУ с «вышкой» конкурирует. Гарвард с Итоном. И ничего. Им как-то не мешает конкуренция. Правда?
Зубарев К.: Сергей Алевтинович, ну, есть разные мнения. Вы сказали – мы зафиксировали. Тем более, всё как бы пишется, и как бы все версии, все точки зрения учтены. Коллеги, есть еще сюда кому вопросы задать?
Спешилова Е.: Коллеги, я бы хотела небольшое тоже суждение добавить. Мне вот в связи с этой дискуссией вспомнилась работа Фуко «Надзирать и наказывать» с его представлением о школе как о муштре, наряду с армией и прочими институтами.
Смирнов С.А.: И тюрьмой.
Спешилова Е.: И тюрьмой, да. То есть вопрос даже не в том, что алгоритмизация как-то ухудшает систему образования и с появлением этих алгоритмов всё становится более механистичным и так далее. До прихода алгоритмов уже система отчасти была вырождена за счет того, что идет функциональный подход к человеку, как к винтику общей системы взаимодействий.
Зубарев К.: Спасибо. Коллеги, есть ли еще у кого-то?
Белоусов А.: Можно дополнить?
Зубарев К.: Да, конечно. Да, Алексей.
Белоусов А.: Здравствуйте! Меня зовут Алексей. Я представляю «Университет 20.35». Это такой университет без университета. Мы занимаемся, пытаемся трансформировать как раз образование и разрабатываем адаптивную образовательную систему. И как бы у нас есть свой взгляд на ситуацию. Хотелось бы тоже сразу преамбулу по искусственному интеллекту, что, конечно же, это не интеллект. Речь идет про машинное обучение или, вот как сказали, алгоритмы. Но кажется, что все мы подразумеваем автоматизированную систему, как автоматизированная система может помочь процессу обучения таким образом, чтобы мы достигали какого-то целевого результата. Целевой результат, какая нисходящая причинность у нас? Мы все в контексте Российской Федерации, которая в контексте мира. И мы хотим, чтобы образовательная среда создавала больше технологов, ученых, людей творчества как технических, так и гуманитарных наук, как бы людей с собственным мнением, которые могут развивать цивилизацию.
Как мы можем это измерить? И, вообще, отличные слова про метрики. Как мы можем измерить в образовательной среде качественный прирост этого? [01:05:00] Это открытый вопрос, но он, мне кажется, имеет ответы. Здесь можно рассуждать. По крайней мере, если мы впишем образовательную систему в больший контекст, то вот экономика имеет свои параметры: например, количество проектов, которые как бы конкурентоспособны на мировой арене; количество лидеров мнений, патентов, публикаций в научных статьях и так далее. То есть надсистема имеет эти метрики. Подсистема образования, которая должна вырастить этих людей, здесь действительно сложно. Потому что над каждой метрикой, как только появляется метрика, начинаются способы нагнать эту метрику, для того чтобы получить финансирование. Вот это, к сожалению, такая системная проблема, с которой очень сложно как бы снизу побороться, а сверху не видно решений. Оставим это за скобками.
Так вот мы в работе над образовательной системой адаптивной какие интересные инсайты мы нашли? Что образовательная среда – это пространство ошибок. Чем больше обучающийся совершает ошибок, тем больше он эволюционирует. Это вот как один из инсайтов, что это в принципе возможно. Но более такой прямолинейный KPI – это количество проектов, которые создают, количество идей, сообщений или каких-то других вот цифровых следов, которые можно воспринять как активность человека.
Цель адаптивной образовательной системы – это создание субъекта. Ну, как это? Поможение в создании субъекта. Мы хотим, чтобы у нас возник естественный интеллект. Интеллект – это как раз способность адаптироваться в новой среде. Так вот как раз обучение – это вот та самая муштра. А научение – это способность как бы брать определенную эссенцию знаний и применять ее в разных областях. То есть вот как раз кругозор. Мы хотим создавать такую среду, в которой это возможно.
И здесь действительно вот эта постановка, она меняет роли. И самое главное, вот мне кажется, что точка зрения на этот процесс: нам нужно подумать, какие роли у кого должны быть, какие роли у этой автоматизированной системы, которая становится системой для поддержки принятия решения у преподавателя. Мы пытаемся сделать перераспределить внимание и усилие преподавателя таким образом, чтобы у него была возможность лично обратиться к каждому обучающемуся и, соответственно, применить все свои таланты учителя, для того чтобы найти какое-то зерно и дальше его прорастить. А рутину, вместо проверки тысяч экзаменов ЕГЭ – лучше это машина пускай проверит, а мы предоставим какую-то уже аналитику для тех людей, которые как бы... Ну, предоставить творчество учителю. То есть смысл в перераспределении ролей.
Тут еще один из примеров, который синонимичен здесь, – это вот сначала у нас, в начале 90-х, были web-дизайнеры, которые занимались абсолютно всем. Они занимались созданием сайтов «под ключ» и были и теми, и теми, и теми. С течением времени мы видим, как количество ролей, которое возникает в цифровой среде, оно стремительно увеличивается. Вот, мне кажется, тренд: как бы смотря на горизонт, нужно увидеть разные роли в образовательной среде. И есть люди, которые прекрасно доносят смыслы. Это лекторы. Они ярко рассказывают. Отлично. Давайте мы запишем 10-минутный ролик, который точно объяснит какую-то тему в физике. Но человек, который тьютор, который как бы ведет ученика через многие разные предметы, он просто в какой-то момент направит туда. Таким образом, как раз вот это перераспределение ролей. То есть появляется некая роль, которая хорошо рассказывает. Появляется роль, которая ведет студента, ученика, для того чтобы как раз у него была цель, чтобы вот из этого ученика он стал многогранной личностью, чтобы он мог адаптироваться в современном мире и становиться актором этого мира, а не винтиком и так далее. Мне кажется, я всё сказал.
Зубарев К.: Алексей, у меня вопрос. Это комментарий или вы сообщение уже сделали?
Белоусов А.: Ну, мне кажется, я завел нас в дискуссию чуть подальше. [01:10:00] Кажется, что мы как бы не могли преодолеть некоторые границы. Ну, во-первых, я повторюсь, что мы говорим об автоматизированных системах. Конечно, искусственный интеллект – я не понимаю, что человек имеет в виду в конкретный момент, когда он говорит «искусственный интеллект». Не понятно. Вот лучше говорить про автоматизированные системы внутри образовательного процесса: какие риски есть, и какие есть вызовы здесь. И второе. Собственно, барьер с KPI, что их нет или они есть, и вообще они невозможны или возможны. Я думаю, что косвенно мы можем измерить какие-то процессы, которые говорят о том, что мы идем в правильном направлении. И я попробовал опускающуюся причинность внести. Ну, то есть мы действительно за гуманистические ценности, мне кажется, все вместе, но при этом как бы расходимся в путях.
Зубарев К.: Давайте еще раз, вот «да» или «нет» ответите. У вас еще будет сообщение?
Белоусов А.: Мне кажется, важнейшее я рассказал.
Зубарев К.: Хорошо. Тогда вопрос к вам.
Сопочкин С. В.: Коллеги, добрый день! Сопочкин Сергей, лицей № 130, Новосибирск. Вот, знаете, я попробую задать некоторую новую точку зрения вот на наш с вами разговор. Мы говорим про искусственный интеллект. Вот смотрите, даже если он будет придуман и по полной заработает, ученик реально в классе и учитель все равно окажутся в ситуации: стандарт будет определять, что и как ученик должен делать, технологии с использованием искусственного интеллекта будут работать по полной, и на выходе – единый государственный экзамен. Вот эта логика мне кажется, будет еще долгое время доминировать.
Но я вам приведу три примера, о которых вы все прекрасно знаете. И это немножко про другое. Вот смотрите, что произошло недавно и, предполагаю, осенью может произойти. Молодежь вышла на улицы с тезисом «Мы здесь власть». Госпожа Бузова, Моргенштерн и Дима Милохин становятся всё более популярными в молодежной среде. Казанский стрелок и другие. Понимаете, это совершенно, мне кажется, другой аспект, но это тоже про школу, про образование и про то, надо ли делать ставку на искусственный интеллект. Предполагаю, что если это будет сделано и заработает на всю катушку, определенная группа наших продвинутых, умных, грамотных, мечтающих о карьере старшеклассников всё это освоит и будет делать это на «отлично». И это будет 3-5-7% всего нашего детского народонаселения. А все остальные пойдут вслед за Моргенштерн-педагогикой. Она пришла, она тут: «Здравствуйте!» И мы, мне кажется, говорим о совершенно абстрактных, отвлеченных вещах, реально теряя детей и наше поколение. Спасибо.
Зубарев К.: Спасибо большое. Сергей Алевтинович, вы хотите что-то сказать. Да?
Смирнов С.А.: Спасибо больше, Сергей Владимирович. Я к этому вернусь, когда я выступать буду. Большое спасибо за фиксацию. У меня просто был вопрос к Алексею. Алексей, скажите, пожалуйста, когда вы привели пример, что надо найти каждым работам и функциям свое место, где, как вы считаете, алгоритмизированная система принципиально задает новое качество практике обучения. Где учитель уже заведомо проигрывает и будет терять контакт с учеником? Когда про видеоролики – ну, это можно видеоролики писать, это как бы в дополнение, это на здоровье. Но когда мы в университетах записывали видеолекции, это не заменяло основного процесса. На здоровье. Это как бы дополнительная опция, нет проблем. Но как вы считаете, где принципиально новое качество обучения задается искусственной системой, когда действительно преподаватель или учитель принципиально не может этого делать и это задает новое качество самому обучению, как вы считаете?
Белоусов А.: Ну, пока мы находимся в этом. Работаем по принципу – на здоровье. Мы как бы пытаемся снять нагрузку с учителей там, где мы это можем (с преподавателей). Ведь проблема образования в том, что она промышленная. Приходит 30 человек, и они с разным уровнем подготовки. И преподавателю нужно выбрать тот язык, который усвоит в среднем большинство. [01:15:00] Какая вот цель. Есть те, которые хотят вперед убежать, а есть те, которым надо всё разжевать. Так вот адаптивность в образовании – это персональность. Мы пытаемся автоматизировать процессы восполнения, например, пробелов в знаниях. То есть если человек не подготовлен к чему-то, то мы ему эти видео, на здоровье, даем, он обучается, и теперь он понимает. Если он как бы показывает результаты выше – отлично. Мы можем перераспределить его время. То есть если он хочет сдать «автоматом» или может подготовиться со своим индивидуальным треком, быстро всё прочитав и не смотря лекции, отлично. Мы даем ему трек, по которому он быстренько расправляется с этим предметом, для того чтобы перераспределить свое внимание на то, куда ему нужно.
То есть качественно новое оно возникает, безусловно, в творческом подходе учителя, как мне кажется, и организации какого-то дополнительного процесса. То есть здесь я не берусь судить, но понимаю, что практики, которые создают вот эти новые качества человека, скажем так, они есть, и можно тоже говорить об этом. То есть это некоторые клубы, кружки, в которых люди обмениваются мнениями, придумывают новые продукты, анализируют что-то и так далее. То есть это некоторые форматы общения, скажем так, как мне кажется. Но фокус наш, он как бы в автоматизации тех рутинных процессов, которые есть.
Зубарев К.: Алексей, у меня вопрос. Я знаю, что у вас, сам лично там участвовал, вернее, проходил диагностику на портале «Университет 20.35». Расскажите немножко про это. Мне кажется, Александр Владимирович тоже про это так заякорил немножечко, что важна точка стояния. Но вот по тому, что я вижу, у вас, в том числе, много таких психологических тестов на командообразование, на темпераменты, на как бы как человек в производственной практике себя показывает. Подскажите, как у вас вот эта система работает и какие результаты дает?
Белосуов А.: Вы знаете, это не моя епархия. Я немного в другом контексте. Вот соединить диагностику с процессом обучения – это то, что нам еще предстоит. Пока мы сфокусировались на другом процессе и пытаемся автоматизировать процессы, связанные с онлайн-курсами, связанные внутри вузов, вне вузов, открытые онлайн-курсы и пытаемся здесь нанести пользу. А вот связь с диагностикой – это вот как раз в сторону искусственного, наверное, интеллекта в виде нейронных сетей, которые должны помочь.
Но могу сказать, что на опыте проведения большого мероприятия в 1500 человек (это «Остров», такое большое мероприятия) у нас был ансамбль алгоритмов, которые предлагали мероприятия в зависимости от как раз диагностики и прошлого опыта посетителя. Мы ему предлагали, куда сходить. Потому что нужно сориентироваться и нужно выбрать. И в ансамбле участвовало несколько алгоритмов. Один из них был диагностический, и он не показал выдающихся результатов. То есть он был примерно такой же, как и другие, которые работали по другой логике. То есть здесь пока, мне кажется, мы в отделе адаптивных систем не делаем ставку на диагностике вот этих когнитивных способностей, ну, или других каких-то soft skills.
Зубарев К.: Спасибо. У кого-то вопрос еще?
Четверухина Г.: А можно еще вопрос?
Зубарев К.: Да, давайте последний вопрос, и мы тогда переходим к следующему.
Четверухина Г.: Ну, наверное, не вопрос, скорее всего. Был просто очень интересный вопрос, какие проблемы есть у педагога, которые он не может преодолеть, и в этом смысле проигрывает ученику. На мой взгляд, из собственного тоже опыта, скорее всего, в отсутствии навыка быстро осваивать новую технологию и применить ее в образовательном процессе. Почему те же милохины становятся сегодня кумирами? Потому что они умеют очень красиво и эффектно, [01:20:00] сидя на стуле, просто заявлять о себе. И в этом смысле, наверное, мы проигрываем. Нам нужно, педагогам, научиться этой мобильности и научиться тому, чтобы быстро и своевременно осваивать те молодежные форматы, в которых им интересно жить. И это и станет таким мотиватором, наверное, в будущем. И почему, собственно, я считаю, что искусственный интеллект в этом смысле тоже интересен. Просто его нужно сделать средством для получения новых знаний, а не только инструментом алгоритмизации процессов. И тогда он, наверное, будет вот таким новым двигателем в школе и в системе образования. Спасибо.
Зубарев К.: Спасибо, Гульнара. Я предлагаю перейти к следующему докладу. Аванесов Сергей Сергеевич, Новгородский государственный университет.
Аванесов С.С.: Добрый день, дорогие коллеги! Рад вас всех приветствовать. Спасибо за приглашение поучаствовать в этом высокоумном собрании. Я не буду задерживать ваше время надолго. Хотел бы сосредоточиться буквально на двух частных вопросах, связанных с гуманитарной экспертизой применения так называемого искусственного интеллекта в образовании в контексте общего понимания того, что происходит с человеком сегодня. Ну, прежде всего, я присоединяюсь к общему нашему мнению о том, что искусственный интеллект – это метафора. Связана эта метафора вместе со всеми коннотациями, которые вокруг неё накручены, сейчас, скорее, просто с нашим языком, на котором мы разговариваем, точнее, с неверным переводом с английского. Intelligence – это вовсе не интеллект. Для интеллекта в английском есть соответствующее слово – intellect. Но поскольку мы привыкли этим словом называть как бы все мыслительные способности человека и очень, так сказать, антропоморфно относиться к содержанию этого термина, то поэтому, наверное, и в уме обывателя, и в сознании представителей научного сообщества могут фигурировать различные фобии, подозрения, опасения, связанные с этим термином. На самом деле, все эти опасения имеют вот такой языковой характер, дискурсивный характер. И от них нужно дистанцироваться, сосредоточившись на том, собственно, что мы хотим, по сути, выразить этим неточным термином или этой метафорой.
Я могу согласиться со многими выступившими прежде в их основных положениях. Действительно, то, что называется искусственным интеллектом, а точнее, алгоритмы или программы, они имеют отношение, скорее, к обработке больших данных, к каким-то первичным рекомендациям, которые могут возникать из обработки этих данных. Интересно то, что пока не поднимался вопрос о том, что должно предшествовать работе этих алгоритмов, то есть какую работу должны сделать предварительно люди, для того чтобы заработал алгоритм, то есть что ему они должны дать. Зачастую это гигантская работа, чисто физическая и интеллектуальная реально очень большая работа.
С другой стороны, мы должны видеть, что и на выходе мы получаем не просто законченную, финализированную рекомендацию, а рекомендацию, которая вброшена в конкретное социальное пространство. Поэтому, конечно, если программе поставлена задача отобрать персонал, соответствующий определённым критериям, то есть высшее образование, опыт работы, компетенции и так далее, и оказывается, что, условно говоря, «цветные» проигрывают по этим показателям, то в обществе это будет восприниматься как дискриминация. На самом деле программа сработала вот на те цели, которые были перед ней поставлены. Но как бы круги по воде пошли, и вот эту часть реальности мы тоже, видимо, должны учитывать и подвергать определённой экспертизе. То есть должны быть готовыми к тому, что применение алгоритмов, программ, условно говоря, искусственного интеллекта, будет не только давать определённые результаты с точки зрения квалификации или бизнеса, но ещё и оставлять определенные социокультурные следы.
Также я согласен с Алексеем по поводу того, что было сказано насчёт целей современного образования. Единственное, я хотел бы сделать небольшое замечание. Скорее, современная система образования должна не только адаптировать обучающегося к той среде, которая существует на сегодняшний день, [01:25:00] но и предполагать, что обучающийся может трансформировать саму эту среду. То есть мы должны предполагать некий момент дезадаптации. Тот момент, который связан с тем, что выпускник той или иной образовательной программы способен не только соответствовать запросам существующего порядка, но и уметь трансформировать этот порядок, условно говоря, в сторону улучшения или совершенствования. Потому что если цель образования будет связана только с адаптацией обучающегося, мы попадаём в некоторую запрограммированную ситуацию стагнации.
Белоусов А.: Можно я сразу отвечу? Вот сейчас читаю прекрасную книгу об интеллекте, которая как раз интеллект и пытается создать, а не то, что «так называемый». Так вот сейчас Константин Анохин, развивая тему интеллекта, он говорит о том, что человеком движет образ результата и прогнозирование. То есть основная функция мозга интеллекта – это прогнозирование вперед. И для того чтобы это работало, нужно, чтобы была память с определенными свойствами. Таким образом, я экстраполирую эти знания, что если мы как бы на выходе получаем образованного человека в том плане, что у него много знаний, много памяти, много опыта, то он, так или иначе, будет достигать этого свойства, которое вы обозначаете. То есть он неизбежно становится деятелем, проводящим изменения в этой системе.
Аванесов С.С.: Я бы добавил, что к памяти нужно добавить воображение. Потому что чистая память – это ориентация ретроспективная. Для того чтобы возникала перспективная ориентация сознания, необходима какая-то доля воображения. Потому что прогноз – это просто продолжение трендов, которые уже сложились. Но формирование трендов, изменение трендов требуют фантазии, воображения и творчества. Вот этот момент, он не противоречит адаптивному моменту, но он его дополняет. И если мы имеем некую синергию того и другого, вот тогда мы получаем всё-таки некоторое развитие человека и человечества, а не просто адаптацию. Некую дезадаптацию, которая ведёт к трансформации, позитивной трансформации самого жизненного пространства.
В этом смысле я всегда привожу пример. Вот когда Томский императорский университет основывали, Томск был центром охоты и добычи золота. Ну, по идее, чтобы человек адаптировался к этой ситуации, нужно было открывать факультеты золотодобычи, охоты, рыболовства. Однако же там были открыты юридический факультет, медицинский, биологический факультет, а затем – историко-филологический. То есть действовали с опережением. Понимаете? То есть всё-таки образование в целом и высшее образование в частности должно работать как бы на шаг вперед. А для этого те квалификации, которые получают выпускники, должны содержать в себе некий элемент не просто прогностики, а творческого преобразования того пространства, в которое человек выходит. Это моё мнение. Я просто отнёсся к тому, что Алексей сказал.
Ну, а то, что я хотел высказать здесь, буквально в двух словах, оно касается гуманитарной экспертизы, о которой мы говорим. Гуманитарной экспертизы, имеющей отношение не только к сфере образования, но и ко всем процессам, которые происходят в современном обществе и так или иначе связаны с технологическим прогрессом. Много людей уже давно заявляют о том, что технический прогресс сам по себе бессмыслен, что его требуется упаковывать в какие-то контекстные гуманитарные экспертные заключения, и сама прогностика технологического прогресса должна опираться, прежде всего, на гуманитарную экспертизу. Понятно, что и в сфере образования технологический прогресс также должен сопровождаться некоторой параллельной, а даже, может быть, опережающей гуманитарной экспертизой.
Я не буду говорить о том, что это постоянно длящаяся рефлексия со стороны экспертного сообщества. Это понятно. Я хотел бы уточнить только один момент. Это должна быть рефлексия не только над тем, что происходит в области технологического прогресса, но и рефлексия над тем, как само гуманитарное сообщество оценивает этот технологический прогресс. То есть некая ауторефлексия, оборот на себя.
И здесь, прежде всего, на мой взгляд, необходимо обратить внимание на тот органон, которым пользуются учёные-гуманитарии для оценки технологического прогресса, технологических изменений, и на лексикон, который они используют. И вот здесь при таком пристальном вглядывании в собственный дискурс можно обнаружить и какие-то парадоксы, и, может быть, какие-то смысловые аберрации, которых может быть много; я хотел бы обратить внимание сейчас только на две. [01:30:00]
Во-первых, мы привыкли (и я уже сегодня это слышу) оценивать соотношение технологического прогресса, в частности, так называемого искусственного интеллекта в связи с человеком, опираясь в своей речи на неосознанный, видимо, антропологический редукционизм. Что я имею в виду? Упрощение понимания того, что такое человек. Это возникло не сегодня. Эта редукция возникла не сейчас и не в связи с развитием программных технологий, не в связи с развитием компьютеризации и так далее. На мой взгляд, это процесс, идущий давно. Видимо, он начинается еще в эпоху схоластики, которая была увлечена такой вот, знаете, рубрикацией, аналитикой человеческих способностей, разложением человека на некую такую систему или таблицу способностей: физических, интеллектуальных, творческих и так далее. А в модерне эта ситуация антропологической редукции доходит до своего финального завершения, когда человек представляется такой интеллектуальной машиной или просто биологическим организмом.
Для медицины тоже это характерно. Медицина современная опирается на этот же модернистский редукционизм, когда человек сводится к организму, к системе биологических процессов или химических реакций. По-другому медицина не работает. То есть она не лечит человека – она работает с организмом. Она исходит из того, что можно абстрагироваться от человека как такового в его целостности и иметь дело с человеческим организмом. Хорошо это или плохо – я сейчас не обсуждаю. Я просто пытаюсь вскрыть подоплёку того, что происходит с человеком.
В образовании, мне кажется, происходит то же самое. Вот сегодня много раз звучал термин «образование», а рассказывалось при этом не про образование, а про обучение, про контроль того, как идет процесс обучения: как человек запоминает, не запоминает, делает ошибки/не делает ошибки, сколько он делает ошибок, и, соответственно, что ему делать дальше, для того чтобы процесс обучения проходил более эффективно. Происходит некая редукция. И вот это нужно постоянно иметь в виду. То есть о чём мы говорим? Мы говорим об эффективности программы, или программ, или алгоритмов. Для чего? А с какой целью? Алексей тоже правильно поставил вопрос о цели. С какой целью? Для того чтобы быть более эффективным в сфере обучения. Но при этом об образовании речь совершенно не идёт. То есть мы уже редуцировали человека до биологического организма или интеллектуальной системы, которая имеет больше или меньше способностей, связанных с памятью, освоением знаний и их репрезентацией в дальнейшем, когда это нужно по сигналу. Прошёл сигнал, что пора сдавать экзамен, – человек включается и начинает выдавать то, что он запомнил, а мы регистрируем его ошибки.
И здесь я вижу некий квазигуманистический парадокс, который связан с модерном, а в ещё большей степени – с постмодерном. Чтобы приблизить техническое устройство к человеку... А зачем приближать техническое устройство к человеку? Чтобы облегчить ему жизнь. Так вот, чтобы облегчить жизнь человеку и для этого приблизить техническое устройство к человеку, человека приходится предварительно приблизить к техническому устройству, то есть редуцировать. Мы говорим о том, что так называемый искусственный интеллект начинает заменять человека в некоторых его функциях. Для того чтобы так говорить, мы должны заранее уже договориться друг с другом или подумать так, или предполагать, что функционирование или деятельность человека можно разложить вот на такие алгоритмы, которые затем легко заменяются входящей в это пространство программой.
С чего мы взяли, что человеческую деятельность можно разбить на такие простые, более или менее простые алгоритмы? Ни с чего. Просто так движется мысль, так движется антропология, начиная со средневековой схоластики, что приходит, в конце концов, к тому, что это возможно. Только тогда на это поле может зайти так называемый машинный интеллект. Когда оно уже готово, когда человек уже разложен на простейшие, так сказать, интеллектуальные операции.
Это точно так же, как чтобы загнать человека в счастье, нужно предельно упростить понимание того, что нужно человеку для счастья. То есть всю известную пирамиду опустить на нижний уровень. Это простейший способ сделать человека счастливым. А ещё проще – объяснить, что понятие счастья зависит от состояния сознания человека. Как где-нибудь в Центральной Азии, в буддистских регионах, где есть «министерство счастья» в том же Бутане, например. Как достигается счастье? Прямо по буддистской Дхаммападе: «О, мы живём очень счастливо, хотя у нас ничего нет. Мы будем питаться радостью, как сияющие боги».[01:35:00] Заставить человека радоваться. Так трансформировать его сознание, чтобы он был постоянно радостным. Для этого нужно упростить понятие человеческого сознания, свести его к простейшим рефлексам. И тогда простейшие рефлексы очень просто удовлетворить. Так достигается счастье. То есть это технология, которая основана на предварительной редукции человека к чему-то простому.
Таким образом, любая практическая технология опирается на предшествующую теоретическую редукцию. То есть операция, которая проводится с человеком, для того чтобы его улучшить, условно говоря, она опирается на предварительную операцию, которая произошла с понятием человека, с пониманием человека. То есть когда человек редуцирован уже в опыте, в общественном сознании, в научном сознании к какой-то простейшей системе. Хотя речь должна идти не об организме, а о человеке в целом. Но человек в целом очень легко теряется, когда мы пытаемся его редуцировать, разложив на простейшие процессы, а потом все эти процессы свести к каким-то простейшим элементарным, которые очень легко удовлетворить или воспроизвести.
Это следствие аналитической фрагментации человека, что мы и видим при попытках рассуждать об эффективности так называемого искусственного интеллекта. То есть происходит антропологическая редукция. В данном случае – редукция личности к потоку информации. И очень легко организовывать поток информации, если личность к этому редуцирована. И понятно, что и цели ставить легче именно в этом слое, и показывать, демонстрировать эффективность легче, если мы свели человека именно к этому слою. И показатели этой эффективности тоже очень легко, именно количественные показатели, очень легко изобрести и установить.
Вот ЕГЭ, о котором тоже здесь говорилось, – мне кажется, это шаг в эту сторону, шаг в сторону автоматизации. То есть ЕГЭ – это сведение экспертизы, связанной с образованием, к некоторому перечню полученных знаний и умений. Их можно называть компетенциями. От этого ничего не меняется. Это определённый набор знаний, исчислимый набор. И вот эта исчислимость, как то, что кладётся в основу понимания образования человека, подменённого натаскиванием на определенный объём информации, ведёт к тому, что ЕГЭ очень легко перевести затем в план программирования, план машинной обработки данных. Так что чему предшествует? Сначала понимание человека как простейшей системы, которая может легко обучиться, получая определенный объём знаний. Отсюда переходим к ЕГЭ, как к системе контроля этих знаний, а затем ЕГЭ автоматизируется. То есть так называемый искусственный интеллект, он входит уже в готовое пространство, подготовленное антропологическое пространство.
И второй момент, который я хотел обозначить, кроме вот этого антропологического редукционизма, который является предпосылкой, давно складывающейся и сложившейся предпосылкой современной автоматизации так называемого образования, второй такой дискурсивный момент – это подмена понятий. Вот мы говорим об интеллекте (ну, мы так привыкли говорить) как о способности к вычислениям. Хотя на самом деле это не так. Но сам наш дискурс диктует нам такое понимание интеллекта как способности к вычислительным операциям. Ну, в крайнем случае – как к прогностическим операциям на основе этих исчислений. Исключаем отсюда всё прочее: то есть всю эмоциональную сферу, всю ценностную сферу, все творческие способности, опять-таки, все способности выйти за ситуацию, так отрефлексировать её, чтобы прийти к изменению этой ситуации, а не просто под неё подстроиться, адаптироваться. И, соответственно, те плюсы, которые описывают нам как какие-то достижения, связанные с улучшением человеческой жизни, они тоже опираются вот на эту подмену. Что нам обещает внедрение как бы «искусственного интеллекта»? Улучшение образования. На самом деле, это оптимизация или усиление эффективности поглощения знаний, а потом их демонстрации, репрезентации этих знаний. Способность получать больше эмоций через дополненную реальность. На самом деле, это не увеличение способности получать больше эмоций, а замена естественных эмоций искусственными эмоциями, которые тебе навязываются через аппаратуру, через программу и так далее. [01:40:00] То есть нечто как бы внешнее начинает тебя подчинять себе.
Или продление жизни. Вот в массовом сознании и не только в массовом, околонаучном сознании, постоянно циркулируют эти идеи о том, что искусственный интеллект постепенно приближает человека чуть ли не к вечной жизни, продлевает жизнь и так далее. На самом деле, речь идет о создании электронных копий или дубликатов того, что неправильно называется человеческим интеллектом. То есть программа начинает заменять человека. Человек как таковой остаётся смертным, слабым и ограниченным, а эта программа, которая его якобы дублирует, этой программе приписывается вот это продлённое или даже вечное существование. То есть мы видим замену понятий, подмену понятий. Ведь это не человек получает новые способности, а это нечеловеческие способности поэтапно начинают отрицать человека с его человеческими способностями, его заменять. На место человеческих способностей входят нечеловеческие способности. Сам человек-то от этого только теряет. То есть от него постоянно как бы происходит вот это ампутирование его каких-то способностей. Вместо них, ампутированных, утраченных входят машинные, программные, электронные способности. Сам человек при этом только умаляется. Это не человек получает дополнительные способности. Человек теряет способности. Вот подмена понятий: человек теряет способности, а нам рассказывают о том, что он приобретает способности. Но самом деле это не так. Это так же, как физические протезы не являются развитием человеческих способностей, они заменяют то, что человек потерял. Точно так же и вот эти электронные, программные способности, они призваны заменять то, что человек потерял. Они не надстраиваются над человеком, а вытесняют и заменяют собой человеческие способности.
Какой в этом процессе тогда антропологический смысл? Никакого. Только технократический. Только стремление к постоянному развитию технических способностей, которые, для того чтобы иметь ареал для своей реализации, вытесняют человеческие способности на основе конкуренции с ними. Опять-таки, слово «конкуренция» звучало сегодня. Я тоже хотел бы Александру возразить. Понятно, что конкуренция – это один из двигателей развития и прогресса. Но только один. Если конкуренция вытесняет солидарность, то она превращается в оружие взаимного истребления. Если она не уравновешена человеческой солидарностью, антропологической солидарностью, гражданской солидарностью, национально-культурной солидарностью, конкуренция превращается в способ взаимного истребления. Поэтому, конечно же, нужна конкуренция, но ограниченная солидарностью.
Ещё одно, последнее, что я хотел сказать, последняя подмена понятий связана с идеей риска. С середины 60-х годов популярна идея о том, что современное общество – это общество риска. Типа, что бы мы ни делали, мы рискуем, потому что результат неизвестен. Мы всё более стремимся прогнозировать будущее, всё более заступаем в это будущее. А любое заступание в будущее – это риск. Потому что это движение в ту сторону, о которой мы ещё ничего не знаем. Это действие в направлении того, чего мы раньше никогда не делали. Поэтому это риск.
Но мне кажется, что уже прошло время для того, чтобы наше общество характеризовать как общество риска. На самом деле, оно давно уже – общество избегания риска, общество предотвращения риска. Пятьдесят лет говорили, как всё рискованно. Это привело к тому, что мы теперь отовсюду подстрахованы. Везде есть некоторые страховки, некоторые барьеры, экраны, которые не должны допускать развития ситуации в негативную сторону.
Что это означает в целом? Это, опять-таки, чисто технологический подход. Ну, это понятно чисто арифметически: чем меньше у нас веер возможностей, тем меньше у нас риск. Соответственно, нужно сокращать этот веер возможностей, и тогда мы сможем контролировать все треки, которые у нас наперечёт, их легче контролировать, у нас меньше неожиданного. Соответственно, меньше творчества, меньше креативного подхода к ситуации. Всё вбивается в заранее определённое русло. Опять-таки, подготовка к такому снижению риска шла давно. И вот то положение, в котором сейчас находится образование (ну, я вот за высшее образование могу отвечать), – это как раз такой слепок уже не с общества риска, а с общества избегания риска, с общества сужения веера возможностей.
Я что имею в виду? Я имею в виду все те бюрократические перестраховки, все эти инструкции, которые детально регламентируют, [01:45:00] что должно происходить в результате и в ходе учебного процесса. Вот эта бюрократизация, гипертрофированная бюрократизация, которая подавила собой уже сам процесс не только образования, но и даже обучения, – это как раз репрезентация того, в какую стадию вступило наше общество. Это общество избегание риска.
Это значит, в антропологическом смысле, что мы пришли к общепринятой модели человека как существа, которое должно бояться быть свободным. Оно должно быть загнано в определённые рамки, которые исключают всякую возможность креативных действий. Это как раз то, что можно назвать изменой человека самому себе. Человек постепенно, пугая себя рисками, запугав себя собственной свободой, согласился быть несвободным существом, загнанным в определённые рамки. Это тоже подмена понятий. Человек перестал быть человеком. И сейчас работа идёт не с человеком в полном смысле слова, а вот с некоторым конструктом, возникшим путём абстрагирования от того, что можно назвать реальным человеком, человеком в полном смысле слова. И попытка избежать риска – это попытка перестать человеку быть самим собой, то есть отказаться от вариативности, от рискованности собственного существования, отказаться от специфики собственно человеческого существования как существования свободного, заходящего всегда вперёд себя (по Хайдеггеру). Отказаться от такой человеческой идентичности, которая отличается от всех прочих идентичностей. Потому что только человеческая идентичность есть постоянное подтверждение несамотождественности, постоянное заступание за свои границы. Общество отказа от риска запрещает такое заступание.
Вопрос: является ли это какой-то революционной ситуацией? Говоря уже даже не о так называемом искусственном интеллекте, который вторгается якобы в человеческое существование, а вот хотя бы имея в виду то, о чём я сказал, то есть антропологический редукционизм и подмена ключевых понятий, с помощью которых мы оцениваем ситуацию. Является ли это революционной ситуацией? На мой взгляд, нет, совершенно нет. Это нормальное эволюционное развитие человеческой культуры, которая, кстати, движется не по прямой, я надеюсь. Возможны разные зигзаги. Но предпосылки такого отношения человека к самому себе, которые реализуются и в медицине, и в образовании, предпосылки этого очевидны, они вполне логичны. Вопрос в том: является ли для человека такая эволюция, которая начинает отрицать его самого, чем-то противоестественным? Да нет. Человек – это такое существо, которое способно отказаться от себя самого. И вот то, что происходит уже давно, и то, что репрезентируется сейчас через эти процессы, которые идут во всех сферах, связанных с программированием и с «искусственным интеллектом», лишь только по-новому, в новых формах демонстрируют нам то, что человек есть существо, способное отказаться от самого себя. Спасибо.
Кайгородов П.: Короткий вопрос на понимание. Можно?
Смирнов С.А.: Паша, давай вопрос. Павел Кайгородов.
Кайгородов П.: Да, Павел Кайгородов. Я от вузов здесь тоже выступаю. Не могли бы вы, пожалуйста, пояснить, где конкретно пролегает граница между естественными эмоциями и искусственными? Потому что я вот сейчас попытался прикинуть эмоцию, которая не коррелировала бы ни с чем внеположным сознанию, и как-то не смог.
Аванесов С.С.: Я имел в виду те эмоции, которые навязываются человеку через дополненную реальность.
Кайгородов П.: Ну, дополненная реальность, она дает как бы визуальный раздражитель, да. Но он ровно так же воздействует на эмоции, как и то, что мы видим вне дополненной реальности.
Белоусов А.: Вчера вышла научная статья про мышей, которые в виртуальной реальности активировали другие части мозга для топографического ориентирования, нежели в реальном. Это просто намек на то, что виртуальная реальность немного по-другому воспринимается человеком. Возможно, вопрос эмоций узкий. Речь шла, наверное, в целом о восприятии этой виртуальной реальности, что мы как бы туда стремимся. Просто есть разные сайд-эффекты, которые связаны с этим. Мне кажется, тезис был об этом.
Аванесов С.С.: Речь шла о том, что через виртуальную реальность мы получаем навязанные нам эмоции. Это не наши эмоции.
Кайгородов П.: Вот это я и пытаюсь понять сейчас. [01:50:00] О'кей, мы по-другому воспринимаем виртуальную реальность, другие части мозга. Это я могу понять, да.
Аванесов С.С.: Я не про мозг говорю, Павел Викторович. Я говорю про человека, а не про мозг. Человек – это не мозг.
Кайгородов П.: Ну, тогда я снова в тупике.
Аванесов С.С.: И психика – это не мозг. Психика – это тоже не мозг.
Смирнов С.А.: Ну, ответ-то получен. Другое дело, согласен/не согласен. А можно мне вопрос? Сергей Сергеевич, во-первых, большое спасибо. Ну, у нас позиции очень близки. Но смотрите, что получается. Если так, то есть если мы, так сказать, идем по такой накатанной линии редуцирования человека и отказа его от самого себя, то что является предметом гуманитарной экспертизы? Практика возвращения человека себе? И как это должно, по идее, выстраиваться практически, процедурно, нормативно? Ну, как бы в реальности. Если так. Есть у тебя какой-то вариант, предложение?
Аванесов С.А.: Сергей Алевтинович, слушай, я думаю, что поскольку до сих пор вся эта тематика обсуждается достаточно спорадически и хаотически, мы должны всё-таки как-то пошагово двигаться в этом направлении. И вопросы, которые я сейчас услышал, они так и выстроены. То есть сначала мы должны коллегиально определить предметность гуманитарной экспертизы. Сходу как бы её не определишь, но можно попытаться. Это совокупность культурно-антропологических эффектов, связанных с, условно говоря, технологическим прогрессом в целом. Который может идти по разным линиям, но в целом вот это, наверное. Это можно уточнять. Это можно конкретизировать, раскладывать на рубрики и так далее. Когда мы с предметностью определились более или менее, какую-то границу очертили, дальше возникает вопрос о критериях и инструментах. Мы не можем забегать вперед. Если мы с предметностью не определились, то о критериях и инструментах говорить рано. Потому что – что мы будем измерять?
Смирнов С.А. : Предметом – это значит возвращение человеку его самого. То есть восстановить наше представление о человеке как о целостном существе.
Аванесов С.С.: Вот мне кажется, что сохранение человеком самого себя, возвращение человеку самого себя – это некая ценность, с которой связана миссия самой гуманитарной экспертизы. Именно миссия. А что касается предметности, я думаю, что это, скорее всего, процессы, точнее, культурно-антропологические эффекты, связанные с технологическим прогрессом.
Смирнов С.А.: Спасибо.
Зубарев К.: Спасибо. Есть еще у кого-то вопросы?
Синюкова Н.: Я бы хотела задать вопрос.
Зубарев К.: Да, Наталья.
Синюкова Н.: Сергей Сергеевич, ну, а что делать-то, собственно говоря, с этой антропологической редукцией? Как ей противостоять обычному смертному человеку, с вашей точки зрения? Очень интересно послушать. Скажем, кстати, на примере образования.
Аванесов С.С.: Ну, вот смотрите, начнём сначала. Когда мы говорим о том, что нам делать с человечеством, мы должны понимать, что никакого человечества нет как предметности. Во-первых, ещё не все родились. Вы в курсе, что ещё не все люди родились, которые могут родиться. В этой ситуации человек может действовать только одним способом – через себя, то есть оказывая влияние на человечество в самом себе. Вот как бы для себя нужно принимать решение. До тех пор, пока на площадке моего внутреннего мира не происходит что-то, что я считаю недопустимым, это что-то не происходит вообще нигде. Потому что целостное человечество без меня не человечество. Вот и всё.
Синюкова Н.: Ну, а скажем, что делать с несформировавшимся еще человеком, тем самым школьником?
Аванесов С.С.: Ну, их нужно, на мой взгляд, постоянно держать в состоянии диалога. Потому что если они отпущены...
Синюкова Н.: В состоянии диалога со старым, скажем так, нашим миром, еще человеческим, без искусственного интеллекта.
Аванесов С.С.: Да. Ведь человек – существо синергийное. Он не может быть совершенным только в себе самом. Он совершенен, когда он обменивается этим совершенством, и вот в этом обмене, в коммуникации он постоянно демонстрирует себя как такового. И вот здесь как раз эта коммуникация и есть диалог. Как можно больше этих связей диалогических с детьми. То есть школа – это не то место. [01:55:00] Современная школа – это не то место, где происходит воспитание или даже образование человека. Нет.
Зубарев К.: Я прошу прощения. У «Университета 20.35» есть интересный инструмент. Но это не инструмент как бы искусственный интеллект, а такое: там после каждого мероприятия заставляют делать рефлексию. Ну, то есть такую процедуру. И даже если ты не знаешь, что это такое, и начинаешь сначала фотографировать еду, то через 15 дней ты загуглишь, что такое рефлексия, потом ее попробуешь, потом еще, еще и еще раз, и потом, собственно говоря, наверное, ты выработаешь в себе некоторый навык, с которым ты как бы всегда будешь себя спрашивать: «А что со мной произошло?» Ну, вот прошло какое-то образовательное мероприятие, поучаствовал с использованием искусственного интеллекта или других технологий в каких-то практиках и спрашиваешь: «А что со мной произошло?» Ну, и тогда, конечно, встает вопрос об образовании, о ценностях, чтобы соотнести: то, что произошло, это для меня хорошо, я возвращаюсь к человечности или я иду, допустим, к тому, что говорит Андрей, к суперчеловеку, то есть когда я себя апгрейду какими-то инструментами, навешивая на себя какие-то эти и так далее. Ну, вот примерно так.
Сопочкин С.В.: Некоторая попытка ответить на вопрос: что должно быть предметом гуманитарной экспертизы в образовании? Первое (как вариант) – это некая образовательная платформа, о которой говорят, но которой нет. И вот осенью будет очередной, наверное, виток этой пандемии. И уже полтора года в разных форматах озвучивается эта идея: не частные варианты «Сбербанка», Яндекса и так далее, а образовательная платформа, сделанная все-таки в рамках некоего государственного задания. И, значит, здесь эта гуманитарная экспертиза актуальна. И второе – это совершенно конкретные продукты, которые вбрасываются в школьную образовательную среду, которую нужно экспертировать.
Аванесов С.С.: Это верно, абсолютно верно. И сама программа школьная, я думаю, нуждается в постоянно действующей, перманентной гуманитарной экспертизе. Почему в школьной программе именно эти предметы? Почему в таком объёме и таково содержание этих предметов? Кто-нибудь задаёт такие вопросы? Нет. Все задают вопросы только: как эффективнее освоить эту программу. Как будто бы она – что-то, с неба к нам снизошедшее, некое совершенство на все времена. А почему?
Смирнов С.А.: Да. Сергей Сергеевич, ну, и теперь, ты-то начал с чего? С оснований. Потому что, когда мы будем оценивать те или иные продукты разработки, мы будем исходить из своих представлений о том, что такое человек, что такое образование, что такое развитие. То есть в этом смысле все равно в основании гумэкспертизы должна быть какая-то конструкция. Она, так или иначе, и есть. И в этом смысле люди, редуцируя твои представления, они так и оценивают и будут называть это гуманитарной экспертизой.
Аванесов С.С.: Да, в основе любой экспертизы, экспертного заключения, даже любого логического рассуждения лежит некая пресуппозиция, то есть набор тех аксиом, в которых мы убеждены. А вот вопрос: почему они не подвергаются рефлексии?
Зубарев К.: У нас остался час и два доклада. Поэтому я бы предложил перейти к следующему докладчику – Сергею Алевтиновичу. Собственно говоря, я думаю, он сейчас продолжит свою мысль.
Смирнов С.А.: Спасибо большое. Коллеги, когда Кирилл открывал сегодняшний круглый стол, он там задавал многообразие позиций, топику позиций. Вот я бы хотел акцентировать одну из позиций, то есть позицию исследователя. Поскольку, и Сергей Сергеевич фактически про это тоже говорил, когда мы пытаемся понять, что с нами со всеми происходит вот в этом процессе цифровизации, какими глазами мы на это всё смотрим и какие объяснительные модели кладем в основание, чтобы глазами этих моделей пытаться объяснить, что происходит с образованием, со школой, с учеником, с учителем и так далее.
В качестве материала я взял определенный уже накопленный исследователями разный материал, посвященный проблеме влияния умных технологий, цифры, цифровизации, внедрения гаджетов, искусственного интеллекта. По-разному это называется. Внедрение их как в школу, так и в повседневную жизнь и практику взрослых и детей. Вот смотрите, я не буду здесь конкретные цифры называть. Я пытался удержать определенную тенденцию. То есть какую тенденцию замечают разные авторы этих исследований. Ну, они накопили большое количество материалов, особенно после COVID-ного года. Это понятно, что в режиме самоизоляции усилился вот этот процесс виртуализации и цифровизации, и здесь уже получены определенные результаты.
В основном исследователи пытались что понять? Как влияет на поведение, на активность мозга активное использование учениками гаджетов, длительное присутствие в интернете и использование смартфонов. Ну, вот что они помечают. Я брал разных исследователей отечественных, японцев, американцев, европейцев, разные варианты. И получилось, что, вообще-то говоря, в целом они дружно говорят, как правило, о негативном влиянии цифровизации на ребенка, на ученика. Говорят о том, что режим самоизоляции – это вообще стрессоформирующий фактор. То есть когда мы изолируем ученика в режиме онлайн-обучения, он, находясь один на один со своими проблемами, получает мощный стресс. Но коль скоро у него нет регуляторов и костылей по регуляции поведения, вылезти из этого стрессового состояния ему очень трудно. Так скажем, рядом нужно иметь очень такого мудрого, взрослого посредника. Как правило, он его не имеет. Потому что родитель, который тоже попал в это онлайн-обучение, испытывает двойной стресс. Потому что он должен помочь своему ученику быть успешным, но сам при этом не может справиться с теми заданиями, которые получает его ребенок.
Описывают разного рода депрессивные появления. Описывают то, что длительное присутствие в онлайн, в виртуальном мире влияет на внимание, на память, меняется ритм сна и бодрствования, постоянные головные боли, вплоть до появления таких синдромов однократного суицида, повышается раздражительность, тревожность, снижается стрессоустойчивость, снижается концентрация внимания, вплоть до того, что понимаются когнитивные функции, снижается вербальный интеллект. Этому было посвящено одно исследование у японцев. Японцы даже ввели понятие цифрового слабоумия. У них это уже называется определенным видом болезни со всей симптоматикой. Это у них уже описано. Снижается активность мозга, отвечающая за внимание, за речь, даже за аналитические и креативные способности. И дальше, и дальше.
Смотрите, я пока набрал основные такие результаты, которые выражены в разного рода исследованиях. Но что мы имеем при этом? То есть, смотрите, когда делаются такие выводы, какую модель человека при этом исследователи кладут в основание своих работ? Пока (в качестве версии) полагаю, что в основном доминировала, условно говоря, поведенческая, или бихевиористская, модель. То есть что здесь? Как правило, во-первых, какие инструменты были использованы. Первое – это опросники, разного рода социологические средства, типа анкет, зондаж, телефонный опрос, интервью с учеником, с учителем, с родителями. Это вот разного толка социологические замеры и еще исследование деятельности мозга с помощью МРТ. Это, как правило, любят западные авторы. Они садят ученика за компьютер, подключают его к разным индикаторам и начинают замерять активность мозга и его морфологию. То есть, как правило, два класса инструментов: социология и психофизиологическое исследование с помощью умных МРТ-технологий.
И вот стоит исследователь. [02:05:00] Он взял эти инструменты. И что, прежде всего, его интересует? Его интересует, как влияет в широком смысле гаджет (ну, разного рода цифровые технологии) на поведение ученика, студента. Первая линия, смотрите: здесь та самая редукция, о которой говорил Сергей Сергеевич. Сугубо поведенческое поведение, то есть поведенческая модель активности человека. Как на него влияет этот вредный гаджет и что он при этом чувствует. Понятно, что стрессоустойчивость понижается и с вниманием проблемы. А второе: как влияет гаджет сугубо на активность мозга, какие происходят морфологические изменения. И это, кстати, уже тоже доказано. Мозг обладает нейропластичностью так называемой. Есть такое даже исследование. Один англичанин замерил гиппокамп, морфологию мозга, то есть область, которая отвечает за пространственное мышление, у таксистов Лондона. То есть когда человек хочет стать таксистом, а Лондон – большой город, надо пространственно ориентироваться, они сдают большой сложный тест. И чтобы его сдать, этот тест, они проходят полугодовое обучение очень такое длинное и сложное. И этот самый англичанин замерил у них зону, отвечающую за пространственное мышление. Оно увеличено у него по сравнению с теми, кто не обучался на этих курсах. Ну, то есть и это тоже делается. Вплоть до того, что какая морфология мозга в результате включения человека вот в эту цифровую реальность.
Представляете, какая модель? Итак, первое. Влияние цифры на поведение не обсуждается. То есть речь не идет про мышление, про активность, про субъектность, про воображение, про личность. Речь идет о поведенческой модели. Дальше: влияние цифры на мозг. Человек сугубо реактивное пассивное существо. Как оно ведет себя. Взрослого здесь в принципе нет, он исключен. Учителя здесь нет. Ученик – фактически такой Робинзон. Ну, и достаточно все-таки редуцированный и небогатый инструментарий. Вот такая модель. В основном она доминирует в этих исследованиях, оценивающих влияние цифры.
Но, заметьте, именно на этих исследованиях рождаются новые цифровые зеленые движения. Цифровики – это новые зеленые. Точнее, противники. Госпожа Четверикова говорит о том, что: «Караул! Гипс снимают. Клиент уезжает. Гибнем. Всеобщая цифровизация гробит человека, ученика» и так далее.
Заметьте, происходит подмена. То есть вместо того чтобы обсуждать проблему действительно все-таки конструктивно и выстраивание более адекватной модели понимания, возникает подмена. Мы набираем определенный набор данных вот этих самых и говорим: «Гаджеты надо запретить». Вот, Сергей Владимирович, у вас гаджет на уроке запрещен? Вот. Директор школы говорит: «Гаджет на уроке запрещаем». Ученик входит в класс и кладет гаджет, отключает. Но, заметьте, не пользуется. Но мы с вами понимаем при этом, что вроде бы это не решение проблемы. Он просто с ним, но он его отключает. Это понятная реакция. Но мы при этом понимаем, что это не выработка адекватного ответа на феномен цифровизации. То есть в этом смысле мы мобильник воспринимаем все равно как врага мешающего, а не того, который помогает.
И тогда дальше вопрос: возможна ли другая модель? Если мы возьмем отечественную традицию, вроде, она всегда была. Вот была модель развития высших психических функций у Выготского и его соратников. Как они пытались представить человека и феномен образования, внутри которого выделяется процесс обучения и развития? Смотрите, вот слева ученик, ребенок. Рядом с ним обязательно взрослый посредник. Будет это учитель или родитель – это уже варианты. Он задает образец действия. Основная забота ученика – овладевать орудием с помощью знака и через посредничество вот этого действия, владения происходит акт развития. [02:10:00]
На любом примере это очень просто. Начиная с простых вещей, типа, когда ребенок осваивает ложку, чтобы уметь есть кашу не рукой, а ложкой. Или писать ручкой. Это надо овладеть. И когда я овладеваю ручечкой, я овладеваю предметным действием с ручкой, и у меня формируется новый функциональный орган: ручка, кисть, рука и локальная зона в мозгу. То есть, совершая опосредованное действие, овладение предметным действием, во мне происходит формирование нужных способностей. И это многотысячный, многомиллионный раз осуществленное действие по овладению предметом и предметным действием есть базовая схема развития и формирования высших психических функций, как то, мышление, воображение, память и так далее. Причем на примере конкретных деятельностных форм: чтение, письмо, счет, рисование, телесная практика и так далее. То есть этот базовый репертуар конкретных практик был положен в основание, вообще-то говоря, процесса обучения через развитие. И вокруг этого формируется определенное смысловое поле. Ну, как в любой детской игре: когда ребенок играет предметом, он, разумеется, играет смыслом, а не самим предметом, когда тапок становится пароходом, ручка становится самолетом. Но, овладевая этим предметом в игре, я развиваю себя через это овладение.
Заметьте, и это смысловое поле постоянно расширяется, расширяется, расширяется и расширяется. И человек обучающийся, он постоянно делает шаги в новое смысловое поле через совершение новых пробных действий по овладению. И самое главное: он здесь активен. То есть создается ситуация пробы, ситуация овладения, и ребенок здесь активен. Он осваивает предмет, осваивает число, слово, знак, текст, предмет, орудие, ну, и дальше – по усложнению. И так строится, в принципе, любое предметное обучение. Не важно, осваивает ли он понятие числа или он осваивает понятие процесса на истории или понятие литературных жанров на литературе. Но это все равно должно быть заложено в базовую схему. Но заметьте, эта модель мне ближе, в отличие от первой поведенческой модели. Поскольку здесь человек представлен не просто богаче, он тут представлен в виде активного субъекта, овладевающим своим собственным поведением. И через это овладение он становится взрослым субъектом развития самого себя.
Но, смотрите, здесь нет цифры той самой, которая у нас сейчас стала реальностью. Цифры здесь нет, как того игрока или гаджета, который действительно начинает путать все карты. Почему? Потому что что происходит? Мы сейчас как раз переживаем вот эту самую инверсию, или сдвиг. То есть вот в левой части, смотрите, это вот, условно, та самая схема (ну, в редуцированном варианте). Вот это модель культурно-исторической психологии. Она представляет собой предметно-смысловую реальность. То самое: знак орудия, акт развития, ребенок, взрослый. Всё нормально. Но сейчас появляется новая реальность виртуально-цифровая. А реально, конечно, это гибридная уже реальность. Мы здесь практически все оказались в новой среде, особенно дети, которые уже живут в ней, они в ней вырастают, они в ней чуть ли не рождаются, когда с первых же лет они быстро осваивают умные гаджеты, и внук начинает обучать своего деда, как им пользоваться. И в этой гибридной среде он просто живет.
Но смотрите, что происходит. Происходит такая подмена. Во-первых, взрослого нет. В цифровой реальности ребенок, он сам. Со своими сверстниками, но там свои проблемы. Взрослого посредника нет, задающего образцы. Сам ученик, ребенок, он больше пассивен, то есть здесь более активный гаджет. Чем он интересен? Тем, что вопрос же не просто в смартфоне, а в сценарии поведения, зашитого в смартфон. То есть когда человек покупает этот смартфон (особенно ребенок), он его осваивает на раз (ну, это как в любой компьютерной игре), но он идет вслед за той программой действий, которая зашита в этот смартфон, как в любой компьютерной игре. [02:15:00] И в этом смысле более активна та программа, которая в него зашита. И вместо предметных действий по овладению предметом и своим поведением, он совершает определенный набор виртуальных стимуляций, больше похожих на имитацию, чем на предметное действие. И самое интересное, вот о чем Сергей Владимирович сказал, происходит смещение смыслового центра событийности. То есть система образцов ценностных опор и ориентации смещается сюда, то есть в центр: где он берет пример для подражаний, этот ребенок. Ну, у этого самого Моргенштерна. То есть как бы коль скоро взрослый исключен и та самая библиотека культурных образцов, поскольку взрослый он же берет образцы, подключая ребенка к ним, чтобы он овладевал этими текстами, образцами, здесь это изначально как бы редуцируется очень сильно, и тогда вместо этих образцов берутся разного рода редуцированные варианты, муляжи и артефакты, которые берутся за образцы. И в этом смысле, как мне кажется, это ключевая ценностная проблема.
Ну, а самое ключевое – это что сам акт мыследействия, он тоже редуцируется. Есть потребность – приобретаешь вещь – получаешь результат – новая потребность. Это как Анна у нас описала в своей гениальной работе о том, как редуцируется работа, когда человек, вместо того чтобы стирать белье в тазу, он покупает умную стиральную машину, нажал кнопку, и машина за тебя всю работу делает.
То есть многообразие операций по овладению предметом сплющивается до кнопки, когда можно нажать на кнопку и получить результат. А внутри вместо этой работы, которую ты раньше делал сам, ты же ее делегируешь умной машине, умная машина за тебя всё посчитает, напишет, запомнит и передаст. И тогда возникает мощная редукция и соблазн, разумеется, отдать всё это умной машине. А вместо этого появляется просто новая потребность, а не усложненное действие.
И вот как бы для меня это просто вызов. Это вызов для первых двух моделей. И та, и другая модель пока бедны. Они пока не справляются с этим вызовом. Я не против цифры. Я про то, как сделать так, чтобы цифру включить в процесс обучения и развития, а не уходить от нее, а в этом смысле выстраивать новую модель. Она нужна новая. Поскольку модель Выготского была выработана в доцифровую эпоху. Это понятно. Как сделать так, чтобы... То есть какая должна быть модель, собственно, образовательного такта, единица вот эта, чтобы цифра становилась не тем, которое порабощает, а тем партнером, который развивает.
И в этом смысле тогда формируется новая повестка, то есть как задание, если хотите, на ближайшие лет 50, как минимум. То есть, по идее, необходимо тогда выстраивать новую связь. То есть восстанавливать роль посредника взрослого и ребенка в акте совместной предметной деятельности, но в новой гибридной среде, в новой реальности. Вопрос заключается в том, что у нас виртуальной педагогики нет пока до сих пор. И это надо еще вырабатывать.
Дальше. Восстанавливать смысловое поле действия ученика в цифровой среде. Он в цифровой среде теряет. То есть как бы подменяет. Он думает, что схватил смысл. На самом деле, смысловое поле там очень сплющенное. Потому что там, в цифровой среде, всё очень как раз алгоритмизировано, и там ребенок подчиняется тем продуктам, которые уже заложены в умных гаджетах. И в этом смысле придется еще восстанавливать, расширять горизонт смыслового поля, чтобы было пространство для развития.
Третье. Восстановление событийного центра вот в том что я сказал. В этом смысле цифровой контент надо использовать, но с умом, его богатство, для того чтобы выстраивать новую систему образцов. Ну, новую старую, что называется, преодолеть в этом смысле ту самую виртуальную инверсию.
Ну, и самое главное, самое тяжелое, мне кажется, это не только методологически, но и, прежде всего, предметно-практически, когда в базовую схему взаимодействия «человек – орудие – знак» вступает еще и цифра. [02:20:00] Раньше это был просто «человек – орудие – знак (базовая схема Выготского). А теперь необходимо еще понимать, что есть цифра. А цифра – больше, чем орудие. Цифра – это качестве среды. И в этом смысле надо понять, как устроено должно быть, по идее, взаимодействие вот этого предметного действия «человек – знак – цифра – орудие» и выстраивать новый интерфейс, чтобы вместо игрушки для развлечений гаджет становился средством для развития личности.
Ну, и пятое. Восстановление базовой деятельности собственно, по опосредованию. Потому что цифра должна быть здесь не просто некой средой, а (как бы сказать?) должна быть новая цифровая практика. Что такое цифровая культурная практика – я пока еще нигде ни у кого не вычитал. Я пока не знаю, как это переописать. Потому что те привычные доцифровые практики обучения чтению, письма и счету, ну, и телесные практики тут добавляются, они были выработаны в доцифровую эпоху. Что такое новые цифровые культурные духовные практики? Это еще предстоит выстраивать. Но если на примере чтения и письма, то есть понятие гипертекста. А цифровая реальность имеет дело, конечно же, с гипертекстом. Мы обычно привыкли к тексту. Мы его читаем, он линейно организован, мы читаем от слова к слову по порядку и по логике, как читаем любой роман. В цифровой среде такой организации уже нет. Там гипертекст, где можно читать справа налево, сверху направо, вверх, вниз – как угодно. Можно гулять и путешествовать. И тогда, заметьте, та самая желаемая навигация возможна. Но для этого надо для начала выстроить эту навигацию перед цифрой, до цифры, до гаджета, до искусственного интеллекта в педагогической реальности. Для этого нужен педагог-цифровик, который понимает, что возможно уже в новой цифровой гибридной среде. Ну, трудно первые 100 лет, там дальше разберемся.
Зубарев К.: Спасибо, Сергей Алевтинович. Коллеги, есть ли вопросы? У меня есть вопрос. Первый. К тому слайду, где вы перечисляете вот эти отклонения. Но ведь, собственно говоря, вот эти умные гаджеты и алгоритмы искусственного интеллекта я думаю, вполне себе могут быть в этом помощники, наоборот. То есть если различить все-таки как бы цифру как тот гаджет, в котором залипают дети и где место приложения искусственного интеллекта, то я думаю, что если соединить с нашей историей, когда мы в прошлый раз разговаривали про медицину, гаджет может и помогать определить эти отклонения и закрывать доступ ребенку к гаджету, если эти отклонения становятся, если он (искажен звук) .
Смирнов С.А.: Вопрос в чем?
Зубарев К.: В возвращении к теме. То есть у нас тема все-таки искусственный интеллект. И хотелось бы как-то место его найти здесь. И я как бы в дополнение суждение такое одно. Сейчас я батарейку поменяю, и у меня будет второе суждение еще.
Сопочкин С. В.: Спасибо, Сергей Алевтинович. Очень интересно. Я вот тоже про это размышляю. Мне кажется, если брать советскую эпоху, символом, скажем, может быть серп и молот, вообще, всей эпохи в смысле смыслов. То в современной эпохе, конечно, должен быть гаджет. Вот я тоже к этому прихожу. Но вопрос про что? Вот смотрите, если цифровых практик пока нет или мало. Ну, допустим, у нас в лицее 500 компьютеров. И есть лаборатория IT, где с ребятами со 2-го по 11-й класс работают, в том числе, и студенты Новосибирского государственного университета. И спецкурсов заявлено там, по-моему, с десяток. И спрос огромный. 250 человек заявилось. Сейчас, по-моему, осталось – 180. И там, конечно, разные спецкурсы, разные виды деятельности. То есть, на самом деле, как бы цифровизация все равно идет, обретая некие смыслы, [02:25:00] рождаются некие продукты. А вопрос вот какой. Мне кажется, если говорить о новых цифровых педагогических практиках, то нужно, в первую очередь, говорить о цифровых образовательных продуктах. И в этом смысле вот этот продукт цифровой образовательный, который будет развивать ребенка и вот эти высшие психические функции, он должен быть каким?
Смирнов С.А.: Ну, каким? Смотрите, в доцифровую эпоху мы полагали, что книга воспитывает и учит. Умная книга, и надо читать. Мы так привыкли думать. И, кстати, до сих пор думаем. Особенно так считают учителя литературы. И мы их понимаем. И как же без Пушкина, Достоевского? А как же без великой литературы? Заметьте, и для нас это было как аксиома и как образец. Что может не то, чтобы заменить, а быть положено рядом с книгой, в этом смысле задающий новый шаг в целом в образовательной модели, не заменяющий книги, а дополняющий новый тип практики работы с текстом. В этом смысле, что задает работа с помощью гаджета с текстом того нового качественного, что невозможно в принципе с книгой, как до цифры? Мы привыкли, что, по идее, развивает умное чтение, медленное чтение, проникновенное чтение, когда ученик действительно, читая, общается с героем, персонажем, с автором, рассуждает, пишет сочинение, порождает свои тексты и через это формирует у себя художественное мышление. И это база.
Вопрос: что можно сделать с помощью гаджета и цифры такого, что задает новый уровень, гораздо более мощный, который соответствует и реальности, но не отрицает цифру, а используя ее, для того чтобы внедрить новый тип практики с текстом? Пока я про это сказал, что это работа с гипертекстами. Это должна быть совсем другого типа работа и другого типа организация работы с интернет-контентом, так скажем. А контент там же богатейший. Там же вся мировая библиотека.
Пермяков Р.: Я могу ответить, если мы говорим про искусственный интеллект. Пермяков Руслан, «Агентство стратегических инициатив», общественный представитель от Новосибирской области. Могу ответить. Гипертекст как таковой… То есть я в гаджете сижу уже, наверное, лет 10. Гипертекст и всё остальное – да, это позволяет более эффективно работать с текстами, особенно с текстами не на родном языке. Соответственно, там можно посмотреть переводы, можно сбегать посмотреть и так далее. Но я не вижу там принципиального усиления. Потому что, по большому счету, это всё равно нагрузка на мой мозг, и, собственно говоря, это просто усиливает поток информации, то есть, соответственно, требует дополнительных каких-то расходов.
А с точки зрения переживания. Ну, можно представить себе: запрограммируй искусственный интеллект под Онегина на основе произведения Пушкина и поговори с ним. Вот это будет сильный ход, я думаю. Ну, то есть это вот как раз то переживание. Это то, что раньше происходило в голове, плохо контролировалось. А здесь можно посмотреть, пообщаться и посмотреть, чем Онегин мой отличается от Онегина Кирилла и вашего. Посмотреть, какие мы увидели особенности и чем они различаются.
Смирнов С.А.: Ну, это же можно и без цифры сделать. Нарисовать на бумаге. Нарисуй своего Онегина. А там будет в динамике, там можно мультяшку запустить, анимацию. Нет вопросов как бы. Качественно пока это не добавляет. Но усилить динамику и воображение – можно в этом смысле активизировать, да.
Сопочкин С.В.: Кстати, насколько я знаю, такая попытка уже где-то делается. То есть вариант общения с Пушкиным. То есть ты ему задаешь вопрос – он отвечает. То есть это виртуальный субъект. И в этом смысле, наверное, вот Алиса Z как потенциальный собеседник и субъект коммуникации школьника – вот это, мне кажется, интересный ход. Понятно, что, наверное, технически это непросто сделать. Но вы же правильно поставили задачу. Если есть Евгений Онегин, как сделать так, чтобы гаджет, или вот этот любой инструмент, [02:30:00] он помог как-то по-другому ребенку общаться с героем или с автором этого произведения. Вот это, на самом деле, было бы круто.
Смирнов С.А.: Ну, да. Но, смотри, для начала он должен все-таки Онегина почитать. А что это значит, он будет создавать своего Онегина, если он не прочтет его? То есть база-то остается. Можно делать цифрового двойника, меня, учителя, Онегина. Можно сделать галерею, причем в динамике, в анимации. Но база: прежде чем делать своего цифрового двойника, я должен сделать первую работу – прочитать текст.
Зубарев К.: Смотрите, Сергей Алевтинович, мне кажется, никакой, собственно говоря, проблематизации в этой части нет. Потому что, наверное, если вот так рассматривать (я думаю, что это действительно, так), что цифровой язык – это еще один новый дополнительный язык, который школьник в ходе обучения должен освоить, я думаю, что с этим спорить, собственно говоря, никто не будет. И тут просто нужно ставить вопрос этого полигона, испытания, эксперимента, то есть наработка этих практик различных с VR, с дополненной реальностью, с программированием каких-нибудь гаджетов, с работой с текстом, со счетом и так далее. И это просто нужно осваивать.
Смирнов С.А.: Это – да. Это набор инструментов. Здесь нет проблематизации абсолютно. Я про другое. Я про сдвиг говорил, я про ценностной сдвиг говорил. Здесь же проблема. А набор инструментов – нет проблем. Я сам люблю гаджеты. Я сам в интернете сижу. Ну, и что теперь? Это набор инструментов. Но проблема не в этом, а в новом функциональном органе, который как бы выстраиваться должен, когда эта штука должна становиться частью меня. У ребенка она становится частью, но при этом они меняются местами. Эта часть начинает им управлять. А должно быть наоборот.
Зубарев К.: Но, вы знаете, здесь у нас проходит иногда соревнование по робототехнике среди детишек очень маленьких. И, собственно говоря, здесь с этим всё в порядке.
Смирнов С.А.: В детской игре – да.
Зубарев К.: Я просто думаю, что это не игра, это определенный навык. После того, если они научатся манипулировать здесь игрушками, им уже не составит труда пойти и манипулировать промышленным роботом.
Смирнов С.А.: Я про это сказал. Да, они как с игрушками и оперируют. И у них нет проблем в этом смысле. Вопрос в дальнейшем. Потому что игрушка рано или поздно начинает им манипулировать.
Зубарев К.: Ну, это то же самое как бы. Понимаете, это вопрос ценностей и не вопрос как бы цифры и искусственного интеллекта. Почему? Потому что в зависимости от того, кому вы автомат вложите в руки, будет разный результат.
Смирнов С.А.: А я про это всё время говорил. Проблема не в искусственном интеллекте, а в нас самих. Взрослый устранился из образования, а потом обвиняет в этом технологию. Вот проблема.
Зубарев К.: Хорошо. Коллеги, если дальше суждений в эту сторону нет… Давайте маленькое одно. Потому что нас время уже поджимает.
Горбачева А.: Вот у меня такое интересное суждение. Оно будет короткое. Когда был разгар вот этой самой пандемии, я не поленилась, зашла в лучшие университеты Англии: Итон, Кембридж, Гарвард. Ну, мне было интересно студенты элитных учебных заведений, они как обучаются, очно или дистанционно? И, к своему удивлению, я никакой информации о переводе на дистанционную форму... Ну, как к удивлению? Я, конечно, не удивилась. Я, конечно, не удивилась. Я понимаю, что элита, она учится нормально. У них хорошие преподаватели. У них совершенно другие формы обучения. И еще, чтобы как бы вы задумались, что дистанционная форма обучения – это такое дешевое и для всех, а для элиты оно закрыто, и, конечно же, оно очное.
И приведу таких два интересных эксперимента. В Санкт-Петербурге где-то в начале 70-х годов в одном из университетов питерских проводились такие эксперименты. Набрали группу студентов и учили их писать левой рукой каллиграфическим почерком. [02:35:00] Результаты были просто ошеломляющие. Ребята, которые длительное время обучались подобным образом, они достигли достаточно высоких каких-то вот таких интеллектуальных показателей в науке, в своей профессиональной деятельности. Эксперимент вскоре был закрыт. Каллиграфию вообще убрали. Решили, что слишком умных людей много не нужно.
И, помимо вот этого эксперимента, еще проводился второй эксперимент с умственно отсталыми ребятишками, которых также обучали каллиграфии. Результаты были также ошеломляющими. Бехтерева, которая участвовала в вот этих двух экспериментах, Наталья Петровна, говорила о том, что у них снимали инвалидность, и тоже результаты были просто превосходные.
Я, конечно же, не призывают отказаться от использования информационных технологий, но необходим некий синтез. Конечно же, мы не можем писать пером в университетах, в школах. Но, тем не менее, нужно сохранять те традиции. Потому что вот этот эксперимент, который был со студентами, они брали методологию XIX века по каллиграфии. Поэтому здесь все-таки я за некий синтез: и развивать каллиграфию, и вот эту ручную, как Сергей Алевтинович говорил, работа руками, и при этом, конечно же, использование компьютерных информационных технологий.
Зубарев К.: Спасибо. И последний доклад на сегодня. Пестунов Андрей, заведующий кафедрой информационных технологий НГУЭУ.
Пестунов А. И.: Здравствуйте, уважаемые коллеги! Доклад построен на тех размышлениях и той работе, которая сейчас ведется. Вот, в частности, с Сергеем Алевтиновичем и Анной Геннадиевной мы обсуждали ряд вопросов. И чтобы более точно попасть вот в тематику нашего круглого стола, название называется «Умные технологии в образовании: где грань между калькулятором и смартфоном?» Но по факту эта проблематика лежит в более широком контексте, целью которого является формирование антропологической модели взаимодействия ученика и умного гаджета, а вообще человека и умного гаджета, в который, так или иначе, зашиты те технологии, о которых мы говорим. И данная модель, возникает ее актуальность, ее, вообще, понимание, что что-то подобное требуется, возникло не на пустом месте, а возникло исходя из того, что в настоящее время два таких тезиса, они бродят как в письменном виде, в устном виде, слухи и так далее. То есть и в научных статьях.
Первый тезис: что конвергентные технологии... Здесь под слово «конвергентные» понимается вообще спектр как IT-технологии, ну, то есть робототехника та же, она не относится к IT-технологиям. Поэтому более широко – это конвергентные технологии. То есть первый тезис такой: «Постчеловек-киборг – это благо», условно говоря. А антитезис – это, наоборот, полный отказ от технологий, что технологии – это зло, и нужно не просто запрещать гаджеты на уроках, а потом их отбирать и так далее.
И тот, и другой тезис – это определенного рода крайности, которые формируют некую такую фатально детерминистскую парадигму, когда все, в общем-то, понятно и уходит либо в конкретный страх, либо в безумно горящие глаза, в так называемое вот это светлое кибербудущее. Однако цель построения той модели, о которой идет речь, – это исключить вот этот тотальный энтузиазм бездумный и пессимистический уход в неотрадиционализм или в прочие связанные с этим вещи. [02:40:00] Так вот цель состоит в том, чтобы выработать некую новую концептуальную модель с точки зрения формирования такого типа, чтобы он использовал эти технологии на благо себе и разумным образом.
Для того чтобы сформировать данную модель и вот если допускаем, что мы отходим от этих крайностей, мы сразу попадаем в некоторые принципы. То есть первое: рано или поздно, человек получит в руки «умный гаджет». Условно говоря, такой первый принцип. То есть если мы этот принцип не предполагаем, то мы автоматом скатываемся во второй вот этот антитезис, и, собственно, обсуждать тогда нечего. Но, исходя из даже той дискуссии, которая у нас сегодня разошлась, мы, в общем-то, должны этот первый принцип принять, что да, это происходит.
Теперь, чтобы, вообще, появился предмет исследования, мы должны как-то второй принцип хотя бы в каком-то виде его сформулировать, что, в общем-то, существуют люди, которые могут повлиять на сценарий использования учеником «умного гаджета». Если этот принцип не учитывать, то, опять же, предмета исследования не будет. Мы опять считаем, что всё фатально либо мы все умрем, либо, наоборот, все воскреснем (я условно говорю). То есть, опять же, все умрем – это второе, а первое – это наоборот.
И третий принцип, он связан с тем, что вот кто является... Это как раз проблема взрослого, о которой мы говорили. Третий принцип: что начинка «умного гаджета», она тоже может быть выбрана или изменена. То есть принцип второй – это как сценарий. А третий принцип – это то, что, в общем-то, «умный гаджет» – это тоже не вещь в себе, а она может быть разной. И вот на основании этих трех принципов, в принципе, тогда можно, вообще, как-то говорить о том, что за модель мы строим.
Но теперь дальше, следующий шаг. Чтобы эту модель построить, нужно, вообще, понять, в чем отличие «умного гаджета» от «неумного». В качестве примера «неумного гаджета» можно рассмотреть тот же калькулятор или счеты. И здесь мы получаем, что «неумное устройство», оно как вторично за рамками основной деятельности. То есть «ученик – учитель» – это основная деятельность. «Неумное устройство», оно вторично и тупиково.
«Умное устройство», у него два отличия. Первое здесь изображено. Что все-таки если мы максимально погружаемся в технологии, то «умное устройство» в некотором роде с учеником формирует основной процесс, а учитель, он вторичен. Либо как вот сейчас «тьютор» называют их. И, более того, второй аспект: это «умное устройство» может быть рассмотрено (как рука обозначена), что «умное» устройство может быть навигатором или проводником в новом мире. Получается, оно берет ученика за руку и проводит по этому миру. И вот здесь мы видим еще одно важнейшее отличие «калькулятор», то есть «неумное устройство», оно не может взять человека. То есть к нему еще привлечь внимание нужно. «Умное» же устройство, в чем его особенность? Что оно само к себе тянет, магнитит. То есть сейчас же вот ребенку дали гаджет, он сидит, и никого нет, то есть внимание там. Так вот это внимание вот так вот за руку он берет и проводит по этому миру.
И вот здесь вопрос: как его проводить? То есть в этом ключевое. И вот о принципах я уже говорил здесь. Если мы принимаем второй и третий принцип, то мы можем влиять на это, как «умное устройство» поведет его в этом цифровом мире.
И получается ряд ключевых вопросов, которые можно задавать. Первое: когда вообще человек должен вступить впервые во взаимодействие с «умным гаджетом»? Вот он только родился – сразу ему этот «умный гаджет» давать или в какой это срок? Кто и как, вообще, должен регулировать этот процесс? И кто должен отвечать за контент «умного гаджета» и загрузку сценариев в него? То есть это ответ на те принципы, которые были сформулированы вначале.
Ответы на это очень сложны. И уже говорили о том, что заказчик отсутствует у образования, вообще, цель образования. Вот у нас, в частности, в вузе тоже задают: кто учит, как учат, кого учат. Но вопрос «зачем учат» – никто не задает. [02:45:00] И тут действительно это крайне сложная вообще тема – выработать цель вот такого образования. Но если все-таки сходиться, что цель образования, как сегодня тоже звучало – это воспитание сознательного человека, который способен принимать решения, то в качестве ответов на эти вопросы может быть следующее. Гаджет берет за руку человека и выводит его на тот уровень, когда он способен принимать решение. Ведь сейчас, вот когда мы говорим, что вроде как гаджет, он отупляет. Но ведь мы знаем, что и учитель при определенном своем подходе тоже может вбить в человека определенные догмы и сделать из него того же зомби, что и гаджет. Разницы между гаджетом и учителем, таким учителем, абсолютно никакой нет.
И вот почему мы говорим про элиту? Вот элита учится в ведущих школах. Вариантов, наверное, два. И какой из них реально работает – тут сложно. Первое, что есть какие-то сознательные ограничения, чтобы не допускать к таким технологиям широкие массы, чтобы они как раз не могли принимать самостоятельные решения. А второе: может быть, банально не хватает таких заинтересованных учителей, которые хотят провести человека и воспитать в нем вот эту личность. Гаджет способен удешевить эту вещь. И если (вот такая идеальная, идеалистическая картина) в нужный момент человеку дают этот гаджет, он его проводит до того момента, когда человек уже понимает, что его гаджет ведет, и он может от него сам отказаться.
То есть в чем зависимость, в чем опасность? В том, человек его взял и как бы всё, впал в зависимость, и даже не мыслит, что можно без него. Однако если сценарий загружен будет тот, который правильный, на самом начальном этапе, ну, вряд ли какой-то ребенок в самом начале может принимать сознательное решение, он в зависимости от родителей, еще от кого-то. Пусть он на начальном этапе будет зависим от гаджета. Но с каждым месяцем, годом это должно снижаться. И в какой-то момент, когда уже он будет развит достаточно, он просто увидит, что всё это время его вел этот гаджет. И он поймет, что, да, я его могу взять, но теперь он мне уже не нужен. И вот тогда цель будет выполнена. А дальше уже отдельный разговор. Ну, это как одна из гипотез. Поэтому основные тезисы я сформулировал. Вот это исследование, оно сейчас идет в активной фазе такой, и за любые комментарии буду вам очень благодарен.
Зубарев К.: Спасибо.
Сопочкин С. В.: Спасибо. Очень интересное сообщение вот про то, когда умный гаджет окажется в наших руках и поможет нам чем-то. Вот, смотрите, как один из вариантов, мне кажется, как сделать так, чтобы гаджет был не только, так сказать, полезен, но и интересен, и какие-то новые смыслы порождал, и так далее. Вот давным-давно я наткнулся на такой фрагмент, а сейчас я его просто на гаджете нашел. Я позволю себе его зачитать. Мне кажется, он примечателен в том смысле, что это и есть некая модель того цифрового образовательного продукта, который может возникнуть.
Погодин, историк, записал, как Александр Сергеевич Пушкин читал трагедию «Борис Годунов». Буквально две минуты. «Первые явления он выслушал тихо и спокойно или лучше сказать, в каком-то недоумении. Но чем дальше, тем ощущения усиливались. Сцена летописателя с Григорием всех ошеломила. Мне показалось, что мой родной любезный Нестор поднялся из могилы и говорит устами Пимена. Мне послышался живой голос русского древнего летописателя. А когда Пушкин дошел до рассказа Пимена о посещении Кириллового монастыря Иоанном Грозным, о молитве иноков, да ниспошлет Господь покой его душе страдающей и бурной, мы просто все как будто обеспамятели. Кого бросало в жар, кого – в озноб. Волосы поднимались дыбом. Не было сил воздерживаться. Кто вдруг вскочит с места». И так далее. Рекомендую прочитать.
Вот это ведь про что? Что человеку без гаджета удается воскресить человека прошлой эпохи. Я использую термин «привести в аудиторию». [02:50:00] То есть Пушкин приводит в аудиторию Нестора, но делает это так искусно, что людям кажется, что Нестор тут. И в этом смысле цифровой продукт учителю истории на уроке, мне кажется, может как раз помочь сделать так, чтобы Нестор, я не знаю, другой, третий исторический персонаж как бы явился. И с ним можно разговаривать, с ним можно общаться. Это, на самом деле, может быть архиинтересно. Но здесь технически, наверное, это сделать непросто. Но если мы вначале эпохи и всё самое лучшее, самое интересное впереди, главное – понять, в каком направлении двигаться. Мне кажется, для преподавания истории вот этот ход крайне продуктивен, крайне интересен. Не учебник, который не цепляет. И Путин ведь не случайно про Сталинградскую битву заговорил. Все учебники примерно такие – они детей не цепляют. А когда на ЕГЭ он еще ставит «галки»: в этом году произошло событие или в этом, это не история, это мертвечина, на мой взгляд. И в этом смысле предмет должен быть абсолютно другим. И, может быть, вот эти цифровые технологии, искусственный интеллект и вот эти цифровые образовательные продукты помогут как раз оживить наш предмет, историю, таким образом, что она по-настоящему станет интересной. А не просто для того чтобы сдать ЕГЭ, поставить «галки» и плюнуть на всё. Спасибо.
Смирнов С. А.: Две фиксации, Сергей Владимирович. Спасибо большое Андрею. Я выделяю тогда на слайде момент, связанный с контентом. Итак, кто отвечает за контент? Вот вы говорите про историю. Хорошо. Ну, во-первых, вы же отключаете гаджеты на уроке. Допустим, вы их разрешили. Дальше вопрос. Это вопрос чисто технический: давайте используем гаджеты, экран, компьютер, монитор, давайте сделаем фильм. Боярыня Морозова у нас будет не на слайде, она у нас поедет на санях. Вот они, голограммы, цифровые двойники. Не вопрос. Это всё техническое оснащение. Было бы желание. Но: готов ли учитель истории впустить «цифру» на урок. И готов ли он выстраивать свою программу с помощью нового технического оснащения. Это одна проблема. Было бы желание. Там же вы же сразу сказали про стандарт. Но вроде бы это чисто техническая задача. Она, в принципе, решаема. Вопрос же в другом. Потому что в погоне за техническим оснащением мы очень быстро попадем в проблему оценки, результативности, эффективности, сдачи ЕГЭ и всё. И опять всё рухнет. Потому что проблема не в этом, а проблема в подмене. Поскольку вы же сами знаете, когда в старших классах вместо развития строится тренаж для сдачи ЕГЭ, а после уроков еще вечером к репетитору – всё, приехали. Никакого, так сказать, развития нет.
Так все-таки, как вы считаете, это проблема технического оснащения или это все-таки проблема подмены базовых процессов в школе? Если бы это было чисто технически, мы вместо плохого скучного учебника истории, залили вот такой вот блестящий контент. Там сейчас такие. Вот у меня жена – учитель начальных классов. 20 лет проработала. Она мне говорит: «Мне бы сейчас такие возможности! Я бы такие уроки делала своим детишкам в первом классе – они бы визжали от восторга». Но у нас проблема в другом. Они сейчас не визжат от восторга. Поскольку им подменили базовый процесс. Страсти нет, и глаза не горят. То есть все равно опять проблема в учителе. Ну, ловлю на слове. Если вы готовы этот вопрос решать, мы с Андреем к вам придем в ваш лицей и будем менять контент на уроках истории. Если вы готовы.
Зубарев К.: Сергей Алевтинович, я вас возвращаю к предмету разговора. Потому что у меня такое ощущение, что вы как бы вот этот цифровой искусственный интеллект используете как повод вернуться к содержанию, к возвращению...
Смирнов С.А.: Я пытаюсь вернуть к проблеме. Потому что проблема не в искусственном интеллекте.
Зубарев К.: Подождите. Но, с другой стороны, вот смотрите как бы мы можем как бы здесь говорить, здесь такая была резкая реплика, что если вы оцифровываете говно, то у вас получится оцифрованное говно. [02:55:00] А какая другая практика, на самом-то деле, есть? Что цифра на сегодняшний день позволяет как бы смоделировать идеальный тот результат, к которому мы хотим прийти. Ну, то есть если мы идем в реальность, мы сталкиваемся с сопротивлением. А когда мы в виртуальном пространстве себе позволяем экспериментировать и у нас потом есть выход в реальность, тогда получаются уникальные результаты. Ну, например, на материалах это, собственно говоря, получается, когда мы сначала делаем цифровой двойник материала. Коллеги из «Калтеха» это научились делать. А потом они говорят: «Ну, материал должен быть вот такой примерно, чтобы этим требованиям соответствовать». И потом находится много-много групп, которые: да, действительно, вот мы получили такой материал, да, действительно, на таких характеристиках он так работает.
Смирнов С.А.: Я же не против этого, заметь. Ты же говоришь по предмету. Предметом у нас является не искусственный интеллект, а гуманитарная экспертиза.
Зубарев К.: Технологий искусственного интеллекта, а не педагогической деятельности.
Смирнов С.А.: Нет. Почему? Я именно только про цифру и про искусственный интеллект. Только про это и говорю. Про то, как мы в нашем, так сказать, обсуждении, в нашем дискурсе подменяем саму проблематику. Потому что, редуцируя человека, мы начинаем обсуждать чисто инструментальные вещи, забывая как бы основные вещи. Поскольку гумэкспертиза имеет дело с тем, что с нами происходит, с человеком, куда происходит редукция и почему она происходит. Она происходит сначала в головах, а потом – в нашей деятельности. И в этом смысле проблема заключается в том, что надо делать такого в образовании в данном случае, как сегодня тема, чтобы «цифра», «умный гаджет» искусственный интеллект становились активными агентами развития, а не редукции человека. В этом смысле проблема. И это пока не решено ни методологически, ни концептуально, ни программно, ни модельно.
Зубарев К.: Алексей, у вас рука поднята.
Белоусов А.: Да. Я хотел сказать, что вот есть наука и технологии. Был дискурс вокруг того, что же толкает вперед. Мы сейчас в той точке, когда технология убегает вперед, и мы хотим остановить прогресс. Ну, точнее, не хотим мы остановить прогресс, но мы должны найти место учителя в новой системе. И вот чем его нужно снабдить, для того чтобы он сохранил ту ценность, про которую вы говорите, чтобы он зажигал и интегрировал те знания, которые есть. Вот я бы хотел ввести слово «инфракультура», которое соединяет инфраструктуру и культуру, связанную с инфраструктурой. Вот когда мы собрались в клубе и обсудили, например, брейншторм на какую-то одну тему, это выходит за рамки школьной программы, студенческой программы. Это определенный формат, который потом может жить и без основателя. То есть как бы потом каждый участник понимает эту культуру. Ну, здесь может быть рефлексия или могут быть еще какие-то другие практики, которые возвращают человека к человеку. Так вот смысл в том, что нам нужно понять, какая инфракультура необходима для вот этого нашего целевого процесса образования. Потому что неизбежно «цифра» отвоевывает себе всё больше и больше и захватывает внимание. Но нам нужно каким-то образом взять достоинства «цифры» и сохранить вот это человеческое в этом процессе – учителя, так скажем, который субъект в этом процессе.
Зубарев К.: Спасибо. Коллеги, мы даже немножечко перебрали. Давайте, может быть, по последней реплике, если есть кому что сказать.
Пермяков Р.: Я что хочу сказать? Мы говорим про искусственный интеллект, говорим про «умные устройства». Но надо понимать, что смартфон, он не «умное устройство», он коммуникационное устройство. Ну, то есть у нас нет устройства, которое было бы по-честному «умным». То есть если говорить калькулятор, телевизор – это нечто, что позволяет потреблять тривиальный контент. Коммуникационное устройство позволяет взаимодействовать. Ну, то есть возникает обратная связь. То есть ты можешь в TikTok что-то нарисовать, с кем-то поговорить, в WhatsApp что-то написать и так далее. [03:00:00] Смарт – это то, что, собственно говоря, начинает с тобой коммуницировать уже во всей этой истории. Ну, и, по большому счету, всё, что я здесь слышу для меня вопрос первый: чем знак отличается от цифры? Мне кажется, что не важно, что мы оцифровываем знаки. Ну, то есть мы сопоставляем какую-то цифровую комбинацию с каким-то знаком в той системе, о которой вы говорили.
И здесь вопрос действительно больше в человеке, в первую очередь. Но просто к основной проблеме, которая чуть позже возникнет, когда возникнет сильный искусственный интеллект и когда у нас Алиса будет не запрограммированная, а она начнет что-то создавать. Тогда мы, собственно, и отгребем все основные проблемы, как таковые. А сейчас мы просто говорим о том, что среда как таковая, она не оказалась готовой к ситуации, когда процесс обучения в любой момент времени… Из-за чего гаджеты выключаются? Ну, то есть у нас есть взаимодействие «обучающийся – учитель». Учитель не готов к тому, что в момент, когда он что-то там делает, в процесс в произвольный момент включается третья сторона. Это довольно тяжело. Потому что, допустим, я у себя на лекциях, 3-4 курс вуза, принципиально говорю, когда они задают вопросы, я говорю: «А вы попробуйте сначала. В гугле забанили? Посмотрите в гугле».
И вот здесь возникает очень интересный момент. Они получают не ту информацию, чаще всего, потому что там они идут на «Хабр» или еще что-то, на Mail.ru ответы. Они получают не ту информацию, которую я им довожу. И у них возникает столкновение мнений. С одной стороны, я как человек, который стоит у доски и говорит что-то. С другой стороны, вот этот великий интернет, который сейчас начинает примерять корону великого эксперта. И всё чаще и чаще я в рефератах или в эссе вижу ссылки на Википедию как на хороший источник информации. При этом у меня в Википедии есть две статьи по вопросам, где приведена фейковая информация, и я их на этом чаще всего и ловлю где-то в середине семестра. Точно так же, как в свое время был мой реферат на всех базах рефератов. Мне его сдавали за всю мою жизнь примерно четыре раза. Это было интересное состояние такое. И мы сейчас не готовы к тому, что в этой коммуникации «ученик – учитель» участвует кто-то еще. Поэтому школа требует выключения гаджетов. А в вузе относятся по-разному, но тоже как-то не очень хорошо. Ну, то есть я тоже, по большому счету, прошу выключить, перевести в беззвучный режим, чтобы в коммуникацию не вторгались.
А когда у нас возникнет гаджет, который будет участвовать в коммуникации, но по второй схеме, когда у нас (в вашей, по-моему, схеме, если я правильно помню) учитель вышел за рамку и превратился в тьютора, а гаджет начинает вести (это вот то самое смарт-устройство, которое мы еще пока принципиально не видели), то вот этот человек, которого выкинули за коммуникацию, в текущем состоянии он вообще выпадет и уйдет куда-то.
И вот здесь, условно говоря, первый шаг, который есть, – это, на самом деле, реально возникновение новых компетенций у учителя, который работает в контакте. И, простите меня, даже не в Новосибирске, а в какой-нибудь не знаю, не буду называть какой-то поселок городского типа. Он должен каким-то образом, во-первых, обогащать себя за счет общедоступных ресурсов. И в этот момент я принципиально не согласен с тем, что элитное образование – это контактное образование. То есть, мне кажется, в этот момент элита проигрывает, и мы их обходим на повороте. Потому что я, допустим, у себя в курсе, совершенно не напрягаясь, беру лучшие курсы с Coursera. Это прокачивает у них и английский язык, и еще что-то. То есть возникает новая история, связанная с тем, что мы должны вплетать в коммуникацию «учитель – ученик» внешние источники информации. Вот здесь это достаточно тяжело. Я тут написал, что всё, что я услышал о гаджетах сегодня, – это удешевить, усилить, вводить, информировать, обучать, руководить. Но, на самом деле, это всё идет про коммуникацию.
Зубарев К.: И про форму. Потому что мы когда говорим убирать гаджеты, вы, говорите, исходите из классической формы преподавания, которая у вас есть класс, и, соответственно, вы как бы работаете с классом. Но меняется форма. [03:05:00]
Пермяков Р.: Меняется и форма, и содержание коммуникации.
Зубарев К.: Ну, правильно. И в эту форму вы не сможете никогда гаджет вставить. Вам всегда он будет мешать. А в другой форме, когда вас будет трое, как вот сейчас ты описал, когда есть ты, когда есть другой источник, другое мнение и когда есть ученик, который должен как бы выбрать, какое мнение. И для этого у него возникает потребность...
Пермяков Р.: Я к чему хочу сказать? Что у нас вся гуманитарная экспертиза крутится в одной этой самой: какая коммуникация, ну, в смысле формы и содержания, должна возникнуть между учителем и учеником, чтобы стало лучше. Я бы так подвел.
Сопочкин С.В.: Я тоже подумал про третьего. Классическая форма, когда есть учитель у доски и есть аудитория. И в этом смысле, если говорить про гуманитарные предметы – значит, мы психологически, содержательно, технически должны быть готовы к тому, что появится третий субъект. И в этом смысле он же будет развивать и учителя, и ученика. Просто мы пока, на самом деле, этого боимся. Он реально технически не предъявлен. Но если вот-вот это случится, мне кажется, этого не стоит бояться. Просто стоит готовиться и участвовать в таких коммуникациях. Почему нет? Ну, извините, так абстрактно, когда я говорю, не важно, про того же Годунова, то некая новая субъектность на уроке, как некая точка смысла, как момент порождения смысла, она может появиться. Почему нет?
Смирнов С.А.: Сергей Владимирович, третий субъект был всегда у хорошего учителя.
Сопочкин С.В.: Да, совершенно верно.
Смирнов С.А.: Учитель, ученик и между ними Пушкин, Достоевский и так далее.
Сопочкин С.В.: Совершенно верно. Согласен.
Смирнов С.А.: Через книгу.
Сопочкин С.В.: Вот. Через книгу.
Смирнов С.А.: У математика – то же самое: учитель, ученик и образцы решения математических задач. Третий субъект был всегда приставлен через культурный образец. А вот здесь вопрос уж мало так ставят. То есть «цифра» позволяет разнообразить палитру контента. Это больше, чем книга. Это действительно гипертекст и так далее. Это другая реальность, это анимация и так далее, цифровые двойники. Но остается та же самая задача. Мало ввести третьего субъекта. Он всегда был в классической педагогике.
Сопочкин С.В.: Что по факту получается сейчас, скажем, при изучении, опять же, истории? Есть стандарт, есть технологии, есть экзамен, и на экзамене ученик вообще один. И он ставит «галочки».
Смирнов С.В.: Ну, так это же трагедия школы, которая забыла про родовые вещи.
Зубарев К.: Андрей.
Пестунов А. И.: У меня просто реплика, что как бы всё есть, коммуникация, по-моему, в этом ключе. Поэтому тут как ни как, но тут...
Зубарев К.: Такова ролевая структура.
Пестунов А. И.: Ну, просто как любой гаджет, как компьютерный процессор, который обрабатывает, что-то там генерирует и коммуникация на вход, на выход. То есть тут, наверное, по-другому и не получится. Всё вокруг коммуникации, наверное, будет крутиться.
Зубарев К.: Да. И там у меня была схема коммуникации, следующая презентация.
Смирнов С.А.: Базовая схема у Георгия Петровича (Щедровицкого) была тройная. Все-таки не просто мысли и коммуникация, а сначала мышление, мыследействие и между ними – мыслекоммуникация. То есть, как минимум, три этажа надо удерживать. Если нет мышления, то не будет и мыслекоммуникации.
Зубарев К.: Коллеги, есть еще кому-нибудь сказать последнее слово? И мы будем тогда заканчивать.
Четверухина Г.: А можно вопрос? Ответьте, пожалуйста, относительно вот этой третьей субъектности. Каким образом исключить зависимость? Потому что на сегодняшний день она существует, и не факт, что она перестанет существовать. И как сделать так, чтобы три позиции, три субъектности были абсолютно равными в отношении своей позиции? Мне кажется, это такой сложный вопрос.
Пестунов А. И.: Если в контексте доклада, который я делал, то здесь зависит от сценария, который заложен в гаджеты, то, как использовать. То есть если сам сценарий будет стремиться захватить это внимание и не отпускать его, как сейчас часто, в общем-то, и делается, то, конечно, так оно и будет. А если же получить с целью все-таки провести человека через что-то вот в этой самой зависимости, но затем эту зависимость снять и это прописать как цель сценария, то она и пропадет, эта зависимость.
Четверухина Г.: Спасибо.
Зубарев К.: Спасибо. Коллеги, я предлагаю закончить. Большое спасибо. Очень большое количество смыслов, примеров и кейсов. Я еще раз повторю, что, во-первых, будет доступна ссылка на YouTube с записью дискуссии. Ну, то есть у нас есть цифровой след, к нему можно вернуться. Будет расшифровка, и мы готовы как бы с ней делиться. И следующий шаг, то есть коллеги из «Школы антропологии будущего» подтвердили, что они готовы к диалогу. И мы будем готовиться. Я не знаю, будет ли это в июле, успеем мы или не успеем, но следующий шаг – будет какое-то мероприятие с участием московской аудитории, их практик. И мы должны как-то предъявить, показать то, что мы успели наработать. Поэтому мы какую-то рефлексию проведем. Какая-то схематизация и карта, мы ее тоже как бы положим. Мы готовы поделиться. Еще раз говорю, что, к сожалению, у нас пока нет информационного ресурса, куда мы могли бы это всё выкладывать. Но я думаю, что мы к этому тоже придем. Потому что материал в ходе подготовки этих круглых столов накапливается. Есть зарубежные какие-то тексты и практики, декларации. Есть наши тексты, презентации и вот этот смысл, который в круглом столе получился. Я думаю, что у нас хватит возможностей это всё объединить и показать. Всем большое спасибо.