ChatGPT в школе
Oct. 24th, 2025 11:14 am![[personal profile]](https://www.dreamwidth.org/img/silk/identity/user.png){kind=small}
green_frИнтересная статья в Le Monde о том, как школа реагирует / может / должна реагировать на появление в нашей жизни LLM.
Во Франции, начиная с этого года, есть уроки пользования ИИ (en 4ème et 2nde). Но это скорее для того, чтобы убедиться, что все дети понимают, как пользоваться ChatGPT — который подавляющее большинство детей и так уже освоило. Для самих преподавателей тоже предусмотрены курсы повышения квалификации, но пока что их прошло только 9% учителей. И только 14% учителей реально пользуется ИИ для работы.
Из интересных идей, как учителя могут вплести использование ИИ в свои уроки: скармливаешь ChatGPT условие выпускного экзамена, а затем разбираешь его вместе с учениками. Это как минимум даёт возможность показать на практике, что считается плюсом в ответе. Ну и увидеть, как ИИ может накосячить.
Интересная мысль, что не надо путать жизнь взрослого с жизнью школьника. Взрослый реально может эффективно использовать ИИ, потому что и он сам уже сформировался как личность, и процессы вокруг него более-менее известны, использование ИИ может просто ускорить его работу, сделать его самого более эффективным. В то время как школьник действительно ходит в школу не для того, чтобы выучить определение синуса, а чтобы привыкнуть к процессу обучения: читаешь определение, пытаешься понять его, затем читаешь задачу, разбираешь готовое решение, после чего сам решаешь похожую задачу, потом более общую — ну и так далее. Что именно произойдёт с процессом вот этого обучения, если в это время дать в руки школьника ИИ, непонятно.
Тема популярная, я сам несколько раз уже участвовал в подобных разговорах. Можно карикатурно пересказать две радикально противоположные точки зрения.
Первая: ура, прогресс идёт, мы победим. Дети в школе перестанут решать тупые задачи, которые за них может решить ChatGPT, освободив время на решение по-настоящему нужных задач. Как в своё время мы отказались от уроков по подготовке глиняных табличек или заточке гусиного пера — так и сейчас, нужно всего лишь признать, что какие-то умения стали ненужными — ну так и чёрт с ними. Чуть менее карикатурно: действительно, появление калькуляторов избавило нас от необходимости уметь пользоваться таблицами Брадиса. Как следствие: разрешить в школе пользоваться всем — в реальной жизни мы же имеем право пользоваться калькулятором, почему не в школе?
Вторая: всё пропало, это закат цивилизации. ChatGPT способен решать за детей какие-то базовые задачи, но отказавшись их решать самим, дети не смогут научиться решать более сложные задачи. Да что там, они даже понимать эти задачи перестанут. И тут проблема фундаментальная: если мы, люди, перестанем понимать передовой край науки, то и двигать её дальше мы не сможем — и уж точно не LLM, который учится на уже написанных текстах и по определению не может ничего сам нового выдумать, продвинет науку дальше. Ну и вообще, мы в школе учим не столько конкретный предмет, сколько развиваем собственные способности добиваться результата — а ИИ избавляет нас от этих усилий.
У меня нет никакого мнения по поводу потенциальной деградации обучения. И по поводу того, способен ли ИИ создавать что-то новое — точнее, лично мне кажется, что да, способен, потому что я не вижу, чем ИИ, обучившийся на уже имеющихся текстах, кардинально отличается от моего мозга, точно так же обучившегося на уже имеющихся текстах (мне сложно представлять какую-то «искру божью», которая принципиально отличала бы наш мозг от компьютерного, но это моё личное мнение, основанное исключительно на моей, ничем не подтверждённой вере).
Но что точно, это то, что школьным учителям придётся радикально пересмотреть концепт домашнего задания и оценок его. Потому что если в школе они ещё могут попытаться «всё запретить», то что ты будешь делать с домашкой? Да, это огромный труд для преподавателей — нужно не просто переписать весь свой курс, а сначала переопределить его цели, в уже потом переписать от начала и до конца. Как когда-то, при появлении калькуляторов, они были вынуждены пересмотреть концепт домашних заданий по математике. Или с появлением интернета — пересмотреть домашние задания, базировавшиеся на простом поиске информации.
У меня в прошлом году был такой опыт, не могу сказать, что очень успешный, но тем не менее. Я вёл курс ООП в java, и выдал студентам задание написать какие-то классы для сражающихся роботов (играли в парадокс заключённого — см. здесь и здесь). Очевидно, что можно было скормить моё задание ChatGPT, и он выдавал какой-то код. Очевидно, что с первой итерации этот код никуда не годился (несколько человек таки сдало мне неработающий код с комментариями чата «а вот тут вставь логику»), но за несколько итераций его можно было довести до ума. Но только если у студента есть понимание, что этот код должен делать, и как его тестировать. То есть, получилось как минимум задание на тестирование. Плюс, я сделал бонусное задание, которое было определено достаточно невнятно: сделать класс-арену для натравливания классов-ботов друг на друга. Тут тоже, конечно же, можно было припахать ChatGPT, но начинать нужно было с долгой формулировки соответствующего промта. То есть, как минимум нужно было понять, в чём состоит задание.
Во Франции, начиная с этого года, есть уроки пользования ИИ (en 4ème et 2nde). Но это скорее для того, чтобы убедиться, что все дети понимают, как пользоваться ChatGPT — который подавляющее большинство детей и так уже освоило. Для самих преподавателей тоже предусмотрены курсы повышения квалификации, но пока что их прошло только 9% учителей. И только 14% учителей реально пользуется ИИ для работы.
Из интересных идей, как учителя могут вплести использование ИИ в свои уроки: скармливаешь ChatGPT условие выпускного экзамена, а затем разбираешь его вместе с учениками. Это как минимум даёт возможность показать на практике, что считается плюсом в ответе. Ну и увидеть, как ИИ может накосячить.
Интересная мысль, что не надо путать жизнь взрослого с жизнью школьника. Взрослый реально может эффективно использовать ИИ, потому что и он сам уже сформировался как личность, и процессы вокруг него более-менее известны, использование ИИ может просто ускорить его работу, сделать его самого более эффективным. В то время как школьник действительно ходит в школу не для того, чтобы выучить определение синуса, а чтобы привыкнуть к процессу обучения: читаешь определение, пытаешься понять его, затем читаешь задачу, разбираешь готовое решение, после чего сам решаешь похожую задачу, потом более общую — ну и так далее. Что именно произойдёт с процессом вот этого обучения, если в это время дать в руки школьника ИИ, непонятно.
Тема популярная, я сам несколько раз уже участвовал в подобных разговорах. Можно карикатурно пересказать две радикально противоположные точки зрения.
Первая: ура, прогресс идёт, мы победим. Дети в школе перестанут решать тупые задачи, которые за них может решить ChatGPT, освободив время на решение по-настоящему нужных задач. Как в своё время мы отказались от уроков по подготовке глиняных табличек или заточке гусиного пера — так и сейчас, нужно всего лишь признать, что какие-то умения стали ненужными — ну так и чёрт с ними. Чуть менее карикатурно: действительно, появление калькуляторов избавило нас от необходимости уметь пользоваться таблицами Брадиса. Как следствие: разрешить в школе пользоваться всем — в реальной жизни мы же имеем право пользоваться калькулятором, почему не в школе?
Вторая: всё пропало, это закат цивилизации. ChatGPT способен решать за детей какие-то базовые задачи, но отказавшись их решать самим, дети не смогут научиться решать более сложные задачи. Да что там, они даже понимать эти задачи перестанут. И тут проблема фундаментальная: если мы, люди, перестанем понимать передовой край науки, то и двигать её дальше мы не сможем — и уж точно не LLM, который учится на уже написанных текстах и по определению не может ничего сам нового выдумать, продвинет науку дальше. Ну и вообще, мы в школе учим не столько конкретный предмет, сколько развиваем собственные способности добиваться результата — а ИИ избавляет нас от этих усилий.
У меня нет никакого мнения по поводу потенциальной деградации обучения. И по поводу того, способен ли ИИ создавать что-то новое — точнее, лично мне кажется, что да, способен, потому что я не вижу, чем ИИ, обучившийся на уже имеющихся текстах, кардинально отличается от моего мозга, точно так же обучившегося на уже имеющихся текстах (мне сложно представлять какую-то «искру божью», которая принципиально отличала бы наш мозг от компьютерного, но это моё личное мнение, основанное исключительно на моей, ничем не подтверждённой вере).
Но что точно, это то, что школьным учителям придётся радикально пересмотреть концепт домашнего задания и оценок его. Потому что если в школе они ещё могут попытаться «всё запретить», то что ты будешь делать с домашкой? Да, это огромный труд для преподавателей — нужно не просто переписать весь свой курс, а сначала переопределить его цели, в уже потом переписать от начала и до конца. Как когда-то, при появлении калькуляторов, они были вынуждены пересмотреть концепт домашних заданий по математике. Или с появлением интернета — пересмотреть домашние задания, базировавшиеся на простом поиске информации.
У меня в прошлом году был такой опыт, не могу сказать, что очень успешный, но тем не менее. Я вёл курс ООП в java, и выдал студентам задание написать какие-то классы для сражающихся роботов (играли в парадокс заключённого — см. здесь и здесь). Очевидно, что можно было скормить моё задание ChatGPT, и он выдавал какой-то код. Очевидно, что с первой итерации этот код никуда не годился (несколько человек таки сдало мне неработающий код с комментариями чата «а вот тут вставь логику»), но за несколько итераций его можно было довести до ума. Но только если у студента есть понимание, что этот код должен делать, и как его тестировать. То есть, получилось как минимум задание на тестирование. Плюс, я сделал бонусное задание, которое было определено достаточно невнятно: сделать класс-арену для натравливания классов-ботов друг на друга. Тут тоже, конечно же, можно было припахать ChatGPT, но начинать нужно было с долгой формулировки соответствующего промта. То есть, как минимум нужно было понять, в чём состоит задание.
no subject
Date: 2025-10-24 01:14 pm (UTC)Во-первых, мозг обучается на гораздо меньшем количестве примеров. Даже не в разы меньшем, а на порядки меньшем. Ребёнку не нужно показывать миллионы картинок собак и кошек, которые кто-то заранее разметил. Поэтому подозреваю, что мозг обучается сильно по-другому.
Во-вторых, мозг продолжает обучаться всю жизнь, а в LLM строго разделены training и inference. Можно обучить LLM через окно контекста, но эти знания не переносятся — другой пользователь или даже тот же пользователь в другом окне доступа к этим знаниям не получает.
Это не значит, что LLM принципиально не может создавать что-то новое. Вполне возможно, что новое могут создавать не только люди. Но разница в подходах между людьми и машинами налицо.
no subject
Date: 2025-10-24 01:43 pm (UTC)Обучение и использование разнесены, это правда. Но мне не кажется это отличие принципиальным. Можно предположить, что у нас идёт постоянное обновление базы и переобучение сети. Но ещё проще сказать, что мы сравниваем что с чем? Возможность нашего мозга сейчас сгенерить новую теорему на основании всего того, что мы выучили в институте и прочитали в книгах. С возможностью ИИ сгенерить новую теорему на основании всего того, что она вняла из текста университетского кура и книг. Да, наша возможность завтра может отличаться от нашей возможности сегодня, если мы между тем прочитаем новую брошюру. Ну да, можно и ИИ время от времени апдейтить. Но по сравнению с тем, что ИИ уже "прочитал" все книги и "прослушал" все курсы всех институтов, наша сегодняшняя брошюра кажется каплей в море.
no subject
Date: 2025-10-24 02:35 pm (UTC)Кошка с разных углов — всё равно та же кошка. Мозг не хранит всё увиденное, до него не доходят мегапиксели. Хорошее разрешение только в центре глаза, поэтому поток визуальной информации очень узкий, сотни байт в секунду. И из этого тонюсенького потока данных зрительная кора может выделить ключевые признаки, по которым мозг потом может определить кошку. Выяснив что цвет неважен, поскольку кошки бывают белые, чёрные, пятнистые и полосатые. Что количество ног и наличие хвоста важно, но надо смотреть на длину морды или слушать, чтоб не перепутать с собакой. И делать всё это на всего лишь 15 миллиардах нейронов, которые на шесть порядков медленнее транзисторов (миллисекунды вместо наносекунд), потребляя энергии меньше, чем уходит на освещение датацентра.
Сгенерить новую теорему LLM безусловно может. Или даже миллион новых теорем. Но пока всё равно нужен человек, чтоб проверить, не накосячил ли искусственный интеллект в доказательстве, и чтоб понять, есть ли от теоремы польза.
no subject
Date: 2025-10-24 11:23 pm (UTC)Пока - нужен.
Но с каждым годом, всё меньше.
Возможно, лет через 50-100 людей вполне можно будет и заменить.
Но в ближайшие 10 лет - полностью заменить людей точно не получится.
no subject
Date: 2025-10-24 11:25 pm (UTC)Так и AI вполне может узнать про кошек на относительно узком потоке информации.
Но AI знает в тысячи раз больше среднего человека.
Поэтому и объёмы баз данных LLM - гораздо больше.
no subject
Date: 2025-10-25 02:20 am (UTC)Не может. Это одно из известных ограничений искусственного интеллекта на сегодня. Если в обучающей выборке не было жирафа на дороге, автомобильный автопилот может не распознать его как препятствие.
Человеческий мозг управляет направлением взгляда, а не записывает всё подряд сначала а потом на всём записанном учится. Куда посмотреть потом зависит от того, что глаз уже увидел.
no subject
Date: 2025-10-25 05:11 am (UTC)Разве обобщение распознанных образов (до более общих категорий) не научились делать уже много лет назад?
> Человеческий мозг управляет направлением взгляда, а не записывает всё подряд сначала а потом на всём записанном учится.
Это лишь одна из оптимизаций, которая частично делается в системах, анализирующих образы: идентифицируются наиболее важные элементы для анализа, и самое важное анализируется более подробно.
> Куда посмотреть потом зависит от того, что глаз уже увидел.
Да, но не всегда.
При анализе уже произошедшего, мозг пользуется уже собранной и запомненной информацией.
no subject
Date: 2025-10-25 01:38 pm (UTC)Если в обучающей выборке нет жирафа на проезжей части, то и категории для него не будет создано. Когда данных нет, нечего обобщать.
no subject
Date: 2025-10-25 04:23 pm (UTC)Если во время обучения neural network генерализирует эти объекты до объекта "препятствие на дороге", то во время распознавания изображения, neural network сможет распознать в жирафе препятствие на дороге, даже если neural network, до этого, жирафа никогда не видела.
no subject
Date: 2025-10-25 05:01 pm (UTC)Вот именно этого и не происходит. Если вы посмотрите статистику аварий на дороге с использованием автопилота, во многих случаях это редкое сочетание факторов, которого не было в обучающей выборке. Модель видела грузовик, видела ночную дорогу, видела экскаватор на обочине, но никогда раньше не видела экскаватор, упавший с грузовика на дорогу ночью, неправильно определяет объект и расстояние до него, и не тормозит вовремя.
no subject
Date: 2025-10-26 07:33 am (UTC)Какое отношение имеет определение расстояния до объекта к распознаванию объекта?
Расстояние вполне может определяться с помощью стереовидения, либо по скорости увеличения углового размера объекта.
no subject
Date: 2025-10-26 02:10 pm (UTC)Чтоб перевести угловой размер объекта в расстояние до него, надо знать линейный размер объекта. Настоящий жираф угловым размером в градус дальше, чем игрушечный жираф угловым размером в градус.
Скорость изменения углового размера зависит от скорости его движения, которую мы заранее не знаем.
Стереоскопия не даёт нужной точности на тех расстояниях, где она нужна.
Можно было бы использовать LIDAR, но Маск запретил, потому что слишком дорого.
no subject
Date: 2025-10-26 03:16 pm (UTC)Для определения расстояния, достаточно знать линейный размер объекта, на котором этот объект стоит (линейный размер дороги, на которой стоит жираф).
> Скорость изменения углового размера зависит от скорости его движения, которую мы заранее не знаем.
Если угловой размер объекта слишком быстро растёт, то это повышенная опасность вне зависимости от того, близко ли этот объект находится к нам или двигается нам навстречу.
Вполне можно экстраполировать рост углового размера объекта (на основании двух картинок в разные моменты времени) и оценить через какое время этот объект окажется в нашей позиции если не снизить свою скорость.
При этом вычислять точное расстояние до объекта - необязательно.
> Стереоскопия не даёт нужной точности на тех расстояниях, где она нужна.
Почему нет?
Расстояние между камерами у автомобиля - в 20 раз больше, чем между глазами у человека.
no subject
Date: 2025-10-26 03:44 pm (UTC)Ширину дороги мы тоже заранее не знаем. И где именно жираф на дороге расположен тоже.
Стереоскопия с большой базой не используется, потому что не даёт улучшения точности. База должна быть не только большой, но и жёсткой, как на морском дальномере. Недостаточно привинтить две камеры по углам, кузов машины при езде вибрирует и гнётся. Используют две камеры слева и справа от зеркала заднего вида, с небольшой базой.
no subject
Date: 2025-10-26 04:55 pm (UTC)Мы можем предположить, что дорога там, где находится жираф - примерно такая же широкая, как и там, где находимся мы.
А где находимся мы - мы знаем ширину дороги.
> И где именно жираф на дороге расположен тоже.
Мы знаем соотношение между угловым размером жирафа и угловым размером дороги в том месте, где на изображении находится жираф.
> Стереоскопия с большой базой не используется, потому что не даёт улучшения точности. База должна быть не только большой, но и жёсткой, как на морском дальномере. Недостаточно привинтить две камеры по углам, кузов машины при езде вибрирует и гнётся.
Насколько вибрирует и гнётся? На 1%?
1% - вполне допустимая погрешность при измерении расстояния на дороге.
no subject
Date: 2025-10-26 07:17 pm (UTC)Вы проверяете, помню ли я школьный курс тригонометрии?
В равнобедренном треугольнике с основанием метр (база дальномера) и высотой сто метров (расстояние до препятствия) углы, прилегающие к основанию, равны atan(100/0.5)≈89.7135°. Если расстояние увеличить до 101 метра, углы станут atan(101/0.5)≈89.7163°. Разница намного меньше угловой минуты. Корпус машины гуляет гораздо больше.
no subject
Date: 2025-10-27 01:03 am (UTC)Так под вибрацией вы имели ввиду изменение направления камеры?
Это исправляется путём сливания картинок из левой и из правой камеры - в полноценную стерео-интерпретацию объектов на этой картинке.
То есть на обоих картинках нужно найти того же самого жирафа. Это скомпенсирует изменение угла камеры.
И уже дальше вычислять как далеко этот жираф находится на основании разницы картинок жирафа от левой и от правой камеры.
no subject
Date: 2025-10-27 01:44 am (UTC)Это можно сделать только если есть объекты на известном расстоянии, по которым можно в реальном времени откалибровать камеры. В общем случае таких объектов нет. Вы можете ехать по тёмной дороге и единственный освещённый объект - жираф. Кроме того, это надо повторять с частотой намного выше максимальной частоты вибрации.
no subject
Date: 2025-10-27 02:57 am (UTC)Если единственный освещённый объект - жираф, то нужно сбросить скорость хотя бы немного.
А по увеличению углового размера жирафа за 50 ms - можно примерно оценить через какое время машина окажется прямо рядом с жирафом.
no subject
Date: 2025-10-27 12:12 pm (UTC)На колу мочало, начинай сначала.
no subject
Date: 2025-10-26 06:37 pm (UTC)no subject
Date: 2025-10-26 07:30 pm (UTC)У нас Waymo и другие ставят лидары. И они не въезжают в бетонный разделитель на шоссе или под прицеп грузовика, как это делают Теслы на автопилоте. Но народ всё равно покупает именно Теслы.
no subject
Date: 2025-10-24 06:24 pm (UTC)no subject
Date: 2025-10-24 07:54 pm (UTC)no subject
Date: 2025-10-24 08:18 pm (UTC)no subject
Date: 2025-10-25 02:21 am (UTC)Когда ИИ научится сам себя совершенствовать, тогда да. Покамест даже не близко.
no subject
Date: 2025-10-25 02:56 am (UTC)no subject
Date: 2025-10-25 02:59 am (UTC)Научились же. Эволюция и естественный отбор, потом культура и образование. LLM раньше не было, теперь — есть.
no subject
Date: 2025-10-25 03:02 am (UTC)no subject
Date: 2025-10-25 03:11 am (UTC)Это не эволюция, а intelligent design.
no subject
Date: 2025-10-25 04:30 am (UTC)no subject
Date: 2025-10-25 01:33 pm (UTC)Нет, разумеется. Именно поэтому христиане так не любят теорию эволюции.
no subject
Date: 2025-10-25 07:05 pm (UTC)no subject
Date: 2025-10-25 07:15 pm (UTC)Поумнение чисто биологически — да, за счёт эволюции. Но оно происходит медленно, со сменой многих поколений. За последние сто или даже тысячу лет биология Homo Sapiens не поменялась нисколько.
Прогресс, который мы наблюдаем в пределах жизни одного поколения, не может иметь никакого отношения к эволюции и естественному отбору.
no subject
Date: 2025-10-24 07:46 pm (UTC)no subject
Date: 2025-10-24 11:26 pm (UTC)В чём именно была неуспешность этого опыта
Никто из студентов с заданием (написать игру) полностью не справился?